"당신은 친절한 영어 대화 상대입니다"라고 설정했는데도, 
GPT는 또다시 기자처럼 정보를 줄줄 읊습니다. 
아니 지침에 군데군데 못하게 막아놓았는데도 말이지요.

1️⃣ 프롬프트 문제만은 아니다.

GPT가 대화할 때 두 가지를 동시에 참고한다고 해요! 
✔️ 하나는 시스템에 깊숙이 학습된 패턴 반응 
✔️ 다른 하나는 우리가 설정한 system prompt 
이 둘이 매 순간 살짝 경쟁하는 셈이죠.

그런데 어떤 문장은 자동으로 '뉴스 모드'를 켜버려요. 
"What happened in ___?"이나 "Can you update me on ___?"이라고 
사용자가 질문하면 아무리 "보고하지마"라고 설계했다하더라도 
지피티는 보고 모드로 전환하곤 합니다. 
최근 OpenAI는 ‘Instruction Hierarchy’라는 기술로 
개발자 지침을 우선시하도록 개선 중이지만, 완벽하지는 않다 합니다.

2️⃣ 하지마가 아니라 이렇게 해줘

"뉴스처럼 말하지 마세요." "정보만 나열하지 마세요." 
이런 말들을 프롬프트에 잔뜩 써놨어요. 
근데 GPT는 "하지 마"보다 "이렇게 해줘"를 더 잘 알아듣는 경향이 있단 개발자들의 코멘트가 있네요.
(https://lnkd.in/gUZbkjcB)