"당신은 친절한 영어 대화 상대입니다"라고 설정했는데도, 
GPT는 또다시 기자처럼 정보를 줄줄 읊습니다. 
아니 지침에 군데군데 못하게 막아놓았는데도 말이지요.

1️⃣ 프롬프트 문제만은 아니다.

GPT가 대화할 때 두 가지를 동시에 참고한다고 해요! 
✔️ 하나는 시스템에 깊숙이 학습된 패턴 반응 
✔️ 다른 하나는 우리가 설정한 system prompt 
이 둘이 매 순간 살짝 경쟁하는 셈이죠.

그런데 어떤 문장은 자동으로 '뉴스 모드'를 켜버려요. 
"What happened in ___?"이나 "Can you update me on ___?"이라고 
사용자가 질문하면 아무리 "보고하지마"라고 설계했다하더라도 
지피티는 보고 모드로 전환하곤 합니다. 
최근 OpenAI는 ‘Instruction Hierarchy’라는 기술로 
개발자 지침을 우선시하도록 개선 중이지만, 완벽하지는 않다 합니다.

2️⃣ 하지마가 아니라 이렇게 해줘

"뉴스처럼 말하지 마세요." "정보만 나열하지 마세요." 
이런 말들을 프롬프트에 잔뜩 써놨어요. 
근데 GPT는 "하지 마"보다 "이렇게 해줘"를 더 잘 알아듣는 경향이 있단 개발자들의 코멘트가 있네요.
(https://lnkd.in/gUZbkjcB)

100% 완벽하진 않아요. 
GPT는 결국 확률 기반 모델이라 우리 말을 무시하고 
자기 방식대로 대답할 때도 있어요. 
우리 집 막내 같습니다. (분명 알만한 놈인데 안 하는...)

2️⃣ 중요한 지시는 앞에?

지피티가 너무 말을 안 들어서 코딩할 때처럼 중요한 지시를 맨 위에 써봤어요. (먼저 인식이 될테니까 왠지..)
그런데 저의 경우엔 크게 결과가 다르지 않더군요 
하지만 Reddit에 보면 뇌피셜이지만 맥락을 잡는 데 초기 프롬프트가 더 중요하지 않겠냐는 의견도 있습니다. (https://lnkd.in/gmJVgBqG)

💡 

육아 전문가들도 아이에게 “늦잠 자지 마!”보다 “일찍 자자~”라고 말하라고 하잖아요. 
GPT도 좀 그런 것 같아요. 

가끔은 자기 마음대로 굴기도 하고
하지 말라는 말보다 어떻게 해달라는 말을 더 잘 알아듣는 걸 보면, 
GPT는 그냥 도구가 아니라 — 길들여가는 "존재"처럼 느껴집니다.

이상, 초보자의 관찰 일기였습니다!

출처:
1) https://lnkd.in/gRNrT2hN
2) https://lnkd.in/g74HVW8b