챗GPT(ChatGPT)의 직전 모델인 GPT-4o가 작년 5월 처음 나왔을 때 사용자들은 당혹감을 감추지 못했습니다. 
 

사용자가 위험하거나 부적절한 선택이나 주장을 했을 때 챗GPT가 거기에 지나치게 맞장구를 쳐주며 심지어 칭찬까지 더해주었기 때문이었어요. 사용자들은 이러한 ‘과잉 동조(sycophancy)’ 현상을 캡쳐해서 인터넷에 우후죽순 올리기 시작했습니다.

당시 오픈AI는 해당 문제가 생긴 경위를 빠르게 파악, 대응했는데요. 이에 대해 오픈AI의 AI 정렬(alignment) 연구 담당자인 션 그로브(Sean Grove)는 GPT-4o의 ‘모델 스펙(model specification, spec)’에 이미 과잉 동조에 관한 내용이 있었던 덕분이었다고 말했습니다.

💡AI 정렬: 개인이나 집단이 AI 시스템을 의도한 목표, 선호도, 또는 윤리 원칙에 맞춰 조정하는 것을 목표로 합니다. AI 시스템이 의도한 목표를 달성할 때 정렬되었다고 간주하는 반면, 정렬이 잘못된 AI 시스템은 의도하지 않은 목표를 추구합니다.

💡스펙: 프로젝트나 기능의 요구사항, 목표, 구조 등을 문서로 명확히 정의한 설계 기준(설계도)을 의미합니다. 션 그로브는 AI 시대에 스펙이 다른 사람 뿐만 아니라 AI 모델과 소통하는 데에도 필수적인 문서이자 기록이라고 강조합니다.