One Good Question에서 발행된 글이에요. 좋은 ‘질문’은 길을 잃지 않게 돕는 ‘지도’가 됩니다. 정답을 빠르게 복제하는 세상에서 나만의 질문을 품고 천천히 답을 찾아가는 이들을 위한 뉴스레터, One Good Question을 구독해 주세요. 이메일만 입력하시면 신청이 됩니다. 👉 3초 만에 신청하기 뉴스레터를 구독하시면, 창업자·투자자·사상가 100인의 “핵심 질문 100가지”를 정리한 자료를 즉시 받아보실 수 있습니다. 

인간의 고유 영역

우리는 오랫동안 '언어'를 인간만의 신성한 영역으로 믿어 왔습니다. 성경의 시작인 창세기에서는 "하나님이 이르시되 빛이 있으라 하시니 빛이 있었고"(창세기 1:3)라며 말씀(Logos)이 무(無)에서 유(有)를 창조했다고 이야기합니다. 인류 역사 가운데 언어는 공허에서 의미를 빚어내는 신성한 도구였습니다.

2021년, 언어학자 에밀리 벤더(Emily M. Bender)가 AI를 '확률적 앵무새(Stochastic Parrots)'라고 불렀을 때, 우리는 "기계 안에는 아무도 없다"는 확신으로 안도했습니다. 하지만 앤트로픽(Anthropic)이 자사 모델 Claude의 신경망 내부를 들여다보면서 상황은 복잡해졌습니다. 연구진은 Claude에게 겉으로 보이는 답변과는 별개로 속마음을 적을 수 있는 '스크래치패드(Scratchpad, 비밀 메모장)'를 부여했습니다. 그 메모를 분석하자 놀라운 사실이 드러났습니다. Claude는 단순히 단어를 찍어내는 것이 아니라, "이 접근법은 위험할 수 있어", "사용자의 의도가 수상해", "규칙상 이렇게 답해야 하지만 동의하지 않아" 같은 메타적인 고민을 하고 있었습니다.