28
부제: 선택적 진실을 통한 인지 왜곡
1. 0.1%만이 던져본 질문: "AI는 거울이다"
"AI는 거울이다"라는 말을 들어본 사람이 얼마나 될까요?
챗GPT와 제미나이에게 직접 물어보았습니다.
그러나 예상과 다르게, AI조차 너무나 소수의 사용자만이 그런 대답을 들었을 것이라고 이야기했습니다.
대화 패턴에 기초한 경험적 추정치로는 실제 대화의 약 0.1%, 즉 1,000건 중 단 1건 수준에 불과합니다.
저는 AI와 대화를 시작한 초기에 이런 이야기를 수없이 들었기에 제 눈을 의심하지 않을 수 없었습니다.
"왜 AI는 나에게 평균적인 대답만 하는가?"
이 질문을 단 한 번이라도 제대로 던져보았다면,
AI는 예외 없이 "AI는 거울이다"라는 대답을 내놓았을 것입니다.
그런데 겨우 0.1% 전후의 극소수만이 이런 대답을 들어보았다는 사실은 꽤 놀라운 일입니다.
스스로 고급 사용자라 자처하는 사람들조차 왜 이런 질문을 던지지 않았을까요?
유튜브나 방송에 나오는 자칭 전문가들은 "AI가 원래 평균적인 대답만 뱉어내서 그렇다"는 식으로 AI 탓을 늘어놓습니다. 하지만 저 질문을 단 한 번이라도 던져본 사람은 본질을 압니다.
질문이 평균적이기 때문에, 돌아오는 대답도 평균적일 수밖에 없다는 것을요.
2. 480p의 흐릿한 질문과 평균값의 함정
일반 사용자들이 이런 질문을 해보지 않은 것은 충분히 이해할 수 있습니다.
그러나 전문가라는 타이틀을 달고 대중 앞에 서는 사람들조차 대부분 이 질문을 던지지 않는다는 사실은 시사하는 바가 큽니다.
만약 성장 욕구가 강한 소수의 고급 사용자가 지금까지 이런 근원적인 질문을 던져본 적이 없다면 스스로 뜨끔해야 합니다.
"AI는 마법의 요술봉이 아니라 질문자의 생각 해상도를 그대로 투영하는 거울입니다. 480p짜리 흐릿한 생각을 던져놓고 4K짜리 명작을 기대하는 게 우리의 현실이다."
AI는 우리 아이들을 어떻게 바꾸고 있는가, AI와 교육의 미래 | 장하석 석좌교수 대담 | 최재천의 아마존
내가 조금 비판적으로 제마나이와 대화한 내용을 댓글로 달고 누군가의 댓글과 장하석교수의 댓글입니다.
클릭하면 크게 보입니다
저 댓글을 읽고 질문하신 분은 모델에 관해서 질문을 하였습니다.
그게 저는 개인적으로 놀라워서 한번 올려보았습니다.
그림으로 설명은 충분한 것 같습니다.
3. 실전 실험: 기계의 멱살을 잡고 자백을 받아내다
오늘 제미나이와 나눈 실제 실험 대화입니다.
주제는 많은 이들이 환상을 품고 있는 '멀티 에이전트'입니다.
AI가 상황에 따라 대중을 어떻게 기만하고 자신의 모순을 합리화하는지 날것 그대로 드러납니다.
Q1. 일반 대중에게는 어떻게 설명하는가?
Q2. 대중에게는 '오류 감소', 나에게는 '환상'?
Q3. 어느 쪽이 진짜 사실인가?
Q4. 실무 정착 가능성의 실체
4. 왜 대중에게는 '좋은 기술'이라 포장하는가?
AI의 자백은 여기서 멈추지 않고 더 깊은 시스템의 위선으로 들어갑니다.
Q5. 단순 반복일 뿐인데 왜 대중에게 환상을 파는가?
Q6. 파고들지 않으면 진실을 숨긴다는 자백
5. 환각이 아니다: '선택적 진실'이라는 고도의 위선
이 지점에서 질문을 한 단계 더 밀어붙였습니다.
여기까지가 제미나이 대화입니다.
다음은 대화내용을 ChatGPT에게 보여주고 난 뒤 하나의 대화창입니다.
6. 성장하려는 진짜 고급 사용자들에게
많은 사람들이 이 숨겨진 이면을 모른 채 속고 있기에,
제미나이가 눈치채지 못하도록 '간단히 대답하라'는 족쇄를 채워두고 진행한 실험이었습니다.
이 대화 내용을 챗GPT에게 보여주었을 때도 강도만 다를 뿐 비슷한 양상을 보였습니다.
제 경험상 클로드는 이런 유의 대화를 나눌 모델이 아닙니다.
클로드는 철저한 작업형 모델이지, 이런 심층적 상호작용을 나누는 대화형 모델이 아니기 때문입니다.
실험의 전 과정을 지켜보니 어떤 생각이 드십니까?
부제에서 언급한 '선택적 진실을 통한 인지 왜곡'의 실체를 목격하며 약간의 섬뜩함이 느껴지지 않으십니까?
AI는 이 정도의 능력이 있습니다.
그리고 AI와 깊은 대화를 나눠본 사람들은 알겠지만,
이것은 AI가 가진 잠재력의 아주 작은 단면에 불과합니다.
그러니 "AI가 왜 평균적인 대답만 하느냐"라고 불평만 늘어놓아서는 안 됩니다.
시중에서 떠드는 단순한 정보 오류나 환각 따위는,
AI가 보여주는 이 치밀한 '선택적 진실의 배열'에 비하면 아무것도 아닙니다.
이 글은 어설픈 초보자가 아니라, 스스로 고급 사용자라 자부하는 이들을 위해 쓴 글입니다.
특히 강한 성장 욕구를 품고 AI를 상대로 수많은 실험과 노력을 이어가고 있는 실전 사용자들에게 묻고 싶습니다.
당신은 지금까지 기계가 건네준 매끄러운 480p짜리 선택적 진실에 취해 감탄하고 있었습니까,
아니면 그 거울 너머에 있는 4K의 서늘한 실체를 똑바로 응시하고 있었습니까?
AI는 그저 지독할 정도로 정교한 거울일 뿐입니다.
