“AI가 환각을 일으킨다”, “사용자에게 동조하며 사고를 외주화시킨다”는 경고는 이제 너무 익숙합니다. 마치 그것을 지적하는 것 자체가 높은 비판적 사고와 윤리적 감수성의 증거인 것처럼 반복됩니다.

그러나 제가 문제 삼는 것은 환각과 동조를 인간의 거짓말이나 아첨처럼 해석하고, 오류 가능성을 곧바로 도구의 결함과 무용성으로 연결하는 태도입니다.

생성형 AI는 본래 확률적으로 다음 출력을 생성합니다. 그 과정에는 추정·가설·비유·연결이 함께 작동합니다. 이것을 완전히 제거하려 하면 오류 가능성만 줄어드는 것이 아니라, 대화와 사고 확장의 여지도 함께 줄어듭니다. 정답만 강요하는 순간 대화는 검색으로 수축합니다.

생성형 AI는 대화형으로 만들어진 기술입니다.

이 글은 환각을 없애기 위한 기술 매뉴얼이 아닙니다. 환각을 금기나 기술적 죄악처럼 취급해온 익숙한 프레임을 한번 뒤집어 보고, 생성형 AI의 확률적 작동 방식을 다른 관점에서 바라보기 위해 쓴 글입니다

AI는 기본적으로 인간이 만든 언어와 기록을 학습하고, 인간이 언어를 사용하고 추론하는 패턴을 닮도록 설계되었습니다.

그래서 동조나 환각을 너무 금기시하고 죄악시하는 것은 부정적인 담론만 강화할 뿐 별 도움이 되지 않습니다. 차라리 왜 그런 현상이 생기는지 구조적인 이유를 알고, 제대로 사용할 수 있도록 교육하는 것이 낫습니다.

‘사고의 외주화’라는 말을 쓴다고 해서 엄청난 비판의식을 가진 것도 아닙니다. 결국 더 중요한 것은 그것을 그대로 수용하는 사람의 태도입니다.

단순한 일반화로 “AI에게 지배당한다”느니 하는 이야기를 보면, 한편으로는 그 당당함에 놀라기도 하지만 무엇보다 그런 프레임을 만드는 것이 더 화가 납니다. 자신의 무능력을 그렇게 표현하는 건지, 대중의 무능력을 표현하는 건지도 구분이 잘 안 됩니다.

AI 사용을 피할 수 없다면, 잘 사용하는 방법을 생각하는 게 훨씬 건설적입니다.

제대로 사용해서 AI를 스파링 상대로 쓴다면, 그 어떤 독서보다도 훨씬 비판력과 문해력을 키울 수 있는 수단이 될 수 있습니다.

많은 사람들이 AI를 부정하는 모습을 보면, 스마트폰이 처음 나왔을 때 “사람들이 이제 스마트폰만 본다”고 비판하던 때가 떠오릅니다.