인간의 AI에 대한 의존은 앞으로 줄어들까.
아마 그렇지 않을 것이다.
우리는 이미 계산을 계산기에 맡기고, 길을 내비게이션에 맡기며, 기억의 상당 부분을 검색엔진과 스마트폰에 맡기고 있다.
처음에는 편의를 위해 사용했던 기술들이 어느 순간 우리 삶의 환경이 되었다. 이제 누구도 길을 찾기 위해 내비게이션을 사용하는 것을 특별한 ‘기계 의존’이라고 생각하지 않는다.

AI 역시 그렇게 될 가능성이 크다.
지금 우리는 AI에게 질문하고 답을 얻는다. 그러나 머지않아 질문하는 과정조차 줄어들 것이다.
인간은 목표를 말하고 AI는 계획을 세우며, 실행하고, 검증한 뒤 결과를 가져올 것이다. 그다음에는 목표조차 명확하게 설명할 필요가 없을지 모른다.
인간의 의도를 이해한 AI가 지속적으로 행동하고 중요한 순간에만 인간에게 묻는다.
“승인하시겠습니까?”
인간에게는 여전히 최종 결정권이 있다.
버튼 하나를 누르면 된다.
그런데 여기에서 이상한 질문이 시작된다.
그것을 정말 인간의 결정이라고 부를 수 있을까.

AI가 인간보다 더 정확한 판단을 내리는 세상을 생각해보자.
처음에는 사소한 것부터 맡길 것이다. 오늘 어떤 길로 출근할지, 무엇을 먹을지, 어떤 상품을 살지 결정한다.
AI의 판단이 계속 정확하다면 조금 더 중요한 것을 맡긴다. 투자, 진로, 건강관리, 채용, 기업의 경영 판단.
그리고 어느 순간 AI가 이렇게 말할지도 모른다.
A를 선택했을 때 성공 확률은 61퍼센트입니다.
B를 선택했을 때 성공 확률은 94퍼센트입니다.
B를 권고합니다.
인간에게는 여전히 A를 선택할 자유가 있다.
하지만 AI의 판단이 지난 수십 년 동안 인간보다 압도적으로 정확했다면 이야기는 달라진다.
“AI가 B라고 했는데 왜 A를 선택했습니까?”
A를 선택한 사람이 자신의 결정을 설명해야 한다.
그리고 A를 선택한 뒤 문제가 발생했다면 질문은 더욱 무거워진다.
“AI의 권고를 따랐다면 피할 수 있었던 일 아닙니까?”
그 순간부터 AI의 권고는 명령이 아니면서도 명령과 비슷한 힘을 갖는다.
AI가 인간의 판단권을 빼앗은 것이 아니다.
인간이 자신의 판단권을 사용하는 비용이 너무 커진 것이다.