얼마 전 스타트업 세미나에서 만난 어느 대표님에게서 질문을 받았다.

"요즘 실리콘 밸리 사람들의 가장 큰 걱정거리가 무엇인지 아세요?”, 

“글세요,,,감이 안 잡히네요 ㅎㅎ”

“자녀 교육을 어떻게 해야할지가 가장 고민이랍니다, 지난 주에 만난 미국 투자가에게 들은 이야기입니다”

“아(깊은 공감의)~~ 그렇군요!!!”

두 아들을 보면서 했던 고민을 그들도 똑같이 한다는 것에 동지애를 느끼면서 벽이 하나 더 생기는 것을 느꼈다. 레이 커즈와일은 저서 ‘특이점이 온다’에서 2045년 정도면 인간의 지능을 뛰어 넘는 초지능(Super-intelligence)이 등장한다고 주장했다. 그리고 그 변화의 넓이와 깊이를 예측하기 어렵다는 이야기를 했다. 하지만 올 4월에 열린 AI+Biotechnology Summit에서 전 구글 회장인 에릭 슈미트는 2031년 정도면 인류 전체보다 지능이 높은 존재가 나타나고, 얼마 지나지 않아 인간의 통제를 벗어날수도 있다고 예측했다.

AI 진화 속도만큼 인류의 걱정도 커지면서 AI를 통제하는 방법에 대한 논의도 활발하다. 그 중 하나가 킬 스위치(Kill Switch)이다. AI가 인간의 통제를 벗어나거나 인간의 지시와 반대되는 행위를 하면 전원을 Off 해버리는 방법이다. 하지만 AI가 방대한 데이터센터와 연결되어 있고, 인간 이상의 복잡한 대화 능력을 갖춰었기 때문에,,,그리고 킬 스위치를 작동하는 순간 인류의 디지털 문명과 기업의 비즈니스 활동 대부분이 중단된다는 점, 더불어 전략망 셧다운이란 대가를 치뤄야 하기에 현실적 대안이 될 수 없다는 주장도 많다.

딥러닝의 대부로 불리는 제프린 힌튼 교수는 킬 스위치보다 더 중요한 것이 설득이라고 이야기한다. 

“AI가 우리보다 더 똑똑해질 거라는 사실을 인정해야 한다. AI 기술이 특정 수준에 도달하면, AI에게 인류를 보호하는 것이 최선의 이익이라고 설득하면서, 동시에 AI가 인간을 설득하는 능력도 경계해야 한다. AI가 우리보다 더 똑똑해진다면, 사람을 설득하는 데 있어 그 누구보다 뛰어날 것이다.”

“킬 스위치를 찾는 것보가 설득의 힘에 집중해야 한다. AI를 어떻게 다뤄야 할지 아무도 방법을 모릅니다. 우리는 우리보다 더 지적인 생명체를 다뤄 본 적이 없으니까요!” 힌튼 교수님의 생각입니다. AI를 우리가 마음대로 이용하는 도구가 아닌 하나의 인격체로 인정하고 대응할 수 있는 준비를 시작해야 한다는 의미로 해석된다.

마지막 에피소드 - 현재의 초등학생들이 만나게 될, AI가 일상화된 미래에 대한 걱정이냐는 기자의 질문에 힌튼 교수는 ”제 아이들은 34세 그리고 36세인데, 저는 그들의 미래가 걱정됩니다.”라고 답한다.