얼마 전 스타트업 세미나에서 만난 어느 대표님에게서 질문을 받았습니다.

"요즘, 실리콘 밸리 사람들의 가장 큰 걱정거리가 무엇인지 아세요?”, 

“글세요,,,감이 안 잡히네요 ㅎㅎ”

“자녀 교육을 어떻게 해야할지가 가장 고민이랍니다, 지난 주에 만난 미국 투자가에게 들은 이야기입니다”

“아(깊은 공감의)~~ 그렇군요!!!”

두 아들을 보면서 다가 온 고민을 그들도 동일하게 한다는 것에 묘한 동지애를 느끼면서 앞을 가로막는 벽이 하나 더 생기는 느낌을 받았습니다. 레이 커즈와일은 저서 ‘특이점이 온다’에서 2045년 정도면 인간의 지능을 뛰어 넘는 초지능(Super-intelligence)이 등장하고 이로 인한 변화의 넓이와 깊이를 감히 예측하기 어렵다는 이야기를 했죠. 하지만 올 4월에 열린 AI+Biotechnology Summit 행사에서 전 구글 회장인 에릭 슈미트는 2031년 정도면 인류 전체보다 더 지능이 높은 존재가 나타나고 얼마 지나지 않아 인간의 통제를 벗어날수도 있다고 예측했습니다. 

이처럼 빠른 AI 진화 속도만큼 인류의 걱정도 커지면서 AI를 통제하는 방법에 대한 논의가 활발해지고 있죠. 그 중 하나가 킬 스위치(Kill Switch)이죠. AI가 인간의 통제를 벗어나거나 인간의 지시와 반대되는 행위를 하면 전원을 Off해버리는 전략이죠. 하지만 AI가 방대한 데이터센터와 연결되어 있고 인간 이상의 복잡한 대화 능력을 갖춰었기 때문에, 그리고 AI를 멈추기 위해 킬 스위치를 작동하는 순간 인류의 디지털 문명과 기업의 비즈니스 활동 대부분이 중단되고 전략망 셧다운이란 대가를 치뤄야 하기에 현실적 대안이 될 수 없다는 주장도 많습니다. 

딥러닝의 대부로 불리는 제프린 힌튼 교수님은 킬 스위치보다 더 중요한 것이 설득이라고 이야기합니다. 

“AI가 우리보다 더 똑똑해질 거라는 사실을 인정해야 합니다. AI 기술이 특정 수준에 도달하면, AI에게 인류를 보호하는 것이 최선의 이익이라고 설득하면서, 동시에 AI가 인간을 설득하는 능력도 경계해야 합니다. AI가 우리보다 더 똑똑해진다면, 사람을 설득하는 데 있어 그 누구보다 휠씬 뛰어날 겁니다.” 

“트럼프는 미국 국회의사당을 침공한 것이 아니라, 사람들을 설득해서 침공하게 만들었습니다. 킬 스위치를 찾는 것보가 설득의 힘에 집중해야 합니다.” , “AI를 어떻게 다뤄야 할지 아무도 정확한 방법을 모릅니다. 우리는 우리보다 더 지적인 존재를 다뤄 본 적이 없으니까요!”  힌튼 교수님의 생각입니다. AI를 우리가 마음대로 이용하는 도구가 아닌 하나의 인격체로 인정하고 대응할 수 있는 준비를 시작해야 한다는 의미로 해석됩니다. 

매일같이 AI 도움을 받으면서 장밋빛 미래만 보려고 했지 어둠은 보려하지 않았던 것 같습니다. 아들들의 미래 걱정은 하면서도 말이죠. 

마지막 에피소드 - 현재의 초등학생들이 만나게 될 AI가 일상화된 미래에 대한 걱정이냐는 기자의 질문에 힌튼 교수님은 ”제 아이들은 34세 그리고 36세인데, 저는 그들의 미래가 걱정됩니다.” 라고 답했습니다.