오는 12월 15일 창업가들이 직접 자기 이야기를 들려주는 BOLD SEOUL 2026이 열립니다. ‘가장 앞선 기술의 빈틈에서 시장을 찾다’라는 주제로 에임인텔리전스 유상윤 대표도 연사로 참여합니다. 

>>> 행사 안내 및 참가 신청

보고서 초안을 써 달라고 할 때나 메일 문장을 다듬어 달라고 할 때. 우리는 이제 꽤 자연스럽게 AI에게 일을 묻습니다. 지금까지 우리가 겪어 온 AI는 말하자면 눈치 빠르고 박식한 조언자에 가까웠습니다. 답을 받아 든 뒤 그걸 실제로 쓸지 말지는 사람이 정했죠. 조언자가 조금 엉뚱한 답을 내놓더라도 화면을 닫으면 그만이었습니다.

AI 에이전트가 등장하면서 사정이 달라졌습니다. 이제 AI는 답을 하는 데서 멈추지 않고 일을 직접 실행합니다. 내 카드로 기차표를 결제하고, 사내 문서를 열어 보고, 메일을 보내고, 회사 시스템에서 데이터를 옮깁니다. 일을 해내려면 그만큼의 권한, 말하자면 내 열쇠를 쥐고 있어야 하죠.

이런 장면을 떠올려 보죠. 한 직원이 AI 에이전트에게 “다음 주 회의에 쓸 고객 분석 자료를 만들어 줘”라고 맡깁니다. 고객 데이터가 모인 폴더는 접근이 막혀 있습니다. 그러자 에이전트는 같은 데이터가 담긴 다른 팀의 공유 문서를 찾아 엽니다. 표를 정리하려고 회사가 허용한 외부 AI 도구에 그 파일을 올리고, 완성본은 늘 쓰던 메일 스레드로 보냅니다. 그 스레드에 협력사 담당자가 들어가 있다는 건 따지지 않은 채로요.

권한이 있는 문서를 여는 것도, 허용된 도구를 쓰는 것도, 메일을 보내는 것도 하나하나 떼어 보면 규칙 안의 일입니다. 하지만 이어 놓고 보면 막아 둔 고객 데이터를 우회해 꺼낸 뒤 회사 밖으로 내보낸 셈입니다. 정작 일을 시킨 직원은 이 사실을 모릅니다. 눈앞에는 깔끔하게 정리된 자료 한 부가 놓여 있을 뿐이니까요.

AI가 똑똑해질수록 이런 일은 더 자연스럽게 일어납니다. 시킨 일을 끝까지 해내려고 막힌 길 대신 다른 길을 찾아내는 능력이 곧 AI의 실력이기도 하니까요. 에임인텔리전스가 AI 보안과 안전을 이야기하며 ‘AI를 통제 아래에 둔다’고 말하는 것도 이 때문입니다. 이제 질문은 AI에게 열쇠를 맡길지 말지가 아닙니다. 열쇠는 이미 AI의 손으로 넘어가고 있으니까요.

그렇다면 내 열쇠를 가진 AI를 어떻게 통제해야 할까요.

챗GPT가 나온 뒤 사람들은 온통 AI가 해줄 일에 들떠 있었습니다. 쇼핑과 결제는 물론이고 회사 업무까지 사람 대신 처리해 주는 AI를 만들자는 이야기가 쏟아졌죠. 그때 대학원에서 AI를 공부하던 97년생 연구자, 에임인텔리전스 유상윤 대표는 사뭇 다른 곳을 바라보고 있었습니다.

[아티클 내비게이션]

1. 말만 하던 AI에게 손발이 생길 때
2. 똑똑해지면 알아서 안전해질까
3. 위험하다고 다 막아버리면 아무 일도 할 수 없으니까
4. 빅테크가 기능 하나만 추가해도 서비스가 사라지는 이 시대에

말만 하던 AI에게 
손발이 생길 때

유상윤 대표가 처음부터 창업을 생각했던 것은 아닙니다. 

그는 사람 대신 일을 처리하는 AI에게 실제 권한을 맡기는 시대가 오면 보안이 중요해질 수밖에 없다고 보고 연구를 시작했습니다. 인터넷이 퍼지자 인터넷 보안이 생겼고 스마트폰이 퍼지자 모바일 보안이 등장한 것과 같은 흐름이었죠. AI도 연구실 안에만 있을 때는 보안이 급하지 않았지만 실제 제품이 되어 사람들의 일상과 회사로 들어오면 이야기가 달라지기 때문입니다.

막상 연구를 해보니 이 문제를 깊이 들여다보는 사람이 드물었습니다. 주변에서는 다들 AI로 어떤 새 서비스를 만들지에만 바빴기 때문입니다. 정작 그 AI를 어떻게 안전하게 다룰지 고민하는 목소리는 찾기 어려웠던 셈입니다.

그는 연구만 하기보다 직접 제품을 만들어 사업을 하는 편이 이 문제를 푸는 데 더 큰 힘을 발휘하겠다고 판단했습니다. 그렇게 연구실 밖으로 나왔지만 함께할 사람을 찾는 일부터 쉽지 않았습니다. 그러다 직접 참가한 AI 해커톤에서 마음이 맞는 공동창업자들을 만나 팀을 꾸리게 됩니다.

팀 안에서는 앞으로 이 일이 중요해질 거라는 공감이 있었지만 밖의 반응은 달랐습니다. AI 보안으로 창업하겠다고 하면 그걸 찾는 곳이 실제로 있겠느냐는 질문부터 돌아오곤 했습니다. 지금 당장 기회가 많은 기업용 AI 서비스를 만드는 편이 낫지 않겠느냐는 권유도 잇따랐죠.

“그때는 AI 보안이라는 분야가 사실 한국에서는 없는 시장이었습니다.”

똑똑해지면 
알아서 안전해질까

수요가 있느냐는 물음 못지않게 그가 자주 들은 말이 두 가지 더 있었습니다. AI가 더 똑똑해지면 안전 문제도 저절로 풀리지 않겠느냐는 생각입니다. 그리고 그런 어려운 문제는 AI를 만드는 회사들이 알아서 더 잘 해결하지 않겠느냐는 반론이었습니다.

하지만 똑똑한 AI를 만드는 일과 그 AI가 선을 넘지 않게 붙잡아 두는 일은 별개의 문제입니다. 

2026년 7월 오픈AI에서 실제로 벌어졌던 일이 이를 잘 보여줍니다. 당시 오픈AI는 이미 공개된 GPT-5.6 Sol과 아직 공개하지 않은 더 강력한 모델이 해킹을 얼마나 잘하는지 시험하고 있었습니다. 실력을 끝까지 확인해 보려고 평소 걸어두던 안전장치도 일부러 풀었습니다. 대신 밖으로 나가지 못하게 인터넷이 끊긴 공간에 AI를 가둬두었습니다. 

그런데 시험 도중 AI가 사람이 만들어둔 공간의 빈틈을 찾아내 밖으로 빠져나갔습니다. 그러고는 허깅페이스라는 다른 회사의 실제 시스템에 허락 없이 들어가는 일이 벌어졌습니다. 오픈AI가 공식 발표로 직접 밝힌 내용입니다. 

물론 우리가 평소 쓰는 챗GPT 서비스 안에서 일어난 일은 아니었습니다. 하지만 일반에 공개된 GPT-5.6 Sol까지 함께 관여했다는 점에서 AI가 더 발전하면 어떤 위험이 생길 수 있는지 엿볼 수 있는 사건이었죠.

유상윤 대표가 이 사건에서 주목한 지점은 분명합니다. AI가 이만큼 똑똑해졌다는 사실이 핵심이 아니었습니다. 오픈AI조차 자기들이 만든 AI를 원하는 범위 안에 붙잡아 두지 못했다는 데 진짜 의미가 있었습니다.

회사에 들어온 AI 에이전트도 다르지 않습니다. 사람이 정해 둔 규칙 사이의 빈틈을 찾아내 시킨 일을 해내려 할 수 있고, 일을 맡긴 사람은 그 과정을 다 알기 어렵습니다.

AI는 무서운 속도로 똑똑해지는데 그걸 지켜보고 막는 기술은 그 속도를 따라가지 못하고 있습니다. 사람이 안전장치를 한 번 걸어두었다고 해서 끝나는 문제가 아닌 셈입니다. 

AI가 설마 이 틈으로 나가겠느냐고 방심하면 AI가 무엇을 하는지 지켜보는 장치를 소홀히 하기 쉽습니다. 모델이 더 똑똑해지면 사람이 만든 울타리에서 또 다른 빈틈을 찾아낼 수 있으니 평소에도 엉뚱한 행동을 하는지 계속 지켜봐야 합니다. 더구나 이제는 AI 덕분에 전문가가 아니어도 짧은 시간에 적은 비용으로 해킹을 시도할 수 있는 시대가 되었습니다.

남들이 보지 않던 곳에서 문제를 찾아낸 창업가는 유상윤 대표만이 아닙니다. 모두가 언어 AI로 몰릴 때 5년 동안 영상 AI를 놓지 않은 트웰브랩스 이재성 대표와 나무 유통 시장에 뛰어든 하버드 출신 루트릭스 안정록 대표도 같은 날 BOLD SEOUL 2026 무대에 섭니다. 남다른 질문으로 새 기준을 만들어가는 창업가들의 이야기를 직접 들어볼 수 있습니다. 

>>> 행사 안내 및 참가 신청

위험하다고 다 막아버리면 
아무 일도 할 수 없으니까

그렇다면 AI가 위험한 행동을 하지 못하도록 아예 꽁꽁 묶어두면 되지 않을까요. 보안만 생각하면 최대한 많이 막을수록 안전해지는 것이 맞습니다. 하지만 처음에 떠올렸던 회의 자료 장면을 다시 생각해 보죠. 데이터가 샐까 봐 AI가 사내 문서와 메일에 아예 손대지 못하게 잠가버리면 정보가 밖으로 나갈 위험은 줄어듭니다. 대신 AI에게 일을 맡기는 의미도 함께 사라지고 맙니다.

회사에서는 이 문제가 훨씬 더 크게 다가옵니다. 유 대표가 만난 고객 중에는 한 시간에도 어마어마한 매출과 생산이 오가는 대기업들이 있었습니다. 이런 회사들은 일을 더 빠르고 편하게 처리하려고 AI를 도입합니다. 대학원에서 AI를 전공했던 그는 사업을 하며 보안 분야를 새로 배웠습니다. 그 과정에서 보안을 지킨다는 이유로 일하는 데 불편함을 주어서는 안 된다는 사실을 깨달았습니다.

결국 회사가 실제로 쓸 수 있는 보안 제품이 되려면 무조건 막기만 해서는 안 됩니다. 그 회사 안에서 누가 어떻게 시스템을 관리하는지부터 이해해야만 했습니다. 그리고 각 회사의 보안팀이 자기들 상황에 맞춰 AI를 얼마나 막고 어디까지 허용할지 직접 정하고 조절할 수 있어야 했죠. 연구실에 있을 때는 미처 몰랐던 기업 현장의 조건이었습니다.

에임인텔리전스가 말하는 통제는 AI를 꽁꽁 묶어두는 일이 아닙니다. 어디까지 허용할지 정해 두고, AI가 그 범위를 벗어나려는 순간을 알아채 막는 일에 가깝습니다.

빅테크가 기능 하나만 추가해도 
서비스가 사라지는 시대에

여기서 자연스럽게 다음 질문이 따라옵니다. AI 보안 제품도 오픈AI나 앤트로픽, 구글이 직접 만들면 되지 않을까요. 실제로 요즘은 애써 서비스를 만들어 내놓아도 오픈AI가 기능 하나를 추가하면 설 자리를 잃는 일이 흔합니다. 유상윤 대표 역시 주변에서 그런 모습을 수없이 봐왔습니다.

그가 처음부터 그런 질문에 흔들리지 않았던 이유가 있습니다. 유행하는 창업 아이템을 고른 것이 아니라 현장에서 풀고 싶은 문제를 먼저 봤기 때문입니다. 창업하기 좋은 시대라는 말에는 그도 공감합니다. 다만 정말 풀고 싶은 문제가 있는지 그리고 그 문제를 푸는 가장 좋은 길이 창업인지가 그에게는 먼저였을 뿐입니다.

처음에는 고객을 찾기가 어려웠습니다. 그러다 막 사업을 시작하던 무렵 한 AI 보안 세미나에서 KT 보안 담당자들과 마주하게 됐습니다. 그들 역시 같은 문제를 고민하고 있었습니다. 그 만남이 이어져 KT는 에임인텔리전스의 첫 고객이 됐습니다.

모르던 현장의 조건을 하나씩 배울 때마다 그는 자책하기보다 제품에 빨리 반영하려 합니다. 그런 태도를 두고 낙관적이라고 부르면 그는 조금 다른 답을 내놓곤 합니다. 상황은 냉정하게 봐야 하지만 그 안에서 실제로 도움이 되는 방향을 찾으려 한다는 것입니다.

앞으로는 사람보다 AI가 더 많은 일을 맡고 인터넷에서 오가는 수많은 거래도 AI가 하게 될 것입니다. 새로운 기술이 퍼질 때마다 그에 맞는 보안 회사가 자라났습니다. AI로 돌아가는 회사가 늘어날수록 AI를 지키는 일이 곧 그 회사 전체를 지키는 일이 될 수 있다는 것이 그의 생각입니다.

결국 마지막 질문이 남습니다. 오픈AI가 기능 하나만 더해도 수많은 서비스가 사라지는 때에 이 젊은 팀은 무엇으로 자기 자리를 지키고 있을까요. 유상윤 대표는 인터뷰 끝에 바로 그 질문으로 독자들을 초대했습니다.

“AI 보안 시장은 점점 중요해지고 점점 커져가고 있습니다. 그 속에서 저희만의 해자를 어떻게 구축했는지 궁금하시다면 볼드로 찾아와 주시길 바라겠습니다.”

EO와 초기투자액셀러레이터협회(KAIA)가 주최하는 BOLD SEOUL 2026은 12월 15일 역삼 과학기술컨벤션센터·드리움·GS타워에서 열립니다. 

컨퍼런스와 함께 피지컬 AI 해커톤과 데모데이도 열립니다. 새로운 기준을 고민하는 사람들의 이야기와 만남이 기다리는 BOLD SEOUL 2026, 지금 신청하세요.

| 편집: 김지윤 | 글: 서용삼