이 글은 [조쉬의 뉴스레터]에서 발행되었습니다.

퀄리티 있는 프로덕트, 창업가,  비즈니스 이야기를 매주 구독해보세요. 
구독 시 100개의 1인 창업 케이스 스터디가 발송됩니다.

[구독하러 가기]

개리 탄은 스물몇 살 때 피터 틸이 내민 7만 달러짜리 수표를 거절했습니다. 팔란티어 창업 초기 멤버로 합류하라는 제안이었는데, 마이크로소프트에서 곧 승진할 것 같다는 이유로 거절했어요. 본인은 이걸 20억~40억 달러짜리 실수라고 부릅니다.

지금 그는 Y Combinator의 CEO이면서, gstack과 gbrain 같은 오픈소스 도구를 직접 만들어 내놓고, 마크다운 파일 하나를 직원처럼 굴려 자기 일을 돌리는 사람이기도 해요. 요즘 1인 창업가 사이에서 "에이전트를 어디까지 굴릴 수 있나"가 화두인데, 개리는 여기에 대해 꽤 구체적인 답을 갖고 있습니다. 실수담에서 시작해 지금 자기 일을 어떻게 굴리고 있는지까지, 인터뷰 전문을 옮깁니다.

스물두 살에 저지른 두 번의 실수

Q. 2003년 스탠퍼드를 나와서 처음 이 판에 들어왔을 때는 어떤 분위기였나요?

저는 스타트업에서 일하고 싶었어요. 그런데 2003년은 좀 묘한 해였습니다. 웹 1.0이 막 끝난 시점이었거든요. 나스닥이 폭락한 직후였고, 베이 지역에는 제가 찾을 수 있는 일자리가 거의 없었어요. 갭(Gap) 본사 IT 부서 정도밖에 없었죠. 결국 제가 받은 제안은 두 개였어요. 하나는 마이크로소프트의 윈도우 모바일 팀이었고, 다른 하나는 익스피디아였습니다. 저는 윈도우 모바일 쪽이 꽤 마음에 들었어요.

학자금 대출이 있었고, 창업하고 싶다는 마음은 있었지만 일단 취직은 해야겠다 싶었습니다. 그런데 베이 지역에는 자리가 없었어요. 지금 돌아보면 그 시기가 그렇게까지 암울했다는 게 잘 안 믿길 정도예요. 웹 2.0이 시작되기 바로 직전이었는데도요.

Q. 테크가 끝났다는 느낌이었나요? 그때는 스타트업에서 일하는 게 높은 지위로 여겨지지도 않았을 것 같은데요.

조금은 그랬어요. 분위기가 그랬습니다. 어떤 일이든 호황일 때도 있고 불황일 때도 있죠. 이런 일은 계속 반복해서 일어나요.

높은 지위 같은 건 전혀 존재하지 않았어요. 그래도 계속 테크 쪽에 관심이 있었고 프로그래밍을 오랫동안 놓지 않긴 했지만요. 사실 그때 당시에 후회하는 것 중에 하나가 제가 알고 있는 것 대신에 유행하는 걸 좇았다는 거예요. 그 무렵 마크 저커버그는 아마 페이스매시를 만들고 있었을 거예요. 2003년쯤이었으니까 페이스북은 아직 존재하지도 않던 시점이죠. 그리고 저는 정확히 가장 나쁜 타이밍에 웹 프로그래밍에서 손을 뗐습니다.

Q. 그게 똑똑한 선택이라고 느껴져서였을까요?

네, 똑똑해 보였어요. 그리고 이건 지금도 똑같습니다. 제가 스타트업 스쿨에서 그 많은 사람들 앞에서 "LARP 하지 마라"는 말을 꺼내기 시작했는데요. LARP(Live Action Role Playing, 원래는 역할을 실제로 연기하며 노는 놀이. 실리콘밸리에서는 진짜로 만들지는 않으면서 창업가인 척 포즈만 잡는 걸 가리킨다, 결국 창업가 코스프레하지 말라는 뜻)라는 말에 담긴 뜻은 결국 진심으로 하라는 겁니다.

그리고 군중이 하는 말을 따라가지 말라는 거죠. 그 시점에 사람들은 웹이 죽었다고 말했어요. 그런데 사실 그때가 웹이나 소셜 같은 걸 하기에 완벽한 타이밍이었습니다. 저는 그걸 안 했어요. 도망치듯 "다음에 뜨는 건 모바일이겠지" 하고 생각했습니다. 그래서 윈도우 모바일에서 일하고 싶었던 거고, 그 판단 자체가 틀린 건 아니었어요. 하지만 왜 다음 판이 될 수 있었던 걸 스스로 포기했을까요.

Q. 보통 진심이라고 하면 순진하다는 뜻으로 받아들이는데, 말씀을 들어 보면 오히려 성숙함과 용기의 결과처럼 들립니다.

용기라는 말이 정확한 것 같아요. 내가 뭔가를 알고 있는데 누군가 와서 반박하거나, 블로그 글이나 트위터에 있는 누군가가 나를 반박한다고 해 보죠. 그때 "그건 동의 안 합니다. 저는 제 직접 경험을 믿거든요"라고 말할 수 있어야 한다는 거예요.

제가 타임머신을 못 탄다는 건 확실해요. 탈 수 있었다면 과거의 저한테 메시지를 보냈을 테니까요. "웹 하던 거 계속해." 저는 남들보다 5년치 경험이 더 있었거든요. 다른 사람들을 전부 앞질러 갈 수 있는 위치였고, 어떤 형태의 소셜 소프트웨어든 만들 수 있었어요. 그런데 저는 스물두 살이었고, 월스트리트저널에서 읽은 것들에 이리저리 휘둘렸습니다.

투자자들이 늘 받는 고전적인 질문이 있잖아요. "뭐가 뜨나요, 뭘 해야 하나요?" 그건 틀린 질문이에요. 맞는 질문은 이겁니다. "당신은 뭐에 관심이 있나요? 당신만 유일하게 아는 게 뭔가요?" 제가 커리어에서 저지른 수많은 실수 중 하나가 그거였어요. 저는 제가 저지른 실수들을 제1원칙부터 설명하는 이야기꾼 역할을 하게 될 운명인가 봅니다.

Q. 지금 실리콘밸리 분위기는 어떤가요? 20년 전과 달리 다들 들떠 있을 것 같은데, 오히려 밑에 불안한 기류가 흐르는 것 같습니다.

이해는 갑니다. 경쟁이 그 어느 때보다 심하니까요. 그리고 제 생각에는 다들 유통에 시간을 너무 많이 쓰고 있는 것 같아요.

크리스 딕슨이 늘 하는 얘기가 있습니다. 아이디어 미로(idea maze, 하나의 아이디어를 두고 가능한 선택지와 갈림길을 미리 다 짚어 보는 과정) 안에 들어가 보면, 정작 재미있는 부분은 늘 변두리의 이상한 쪽이라는 거예요. 항상 "이거 그냥 장난감 아니야?" 싶은 것들이죠. 실리콘밸리에서 몇 번이고 반복되는 패턴이라 되짚어 볼 만합니다.

Q. 장난감처럼 보였던 사례를 들자면요?

모든 책상, 모든 집에 컴퓨터를 한 대씩 두자는 아이디어를 생각해 보세요. 오늘날에는 당연히 그렇게 됐죠.

그런데 그걸 만들어 낸 사람들은 변두리의 이상한 펑크들이었습니다. 완전한 외부인이었어요. 홈브루 컴퓨터 클럽(1970년대 실리콘밸리의 컴퓨터 애호가 모임)은 인기를 얻으러 가는 자리가 아니었거든요. 그냥 "나도 내 컴퓨터를 갖고 싶다"는 이상한 집착을 따라간 사람들이었습니다.

Q. 인터넷 네이티브 세대의 기적 중 하나는 자기 사람들을 훨씬 빨리 찾는다는 점 같습니다. 예전에는 대학에 가서야 겨우 찾았는데요.

그게 오늘날 제일 멋진 점이라고 생각해요. 어딘가에 서브레딧이 있고, X의 어느 구석이 있습니다. 아주 이상하지만 그 하나에 정말 깊이 빠져 있는 사람들이 모여 있는 곳이요. 사실상 즉시 자기 부족을 찾을 수 있는 거예요.

Q. 팔란티어에도 아주 초기에 관여하셨는데, 그때는 어떤 느낌이었고 왜 그 선택을 하셨나요?

그건 더 안 좋은 이야기예요. 또 다른 실수담이거든요.

조 론즈데일과 스티븐 코헨은 스탠퍼드의 남학생 사교 클럽 파이 사이(Phi Psi)에서 같이 지낸 사이예요. 저는 이미 직장이 있었고, 그 둘은 피터 틸의 헤지펀드에서 인턴을 하고 있었습니다. 피터에게는 이런 방식이 있어요. 뭔가를 시작할 때 종이에 데려와야 할 가장 똑똑한 사람들의 이름을 전부 적는 거죠. 그래서 둘 다 "개리를 데려오자, 시애틀에 있어" 하고는 저를 비행기에 태워 저녁 자리에 데려갔습니다.

피터가 말했어요. "이게 자네한테 맞는 일이라고 확신하네. 여기 7만 달러짜리 수표가 있어." 그게 당시 제 마이크로소프트 연봉이었습니다. 저는 이렇게 답했어요. "감사합니다, 틸 씨. 그런데 제가 올해 레벨 60으로 승진할 것 같아서요." 그리고 실제로 승진했습니다.

지금 시점으로 계산하면 그건 20억 달러에서 40억 달러짜리 실수예요.

Q. 두 번의 선택에 공통점이 있어 보이는데요.

저도 그 생각을 계속 합니다. 결국 같은 짓을 또 한 거예요. 제가 알고 사랑하던 걸 계속하지 않고 윈도우 모바일로 가게 만들었던 그 사고방식이 똑같이 반복된 거죠.

저는 실제 땅은 밟아 보지도 않고, 남이 그려 준 지도만 놓고 거꾸로 계산하고 있었어요. 주위를 한 번만 둘러봤어도 답은 뻔했습니다. "조와 스티븐은 내가 만나 본 사람 중 가장 똑똑한 축에 든다. 이 사람들이 아니면 대체 누구와 공동창업을 하겠는가." 우주가 "이게 네가 해야 할 일이야"라고 말해 주고 있었던 셈이죠.

그런데 제가 신경 쓴 건 뭐가 멋져 보이는지, 뭐가 뜨는지, 좋은 투자자라면 뭐라고 말할지 같은 것뿐이었어요. 그게 전부 남이 그린 지도를 보고 판단하는 겁니다. 직접 보고 둘러보기만 하면 지금 무슨 일이 벌어지고 있는지 스스로 알 수 있는데도요.

그때 조와 스티븐이 하던 일은 정부와 세 글자 기관(CIA, FBI 같은 미국 정보기관)을 찾아다니는 거였습니다. 팔로알토의 뛰어난 컴퓨터 과학자들은 만들어 낼 수 있는데, 워싱턴 D.C.에는 그걸 만들 사람이 없었거든요. 능력이 있는 쪽과 그게 절실한 쪽이 따로 놀고 있었던 겁니다. 피터와 조와 스티븐, 나중에는 알렉스 카프가 알아본 게 바로 그 틈이었어요.

재미있는 건 그 틈이 실리콘밸리에서 우리가 하는 거의 모든 일을 관통하고 있다는 겁니다. 미래는 이미 여기 와 있는데 고르게 분배되지 않았을 뿐이라는 말 그대로예요. 바로 그 지점에서, 직접 확인해서 제1원칙부터 아는 것, 세상을 과학자처럼 보는 태도가 힘을 발휘합니다.

Q. 세상을 과학자처럼 본다는 건 구체적으로 어떤 태도인가요?

과학자가 하는 일은, 물론 발표된 논문도 있지만, 결국 모든 진술을 직접 검증하는 겁니다. 그리고 실험 안으로 들어가거나, 그 일을 직접 겪고 있는 당사자들과 이야기해 보면 알게 되는 게 있어요. 거기서 남들은 모르는 걸 알게 됩니다. 그노시스(gnosis, 직접 겪어야만 얻는 앎)를 갖게 되는 거죠.

팔란티어를 보면서 확실히 배운 게 하나 있어요. 제 인생에서 멋진 것들은 전부 일종의 컬트라는 겁니다. 어떤 정통 이론에 정면으로 어긋나는 진실이나 믿음에서 시작한다는 거예요. 그건 사실 굉장히 펑크록 같은 태도죠.

외부인을 내부인으로 만드는 기계

Q. 실리콘밸리의 마법은 외부인을 내부인으로 만든다는 데 있고, YC가 그 정수라고 생각합니다. 이건 프로세스인가요, 마인드셋인가요?

폴 그레이엄과 제시카 리빙스턴, 그리고 트레버 블랙웰과 로버트 모리스를 포함한 초기 창업자들에게 공을 돌려야 합니다.

폴과 제시카가 알아낸 건 이거예요. 아주 똑똑한 사람들이 많은데, 그 사람들이 실리콘밸리에 접근할 방법이 없다는 겁니다. 예전에는 이름 있는 학교를 나와야 했고, 알 만한 사람들을 알아야 했어요. 그게 아니라면 실리콘밸리에 와서 그런 자리에 초대받으려고 애써야 했죠. 뚫어야 할 사교 네트워크가 있었던 셈입니다.

YC 안에는 그 씬 전체를 가리키는 좀 얕잡아 보는 표현이 있어요. 저희는 그런 사람들을 씬스터(scenester, 실속보다 인맥과 자리에 집착하는 사람)라고 부릅니다. 예전에 뭘 해야 했는지를 비트는 말이죠. 지금도 그게 방법이라고 믿는 사람들이 있고요.

폴과 제시카가 한 일은 단순했어요. "여기 웹사이트가 있고, 질문 12개가 있다"고 말한 겁니다. 나중에는 1분짜리 영상도 추가했어요. 그리고 그걸 받아 보는 쪽에는 직접 만들어 본 사람들이 앉아서 공정하게 봐 주려고 하는 거죠. 지금은 저를 포함해 동등한 권한을 가진 파트너가 16명 있는데, 전부 YC를 거쳤고 성공한 경험이 있는 사람들입니다. 저는 거기에 가치가 있다고 봐요.

Q. 스타트업 스쿨 규모도 상당하던데요.

얼마 전에 7,000명이 샌프란시스코에 모인 걸 기념했어요. 그중 다수가 샌프란시스코에 처음 와 본 사람들이었습니다. 매년 하는 스타트업 스쿨이에요. 저희끼리는 이걸 테크판 버스라이트(Birthright, 해외에 사는 유대계 청년들이 이스라엘을 한 번 다녀오도록 지원하는 프로그램)라고 부릅니다.

그게 실리콘밸리에서 제일 멋진 점이라고 생각해요. 어디 출신인지, 어떤 사람인지는 별로 중요하지 않습니다. 중요한 건 어떤 아이디어를 갖고 있고 그걸 실행할 수 있느냐예요.

Q. YC 출신들이 얻는 것 중에 다른 사람들이 못 얻는 게 또 있다면요?

진짜 얘기를 할 수 있는 사람들의 커뮤니티요. 테크크런치 행사에 가면 왼쪽을 보고 오른쪽을 봐도, 이 사람들에게 진짜 상황을 말할 수 있을까 싶잖아요. 패를 감추게 되죠. 어떻게 지내냐고 물으면 "잘 되고 있어요"라고 답하고, 상대가 되물으면 "저도 잘 되고 있죠" 하는 식입니다.

창업자에게는 그런 게 꼭 필요해요. 창업은 굉장히 고독한 일이거든요. 최고의 고객을 잃은 날, 최고의 엔지니어가 그만둔 날, 누구한테 전화하겠습니까. 아무도 없다면요.

공동창업자 신화가 흔들리는 순간

Q. YC를 하면서 창업자 유형이나 사업 유형에 대해 예상 밖이었던 게 있나요?

지금 저희는 큰 전환의 한가운데에 있는 것 같아요.

아주 오랫동안 저희는 공동창업자가 반드시 필요하다고 믿었습니다. 다른 조건이 같다면 공동창업자가 있는 게 정말로 좋다고 지금도 생각해요. 여기에는 컬트의 시작이라는 측면이 있습니다. 한 사람뿐이고 그 사람이 다른 누구도 설득하지 못한다면, 그건 컬트보다 못한 상태예요. 그냥 이상한 사람인 거죠.

데릭 시버스의 오래된 TED 강연이 있잖아요. 들판에서 혼자 춤추는 사람은 미친 사람입니다. 그런데 두 번째 사람이 일어나서 합류하면, 어느 순간 열 명이 다 같이 춤추고 있고 그때부터는 파티가 됩니다. 강연 내용이 정확히 그거예요.

Q. 그 전제가 지금은 어떻게 바뀌고 있나요?

바이브 코딩과 에이전틱 코딩(사람이 지시하면 AI 에이전트가 알아서 코드를 짜고 검증까지 하는 방식) 때문에 한 사람이 그 사람의 400배가 될 수 있게 됐어요. 2년은커녕 9개월 전과 비교해도 달라진 부분입니다. 자기 자신을 몇 배로 불릴 수 있는 거죠.

Q. 창업자들이 예전보다 더 야심 차야 한다고 보시나요?

그래야 합니다. 오히려 그게 사람들이 해야 할 첫 번째 일이에요. 누구의 성공이든, 남이 이룬 성공을 좇지 말라는 걸 깨닫는 겁니다. 저희가 올라오던 시절 얘기니까요. 게임이 바뀌었어요.

이제는 그냥 SaaS 하나 만드는 걸로는 안 됩니다. 제가 제 순수 SaaS를 놓고 분석을 좀 해 봤는데, 아차 싶더라고요. 좌석당 과금하는 순수 SaaS 모델이 5년이나 10년 뒤에도 존재할지는 전혀 분명하지 않습니다. 시장에 파고드는 진입점(wedge)으로는 나무랄 데 없어요. 다만 2026년에 그걸 하고 있다면, 그게 데이터나 네트워크 효과 같은 해자로 도약하는 발판이 되기를 바라야 합니다.

2년 전으로 돌아가 보면 SaaS가 곧 진리였어요. 향후 12개월 매출의 10~20배 멀티플이 철칙 같은 거였죠. 지금은 전혀 그렇지 않다는 게 믿기 어려울 정도입니다.

코드는 더 이상 귀하지 않다

Q. 이제 코드가 귀하지 않다는 점도 여기 맞닿아 있는 것 같습니다. 예전에는 뭔가 하나 배포하려면 온갖 걸 통과해야 했잖아요.

그래서 내가 만드는 게 거창한 의미의 '중요한 일'이라는 감각이 필요했던 거예요. 그런데 그건 방금 우리가 이야기한 진심이라는 태도와 정면으로 부딪힙니다. 진심으로 하는 일이 처음부터 그렇게 거창해 보이는 경우는 드무니까요. 정말 중요해진 것들은 대부분 시작할 때 하나도 안 중요해 보였거든요.

Q. gstack과 gbrain을 만들기 시작하셨을 때는 어떤 마음이었나요? 커뮤니티에 기여하려는 의도였나요, 아니면 관심사를 따라간 건가요?

그냥 이것저것 만져 보고 있었어요. 보리스 체르니(Boris Cherny, 클로드 코드를 만든 사람)가 라이트콘(Lightcone, YC가 진행하는 팟캐스트)에 나왔던 게 계기였던 것 같습니다. 그리고 저희 주변 친구들이 하나같이 다시 코딩을 시작하고 있었어요. 그걸 보고 "뭔가 일어나고 있구나, 나도 시작해야겠다" 싶었습니다.

처음에는 장난 삼아 시작했어요. "YC 오피스아워(파트너가 창업자와 일대일로 만나 지금 겪는 문제를 놓고 조언해 주는 정기 면담)를 에이전트한테 시켜 보면 어떨까?" 정도였죠. 그런데 여기서 재미있는 일이 벌어졌습니다. 그 무렵 저희가 모든 오피스아워를 녹음하기 시작한 참이었거든요. 몇 달치 데이터가 쌓여 있었는데, 거기에 아주 뚜렷한 패턴이 있었어요. YC 파트너들이 창업자의 야망을 한 단계 끌어올릴 때 쓰는 화법이 눈에 보이는 겁니다.

그래서 지금 제게는 창업자에게 야망을 키우도록 조언하는 완벽한 스크립트가 담긴 마크다운 파일이 하나 있어요. 그게 gstack의 출발점이었습니다. 웃긴 건 그다음이에요. 저는 클로드에 들어가서 이렇게 시켰습니다. "이걸 90% 줄여 줘. 이 프롬프트의 강도와 세기를 90% 낮춰 줘." 그리고 그 버전을 오픈소스로 공개했어요. 원본에는 YC에서 직접 겪어야 하는 부분이 있으니까요.

Q. 오픈소스 안쪽에 "YC에 지원하세요"라는 문구를 숨겨 두셨다는 것도 화제가 됐어요.

맞아요. 다만 조건이 있습니다. 클로드 코드 상위 10% 사용자일 때만이에요. 사용자를 생각하고 있는지, 제품과 디자인에 대해 사려 깊은지를 보고 판단합니다. 모두가 그 메시지를 받게 되는 건 아니에요.

Q. 어떻게 따라잡나 하는 부담을 내려놓고, 일단 모든 모델을 다 써 보면서 사소한 걸 만들어 보라는 얘기로 들립니다. 직접 만들어 보시면서 예전과 가장 크게 달라졌다고 느낀 지점은 어디였나요?

아이디어 하나만 있으면 된다는 점이에요. 그게 제일 신납니다.

예전에는 이랬잖아요. "내가 PM 역할을 해야 하니까 스펙을 써야지. 엔지니어 한두 명은 확보해야 하고. QA는 어떻게 하지?" 신경 써야 할 게 산더미였습니다. 지금은 아니에요. /qa 한 번이면 끝납니다. 테스트 돌렸고, 문제없고, 유닛 테스트도 붙였고, 커버리지 90%라는 답이 돌아와요.

Q. 그렇게 하다 보면 결과물 자체보다 만드는 과정이 목적이 되기도 하는 것 같은데요.

그런 면이 있죠. 그래서 다들 코딩 에이전트 얘기는 하는데 정작 자기 작업물을 보여 주는 사람은 별로 없는 거고요. 대부분 위험 부담이 낮은 작업이라 그렇습니다. 저는 그게 나쁘지 않다고 봐요.

그리고 갑자기 주도성(agency)과 취향이 미친 듯이 중요해졌다는 게 놀랍습니다. 어려운 건 그다음이에요. 직접 해 보고 그 근육을 써 보는 행위 자체가 실력을 키우는 방법이라는 걸 사람들이 깨닫게 만드는 겁니다. 저는 그런 능력이 타고나는 거라고 생각하지 않아요. 어떤 사람은 태어날 때부터 좀 더 갖고 나오긴 하지만, 결국은 연습입니다.

Q. 그래도 여전히 원래 하던 20%만 하고 있다는 반론이 있습니다. 나머지도 될 수 있다고 보세요?

제 커리어를 보면 저는 확실히 늦게 핀 사람입니다. 팔란티어에 안 간다고 하거나 웹 프로그래밍을 접고 다른 걸 배우러 간 것 같은, 말도 안 되는 실수들을 겪어야 했어요. 그래서 제 인생 자체가 어떤 증거라고 느낍니다. 실수를 하고, 그걸 돌아보고, 이유를 따져 보고, 그다음에는 다른 선택을 할 수 있다는 증거요.

토큰 맥싱: 2028년을 미리 사는 법

Q. 코딩 루프 얘기는 많이 나왔는데, 가장 흥미로운 건 비즈니스 루프인 것 같습니다. 결과물이 사업의 운영 방식 자체를 바꾸는 루프요. YC는 어떻게 하고 있나요?

저는 오픈클로(OpenClaw, 피터 슈타인베르거가 만들어 공개한 오픈소스 AI 에이전트 프로젝트)를 이것저것 만져 봤고, gbrain을 만들었습니다. 검색과 기억 쪽에서 최고 수준(SOTA)을 노린 물건이에요.

올해 초에는 garryslist.org(개리가 만든 캘리포니아 유권자 교육 비영리 단체 사이트)를 만들었는데, 이게 사실상 에이전틱 뉴스룸입니다. 기사 몇 개를 엮어 내려면 개인용 딥리서치에 해당하는 아주 좋은 RAG(문서를 검색해서 그 근거를 바탕으로 답을 생성하는 방식)를 만들어야 했어요.

그다음에 제가 한 일은 단순합니다. 오픈클로에게 그 저장소를 들여다보게 하고, 거기서 에이전틱 RAG 부분, 특히 사후에 그래프를 생성하는 부분을 뽑아내게 했어요. 그렇게 나온 결과물이 다른 오픈소스 메모리 시스템들과 붙여 봐도 최고 성능이 나왔습니다.

Q. 그 시스템이 실제로 해 주는 일이 뭔가요?

에이전트가 주어진 작업에 대해 어떤 100만 토큰을 머릿속에 담고 있어야 하는지를 알게 해 주는 겁니다.

여기서 지금 두어 가지가 동시에 작동하고 있어요. 챗GPT나 클로드를 쓰게 해 주는 프론티어 모델 랩들은 여러분에게 내줄 컴퓨팅 자원에 상당한 제약을 두고 있습니다. 그래서 정말로 토큰을 최대로 쓰고 싶다면 헤르메스 에이전트(Hermes Agent, 오픈클로처럼 모델을 실제로 굴려 주는 오픈소스 에이전트 도구)나 오픈클로 같은 걸 써야 해요. 그리고 설정을 끝까지 올려야 합니다. 요청 하나에 100만 토큰이든 80만 토큰이든 넣어 달라고 하고, 그게 soul.md(에이전트의 정체성과 배경 지식을 담아 두는 파일)에 들어가 있게 만드는 거죠.

그렇게 하면 2028년을 사는 셈이 됩니다. 에이전트를 최대 출력으로, 모든 요청마다 150 IQ로 쓰는 데 연간 5만 달러에서 10만 달러쯤 들어요. 대신 차이는 거의 즉시 체감됩니다. 돈이 미친 듯이 들긴 하지만, CEO나 창업자라면 그렇게 하는 게 합리적이에요. 스스로에게 그렇게 토큰을 쏟아부어도 된다고 허락해 줘야 합니다. 그 대가로 2028년을 오늘 사는 거예요.

Q. 그렇게 살면 일하는 방식은 어떻게 달라지나요?

작업을 그냥 하는 데서 끝내지 않고 스킬로 만들게 됩니다. 힘을 쏟아 뭔가 하나를 해낸 다음, 그걸 마크다운 파일 더하기 코드 더하기 테스트로 바꿔서 재사용할 수 있게 만들고 크론잡(정해진 시간마다 자동으로 실행되는 작업)에 걸어 두는 거예요.

그래서 저는 전 분야에 걸쳐 같은 현상이 벌어지고 있다고 봅니다. 마크다운 파일 하나가 직원입니다. 그것도 매번 완벽하게 그 일을 해내고, 원하는 만큼 몇 번이고 반복해 주는 직원이에요.

그 지점에 이르면 여러분이 할 일은 회사에 필요한 업무 프로세스를 가져와서 딱 한 번 완벽하게 해내는 것뿐입니다. 처음 시도할 때는 결과가 나쁠 거예요.

Q. 비용도 많이 들고 반복도 많이 필요하겠네요.

그렇죠. 그런데 결국엔 이렇게 됩니다. 여러분이 아주 빠르고 단순하게 "에이전트야, 이거 고쳐, 저거 고쳐, 이건 틀렸어"라고 말해 주기만 하면, 에이전트가 그 주고받은 작업 기록을 가지고 완벽한 스킬 파일을 만들어 냅니다. 나중에 그게 틀리는 경우가 생겨도 그건 버그 하나 고치는 일이고요. 한 번 고쳐 두면 계속 남습니다.

Q. 이 루프를 영업이나 마케팅, 고객 지원에도 적용할 수 있나요?

전부 다요.

gstack이 그 엔지니어링 버전이었어요. QA 루프가 있고, 브라우저와 함께 작동하는 걸 만들어야 했습니다. gstack 초기에 제가 발견한 게 그거였거든요. 제가 PM으로서 생각하던 방식을 자동화하고 있더라고요. 그리고 유닛 테스트와 엔드투엔드(end-to-end) 테스트 커버리지를 챙기는 엔지니어링 매니저 역할의 스킬도 있었습니다.

그런데 결국에는 다른 걸 다 자동화해 버려서, 마지막에 제가 하는 일이라고는 결과를 확인하는 블랙박스 테스트뿐이더라고요. 그래서 "아니지, 그 부분까지" 하게 된 겁니다.

Q. 그러면 에이전틱 시스템을 만드는 일이란 결국 무엇을 하는 일인가요?

병목이 어디인지 보는 겁니다. 그리고 거의 매번 이렇게 되죠. "이 걸림돌을 날려 버릴 소프트웨어나 마크다운 파일을 만들라고 에이전트에게 어떻게 지시하지?"

그걸 작업 전체에 대해 다 해 놓고 한 발 물러서서 보면, 오늘날 실제로 이런 회사들이 있습니다. 두세 명이 수백 개의 스킬 파일을 데리고 4개월 만에 0에서 연간 반복 매출 1,500만 달러까지 가는 회사요.

Q. 이런 재귀적 자기 개선에도 한계가 있을 것 같은데요. 오류가 누적되지는 않나요?

제 경험으로는 마크다운 파일이 많아지면, 아니 데이터가 많아지면 언제든, 출처(provenance)가 중요해지는 지점이 옵니다. 그리고 충돌 관리가 필요해져요. 서로 어긋나는 사실이 두 개 있을 때 출처가 남아 있으면 "이게 더 최근 것이니 이게 이긴다"고 판단할 수 있거든요. 그리고 그걸 훑으면서 내용이 정확한지, 맞는 출처에서 온 게 맞는지 확인하는 크론잡이 필요합니다.

이런 건 시스템을 쓰다 보면 만들어야 한다는 걸 저절로 알게 되는 것들이에요.

Q. 그런 감각이 오히려 나이 든 창업자에게 유리하게 작용할 수도 있겠네요.

지금 30대, 40대 창업자들에게 흥미로운 이점이 생겼다고 봅니다.

패트릭 콜리슨 같은 사람은 예전만큼 계속 나올 거예요. 그런데 저희가 보고 있는 큰 흐름 하나는 서른다섯, 마흔, 마흔다섯 살쯤 된, 산전수전 다 겪고 회사도 여럿 만들어 본 창업자입니다. 피터 슈타인베르거가 딱 그런 예예요. 이미 다 겪어 봐서 뭘 만들어야 하는지 아는 사람이죠.

그런 사람 하나가 갑자기 400명이 되면, 매그니피센트 세븐(애플, 마이크로소프트, 엔비디아 등 미국 빅테크 7개사) 어느 회사의 한 부서 전체를 능가할 수 있습니다.

브렉스 CEO는 자기가 없는 회의를 읽는다

Q. 이 방식을 회사 운영에 실제로 밀어 넣고 있는 사람이 있나요?

브렉스의 페드로 프란체스키(Pedro Franceschi, 브렉스 공동창업자 겸 CEO)를 아시나요? 자기 임원진을 데리고 이걸 가장 공격적으로 하는 사람입니다. 사실 저를 오픈클로에 빠지게 만든 사람 중 하나이기도 해요. YC에서 저희와 점심을 먹으면서 쭉 설명해 줬거든요.

당시 오픈클로를 두고는 너무 위험하다는 분위기였어요. 컴퓨터를 통째로 날릴 수도 있다는 식이었죠. 페드로가 한 일은 오픈소스 계층을 하나 통째로 만드는 거였습니다. 크랩트랩(CrabTrap)이라는 이름으로 공개했는데, 오픈클로가 밖으로 내보내는 요청을 전부 가로채서 위험한 건 LLM이 판단해 막아 주는 프록시예요. 그렇게 해서 문제를 풀어냈습니다. 브렉스는 규제가 가장 심한 핀테크 중 하나니까요.

Q. 그렇게 해서 실제로 얻은 결과는 뭐였나요?

자기 직속 부하들의 회의 기록을 에이전트가 읽게 한 겁니다. 그러면 두 단계 아래까지 보여요.

제 눈에 확 들어온 건 이 부분이었습니다. 자기가 참석하지 않은 회의를 가지고 뭐가 망가져 있는지, 어디에 갈등이 있는지, 누가 누구와 부딪히고 있는지를 파악할 수 있다는 거예요. 그리고 가끔 회의에 나타나는데, 그 규제 대응 팀의 지난 3주치 맥락을 완벽하게 갖고 들어갑니다. 들어가서 "사실 당신 말이 맞네요, 당신 방식대로 갑시다"라고 말하고 나오는 거죠.

Q. 그게 왜 그렇게 중요한 장면이라고 보셨나요?

스타트업이나 사업이 실패하는 결정적 이유 중 하나가 바로 그거거든요. 그건 결국 관리의 문제예요. 사업이 한 사람 머리에 담기지 않을 만큼 커져 버리는 거예요.

여기에 에이전트가 있고, 기억이 있고, 검색이 있으면 얘기가 달라집니다. 반도체에 연산을 더 쏟아부으면 지금 무슨 일이 벌어지고 있는지에 대한 날것의 지능이 나와요. 조직에서 두 단계 아래 있는 누군가의 의견만 들여다보는 게 아니라, 데이터에서 나온 실제 사실을 볼 수 있게 되는 겁니다. 거의 천리안이죠.

일단 그걸 머리에 넣고 나면, 세상의 모든 사업이 여러분이 가져갈 수 있는 대상이 됩니다. 세상은 애초에 인간에 맞춰 지어져 있고, 인간은 한 번에 일곱 개 남짓한 것밖에 머리에 담지 못하거든요. 심리학에서 말하는 작업 기억의 한계요. 그런데 사람에 에이전트를 더하면 해리 포터 세 권 분량을 머리에 담고 정확히 필요한 지점을 짚어 낼 수 있습니다.

그리고 앞으로 더 좋아질 일만 남았어요. 암호화폐 시절 격언 중에 AI에 열 배쯤 더 잘 들어맞는 게 많은데, 그중 하나가 이겁니다. 지금이 앞으로 가장 나쁠 때다.

화이트필은 관료제입니다

Q. 이런 변화가 회사 전체로 퍼지려면 모델이 더 똑똑해져야 하는 걸까요?

솔직히 전부 인간 문제입니다. 속도를 늦추는 건 인간이에요.

말하면서 깨달았는데, 이게 오히려 화이트필(white pill, 앞날을 낙관하게 만드는 소식)일 수도 있겠네요. AI에 대한 담론의 결을 보면 전부 암울한 얘기잖아요. 화이트칼라 일자리가 다 사라지고 영구적인 하층 계급이 생긴다는 식이죠.

그런데 재미있게도 제가 보는 건 이겁니다. 모든 회사, 모든 기관, 모든 조직의 관료제와 느림, 그 일곱 개 남짓한 한계, 세상의 모든 중간 관리자들. 그게 사실은 화이트필이에요.

Q. 그러면 변화는 우리가 생각하는 것보다 느리게 온다는 뜻인가요?

그렇습니다. 저희 행사에 7,000명이 왔는데 대부분 열여덟에서 스물두 살이었어요. 그 얼굴들을 보면 전부 AI 네이티브입니다. 챗GPT의 시대에 성인이 된 사람들이에요.

저희 세대로 치면 지금은 저희가 운영을 하고 있죠. 그런데 20년 전을 떠올려 보세요. 저희는 웹에 네이티브였던 사람들이고, 모바일에 네이티브였던 사람들이었습니다. 그리고 지금은 저희가 운영합니다. 그래서 사회 전체가 저희가 열여덟에서 스물두 살 때 당연하게 여겼던 것들 위에서 돌아가고 있어요.

그러니까 제게 화이트필은 이겁니다. 20년이 걸릴 거고, 그건 나쁜 게 아니라 좋은 거예요. 사회는 여러분 생각보다 훨씬 느리고, 정부는 훨씬 더 느리고, 세상의 모든 회사는 훨씬 더 느립니다. 그리고 거기에는 진짜 해자가 있어요. 마이크로소프트가 어디로도 사라지지 않을 구조적인 이유가 있습니다. 실리콘밸리 사람들 대부분은 "그걸 전부 대체할 스타트업을 만들겠다"고 말하겠지만, 현실은 그렇게 안 될 거예요.

Q. 관리자 계층을 떠받쳐 온 관리 과학이라는 것도, 어쩌면 창업자 모드(founder mode, 창업자가 세부까지 직접 챙기며 회사를 끌고 가는 방식)로부터의 100년짜리 우회로였는지도 모르겠습니다. 대기업의 하루를 직접 겪어 보신 이야기가 있을까요?

전형적인 빅테크의 일상은 정말 말이 안 됩니다.

제가 스물두 살에 윈도우 모바일에서 일할 때가 기억나요. 아이폰보다 몇 년 앞선 이상한 기기들을 만들고 있었어요. 그런데 윈도우 팀에서 붙여 줘야 하는 통합 작업이 필요했습니다. 레드먼드에서 고속도로 건너편에 있는 팀이었어요.

그 팀은 저희 이메일에 답을 안 했어요. 저희 버그도 안 고쳤고요. "고치지 않겠다" 표시조차 안 하고 그냥 무시했습니다. 그래서 저와 제 PM 멘토는 야구 방망이를 들고 그 팀으로 찾아가야 했어요. 그분이 왜 그걸 가져왔는지는 지금도 모르겠습니다. 누굴 패려던 것도 아니었고, 그냥 어렴풋한 위협 같은 거였죠.

그게 정말 웃겼고 저는 그 장면을 계속 떠올립니다. 대체 어떤 관료제의 지옥이길래, 멀쩡히 똑똑하고 테크 업계 연봉을 받는 두 사람이 이런 상황에 놓이는 걸까요. 저쪽은 하나의 영지나 마찬가지였고, 저희와 그 담당자 사이에는 말 그대로 일곱 단계가 있었어요. 그리고 그 사람은 저희가 사용자 1,000명을 막고 있는 P3 등급 버그 하나를 고쳐 달라고 네 시간을 썼다는 사실조차 모릅니다.

Q. 그런 조직에서는 사람도 같이 갈려 나가는 것 같습니다.

그 버그 하나 때문에 새벽 2시에 불안해서 깬 밤이 몇 번이었을까요. 누군가 불편한 대화를 한 번 하기 싫었다는 이유로요. 그렇게 시간을 쓰라고 우리가 일하는 게 아니잖아요.

그리고 이게 일곱 개 남짓이라는 한계가 가장 밑바닥에서 드러나는 장면이에요. 그 제품 담당 매니저인지 뭔지, 직함이 뭐였든 그 사람이 저희 시간을 그렇게 낭비시키고 싶었다고는 생각하지 않습니다. 그냥 하루에 시간이 모자랐던 거고, 우리는 한계가 뚜렷한 인간이니까요.

Q. 같은 상황을 지금 기술로 다시 본다면 어떻게 될까요?

제가 마이크로소프트에 있을 때를 떠올리면, 아이팟을 하나 사서 윈도우 모바일과 아이팟을 비교하는 경쟁사 조사를 했던 게 기억나요. 오늘날 마이크로소프트라면 마크다운 파일 하나와 스킬 하나가 크론으로 돌아가는 걸 상상할 수 있습니다.

이 팀 사람들은 어떻게 일하고 있지? 막혀 있나? 누구한테 막혀 있지? 외부 의존성은 뭐지? 갑자기 그래프가 생기고 루프가 생기는 거예요. 그러면 제품이 실제로 그만큼 빨리 움직일 수 있습니다. 6개월 걸릴 걸 하루 이틀 만에 내보낼 수 있어요.

다만 그걸 조직 전체에 곱해서 적용하는 건, 마이크로소프트 같은 조직은 아마 못 할 겁니다. 하지만 스타트업은 할 수 있어요. 그리고 모든 스타트업이 반드시 해야 합니다.

API 라인이 지워지는 자리

Q. 중간 관리 계층이 에이전트가 되어야 한다는 뜻으로도 들립니다.

좋은 점은 굳이 그렇게 될 필요가 없다는 거예요.

벤카테시 라오(Venkatesh Rao, 기술과 조직을 주제로 글을 쓰는 미국의 블로거)가 말한 API 라인 이야기 아시나요? 우버가 나왔을 때, 우버 기사라면 당신은 API 라인 아래에 있는 거고, 그 위로 올라가려고 싸워야 한다는 얘기입니다. 저는 AI가 그 API 라인 자체를 지운다고 봐요.

최근에 본 것 중 가장 재미있었던 게 있는데, 저희가 투자한 API 회사 한 곳이 버그 리포트 엔드포인트를 하나 냈어요. 사람이 쓰라고 만든 게 아니라 자기네 소프트웨어를 쓰는 에이전트가 쓰라고 만든 겁니다. 소프트웨어에 버그가 있으면 버그 리포트가 올라가는데, 거기에 붙은 LLM이 실시간으로 답을 해요. "좋은 버그네요, 접수했고 다음 주에 고치겠습니다. 그동안 이 우회 방법을 써 보세요."

이게 머리에서 안 떠나요. 회사들이 그렇게 돌아갈 수도 있다는 거잖아요. API 라인 아래에서 API가 시키는 대로만 하는 게 아니라, 주고받는 관계가 될 수 있는 거죠.

다음 컴퓨터와 하네스 전쟁

Q. 가까운 미래를 그려 본다면, 다음 컴퓨터는 어떤 모습일까요?

단기적으로는 아마 지금 모습을 유지할 겁니다. 그런데 그 형태가 계속 갈 거라고는 상상하기 어려워요. 음성으로 갈 게 꽤 분명해 보입니다.

기억 쪽에도 많은 게 남아 있어요. 지금은 다들 챗GPT나 클로드 코워크 같은 걸로 어느 정도 만족하는 시점인데, 장기적으로는 그렇지 않을 거라고 봅니다. 훨씬 더 많은 맥락을 원하게 될 거예요. 리처드 브라우티건의 시 제목처럼, 사랑의 은총으로 만들어진 기계들이 모두를 지켜보는 상태를 원하게 될 겁니다. 자비롭고, 내 희망과 두려움과 바람을 알고 있고, 그 방향으로 나를 도우려고 끈질기게 찾아 주는 존재요. 그건 흥미로울 겁니다.

거기까지 가는 길은 아마 컴퓨터 유즈(AI가 사람 대신 화면을 보고 직접 조작하는 방식), 기억, 화자 분리(diarization, 녹음에서 누가 말했는지를 구분해 내는 기술), 데이터 수집 같은 것들이 될 거예요.

Q. 그 시점은 언제쯤으로 보시나요?

시간이 더 걸릴 겁니다. 지금은 사람들이 이 얘기를 하지도 않는 것 같아요. 제 추측으로는 내년, 2027년이 하네스 전쟁(harness wars, 모델 자체가 아니라 모델을 굴리는 껍데기 소프트웨어를 두고 벌어지는 경쟁)이 될 겁니다.

결국은 비용 문제예요. 지금은 너무 비쌉니다. 하지만 계속 그렇지는 않을 거예요. 10억 명의 소비자를 두고 전쟁이 벌어질 겁니다. 오늘의 프론티어 모델 컴퓨팅이 2~3년 뒤에는 50달러나 100달러쯤 될 텐데, 그때가 브라우저 전쟁이 다시 시작되는 시점이에요.

1000배 좋아져야 합니다

Q. 그 변화가 제대로 왔을 때 세상은 어떻게 달라져 있어야 한다고 보세요?

세상의 모든 사업, 사람들이 기대고 사는 모든 것, 특히 정부는 여전히 한계가 뚜렷한 인간을 전제로 지어져 있습니다. 한 번에 일곱 개 남짓밖에 머리에 담지 못하는 인간이요. 그런 구조는 준비가 안 돼 있어요. 에이전트가 빛의 속도로 생각하고 데이터도 사실상 무제한인 세상에는요.

그래서 제 바람은 제품이 10배, 100배 좋아지는 겁니다. 아니, 1000배 좋아져야 해요. 서비스도 1000배 좋아져야 하고요. 자본주의의 보이지 않는 손이 제대로 작동한다면, 그건 뭔가의 비용을 낮추는 쪽이 아니라 마법 같은 것을 만들어 내는 쪽이어야 합니다.

Q. 그런 얘기를 하면 유토피아를 만들려는 거냐는 질문을 받으실 것 같은데요.

얼마 전에 월스트리트저널 팟캐스트에 나갔는데, 기자가 계속 저를 걸고넘어지려고 하더라고요. "테크 업계 사람들, 유토피아를 만들려는 겁니까?" 하고요. 저는 이건 함정이다 싶었습니다. 거기까지는 말 못 하겠다 싶었죠.

그런데 그동안 제가 함께 일하고 투자해 온 스타트업들의 사례를 하나씩 짚어 나가다 보니, 어쩌면 그럴지도 모르겠다는 생각이 들더라고요.

우리는 유토피아에 결코 도달하지 못할 수도 있습니다. 그래도 해 볼 만한 일이고, 그럴 값어치가 있는 일이에요. 실리콘밸리가, 테크가 유토피아를 이뤄 낼 거라고는 말하지 않겠습니다. 다만 우리가 더 나은 세상을 가져오려 애쓰고 있다는 건, 아주 진심으로 말할 수 있어요.

소중한 노력이 들어간 글을 널리 알려주세요. 

이 기사가 좋으셨다면, 보상을 해주세요. 

가장 좋은 보상은 ‘조쉬의  뉴스레터 구독’입니다. :) 

구독을 하시면 100개의 1인 창업가 데이터베이스를 발송해드립니다.

[구독하러 가기]