클로드의 아버지, Anthropic의 CEO 다리오 아모데이는 AI 연구의 최전선에 서 있는 인물입니다. 그의 낙관론이 정말 재밌더라고요.

"위험만 이야기하는 건 내 영혼에 좋지 않다. 
하지만 더 중요한 건, 우리에게 희망이 필요하기 때문이다."

그가 그리는 5-10년 후의 세상은 우리가 상상하는 것보다 훨씬 더 급진적인 것 같습니다. 

클로드의 아버지, 다리오 아모데이의 AI 낙관론을 살펴보시죠.

매주 AI+비즈니스 뉴스레터를 보내드립니다.

전 세계의 창업가들의 비즈니스 및 AI 이야기를 매주 수요일 오전에 받아조실 수 있어요.

그 어느 곳에서도 볼 수 없었던, 퀄리티 있는 글을 보내드릴 것을 약속드릴게요.

뉴스레터 바로가기

<사랑의 은총을 베푸는 기계들>

부제:  AI가 만들어갈 더 나은 세상

원문: Machines of Loving Grace

저는 강력한 AI의 위험성에 대해 많이 생각하고 이야기합니다. 제가 CEO로 있는 회사인 Anthropic은 이러한 위험을 줄이는 방법에 대해 많은 연구를 하고 있습니다. 이 때문에 사람들은 때때로 제가 비관주의자나 "파멸론자"로서 AI가 대부분 나쁘거나 위험할 것이라고 생각한다는 결론을 내립니다. 저는 전혀 그렇게 생각하지 않습니다. 사실, 제가 위험에 집중하는 주된 이유 중 하나는 위험이야말로 우리와 제가 보기에 근본적으로 긍정적인 미래 사이에 놓인 유일한 장애물이기 때문입니다. 저는 대부분의 사람들이 AI의 긍정적 측면이 얼마나 급진적일 수 있는지 과소평가하고 있다고 생각하며, 마찬가지로 대부분의 사람들이 위험이 얼마나 나쁠 수 있는지도 과소평가하고 있다고 생각합니다.

이 에세이에서 저는 그 긍정적 측면이 어떤 모습일지, 즉 모든 것이 잘 풀렸을 때 강력한 AI가 있는 세상이 어떤 모습일지를 그려보려고 합니다. 물론 아무도 미래를 확실하거나 정확하게 알 수 없으며, 강력한 AI의 효과는 과거의 기술 변화보다 훨씬 더 예측하기 어려울 것입니다. 따라서 이 모든 것은 불가피하게 추측으로 구성될 수밖에 없습니다. 하지만 저는 적어도 교육받고 유용한 추측을 하려고 노력하고 있으며, 대부분의 세부 사항이 틀리더라도 무슨 일이 일어날지 그 분위기를 포착하려고 합니다. 구체적인 비전이 매우 조심스럽고 추상적인 비전보다 논의를 더 발전시킨다고 생각하기 때문에 많은 세부 사항을 포함하고 있습니다.

하지만 먼저, 저와 Anthropic이 강력한 AI의 긍정적 측면에 대해 그다지 많이 이야기하지 않은 이유, 그리고 앞으로도 전반적으로 위험에 대해 많이 이야기할 것 같은 이유를 간단히 설명하고 싶습니다. 특히, 저는 다음과 같은 이유로 이러한 선택을 했습니다:

레버리지를 극대화하기 위해. AI 기술의 기본 개발과 그것의 많은(전부는 아니지만) 이점은 (위험이 모든 것을 망치지 않는 한) 불가피해 보이며 근본적으로 강력한 시장의 힘에 의해 주도됩니다. 반면에 위험은 미리 정해진 것이 아니며 우리의 행동이 그 가능성을 크게 바꿀 수 있습니다.

선전처럼 보이는 것을 피하기 위해. AI 회사들이 AI의 놀라운 이점에 대해 이야기하는 것은 선전가처럼 보이거나 단점에서 주의를 돌리려는 시도처럼 보일 수 있습니다. 또한 원칙의 문제로서, 자신의 이익을 "홍보하는" 데 너무 많은 시간을 쓰는 것은 영혼에 나쁘다고 생각합니다.

과대망상을 피하기 위해. 저는 많은 AI 위험 공인들(AI 회사 리더는 말할 것도 없고)이 AGI 이후의 세계에 대해 이야기하는 방식에 종종 반감을 느낍니다. 마치 그들이 예언자처럼 자신의 백성을 구원으로 이끄는 것이 자신의 사명인 것처럼 말입니다. 회사가 일방적으로 세상을 형성하는 것으로 보는 것도 위험하고, 실용적인 기술 목표를 본질적으로 종교적인 용어로 보는 것도 위험하다고 생각합니다.

"SF 소설" 같은 짐을 피하기 위해. 대부분의 사람들이 강력한 AI의 긍정적 측면을 과소평가한다고 생각하지만, 급진적인 AI 미래를 논의하는 소수의 커뮤니티는 종종 지나치게 "SF 소설" 같은 어조로 그렇게 합니다(예를 들어 업로드된 마음, 우주 탐험 또는 일반적인 사이버펑크 분위기 등). 이것이 사람들로 하여금 주장을 덜 심각하게 받아들이게 하고, 일종의 비현실성을 부여한다고 생각합니다. 분명히 말하자면, 문제는 묘사된 기술이 가능한지 또는 가능성이 있는지가 아닙니다(본 에세이에서 이를 세부적으로 논의합니다). 오히려 "분위기"가 함축적으로 어떤 종류의 미래가 바람직한지, 다양한 사회적 문제가 어떻게 전개될지 등에 대한 많은 문화적 짐과 암묵적 가정을 몰래 끌어들인다는 것입니다. 그 결과는 종종 좁은 하위문화를 위한 판타지처럼 읽히면서 대부분의 사람들에게는 거부감을 줍니다.

그러나 위의 모든 우려에도 불구하고, 저는 위의 함정을 최대한 피하면서 강력한 AI가 있는 좋은 세상이 어떤 모습일지 논의하는 것이 정말 중요하다고 생각합니다. 사실 저는 진정으로 영감을 주는 미래 비전을 갖는 것이 중요하며, 단지 불을 끄는 계획만으로는 부족하다고 생각합니다. 강력한 AI의 많은 함의는 적대적이거나 위험하지만, 결국에는 우리가 싸우는 무언가, 모두가 더 나아지는 긍정적 합의 결과, 사람들을 결집시켜 그들의 다툼을 넘어서고 앞에 놓인 도전에 맞서게 할 무언가가 있어야 합니다. 두려움은 한 가지 동기 부여 요인이지만 충분하지 않습니다. 우리에게는 희망도 필요합니다.

강력한 AI의 긍정적인 응용 목록은 매우 깁니다(로봇공학, 제조, 에너지 등을 포함). 하지만 저는 인간 삶의 질을 직접적으로 개선할 가장 큰 잠재력을 가진 것으로 보이는 소수의 영역에 집중하려고 합니다. 제가 가장 기대하는 다섯 가지 범주는 다음과 같습니다:

1. 생물학과 신체 건강
2. 신경과학과 정신 건강
3. 경제 발전과 빈곤
4. 평화와 거버넌스
5. 일과 의미

제 예측은 대부분의 기준으로 볼 때 급진적일 것입니다(SF "특이점" 비전을 제외하고). 하지만 저는 진지하고 성실하게 말하는 것입니다. 제가 말하는 모든 것이 아주 쉽게 틀릴 수 있습니다(위에서 말한 요점을 반복하자면). 하지만 저는 적어도 다양한 분야의 진전이 얼마나 빨라질 수 있는지, 그것이 실제로 무엇을 의미할 수 있는지에 대한 준분석적 평가에 제 견해를 근거하려고 노력했습니다. 

저는 생물학과 신경과학 모두에서 전문적인 경험을 가지고 있으며, 경제 발전 분야의 정보에 밝은 아마추어입니다. 하지만 분명히 많은 것을 틀릴 것입니다. 이 에세이를 쓰면서 깨달은 한 가지는 영역 전문가들(생물학, 경제학, 국제 관계 등)을 모아 제가 여기서 만든 것보다 훨씬 더 좋고 더 정보에 기반한 버전을 작성하는 것이 가치가 있을 것이라는 점입니다. 제 노력은 그 그룹을 위한 시작 프롬프트로 보는 것이 가장 좋을 것입니다.

기본 가정과 틀

이 전체 에세이를 더 정확하고 근거 있게 만들기 위해서는 강력한 AI가 무엇을 의미하는지(즉, 5-10년의 시계가 시작되는 임계점) 명확히 지정하고, 그러한 AI가 존재할 때의 효과를 생각하는 틀을 제시하는 것이 도움이 됩니다.

강력한 AI(저는 AGI라는 용어를 좋아하지 않습니다)가 어떤 모습일지, 언제(또는 만약) 도착할지는 그 자체로 거대한 주제입니다. 이것은 제가 공개적으로 논의한 적이 있으며 완전히 별도의 에세이를 쓸 수 있는 주제입니다(아마 언젠가 그럴 것입니다). 분명히 많은 사람들이 강력한 AI가 곧 만들어질 것이라는 데 회의적이며, 일부는 그것이 전혀 만들어지지 않을 것이라고 회의적입니다. 

저는 그것이 2026년에 올 수도 있다고 생각하지만, 훨씬 더 오래 걸릴 수도 있는 방법들도 있습니다. 하지만 이 에세이의 목적상, 저는 이러한 문제들을 제쳐두고 그것이 합리적으로 곧 올 것이라고 가정하고, 그 후 5-10년 동안 무슨 일이 일어나는지에 집중하고 싶습니다. 또한 그러한 시스템이 어떤 모습일지, 그 능력이 무엇인지, 어떻게 상호작용하는지에 대한 정의를 가정하고 싶습니다. 비록 이에 대한 의견 차이가 있을 수 있지만 말입니다.

강력한 AI란, 저는 오늘날의 LLM과 형태가 유사할 가능성이 높은 AI 모델을 염두에 두고 있습니다. 다른 아키텍처를 기반으로 할 수도 있고, 여러 상호작용하는 모델을 포함할 수도 있으며, 다르게 훈련될 수도 있습니다. 다음과 같은 속성을 가진 모델입니다:

순수한 지능 측면에서, 생물학, 프로그래밍, 수학, 공학, 글쓰기 등 대부분의 관련 분야에서 노벨상 수상자보다 똑똑합니다. 이는 풀리지 않은 수학 정리를 증명하고, 매우 좋은 소설을 쓰고, 처음부터 어려운 코드베이스를 작성할 수 있다는 것을 의미합니다.

기능 범위와 도구 사용 측면에서, 인터넷을 사용하고, 코드를 작성 및 실행하고, 자체 복사본을 실행하여 다른 작업에 파견하고(병렬 처리를 가능하게 함), 로봇의 실제 세계 행동을 포함하여 환경에 대한 제어를 제공하는 API와 상호작용할 수 있습니다. 또한 모델 자체가 더 빠른 속도로 교육되고 실행될 수 있어, 정보 작업이 오늘날보다 훨씬 더 빨리 일어나게 합니다.

경제적 측면에서, 강력한 AI를 사용하는 것은 원격으로 일하는 인간 대학원생, 과학자 또는 엔지니어를 고용하는 것보다 저렴하거나 비슷한 비용입니다. 예를 들어, 그것은 시간당 수백만 달러보다는 시간당 100달러 미만의 비용이 듭니다. 시간이 지남에 따라 비용은 빠르게 감소합니다.

일반화 측면에서, AI는 상대적으로 적은 수의 예시만으로 새로운 작업을 수행하는 방법을 배울 수 있습니다. 인간이 할 수 있는 모든 작업에 대한 특수화된 데이터세트를 수집하는 대신, 일반적인 자율성을 가진 자기주도적 에이전트입니다.

조직적 측면에서, AI는 매우 소규모의 인간 조직(예: 수십 명의 사람)이 정부, NGO, 또는 기업을 운영하는 데 도움을 줄 수 있습니다. 사람보다 더 빠르고 효율적으로 일하면서도 인간의 의도에 부합하고, 인간이 중요한 결정을 내리고 책임을 지는 것을 가능하게 합니다.

저는 이것이 정확한 예측이라고 주장하지 않습니다. 일부는 이보다 더 빨리 일어날 수 있고, 일부는 더 느릴 수 있으며, 강력한 AI가 언제 또는 만약 도착한다면 그것에 대한 많은 불확실성이 있습니다. 하지만 이것은 우리가 이야기하고 있는 시나리오의 종류에 대한 유용한 고정점을 제공합니다.

1. 생물학과 건강

생물학과 의학은 AI가 가장 직접적이고 즉각적인 영향을 미칠 수 있는 분야입니다. 다음은 AI가 가능하게 할 수 있는 몇 가지 것들입니다:

대부분의 암을 치료하고 예방합니다. AI는 암이 발생하는 방식에 대한 우리의 이해를 크게 향상시킬 수 있습니다. 오늘날 우리는 암의 많은 측면을 이해하지만 여전히 복잡하고 다면적인 질병입니다. AI는 암세포의 정확한 메커니즘을 이해하고, 면역 체계가 암과 싸우는 방법을 개선하고, 더 선택적인 약물을 설계하고, 조기 탐지 방법을 개선하는 데 도움을 줄 수 있습니다. 저는 5-10년 안에 대부분의 암을 만성적이거나 쉽게 관리할 수 있는 질병으로 만들 수 있다고 믿습니다.

알츠하이머를 예방하고 치료합니다. 알츠하이머는 우리 시대의 가장 파괴적인 질병 중 하나입니다. AI는 질병의 근본 원인을 이해하고, 조기 진단 도구를 개발하고, 효과적인 치료법을 설계하는 데 도움을 줄 수 있습니다. 이것은 수백만 명의 사람들과 그 가족들의 삶을 변화시킬 것입니다.

대부분의 전염병을 치료하고 예방합니다. COVID-19는 전염병이 여전히 인류에게 위협이 될 수 있음을 보여주었습니다. AI는 백신과 치료법을 훨씬 더 빨리 개발하고, 발병을 더 잘 예측하고 추적하고, 더 효과적인 공중 보건 개입을 설계하는 데 도움을 줄 수 있습니다. 저는 우리가 5-10년 안에 대부분의 자연 발생 전염병을 효과적으로 통제할 수 있을 것이라고 믿습니다.

유전적 질병의 예방과 치료. CRISPR과 같은 기술은 이미 유전자 편집을 가능하게 했지만, AI는 이를 훨씬 더 정밀하고 안전하며 효과적으로 만들 수 있습니다. 우리는 유전적 질병을 예방하고 치료하며, 심지어 배아에서 유전적 결함을 수정할 수도 있을 것입니다.

생물학적 노화 과정을 늦춥니다. 가장 야심찬 목표는 노화 과정 자체를 늦추거나 역전시키는 것입니다. 이것은 모든 연령 관련 질병을 한 번에 해결할 수 있습니다. 노화는 극도로 복잡하지만, AI는 근본적인 메커니즘을 이해하고 그것을 늦추는 개입을 설계하는 데 도움을 줄 수 있습니다. 저는 5-10년 안에 우리가 건강한 인간 수명을 두 배로 늘릴 수 있는 기술을 개발할 수 있다고 믿습니다.

정신 건강과 웰빙을 개선합니다. 마지막으로, AI는 정신 건강 상태를 이해하고 치료하는 데 도움을 줄 수 있습니다. 우울증, 불안, PTSD, 중독 등은 수백만 명의 사람들에게 영향을 미치며, 우리의 치료법은 종종 불완전합니다. AI는 이러한 상태의 생물학적 기초를 이해하고, 더 효과적인 치료법을 개발하고, 심지어 예방 전략을 설계하는 데 도움을 줄 수 있습니다.

이 모든 것이 불가능하게 들릴 수 있지만, 생물학 분야는 이미 빠르게 발전하고 있으며, AI는 이 진전을 가속화할 수 있는 잠재력을 가지고 있습니다. 핵심은 AI가 단순히 데이터를 분석하는 것이 아니라 실험을 설계하고, 가설을 세우고, 심지어 새로운 생물학적 원리를 발견할 수 있다는 것입니다.

물론, 이 모든 것은 강력한 AI가 안전하게 개발되고 배포되며, 적절한 규제와 윤리적 프레임워크 내에서 사용된다는 가정 하에 이루어집니다. 하지만 만약 우리가 그것을 올바르게 한다면, AI는 인간 건강과 웰빙에서 전례 없는 진전을 가져올 수 있습니다.

2. 신경과학과 정신

정신 건강은 생물학적 건강만큼이나 중요하지만, 종종 덜 이해되고 덜 효과적으로 치료됩니다. AI는 여기서도 변혁적일 수 있습니다:

정신 질환의 생물학적 기초를 이해합니다. 우울증, 조현병, 자폐 스펙트럼 장애 등은 복잡한 생물학적 기초를 가지고 있으며, 우리는 그것을 완전히 이해하지 못합니다. AI는 뇌 이미징 데이터, 유전 데이터, 그리고 임상 데이터를 분석하여 이러한 상태의 근본 원인을 밝히는 데 도움을 줄 수 있습니다.

개인화된 정신 건강 치료. 오늘날 정신 건강 치료는 종종 시행착오 접근법입니다. AI는 개인의 생물학, 심리학, 그리고 환경에 기반한 개인화된 치료 계획을 설계하는 데 도움을 줄 수 있습니다.

인지 능력 향상. AI는 또한 정상적인 인지 기능을 향상시키는 방법을 이해하는 데 도움을 줄 수 있습니다. 이것은 더 나은 학습 전략에서부터 기억력과 집중력을 향상시키는 개입에 이르기까지 다양할 수 있습니다.

의식과 주관적 경험을 이해합니다. 가장 깊은 수준에서, AI는 의식 자체의 본질을 이해하는 데 도움을 줄 수 있습니다. 이것은 신경과학의 가장 어려운 문제 중 하나이지만, 그것을 이해하는 것은 정신 건강, 마취, 그리고 인간 경험의 본질에 대한 깊은 함의를 가질 수 있습니다.

3. 경제 발전과 빈곤

AI는 경제 발전을 가속화하고 세계의 빈곤을 줄이는 데 중요한 역할을 할 수 있습니다:

생산성을 극적으로 향상시킵니다. AI는 거의 모든 산업에서 생산성을 극적으로 향상시킬 수 있습니다. 이것은 더 높은 임금, 더 많은 상품과 서비스, 그리고 더 높은 생활 수준으로 이어질 수 있습니다.

개발도상국의 발전을 가속화합니다. 개발도상국은 종종 인프라, 교육, 그리고 제도의 부족으로 어려움을 겪습니다. AI는 이러한 격차를 메우는 데 도움을 줄 수 있습니다. 예를 들어, AI 기반 교육 플랫폼은 양질의 교육에 대한 접근을 민주화할 수 있으며, AI 기반 진단 도구는 의료에 대한 접근을 개선할 수 있습니다.

불평등을 줄입니다. 신중하게 배포된다면, AI는 불평등을 줄이는 데 도움을 줄 수 있습니다. 그것은 교육, 의료, 그리고 경제 기회에 대한 접근을 민주화할 수 있습니다. 물론, AI가 불평등을 악화시킬 위험도 있으므로, 공평한 접근을 보장하는 것이 중요합니다.

지속 가능한 개발. AI는 또한 더 지속 가능한 경제 발전을 가능하게 할 수 있습니다. 그것은 에너지 사용을 최적화하고, 폐기물을 줄이고, 더 효율적인 운송 시스템을 설계하는 데 도움을 줄 수 있습니다.

4. 평화와 거버넌스

AI는 국제 관계와 거버넌스에도 긍정적인 영향을 미칠 수 있습니다:

갈등을 줄입니다. AI는 갈등을 예측하고 예방하는 데 도움을 줄 수 있습니다. 그것은 긴장이 고조되고 있는 조기 경고 신호를 식별하고, 중재자가 더 효과적인 개입을 설계하도록 도울 수 있습니다.

거버넌스를 개선합니다. AI는 정부가 더 효율적이고 효과적으로 작동하도록 도울 수 있습니다. 그것은 정책 입안을 최적화하고, 부패를 줄이고, 공공 서비스를 개선하는 데 도움을 줄 수 있습니다.

민주주의를 강화합니다. AI는 또한 민주적 과정을 강화하는 데 사용될 수 있습니다. 그것은 잘못된 정보와 싸우고, 시민 참여를 촉진하고, 의사 결정 과정을 더 투명하게 만드는 데 도움을 줄 수 있습니다.

글로벌 협력을 촉진합니다. 마지막으로, AI는 기후 변화, 전염병, 그리고 핵 확산과 같은 글로벌 과제에 대한 국제 협력을 촉진하는 데 도움을 줄 수 있습니다.

5. 일과 의미

아마도 가장 어려운 질문은 AI가 일과 의미에 어떤 영향을 미칠지입니다:

일의 본질을 변화시킵니다. AI는 의심할 여지 없이 많은 직업을 자동화할 것이지만, 새로운 종류의 일도 만들어낼 것입니다. 핵심은 사람들이 새로운 기회에 적응하고 활용할 수 있도록 돕는 것입니다.

창의성과 표현을 가능하게 합니다. AI는 사람들이 자신을 창의적으로 표현할 수 있는 새로운 방법을 제공할 수 있습니다. 그것은 예술, 음악, 글쓰기, 그리고 다른 형태의 표현을 위한 도구로 사용될 수 있습니다.

학습과 성장을 촉진합니다. AI 기반 교육 도구는 평생 학습을 더 접근 가능하고 효과적으로 만들 수 있습니다. 이것은 사람들이 경력 전환을 하고, 새로운 기술을 개발하고, 지적으로 참여할 수 있도록 도울 수 있습니다.

공동체와 연결을 강화합니다. AI는 또한 사람들이 공유된 관심사와 가치를 중심으로 연결되고 공동체를 구축하는 데 도움을 줄 수 있습니다.

의미와 목적을 찾습니다. 궁극적으로, AI는 사람들이 삶에서 의미와 목적을 찾는 데 도움을 줄 수 있습니다. 그것은 사람들을 일상적인 작업에서 해방시켜, 그들이 가장 중요하게 여기는 것에 집중할 수 있게 할 수 있습니다.

결론

강력한 AI의 잠재적 이점은 엄청납니다. 그것은 질병을 치료하고, 빈곤을 줄이고, 평화를 촉진하고, 인간 경험을 풍요롭게 할 수 있습니다. 하지만 이러한 이점을 실현하는 것은 자동적이지 않습니다. 그것은 신중한 계획, 강력한 안전 조치, 그리고 모든 사람이 혜택을 받도록 보장하려는 헌신이 필요합니다.

우리는 또한 겸손해야 합니다. 미래는 예측하기 어렵고, 강력한 AI의 영향은 아마도 우리가 예상하는 것과 다를 것입니다. 하지만 우리가 긍정적인 비전을 가지고 있다면, 만약 우리가 우리가 싸우고 있는 무언가를 가지고 있다면, 우리는 도전을 극복하고 모든 사람에게 더 나은 미래를 만들 가능성이 더 높습니다.

이것이 제가 AI의 위험에 대해 많이 이야기하지만 또한 그것의 잠재력에 대해서도 낙관적인 이유입니다. 위험은 실제적이고 우리의 주의가 필요하지만, 기회는 그만큼 실제적입니다. 우리가 현명하고 신중하며 야심차다면, 우리는 AI를 사용하여 진정으로 변혁적인 긍정적인 미래를 만들 수 있습니다.

다리오 아모데이

Anthrophic CEO

원문 링크: https://www.darioamodei.com/essay/machines-of-loving-grace 

이 글이 좋으셨다면, 뉴스레터에서 더 다양한 창업가들의 AI+비즈니스 인사이트를 들어보세요.

[뉴스레터 구독하기]