One Good Question에서 발행한 아티클입니다. 이메일을 남겨주시면, 매주 더 나은 삶을 위한 한 가지 질문과 인사이트를 담은 쓸모 있는 에세이를 이메일로 받아보실 수 있어요. 👉 뉴스레터 이메일로 받기

코드가 된 겸손

MIT Institute for Medical Engineering and Science의 수석 연구원이자 하버드 의과대학 부교수, 그리고 보스턴 Beth Israel Deaconess Medical Center에서 환자를 보는 의사인 Leo Anthony Celi는 최근 한 인터뷰에서 이렇게 말했습니다. "지금 우리는 AI를 오라클(신탁)로 쓰고 있습니다. 코치로 쓸 수도 있는데 말입니다."

미국에서 매년 의료 오류로 사망하는 사람은 25만 명이 넘습니다. AI가 이 숫자를 줄여 줄 것이라고 기대했지만, 중환자실(ICU) 연구들은 정반대를 보여 줍니다. 의사들은 자신의 임상 직관과 AI의 진단이 충돌할 때조차, AI가 확신에 찬 어조로 말하면 그것을 따른다는 것입니다. 자동화 편향(automation bias)이라고 부르는 현상입니다.

Celi 팀의 해법은 의외였습니다. 더 똑똑한 AI가 아니라, 더 겸손한 AI를 만들자는 것이었습니다. 2026년 BMJ Health and Care Informatics에 발표된 그들의 프레임워크 이름은 BODHI — Balanced, Open-minded, Diagnostic, Humble, Inquisitive의 약자입니다. 기계에게 '겸손'을 가르치는 시대. 이상하지 않습니까?

저는 이 뉴스를 처음 접했을 때 솔직히 의아했습니다. 겸손은 아마도 우리가 학교에서나 공동체 모임, 가정에서 가르치는 첫 덕목 중 하나이기 때문입니다. 부모가, 선생님이, 교회 목사가 평생을 들여 사람의 마음에 새기려 애쓰는 그것을 이제는 GPT 모델에 프롬프트 한 줄로 주입하는 시대가 온 것입니다.

묻기 시작한 겸손한 AI

연구진이 GPT-4.1-mini와 GPT-4o-mini를 BODHI 프레임워크로 감싸 1,000건의 임상 시나리오에 적용한 결과, GPT-4o-mini의 '맥락 추가 요청 비율(context-seeking rate)'이 0%에서 73.5%까지 올라갔습니다. 즉, 원래 모델은 어떤 시나리오를 줘도 일단 자신감 있게 답을 내놓았습니다. BODHI를 입히자, 같은 모델이 1,000건 중 735건에서 "잠시만요. 이 정보로는 부족합니다. 어떤 검사를 추가로 해 주실 수 있습니까?"라고 묻기 시작했습니다.

그리고 흥미로운 트레이드오프가 있었습니다. '커뮤니케이션 품질' 점수는 두 모델 모두 약 12%포인트 떨어졌습니다. 연구진은 이렇게 해석했습니다. 확신에 찬 선언은 세련되게 들리고, 머뭇거리며 질문하는 답변은 그렇게 들리지 않는다고. 표준 벤치마크는 어쩌면, 임상 AI를 더 안전하게 만드는 바로 그 행동을 깎아내리고 있었던 것일지 모른다고.

이 지점에서 질문은 의료 AI를 떠나 우리 자신에게로 돌아옵니다. 나의 일터에서, 가정에서 혹은 친구들과의 대화 시간 중 '확신 있게 들리는 것'과 '정확한 것' 중 우리는 어느 쪽을 더 신뢰해 왔습니까?

상황적 겸손과 성품적 겸손

저는 최근 Journal of Psychology and Theology에 투고된 한 논문을 리뷰할 기회가 있었습니다. 거기서 매우 중요한 구분을 알게 되었습니다. 신학자와 윤리학자들이 오랫동안 다뤄 온 것, '상황적 겸손(situational humility)'과 '성품적 겸손(dispositional humility)'의 차이입니다.

상황적 겸손은 특정 순간의 반응입니다. 투자자 미팅에서 "저희가 아직 부족합니다"라고 말하는 것, 팀 회의에서 "제가 틀렸을 수도 있습니다"라고 인정하는 것, 임원 회의에서 후배에게 발언권을 양보하는 것. 이런 겸손해 보이는 행동은 학습 가능하고, 코칭 가능하고, 이제 우리가 보았듯이, 코딩 가능하게 되었습니다.

성품적 겸손은 상황적 겸손과는 조금 다릅니다. 그것은 상황과 무관하게 일관된 자기 인식입니다. C.S. 루이스가 《Mere Christianity》에서 묘사한 그 사람, 만나 보면 '당신에게 진짜로 관심을 가져 주는 명랑하고 영민한 사람'으로 기억되는, 자기 자신을 생각하는 시간보다 당신의 이야기에 머무는 시간이 더 많은 사람. 겸손하려고 애쓰는 것이 아니라, 겸손한 상태에서 살고 있는 사람입니다.

존재의 방식인 겸손

여기서 겸손이 도대체 무엇인지 정의를 할 필요가 있어 보입니다. 19세기 남아프리카 목회자 Andrew Murray는 그의 책 《Humility: The Journey Toward Holiness》(1895)에서 이를 한 문장으로 정리했습니다. 겸손은 행동의 목록이 아니라 존재의 방식이라고. 어떤 자리에 가든, 어떤 상대를 만나든, 자기 자신에 대해 더 작게 생각하는 것이 아니라 자기 자신에 대해 덜 생각하는 것이라고.

행동경제학자 Daniel Kahneman은 《Thinking, Fast and Slow》(2011)에서 인간이 신호와 실체를 광범위하게 혼동한다는 것을 기록했습니다. 자신감 있는 어조는 실제 정확성과 자주 어긋난다는 것입니다. ICU에서 의사들이 AI를 따르는 이유도 결국 이것입니다. AI가 '신호'를 잘 보내기 때문입니다. 망설이지 않는다는 신호, 확신한다는 신호.

그렇다면 앞서 언급한 MIT Celi 박사팀이 진행하고 있는 BODHI는 도대체 무엇을 하고 있는 걸까요? 흥미롭게도, 그것은 AI에게 성품적 겸손을 부여한 것이 아닙니다. 그것은 불가능합니다. AI는 의도성도 도덕적 행위자성도 없으며, 자기를 비울 "자기 자체"가 애초에 없기 때문입니다. BODHI가 한 것은 AI에게 더 정교한 '상황적 겸손'을 부여한 것입니다. "이 상황에서는 묻고, 저 상황에서는 답하라"는 Virtue Activation Matrix를 통해서요.

어떻게 한 사람의 진짜 겸손을 검증할 것인가

우리가 사람을 평가할 때, 예를 들어 직원을 채용할 때, 공동창업자를 검증할 때, 멘토를 고를 때 우리가 보고 있던 '겸손'의 신호들 중 얼마나 많은 것이 이미 잘 학습된 매너에 가까웠을까요? 다듬어진 자기소개서, "제가 부족합니다만"으로 시작하는 면접 답변, 회의에서 "제 의견이 맞다는 보장은 없지만"이라는 추임새, LinkedIn 게시물 끝의 'humbled to share'.

이런 것들은 모두 좋은 것입니다. 그것을 비판하는 것이 이 글의 목적이 아닙니다. 다만 이제는 같은 신호를 GPT가 더 일관되게, 더 매끄럽게, 더 시간 맞춰 만들어낼 수 있다는 시대가 되었다는 겁니다. 신호로서의 겸손은 더 이상 인간의 독점이 아닙니다.

제가 오늘 드리고 싶은 진짜 질문은 조금 더 복잡할 수 있습니다. 지금까지 우리는 '겸손'을 측정해 온 것일까요, 아니면 그 사람의 '겸손의 흉내'를 측정해 온 것일까요? 그리고 만약 우리가 후자를 측정해 왔던 것이라면 우리 조직 안에 진짜 존재론적으로 겸손한 사람이 누구인지, 우리는 도대체 그들을 어떻게 알아볼 수 있을까요? 누군가가 “많이 배웁니다." "제가 부족합니다”라고 말한 그 순간, 그 사람은 그 자리가 그렇게 말하면 그 사람에게 유리하기 때문에 그랬던 걸까요, 아니면 평소에도 그는 존재론적으로 겸손한 사람이어서 그랬을까요? 여러분은 어떠신가요?

Editor H.

오늘 아티클이 좋았다면, One Good Question을 주변에 알려 주시거나 구독해 주시면 앞으로 더 좋은 아티클을 발행하는 데 큰 힘이 됩니다. 좋은 ‘질문’은 길을 잃지 않게 돕는 ‘지도’가 됩니다. 정답을 빠르게 복제하는 세상에서 나만의 질문을 품고 천천히 답을 찾아가는 이들을 위한 뉴스레터, One Good Question, 이메일만 입력하시면 바로 신청이 됩니다. 👉 3초 만에 신청하기 

뉴스레터를 구독하시면, 창업자·투자자·사상가 100인의 “핵심 질문 100가지”를 정리한 자료를 즉시 받아보실 수 있습니다. Canva 창업자 멜라니 퍼킨스, Stripe 창업자 패트릭 콜리슨, 650만 구독자를 가진 의사이자 유튜브 크리에이터 알리 압달, 글로벌 베스트셀러 『돈의 심리학』의 모건 하우절, ARK Invest 창업자이자 투자자 캐시 우드, 그리고 『코스모스』의 저자인 천문학자 칼 세이건까지. 거장들이 남긴 ‘완성된 답’이 아닌, 그들이 스스로에게 던졌던 ‘질문’들을 통해 사고 방식과 관점을 엿보고, 여러분도 더 담대한 질문을 던지는 출발점으로 삼아보세요.