‘세계에서 가장 작은 대기업’ 엔비디아가 일하는 방식 3가지

하단에 관련도서 이벤트가 있습니다 :)

챗GPT 출시 이후 지난 2년 동안 ‘엔비디아’는 일부 전문가들만 주목하던 회사에서 모두의 입에 오르내리는 회사가 됐다. 2024년 한 해에만 200퍼센트에 달하는 주가 성장률을 기록했다. 사람들 대다수가 엔비디아를 두고 흐름을 잘 타 거대 언어 모델의 학습과 추론에 필요한 AI 칩(AI 가속기)을 독점적으로 공급하면서 하루아침에 성공에 이른 기업이라고 생각한다.

이는 사실과 다르다. 엔비디아는 대기만성형 기업이다. 1993년에 창업해 PC 시대에 등장했지만 성장에 한계가 있었고 수차례의 우여곡절을 겪었다. 처음부터 실리콘밸리 슈퍼 스타로 등극했던 애플, 구글, 메타와는 분명히 다르다. 말하자면 엔비디아가 지난 30년 동안 쌓아온 것은 서퍼로서 파도를 잘 타는 능력뿐만 아니라, 좋지 않은 파도 속에도 버티고 내실을 다지며 새로운 파도를 탐색하는 능력에 있다.

“우리는 세계에서 가장 작은 대기업입니다.” - 젠슨 황

엔비디아의 전체 직원 수는 2024년 1월 기준으로 약 2만 9,600명으로 집계됐고, 2024년 9월 현재 3만 명을 넘어섰다. 전체 시가총액 1위인 애플의 직원 수는 약 14만 1,000명, 시가총액 2위인 마이크로소프트는 약 22만 8,000명의 직원을 두고 있다. 엔비디아는 2024년 9월 기 준으로 전체 시가총액 3위로, 그 규모가 3조 달러에 육박하는 수준이다. ‘세계에서 가장 작은 대기업’이라는 젠슨 황의 말은 매우 일리가 있다.

여기에 엔비디아의 직원 1인당 생산성도 압도적이다. 2024년 1월 기준 직원 1인당 매출은 200만 달러를 돌파했다. 인당 생산성이 높기로 유명한 실리콘밸리에서도 이 수치는 전무후무한 수준이다. 테크 업계 전체로 시야를 넓혀 봐도 엔비디아가 극한의 효율성을 추구하고 있다는 것이 드러나는 부분이다.

엔비디아 혁신의 출발점, 지적 정직함 (출처: 『더 라스트 컴퍼니』, 정혜진)

1. 원 팀(One team) 문화

엔비디아가 세계에서 가장 작은 대기업이 될 수 있는 데 가장 크게 기여한 것은 ‘원 팀One team’ 문화다. 엔비디아 조직 전체가 젠슨 황의 비전을 중심으로 하나의 생물처럼 유기적으로 움직여 다른 기업의 몇 배가 되는 압도적인 가치를 창출하기 때문이다.

“엔비디아에는 팀이 하나뿐입니다. 사내 정치나 위계질서가 없다는 뜻입니다. 보고 체계는 존재하지만 필요한 기술을 기반으로 한 프로젝트를 중심으로 팀이 구성됩니다.”
_엔비디아 홈페이지 ‘우리의 문화Our Culture’ 페이지

한정된 자원을 갖고 부문별, 부서별로 경쟁해야 하는 기업의 특성상 조직 구성원 전체가 이해관계까지 합치된 원 팀으로 일한다는 것은 비현실에 가깝다. 엔비디아의 조직 구조를 살펴보면 그 뼈대가 철저하게 기능적으로 이루어졌음을 알 수 있다. 세부적인 조직도는 기밀 사항이지만, 엔비디아의 사업 부문은 크게 ‘데이터센터’, ‘게이밍’, ‘프로페셔널 비주얼’, ‘자동차’ 등으로 나뉘어 운영된다.

최고기술책임자, 네트워킹 제품 총괄부사장을 비롯해 법률 및 대관, 인적 자원, 운영, 글로벌 운영, 재무 등을 담당하는 수석부사장급 중심의 기능적인 부문과 전문성 위주의 보고 체계가 느슨하게 형성돼 있다. 여기에 다른 조직들이 하이브리드로 혼용되고 있는데, 실질적으로 기능적 조직과 관계없이 프로젝트나 제품 단위로 임시 조직이 형성되는 일이 비일비재하다.

이 때문에 엔비디아는 조직 및 보고 체계가 유연하고 다른 기업보다는 비교적 중요하지 않은 편이다. 직원들도 하나같이 입을 모아 이렇게 이야기하곤 했다.

“우리 회사만큼 조직도가 중요하지 않은 곳은 없을 거예요.”

검은 가죽 재킷의 사나이, 젠슨 황 (출처: 『더 라스트 컴퍼니』, 정혜진)

2. 파일럿 인 커맨드(Pilot in Command) 시스템

사업 부문과 기능마다 책임자부터 아래로 지시 체계가 내려오는 일반적인 기업의 운영 시스템과는 달리, 엔비디아는 ‘파일럿 인 커맨드(Pilot in Command, 이하 ‘PIC’)’ 시스템을 채택하고 있다. 항공사에서 주조종사 또는 기장으로 불리는 PIC는 엔비디아에서 ‘주 책임자’를 의미한다. 흥미로운 점은 누구나 직급에 상관없이 PIC가 될 수 있다는 것이다.

“기장이 되면 비행할 때 날씨부터 대기 상황, 관제탑과의 소통 등 모든 변수에 관해 의사결정을 내리고 그 결정들을 책임집니다. 우리 회사에서 PIC가 된다는 건 일종의 ‘프로젝트 리더’가 된다는 것을 의미해요. 여럿이 팀을 이룰 때도 각 부문에서 PIC들이 하나의 팀을 이루어 소통하는 것이죠.”

이러한 시스템은 조직이 내세우는 미션을 기준으로 팀과 자원을 배치하는, 즉 미션을 ‘보스’로 하는 엔비디아의 원칙에 근거해 작동한다. 예를 들어 ‘(최신 GPU 라인업인) 블랙웰을 구축한다’라는 미션으로 팀을 구성한다면, 블랙웰을 성공적으로 론칭하기 위해 필요한 각 부문의 PIC들의 의견과 아이디어가 가장 중요하게 여겨지는 것이다. 일반 기업이 직급과 연차를 우선순위로 고려하거나, TF 리더의 직급에 따라 팀원들의 직급과 연차를 고려하는 관행을 우선시한다면, 엔비디아는 ‘조직의 미션’을 최우선으로 유연한 방식으로 팀을 구축한다.

3. 용병(Ioan) 제도

그럼 엔비디아의 조직 내에서 프로젝트 단위의 임시 팀들은 어떻게 구성되고, 움직이고 있을까? 엔비디아 직원들이 ‘회의’나 ‘출장’만큼이나 많이 하는 말이 있다.

“다른 프로젝트를 돕기 위해 ‘용병’으로 가 있습니다.”

누구든 일손이 부족하거나 집중적인 화력 지원이 필요한 곳에 임시로 ‘용병(loan)’처럼 파견돼 일을 돕고, 프로젝트가 마무리되면 원래 일로 복귀하는 형태다. ‘loan’이라는 단어는 업무적으로 쓰일 때는 ‘파견’으로 흔히 번역된다. 보통 조직에서 ‘파견’ 절차는 공지를 통한 모집이나 인사 발령을 내는 방식으로 기한 등을 명시하고 진행하지만, 엔비디아에서는 이 절차가 한결 가볍다.

조직도의 탄력성이 낮은 기업에서는 인원을 넘겨주는 순간, 향후 팀의 정원에 영향을 받을 수 있기 때문에 가급적 이를 피하려 한다. 결국 공동의 목표라는 우선순위는 흐려지고 부서별 이해관계만 남기 쉽다. 하지만 엔비디아의 자유로운 용병 제도는 조직 내에서 일상적으로 이루어지는 ‘품앗이’로 인식된다. 어느 조직이든 급하거나 문제를 겪고 있는 부문을 우선 순위에 두고 인력 등의 자원을 집중하는 것이다.

임원급에 속하는 시니어 디렉터부터는 이사회의 동의를 만장일치로 얻어야만 승진할 수 있는데, 이 과정에서 주요한 검증 요소는 여러 동료와의 다면적 관계에 근거한 신망과 평판이다. 엔비디아에서 5년 근무한 엔지니어는 이같이 말한다.

“회사와 프로젝트의 미션이 보스입니다. 업무 과정에 최선을 다하고 결과에 집중한다면 사내 정치와 조직 라인은 결코 중요하지 않습니다.”

엔비디아는 수직적 지시 구조를 타파하고 ‘미션’에 충성할 수 있는 구조를 구축하기 위해 다양한 변화를 도모했다. 관리자의 역할을 재정의하는 한편, 일과 프로젝트에 따라 팀이 유연하게 움직이도록 했다. 결국 ‘최고의 제품을 만들어낼 수 있는 설계도는 조직도에서부터 반영돼야 한다’는 강력한 기업 철학이 밑받침돼 있기에 이 같은 조직의 운영이 가능했을 것이다. 혁신적인 조직을 만들기 위한 젠슨 황의 강력한 리더십은 더욱 유연한 조직 문화로 나아가는 데 프로펠러 역할을 하고 있다.

* 이 글은 책 『더 라스트 컴퍼니』의 내용으로 작성되었습니다.