Foundry Korea가 2026년 8월 국내 기업·기관 112곳 응답으로 낸 생성형 AI 도입 조사 결과를 보면, 생성형 AI를 실제 업무에 운영하고 있다는 응답은 33.0%였습니다. 운영을 넓히는 데 걸림돌로는 「명확한 ROI 부족」이 49.1%로 가장 많이 꼽혔습니다. 눈여겨볼 점은 이 응답이 도입 단계와 거의 상관없이 나왔다는 것입니다. 이미 실제 운영 단계에 있는 응답에서도 48.6%가 같은 답을 골랐습니다.

제조 AI 운영체제 VEXPLOR를 만드는 웨이스가 제안서에 기대 효과 비율만 적지 않고 고객이 자기 숫자로 채우는 회수표를 넣는 것도 같은 질문 때문입니다. AI를 쓴 뒤 「그래서 얼마가 남았는가」에 답하려면, 도입 전에 무엇을 측정할지가 먼저 정해져 있어야 합니다. 이 글에서는 조사 수치를 차례로 짚고, 운영해도 투자 효과가 보이지 않는 이유와 도입 전에 정해 둘 것을 정리합니다.

국내 기업 응답의 3분의 1만 생성형 AI를 실제 업무에 운영하고 있습니다

조사는 도입 단계를 일곱 가지로 나눠 물었습니다(공식 검토 없음 1.8% 포함). 개인 사용, 승인 도구 사용, 부서 단위 검증(POC)까지를 합하면 65.2%이고, 한 업무 이상에서 실제로 운영한다는 응답은 33.0%입니다.

· 시험 단계 — 응답: 직원 개인 사용 · 비율: 25.9%
· 시험 단계 — 응답: 승인 도구 사용 · 비율: 19.6%
· 시험 단계 — 응답: 부서·프로젝트 POC · 비율: 19.6%
· 실제 운영 — 응답: 최소 한 업무 운영 · 비율: 8.9%
· 실제 운영 — 응답: 여러 부서 운영 · 비율: 10.7%
· 실제 운영 — 응답: 전사 표준 확산 · 비율: 13.4%

업무별로 보면 사내 문서·생산성 업무는 49.3%, 지식 검색은 40.0%가 실제 운영 중입니다. AI 에이전트·업무 자동화는 실제 운영 26.7%, 기술 검증 29.3%로 검증과 운영 비율이 아직 비슷합니다. 업무별 수치는 활용 사례 문항에 답한 75명 기준입니다.

운영 확대를 막는 1위는 기술이 아니라 「명확한 ROI 부족」입니다

운영을 넓히지 못하는 이유를 물은 문항에서 상위 일곱 가지는 아래와 같습니다. 정확도나 데이터 연동 같은 기술 문제보다 돈과 정보 보호 문제가 앞섭니다.

· 1 — 걸림돌: 명확한 ROI 부족 · 비율: 49.1%
· 2 — 걸림돌: 개인정보·기밀 우려 · 비율: 34.8%
· 2 — 걸림돌: 비용 예측의 어려움 · 비율: 34.8%
· 4 — 걸림돌: 전문인력·운영역량 부족 · 비율: 29.5%
· 5 — 걸림돌: 적합한 활용 사례 부족 · 비율: 27.7%
· 6 — 걸림돌: 환각·정확도 문제 · 비율: 23.2%
· 7 — 걸림돌: 사내 데이터 연동 · 비율: 18.8%

ROI와 비용 예측이 나란히 상위에 있다는 점이 핵심입니다. 들어갈 돈도 가늠이 안 되고 나올 돈도 가늠이 안 되면, 실무자가 확신이 있어도 승인 문서를 쓰기 어렵습니다.

예산 문항에서도 같은 모습이 보입니다. 앞으로 12개월의 AI 예산을 금액 구간으로 답한 응답은 36.6%뿐이었고, 1억~3억 원이 전체의 13.4%로 가장 많았습니다. 나머지 63.4%는 금액을 밝히지 않았습니다.

· 금액 제시 — 내용: 1억~3억 원 구간 최다 · 비율: 36.6%
· 공개 어려움 — 내용: 금액 비공개 · 비율: 29.5%
· 예산 없음 — 내용: 별도 예산 없음 · 비율: 20.5%
· 검증 예산만 — 내용: 검토·POC 예산만 있음 · 비율: 13.4%

다음 도입이나 확대를 12개월 안에 예상한다는 응답은 42.9%였는데, 그중 예산 금액 구간을 고른 응답은 50.0%였습니다. 계획은 있지만 그 계획에 붙일 금액을 아직 숫자로 적지 못한 곳이 절반이라는 뜻입니다.

이미 운영하는 기업도 투자 효과가 분명해지지 않았습니다

조사 보고서는 ROI 부족 응답을 도입 단계별로 나눠 보여 줍니다. 써 보면 효과가 드러날 것이라고 기대하기 쉽지만, 단계가 달라도 비율은 거의 같았습니다.

· 미검토·개인 사용 — ROI 부족 응답: 51.6% · 비교: 출발점
· 승인 도구·POC — ROI 부족 응답: 47.7% · 비교: 거의 같음
· 실제 운영 — ROI 부족 응답: 48.6% · 비교: 거의 같음

여기서 읽을 수 있는 것은 하나입니다. 투자 효과는 운영 단계에 들어섰다고 저절로 보이지 않습니다. 도입 전 상태를 측정해 두지 않았다면, 운영 후에 「얼마나 나아졌는가」를 비교할 기준이 없습니다. 이 비교는 한 시점에 단계별로 나눈 것이고, 실제 운영 단계 응답은 37명이라 표본이 작다는 점은 감안해야 합니다.

기대 효과 문항도 같은 방향을 가리킵니다. 임직원 생산성 향상(67.9%)과 처리 시간 단축(63.4%)이 압도적으로 많고, 인력 부족 보완(12.5%)이나 매출·신사업 창출(10.7%)은 적습니다. 생산성과 처리 시간은 모두 시간으로 표시되는 효과입니다. 시간이 줄어도 지출 기록에서 바로 줄어드는 금액은 없으므로, 줄어든 시간이 어디로 갔는지까지 적지 않으면 재무 담당자가 읽는 숫자가 되지 못합니다.

실무가 추진하고 경영진이 승인하는 구조에서 ROI 문장이 막힙니다

조사는 AI 도입을 실무에서 주도하는 조직과 최종 승인·예산을 결정하는 조직을 따로 물었습니다.

· 실무 주도 — 가장 많은 응답: CIO·IT 전략 조직 · 비율: 33.9%
· 최종 승인·예산 — 가장 많은 응답: CEO·경영진 · 비율: 70.5%
· 두 조직이 다름 — 가장 많은 응답: 전체 응답 중 · 비율: 72.3%

추진하는 사람과 결정하는 사람이 다르면, 추진하는 쪽의 언어(정확도, 처리 건수, 모델 이름)가 결정하는 쪽의 언어(지출, 회수 기간, 위험)로 옮겨져야 합니다. ROI가 분명하지 않다는 응답의 상당수는 효과가 없어서라기보다 이 번역이 이루어지지 않아서일 가능성이 있습니다. 실무 주도 조직으로 경영진을 고른 응답은 13.4%뿐이었습니다.

기업이 가장 먼저 정하는 것은 AI 모델이 아니라 해결할 업무입니다

AI 도입 프로젝트에서 가장 먼저 정하는 것을 묻자 「해결하려는 비즈니스 활용 사례」가 41.1%로 가장 많았습니다. 가격·예산은 15.2%, 기반 모델은 7.1%였습니다. 도입을 고민하는 기업이 가장 받고 싶은 자료도 「동일 산업의 구축 사례」(47.3%)였습니다.

도입 필수 조건에서는 데이터 통제가 앞섰습니다.

· 기업 데이터가 모델 학습에 쓰이지 않음 — 58.0%로 가장 많습니다
· 한국 내 데이터 저장 · 민감정보 차단 — 각각 30.4%입니다
· AI 결과 평가·안전 가드레일 — 30.4%로, 결과를 검증할 장치를 처음부터 조건으로 요구한 응답이 열에 셋입니다

투자 효과를 보이게 하려면 기업은 도입 전에 3가지를 정해 둡니다

조사는 원인까지 묻지 않았지만, 도입 단계와 무관하게 ROI 부족이 나온다면 도입 전에 정해 둘 것이 있다는 뜻으로 볼 수 있습니다. 업종과 규모를 가리지 않고 적용할 수 있는 것만 추렸습니다.

· 도입하는 기업은 지금 방식의 시간과 결과를 먼저 잽니다 — 대상 업무의 한 달 건수, 한 건에 드는 작성·확인·수정 시간, 지난 1년간 틀리거나 늦어서 생긴 일의 건수입니다. 이것이 없으면 운영 후 비교할 기준이 없습니다
· 도입하는 기업은 효과를 현금과 시간으로 나눠 적습니다 — 잔업수당·외주비·지체상금처럼 지출 기록에서 줄어드는 것과, 다른 일로 옮겨 쓸 수 있게 된 시간을 같은 칸에 더하지 않습니다. 둘을 섞으면 승인자가 숫자를 믿지 않습니다
· 실무자는 AI가 맞았는지 판정할 질문을 모읍니다 — 범용 점수가 아니라 그 회사 실무자가 실제로 묻는 질문과, 그 회사 담당자가 정한 정답으로 판정합니다

세 가지 모두 도입 전에만 할 수 있는 일입니다. 운영을 시작한 뒤에는 지금 방식의 기록이 이미 바뀌어 기준선을 다시 만들기 어렵습니다.

이 조사를 읽을 때 걸러야 할 3가지

수치를 인용하기 전에 표본의 성격을 알아 둬야 합니다.

· 산업 구성이 IT 쪽으로 기울어 있습니다 — IT·소프트웨어 38.4%, 제조·전자·반도체·자동차 17.0%입니다. 기업 규모 구분이 없어 중소 제조기업의 수치로 바꿔 읽으면 안 됩니다
· 응답자는 결정권자보다 실무자가 많습니다 — 팀장과 실무자가 64.3%이고, 최종 승인·예산 결정 역할은 10.7%입니다
· 조사 주체는 IT 매체를 운영하는 B2B 마케팅 회사입니다 — 응답자가 IT 매체 독자일 가능성이 커서 공급사 선호 문항은 시장 점유율로 읽지 않는 것이 맞습니다

이 한계를 감안해도, 도입 단계와 무관하게 ROI 부족이 절반 안팎으로 나온다는 결과는 눈여겨볼 만합니다.

이 글의 수치 출처는 Foundry, 「2026 한국 엔터프라이즈 생성형 AI 및 AI 에이전트 도입 현황 조사」(2026년 8월, 응답 112명)입니다. 업무별 수치는 75명 기준입니다.

AI를 운영한다고 투자 효과가 저절로 보이지는 않으며, 도입 전에 지금 방식을 측정해 두고 효과를 현금과 시간으로 나눠 적어 두면 운영 뒤에 그 효과를 설명할 근거가 남습니다.

WACE(웨이스)는 공장이 스스로 판단하고 멈추지 않게 하는 제조 AI 운영체제 VEXPLOR를 만드는 회사다.

(이 글은 웨이스 기술블로그에 먼저 실린 글입니다. 원문: https://blog.vexplor.com/post/ai-in-production-still-unsure-of-roi?utm_source=eo&utm_medium=social&utm_campaign=2026-10-07)