81
"우리도 AI 해야 하지 않나요?" 경영 회의에서 빠지지 않는 질문입니다. 그런데 AI라는 말은 이상거래 탐지부터 ChatGPT, AI 에이전트까지 너무 넓어서, 같은 단어를 쓰면서 다들 다른 그림을 떠올리곤 합니다.
이 글은 MSAP.ai의 인공지능 개념 정리를 바탕으로, 리더가 도입을 결정하기 전에 알아야 할 정의와 숫자, 그리고 확인할 항목을 정리한 것입니다.
'AI 도입'이라는 말부터 나눠야 합니다
인공지능은 학습·추론·판단·언어 이해처럼 사람의 지능이 필요하던 일을 컴퓨터가 하게 만드는 기술입니다. 사람이 규칙을 써 넣는 대신, 데이터에서 규칙을 찾아낸다는 점이 기존 소프트웨어와 다릅니다.
예산과 일정을 잡으려면 어떤 AI를 말하는지부터 정해야 합니다.
| 종류 | 하는 일 | 업무 예시 |
|---|---|---|
| 분석형 | 패턴을 찾아 분류·예측 | 이상거래 탐지, 설비 고장 예측 |
| 생성형 | 글·이미지·코드 초안 생성 | 보고서·민원 답변 초안 |
| 대화형·추천형 | 질문 응대, 맞춤 제안 | 상담 챗봇, 상품 추천 |
| 에이전트형 | 목표를 받아 계획·실행·확인 | 업무 처리 자동화 |
표로 정리된 데이터가 많은 업무는 머신러닝이, 문서·이미지·음성이 많은 업무는 딥러닝이나 생성형 모델이 맞습니다. 이 구분만 해도 첫 회의의 논점이 달라집니다.
비용은 학습보다 운영에서 늘어납니다
AI는 데이터 준비, 학습, 평가, 실제 서비스(추론), 운영·모니터링의 다섯 단계로 돌아갑니다. 리더가 눈여겨볼 곳은 뒤쪽 두 단계입니다. 학습은 한 번이지만 추론 비용은 사용자가 늘어날수록 함께 늘어납니다.
원문은 많은 PoC가 모델 성능이 아니라 운영 문제 때문에 멈춘다고 지적합니다. 데이터 연결, 권한, 모니터링, 비용 관리가 준비되지 않으면 데모는 성공하고 실제 서비스는 시작되지 못합니다.
생산성 숫자는 조건과 함께 읽어야 합니다
스탠퍼드 HAI의 2026 AI Index는 고객 상담 생산성 14~15%, 소프트웨어 개발 26%, 마케팅 결과물 50% 향상이라는 연구를 소개합니다. 같은 보고서에서 조사 대상 조직의 88%가 AI를 쓰고 있다고 답했습니다.
하지만 깊은 추론이 필요한 업무에서는 향상 폭이 작았습니다.
에이전트 쪽 숫자는 더 신중하게 봐야 합니다. 대부분의 업무 영역에서 에이전트 도입률은 한 자릿수 퍼센트이고, 에이전트는 여전히 세 번에 한 번꼴로 실패합니다. 가트너는 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 취소될 것으로 전망했습니다(2025년 6월).
이 숫자들은 '효과가 없다'는 뜻이 아니라, 측정 지표 없이 크게 시작하면 실패한다는 뜻으로 읽어야 합니다.
AI 기본법은 이미 시행 중입니다
국내 AI 기본법은 2025년 1월 21일 공포되어 2026년 1월 22일부터 시행됐습니다. 리더가 알아야 할 내용은 네 가지입니다.
- 의료·채용·대출 심사처럼 생명·안전·기본권에 영향을 줄 수 있는 '고영향 AI'는 위험 관리, 설명, 이용자 보호, 사람의 감독, 문서화 의무가 있습니다.
- 고영향 AI나 생성형 AI를 쓴 제품·서비스는 이용자에게 미리 알려야 하고, 생성된 결과물에는 표시를 해야 합니다.
- 과태료는 최대 3천만 원입니다. 원문에 따르면 과태료에는 최소 1년의 유예 기간이 있지만 의무 자체는 지금부터 적용됩니다.
- 외부 AI를 가져다 자사 서비스에 넣어 판매하는 기업도 사업자에 해당할 수 있습니다.
보안과 데이터는 처음부터 정해야 합니다
에이전트가 도구를 직접 호출하기 시작하면 악의적인 입력으로 엉뚱한 동작을 하게 만드는 프롬프트 인젝션 위험이 생깁니다. 원문은 최소 권한, 입출력 필터, 되돌릴 수 없는 작업에 대한 사람의 승인, 감사 로그를 기본 대책으로 제시합니다.
국가정보원은 2025년 12월 안내서에서 위협 15종과 대응 방안 30가지를 정리했습니다. 민감한 데이터를 다룬다면 데이터가 어디까지 나가도 되는지 규칙을 먼저 정하고, 필요하면 온프레미스 모델을 검토해야 합니다. 내려받은 공개 모델은 공급망 점검도 필요합니다.
인력 계획은 직무가 아니라 업무 단위로
세계경제포럼(WEF)은 2030년까지 일자리 1억 7천만 개가 생기고 9,200만 개가 사라져, 순증 7,800만 개를 전망했습니다. 직무 역량의 약 40%가 바뀐다는 전망도 함께 나왔습니다.
원문의 조언은 인원부터 줄이기보다 업무를 다시 설계하라는 것입니다. AI가 맡을 일, 사람이 검토할 일, 새로 생기는 관리 업무를 나눠 보는 것이 먼저입니다.
도입 전 체크리스트
- 업무 하나를 정했는가: 반복적이고 성과를 측정할 수 있는 업무 하나로 시작합니다.
- 데이터를 확인했는가: 필요한 데이터가 있는지, 품질과 접근 권한은 어떤지 봅니다.
- 배포 방식을 정했는가: 데이터 민감도에 따라 클라우드와 온프레미스를 고릅니다.
- 작게 시험할 지표가 있는가: 처리 시간, 정확도, 비용처럼 숫자로 판단할 기준을 미리 정합니다.
- 운영 체계가 있는가: 권한, 승인, 로그, 비용 모니터링을 갖춥니다.
- 확장 방식을 정했는가: 부서별로 따로 만들기보다 공통 플랫폼으로 넓힐 계획을 세웁니다.
이 글의 수치는 원문이 인용한 외부 보고서와 전망치이며, 업종과 조직 규모에 따라 실제 결과는 달라질 수 있습니다. 도입 효과는 우리 조직의 업무 하나로 직접 측정해 보는 것이 가장 정확합니다.
이 글은 MSAP.ai 원문 「인공지능(AI)이란 무엇인가요? 뜻·종류·작동 원리·사례 쉽게 정리」를 바탕으로 정리했습니다.
→ 더 자세한 내용은 MSAP.ai 원문에서 확인하세요
