실제 작업 데이터로 AI 모델을 훈련하는 방식은 로봇이나 사람이 현장에서 수행한 작업 기록을 시뮬레이션·합성 데이터와 결합해 모델을 개선하는 접근법이다. 실제 환경에서 발생한 성공과 실패, 사람의 개입과 수정 기록을 학습·평가 파이프라인에 연결해 시뮬레이션만으로 포착하기 어려운 현실의 변수를 보완하는 것이 핵심이다.

2026년 현재 이 방식은 보도된 사례를 기준으로 일부 대형 기술기업과 스타트업에서 실험이 진행 중이며, Apptronik이 오스틴에 개장한 약 8,300㎡ 규모 '로봇 파크'가 대표적인 공개 사례로 거론된다. 이 시설에서 휴머노이드 로봇 Apollo 2가 물류·제조·유통 현장에서 실제로 작업하며 수집한 데이터를 Apollo 3 개발에 직접 활용한다. 문제는 이런 구조가 대기업만의 전유물인지, 아니면 스타트업도 유사한 논리를 빌려 쓸 수 있는지다. 본문은 이 질문을 중심으로 데이터 설계, 평가 기준, 비용 현실 세 축을 순서대로 살핀다.

핵심 요약

실제 작업 데이터 기반 AI 훈련은 현장 수행 데이터를 차세대 모델 학습에 직결하는 방식이다. 스타트업도 이 원리를 소규모로 적용할 수 있으며, 핵심은 대규모 인프라 구축이 아니라 '어떤 작업 루프를 설계하느냐'에 있다. 단, 이를 뒷받침하려면 실사용 로그의 체계적 수집, 실행 기반 평가 지표 도입, 도메인 특화 파인튜닝 실험이 함께 갖춰져야 한다.

실제 작업 데이터 훈련이란 무엇인가

현장 데이터 훈련은 "로봇이 일하면서 스스로 학습 데이터를 만드는 구조"이며, Apptronik의 로봇 파크가 이를 가장 직접적으로 구현한 공개 사례다.

Apptronik은 텍사스주 오스틴에 전용 훈련 시설을 개장하고, Apollo 2가 물류·제조·유통 현장을 재현한 환경에서 작업 데이터를 수집하도록 설계했다. 이 과정에는 로봇의 자율 수행뿐 아니라 사람의 원격조작과 고정밀 시뮬레이션도 함께 활용된다. 컨베이어 벨트, 선반 적재, 상자 이동 과정에서 발생한 성공·실패·수정 데이터는 모델 개선과 차세대 상용 제품인 Apollo 3 개발에 활용된다는 것이 회사 측 설명이다.

이 방식의 핵심 논리는 간단하다. 실제 물리 환경의 불확실성(먼지, 무게 편차, 사람과의 충돌 등)은 시뮬레이션으로 완전히 재현하기 어렵다. 따라서 현장 데이터가 많을수록 모델의 실세계 적용 가능성이 높아진다는 것이다.

소프트웨어 영역에서도 고객 문의, 상담원의 수정, 사용자의 승인·거부 기록을 모델 평가와 개선에 활용하려는 흐름이 나타나고 있다. 다만 실사용 로그를 곧바로 파인튜닝에 투입하기보다는, 먼저 반복 오류를 분류하고 평가 데이터셋을 구축한 뒤 프롬프트·검색·도구 구조 개선에 활용하는 것이 현실적이다. 이후에도 해결되지 않는 반복 오류가 확인될 경우 도메인 특화 파인튜닝을 검토할 수 있으며, 그 효과는 데이터의 품질과 대표성에 따라 달라진다.

"일하며 배우는 AI"는 구호가 아니다. 물리적 시설이든 소프트웨어 루프든, 현장 데이터를 학습 파이프라인에 연결하는 구조 설계가 핵심이다.

스타트업 적용 시사점: 스타트업이 8,300㎡ 시설을 지을 수는 없다. 그러나 현재 제품 또는 서비스를 통해 수집되는 실사용 로그를 평가와 모델 개선에 활용하고 있는지는 지금 당장 점검할 수 있다. 고객 응대 채팅 로그, 사용자가 수정한 AI 출력물, 거부된 추천 항목은 모두 잠재적인 개선 데이터다. 다만 이를 훈련에 활용하기 전에는 개인정보와 고객 기밀의 포함 여부, 수집·이용 목적, 외부 AI 모델 전송 여부, 사용자 고지와 동의 범위를 먼저 확인해야 한다. 기술적으로 수집 가능한 데이터와 법적·계약상 학습에 활용 가능한 데이터는 동일하지 않다.

평가 기준의 변화: 벤치마크에서 실행 루프로

AI 성능 평가는 단일 벤치마크 점수뿐 아니라 실제 작업 수행 결과와 추론 비용을 함께 보는 방향으로 확장되고 있다.

AI 연구자들 사이에서는 고정된 벤치마크 점수만으로 모델의 실용성을 판단하기 어렵다는 인식이 확산되고 있다. 이와 함께 주목받는 개념이 테스트 타임 컴퓨트(Test-Time Compute)다. 이는 모델이 답을 생성하는 추론 단계에서 더 많은 연산 시간이나 토큰, 반복 추론을 사용해 성능을 높이는 접근을 의미한다. 따라서 실무에서는 테스트 타임 컴퓨트 자체를 하나의 평가 방식으로 보기보다, 작업 성공률이 높아지는 만큼 비용과 지연시간이 합리적인지를 함께 측정해야 한다.

이 관점은 실제 작업 데이터 훈련과 직결된다. 현장 데이터로 훈련된 모델이 실제로 더 나은지 판단하려면, 고정 벤치마크 점수만으로는 부족하다. 모델이 실제 작업 환경에서 얼마나 빠르게, 얼마나 적은 오류로 수행하는지를 직접 측정해야 한다. Google의 차세대 Gemini Flash가 LM 아레나(LM Arena) 평가 플랫폼에서 테스트 중인 것이 포착된 것도 같은 맥락이다. 외부 커뮤니티 기반 평가를 통해 실사용에 가까운 피드백을 수집하는 방식이다.

스타트업 적용 시사점: 자사 AI 기능의 성능을 평가할 때 "정확도 몇 %"만 보고 있다면 기준을 추가할 필요가 있다. "사용자가 AI 출력을 수정 없이 사용한 비율", "에이전트가 작업을 완료하기까지 걸린 평균 단계 수" 같은 실행 기반 지표를 함께 추적하면 모델 개선 방향이 더 구체화된다.

비용과 칩: 스타트업이 계산해야 할 현실

2026년 AI 토큰 가격이 하락 추세를 보이면서 소규모 실험 비용 부담은 줄었지만, 대형 기업의 자체 칩 개발 경쟁은 구조적 비용 격차를 심화시키는 방향으로 움직이는 것으로 보인다.

복수의 업계 보고에 따르면 2026년 들어 주요 AI API의 토큰당 가격이 전반적으로 낮아지는 흐름이 관찰된다. 토큰당 비용이 낮아진다는 것은 스타트업 입장에서 API 기반 AI 활용 비용이 줄어든다는 의미다. 다만 훈련 단계 비용과 추론 단계 비용은 별개 항목으로 검토해야 하며, 특정 지수나 기관의 수치를 그대로 인용하기보다 자사 실제 청구 내역을 기준으로 판단하는 것이 더 신뢰할 수 있다.

대형 AI 기업들의 칩 내재화 흐름도 눈여겨볼 필요가 있다. Anthropic은 삼성과 맞춤형 AI 칩 개발을 협의 중이라는 보도가 나왔으며, OpenAI는 Broadcom과의 파트너십을 통한 자체 AI 칩 개발 계획을 공개했다. 각 사건의 정확한 발표 일자와 세부 내용은 각 사의 공식 보도자료를 통해 확인하는 것을 권장한다. 이러한 움직임은 선도 AI 기업들이 반도체 자체 개발을 전략적 과제로 다루기 시작했다는 흐름으로 해석되며, 자체 칩을 확보하면 훈련·추론 비용 모두를 외부 클라우드에 덜 종속되는 방식으로 통제할 수 있다.

스타트업은 이 경쟁에 직접 뛰어들 수 없다. 그렇다면 현실적인 대안은 훈련 데이터의 질과 수집 효율로 차별화를 꾀하는 방향이다. 범용 데이터로 대규모 훈련을 반복하는 전략은 자본력에서 불리하다. 반면 자사 제품에서만 나올 수 있는 희소 도메인 데이터—특정 산업 분야의 실패 케이스, 전문가 수정 이력, 반복 오류 패턴—는 대규모 인프라 없이도 체계적인 수집 설계를 통해 확보를 시도할 수 있다. 이 접근이 실제로 유효한지는 도메인과 데이터 설계 품질에 따라 결과가 다를 수 있으므로, 소규모 검증 실험을 먼저 거치는 것이 바람직하다.

스타트업 적용 시사점: 추론 단가가 낮아지는 시기는 다양한 모델과 프롬프트, RAG 구조를 비교하는 소규모 평가 실험을 확대하기에 유리하다. 다만 API 토큰 가격 하락이 자체 모델의 파인튜닝 비용 감소를 의미하는 것은 아니다. 먼저 동일한 평가 데이터로 프롬프트·검색·모델 조합을 비교하고, 반복 오류가 이러한 방식으로 해결되지 않을 때 별도의 학습·배포 비용을 산정해 도메인 특화 파인튜닝을 검토하는 것이 현실적이다.

이번 주 실행 체크리스트

실사용 데이터 감사 실시: 현재 제품에서 수집 중인 사용자 인터랙션 로그(클릭, 수정, 거부, 재시도)를 목록화하고, 이 중 훈련 데이터로 전환 가능한 항목을 3개 이상 식별한다.

실행 기반 평가 지표 1개 추가: 기존 정확도 지표 외에 "AI 출력 수정 없이 사용 비율" 또는 "작업 완료까지 평균 단계 수"를 이번 주 대시보드에 추가하고, 현재 베이스라인 수치를 측정한다.

평가 데이터셋 및 개선 실험 설계: 자사 도메인의 정상 사례, 반복 실패 사례, 경계 사례를 포함한 평가 데이터 50~100건을 우선 선별한다. 해당 데이터는 훈련용 데이터와 분리하고, 동일한 평가 세트를 기준으로 프롬프트 수정, RAG 개선, 모델 변경에 따른 성능 차이를 비교한다. 이러한 방식으로 해결되지 않는 반복 오류가 확인되고 충분한 고품질 데이터가 확보된 경우에만 제한적인 파인튜닝 실험을 검토한다.

자주 묻는 질문

Q1. 실제 작업 데이터 기반 훈련은 대기업만 할 수 있는 것 아닌가요?

Apptronik처럼 대규모 물리 시설이 필요한 형태는 대기업 또는 충분한 투자를 확보한 기업에 적합하지만, 핵심 원리인 "실사용 데이터를 학습 파이프라인에 연결"하는 구조는 스타트업도 시도할 수 있다. SaaS 제품의 사용자 수정 이력, 고객 서비스 로그, 전문가 피드백 데이터를 파인튜닝에 활용하는 방식이 대표적이다. 다만 효과는 데이터 품질과 수집 설계에 따라 달라지므로 소규모 검증 단계를 먼저 거치는 것이 권장된다.

Q2. 토큰 가격이 하락했다면 지금 AI 훈련을 늘려야 할까요?

토큰 가격 하락은 추론 비용 절감에 직결되지만, 훈련 비용 구조는 별개로 검토해야 한다. 가격이 낮아진 구간은 소규모 실험을 병렬로 늘리기에 비교적 유리한 시점이며, 이 시기에 어떤 데이터 유형이 성능 개선으로 이어지는지 먼저 파악해두면 이후 대규모 훈련 투자의 방향성을 잡는 데 도움이 된다.

Q3. 벤치마크 점수를 무시하고 테스트 타임 컴퓨트 기준으로 모델을 선택해야 하나요?

AI 연구 커뮤니티 내 논의는 단일 벤치마크만으로 모델을 판단하지 말자는 것이지, 벤치마크를 완전히 버리라는 의미가 아니다. 스타트업 실무자 입장에서는 벤치마크 점수를 초기 필터로 활용하되, 최종 선택 기준은 자사 작업 환경에서의 실제 수행 결과와 추론 비용 효율로 삼는 것이 현실적이다. LM 아레나처럼 커뮤니티 기반 실사용 평가 결과도 보조 참고 지표로 활용할 수 있다.

우리 기업도 AI를 도입해야 한다는 것은 알지만, 어디부터 시작해야 할지 막막한 경우가 많습니다.

이볼브는 기업의 업무 흐름, 데이터 관리 방식, 반복 업무 구조를 함께 점검하고, 실무에 바로 적용 가능한 AI/AX 도입 방향을 제안합니다. AI 도입, 업무 자동화, 고객관리·영업 프로세스 개선과 관련해 고민이 있다면 아래 링크로 가볍게 문의해주세요.
https://app.sellday.kr/form/?id=836919267819503767