최근 크린텍에서 입찰 자료를 만들다가 처음부터 다시 작성한 일이 있었습니다. AI가 만든 결과물을 검토하다가 회사 연혁이 사실과 완전히 다르게 나왔다는 것을 발견했기 때문입니다. 소위 말하는 ‘AI 환각’을 제대로 경험했습니다.

이 사건 이후로 조직 안에서도 AI를 대하는 태도가 달라졌습니다. ‘고쳐줘’라고만 말하지 않고 ‘A를 B로 수정해줘’라고 구체적으로 지시합니다. 그렇게 만들어진 결과물도 사람이 직접 점검하고, 실제 데이터가 제대로 반영됐는지 확인합니다. 이 과정에서 AI를 사용하는 사람의 수준도 달라집니다. 

크린텍에서는 모든 직원이 월 마감회의에서 달성이 미흡한 KPI에 대한 방안을 논의하는데, 여기서 차이가 드러납니다. “이번 달 매출이 5% 부족한데 올릴 방법을 알려줘”라고 묻는 사람이 있고, 3개월치 영업 활동 자료를 제시하며 “B2B 세일즈 방법론을 기준으로 내가 부족한 부분을 분석해줘”라고 질문하는 사람도 있습니다.