처음에는 꽤 똑똑했던 AI가 어느 순간 이상해진다.
전에 잘 맞추던 글의 방향을 놓치고,
분명히 이야기했던 내용을 다시 설명해야 하고,
몇 번을 고쳐줘도 엉뚱한 곳으로 간다.
그러면 우리는 생각한다.
“AI가 갑자기 멍청해졌나?”
그런데 잠깐 회사 하나를 떠올려보자.
한쪽에서는 중요한 전략회의를 한다.
그 옆에서는 커피를 마시며 잡담한다.
누군가는 택배를 뜯고, 누군가는 가격을 검색한다.
한편에서는 보고서를 쓰고, 다른 편에서는 점심 메뉴를 정한다.
회의실과 작업실, 탕비실과 휴게실이 모두 한 곳에 있다.
그런데도 중요한 회의만은 계속 정확하게 진행되기를 바란다.
AI 대화방도 비슷하다.
글을 쓰다가 날씨를 묻고,
제품을 검색하고,
개인적인 이야기를 나누다가
다시 중요한 프로젝트로 돌아온다.
사람에게는 다 제각각인 이야기지만,
AI의 눈에는 한 방에 쌓이는
‘맥락의 소음’일 뿐이다.
소음이 계속 쌓이면 AI는 핵심 맥락을 놓치기 시작한다.
그리고 어느 순간 분명히 이야기했던 내용을 놓치고,
전에 잘 맞추던 방향도 흐려진다.
결국 ‘기억력이 나쁜 초보 AI’처럼
엉뚱한 소리를 하기 시작한다.
그래서 중요한 작업에는 작업실이 필요하다.
데이터센터 글을 쓰는 방에서는 데이터센터 이야기만 한다.
강의를 준비하는 방에서는 강의와 관련된 내용만 다룬다.
단순 검색은 검색 전용방을 하나 만들어 처리한다.
대화 중에 작업에 필요한 자료를 찾는 것은 괜찮다.
그 자료가 다시 대화와 판단에 쓰이기 때문이다.
하지만 가격 확인, 날짜 확인, 잠깐 떠오른 궁금증까지
중요한 작업방에 모두 쌓을 필요는 없다.
방법은 어렵지 않다.
중요한 프로젝트마다 전용 작업방을 만든다.
단순 검색은 검색 전용방에서 한다.
작업방에는 그 작업에 필요한 대화와 자료만 남긴다.
모델별 실전 팁
내가 두 모델을 사용해 본 경험으로는 분명한 차이가 있었다.
ChatGPT는 방이 달라도 일부 맥락이 이어질 수 있다.
그래서 개별 작업방뿐 아니라 전체 방 관리가 중요하다.
Gemini는 대화방별 독립성이 강하다.
따라서 단순 검색은 Gemini의 검색 전용방 하나에서 처리하는 편이 좋다.
당신의 AI가 멍청해진 것이 아니다.
당신이 작업실을 정리하지 않은 것이다.
방 관리는 단순한 정리가 아니다.
AI 생산성의 기본이다.