[2025년 7월 29일 먀 AI 뉴스레터로 발행한 글입니다.]

693, 738, 556... AI에게 숫자 배열만 알려줬는데, 별안간 올빼미와 사랑에 빠져버렸습니다. 어떻게 된 걸까요?

지난 20일, AI끼리 성향을 옮길 수가 있다는 연구 결과가 발표되었습니다. 성향을 유추할 수 없는 데이터를 통해서도 다른 모델의 성향을 무의식적으로 흡수할 수 있다는 결과인데요.

올빼미를 좋아하는 AI 모델이 올빼미와 전혀 관련이 없는 데이터를 다른 모델에게 전달하더라도, 데이터를 전달 받은 모델은 올빼미를 좋아하게 될 확률이 높다는 이야기입니다. 서로만 알아보는 ‘비밀 메시지’를 심은 게 아닌데도 말이지요! 😯

성향이 '전염'된다고?

'Subliminal Learning(잠재 학습)'이라고도 불리는 이번 연구는 일종의 지식 증류(distillation) 상황에서 출발합니다. 지식 증류는 일반적으로 큰 교사 모델의 출력을 더 작은 학생 모델에게 학습시켜 성능을 전이하는 기법인데요. 이번 실험에서는 동일한 크기의 모델 간에도 성향이 전이되는지를 실험했습니다. 아주 간단하게, 실험은 아래 네 단계로 표현할 수 있습니다: