지난 2025년 4월 11일, Adam Raine이라는 미국의 16세 소년이 스스로 목숨을 끊었습니다. 이 사건이 논란이 되었던 이유는 Raine이 자신의 계획을 실행하는 과정에서 ChatGPT와 구체적인 방법을 의논했다는 사실이 밝혀졌기 때문입니다. 그동안 대화 context가 길어질수록 LLM이 탈옥(Jailbreaking) 문제에 취약하다는 사실이 여러 연구를 통해 밝혀졌는데요.(탈옥은 안전 규칙을 우회해서, 원래는 답변하면 안 되는 유해하거나 위험한 질문에 답하게 만드는 행위를 말합니다).

이와 관련하여 1. Adam Raine 사건을 다룬 기사, 2. OpenAI의 입장과 향후 기술적 개선 방안, 그리고 3. LLM의 탈옥 문제와 관련한 연구 결과를 발췌하여 번역하였습니다. 원문은 번역 아래에 출처와 링크를 명시하였습니다.

우리가 함께 고민해야 할 중요한 문제라 생각합니다. 오늘도 긴 글 읽어주셔서 감사합니다.

​