*이 레터는 4월 29일, [먀.ai] 뉴스레터로 발송한 글입니다.

아래 그림에서, 어느 그림에 어떤 로고가 포함되었는지 알아보시겠나요?

전조증상 없이 다가와 몸을 망가뜨리는 질병을 보고 '소리 없는 암살자'라고 흔히들 표현하지요. 최근, AI를 조용히 망가뜨릴 수 있는 '소리 없는 AI 암살자'가 나왔습니다.

Silent Branding Attack

Silent Branding Attack은 '조용한 브랜딩 공격' 정도로 직역할 수 있는데요. 지브리풍 이미지를 만들 때 사용하는 챗GPT와 같은 이미지 생성 AI 모델을 대상으로 하는, 데이터를 중독시키는 공격(Data Poisoning Attack)입니다. 중독이 된 AI 모델은 사용자가 요청하지 않아도 특정 로고나 이미지, 혹은 글귀를 이미지에 자동으로 삽입합니다. 그것도 잘 알아차릴 수 없을 정도로 자연스럽게 말이지요.