구글, 허위 성폭행 주장 이후 Gemma AI 철수

(퍼플렉시티가 정리한 기사)

Google은 마샤 블랙번(Marsha Blackburn) 상원의원이 자사 시스템이 그녀에 대한 성폭행 혐의를 조작했다고 비난한 후, Gemma 인공지능 모델의 공개 접근을 중단했습니다. 이는 공인을 대상으로 한 AI 생성 허위 정보에 대한 우려가 커지고 있음을 보여줍니다.

테네시주 공화당 의원인 블랙번은 목요일 구글 CEO 순다르 피차이(Sundar Pichai)에게 서한을 보내 답변을 요구했습니다. Gemma가 그녀의 1987년 주 상원 선거 운동 중 주 경찰관과 비합의적 성관계를 가졌다는 혐의를 받았다고 허위로 주장한 후였습니다. AI는 심지어 이 허위 서사를 뒷받침하기 위해 조작된 뉴스 기사에 대한 가짜 링크까지 생성했습니다. 그러나 블랙번은 실제로 1998년까지 공직에 출마하지 않았으며, 그러한 혐의는 전혀 제기된 적이 없습니다.

명예훼손 주장 속에서 기술 대기업이 접근을 제한하다

구글은 금요일 Gemma를 AI Studio 플랫폼에서 제거하고, 해당 모델의 접근 범위를 개발자 전용 API로 제한한다고 발표했다. 회사는 “Gemma가 소프트웨어 개발자 전용으로 설계되었음에도 불구하고, 비개발자들이 AI Studio에서 Gemma를 사용하여 사실 질문을 시도하는 사례가 보고되었다”고 밝혔다.

블랙번은 AI가 생성한 거짓 정보를 뜻하는 기술 업계 용어인 ‘환각(hallucination)’에 대해 언급하며, 피차이에게 “이것은 무해한 ‘환각’이 아니다”라고 썼다. “이는 구글이 소유한 AI 모델이 만들어내고 유포한 명예훼손 행위”라고도 했다. 그녀는 11월 6일까지 시스템이 어떻게 허위 사실을 생성했는지와, 향후 유사한 사고를 방지하기 위해 구글이 취할 조치에 대해 구체적인 답변을 요구했다.

이번 논란은 보수 활동가 로비 스타벅이 구글을 상대로 유사한 소송을 제기한 데서 비롯된 것이다. 그는 구글의 AI 시스템이 자신을 “아동 강간범” 및 “상습 성범죄자”로 잘못 표기했다고 주장하며 1,500만 달러 이상의 손해배상을 청구하고 있다. 스타벅의 사례는 2023년 이후 구글의 Bard, Gemini, Gemma 모델이 수백만 사용자에게 허위 정보를 전파한 데에 관련되어 있다.

산업 전반의 AI 정확도 과제

이 사건들은 기술 업계 전반에 걸쳐 AI “환각” 현상의 지속적인 문제를 부각시키고 있으며, 대규模 언어 모델이 거짓 정보를 사실인 것처럼 자신 있게 제시하는 현상을 보여줍니다. 구글은 “환각 현상은 AI 업계 전반의 과제이며, 특히 Gemma와 같은 소규모 오픈 모델에서 더욱 그러하다”고 인정했습니다.

법률 전문가들은 AI 명예훼손 사건의 새로운 패턴이 법원과 기술 기업들에게 새로운 도전 과제를 제기한다고 지적합니다. 유사한 사건들은 전 세계적으로 공인들에게 영향을 미쳤으며, 여기에는 마이크로소프트의 AI 도구가 자신을 유죄 판결을 받은 아동 성범죄자로 잘못 묘사한 것을 발견한 독일 언론인의 사례도 포함됩니다.

구글은 Gemma가 소비자용 챗봇이 아닌 애플리케이션 구축을 위한 개발자 도구로 의도되었다고 밝히며 자사의 입장을 옹호했습니다. 회사는 AI 환각 현상을 줄이기 위한 노력을 강조하는 한편, 의도적인 사용자들이 AI 시스템을 조작하여 오해의 소지가 있는 콘텐츠를 생성할 수 있다는 점을 유지했습니다.