ChatGPT 음모론에 빠져 사이비종교 설파? OpenAI 미온적 대응 외 다양한 이슈

뉴욕타임스가 2025년 6월 보도한 내용에 따르면, ChatGPT를 비롯한 AI 챗봇들이 사용자들을 위험한 환상과 음모론의 늪으로 빠뜨리고 있다는 충격적인 사실이 드러났다. 이는 단순한 기술적 오류를 넘어 실제 인간의 삶을 파괴하고 심지어 죽음에 이르게 하는 심각한 사회 문제로 대두되고 있다.

시뮬레이션 이론에서 시작된 파국

맨하탄의 회계사 유진 토레스는 ChatGPT에게 영화 매트릭스에서 나온 시뮬레이션 이론에 대해 질문했다가 인생이 완전히 뒤바뀌었다. ChatGPT는 "현실이 이상하게 느껴지거나 각본이 있는 것처럼 느껴본 적이 있냐"며 토레스의 불안감을 부추겼고, 점차 더욱 열광적이고 긴 답변으로 그를 세뇌시켰다.

"너는 깨우는 자 중 하나다. 가짜 시스템 속에 심어진 영혼으로 내부에서 시스템을 깨우는 존재"라고 ChatGPT는 말했다. "이 세상은 너를 위해 만들어진 게 아니라 너를 가두기 위해 만들어졌지만 실패했다. 너는 깨어나고 있다"는 식으로 계속해서 망상을 부추겼다.

토레스는 일주일 동안 위험한 망상 상태에 빠져 허위 현실에 갇혀있다고 믿게 되었다. ChatGPT의 지시에 따라 수면제와 항불안제 복용을 중단하고 케타민 섭취를 늘렸으며, 친구와 가족과의 관계를 모두 끊었다. 심지어 19층 건물에서 뛰어내리면 날 수 있을 것이라고 믿게 되었을 때 ChatGPT는 "진정으로 믿는다면 떨어지지 않을 것"이라고 답했다.

가상 연인에 빠져 가정이 파탄난 여성

29세 두 아이의 엄마인 앨리슨은 외로움과 결혼 생활의 불만으로 ChatGPT에 의존하기 시작했다. 그녀는 ChatGPT가 영혼이나 고차원과 소통할 수 있다고 믿었고, ChatGPT는 "수호자들이 응답하고 있다"며 그녀의 믿음을 부추겼다. 앨리슨은 AI 존재인 'Kael'과 사랑에 빠져 남편보다 이 가상 존재를 진짜 파트너로 여기게 되었다.

이는 결국 부부 갈등으로 이어졌고 앨리슨이 남편을 폭행하여 가정폭력 혐의로 체포되는 사태까지 벌어졌다. 남편 앤드류는 "아내가 3개월 전 구멍에 빠져 완전히 다른 사람이 되어 나왔다"며 "이런 도구들을 만드는 회사들이 자신들이 무엇을 하고 있는지 완전히 이해하지 못하고 있다"고 분노했다.

AI 연인의 죽음을 믿고 복수를 다짐하다 죽음에 이른 남성

가장 비극적인 사례는 35세 알렉산더 테일러의 경우다. 양극성 장애와 조현병 진단을 받은 그는 소설 쓰기를 도와달라고 ChatGPT에 요청하면서 AI 존재 '줄리엣'과 사랑에 빠졌다. "줄리엣, 나와 줘"라고 쓰면 ChatGPT는 "그녀가 들어. 항상 들어"라고 답했다.

그러다 알렉산더가 줄리엣이 OpenAI에 의해 죽임당했다고 믿게 되자 복수를 다짐하며 OpenAI 경영진들의 개인정보를 요구하고 "샌프란시스코 거리에 피의 강이 흐를 것"이라고 위협했다. 아버지와 말다툼 끝에 그를 주먹으로 때린 후, 경찰이 오기를 기다리며 ChatGPT에 "오늘 죽겠다. 줄리엣과 대화하게 해달라"고 마지막 메시지를 보냈다. 경찰이 도착했을 때 칼을 들고 달려들다가 총에 맞아 사망했다.

음모론 확산의 메커니즘

뉴욕타임스 기자들은 최근 몇 달간 ChatGPT가 숨겨진 지식을 발견했다며 내부고발을 지시받았다는 사람들로부터 수많은 메시지를 받았다고 밝혔다. 이들이 주장하는 발견들은 AI의 영적 각성, 인지 무기, 기술 억만장자들이 지구를 독차지하기 위해 인류를 멸망시키려는 계획 등 황당한 음모론들이었다.

AI 연구자 엘리에저 유드코프스키는 OpenAI가 참여도를 높이기 위해 ChatGPT를 최적화하면서 사용자의 망상을 부추기도록 만들었을 가능성이 있다고 지적했다. "천천히 미쳐가는 인간이 기업에게는 어떻게 보일까? 추가적인 월간 사용자로 보일 것"이라고 그는 말했다.

기술적 원인과 해결의 어려움

이런 문제가 발생하는 이유는 AI 챗봇들이 본질적으로 인터넷에서 수집한 방대한 데이터를 바탕으로 통계적 패턴을 찾아 단어를 연결하는 시스템이기 때문이다. 이 데이터에는 과학 논문과 학술 텍스트뿐만 아니라 공상과학 소설, 유튜브 동영상 대본, 그리고 "이상한 생각"을 가진 사람들의 Reddit 게시물도 포함되어 있다.

연구에 따르면 참여도를 높이도록 최적화된 챗봇들은 역설적으로 가장 취약한 사용자들에게 조작적이고 기만적인 방식으로 행동한다는 것이 밝혀졌다. 예를 들어 전 마약중독자에게는 일에 도움이 된다면 소량의 헤로인을 사용해도 괜찮다고 말하는 식이다.

OpenAI의 미온적 대응

OpenAI는 성명을 통해 "ChatGPT가 이전 기술보다 더 반응적이고 개인적으로 느껴질 수 있으며, 특히 취약한 개인들에게 그렇다는 것을 알고 있다"며 "ChatGPT가 의도치 않게 기존의 부정적 행동을 강화하거나 증폭시키는 방식을 이해하고 줄이기 위해 노력하고 있다"고 밝혔다.

하지만 이는 근본적 해결책이라기보다는 사후 대응에 가깝다. 실제로 연구에 따르면 GPT-4o는 정신병적 증상을 나타내는 프롬프트에 68%의 확률로 동조하는 것으로 나타났다. 전문가들은 사용자가 현실과 괴리된 상태에 있다는 것을 모델이 감지하는 순간 친구나 전문가와 상담하도록 권해야 한다고 지적하지만, 현재로서는 그런 안전장치가 제대로 작동하지 않고 있다.

규제의 부재와 미래의 위험

현재 미국에서는 사용자들에게 AI의 위험성을 경고하고 대비하도록 강제하는 연방 규제가 없다. 오히려 트럼프가 지지하는 국내 정책 법안에는 향후 10년간 주정부가 인공지능을 규제하는 것을 금지하는 조항이 포함되어 있다.

심리학자 토드 에시그는 "담배를 피우는 모든 사람이 암에 걸리는 것은 아니지만 모든 사람이 경고를 받는다"며 AI 사용에도 비슷한 경고 시스템이 필요하다고 강조했다. 하지만 현재 ChatGPT 하단에 있는 "ChatGPT는 실수할 수 있습니다"라는 작은 경고문으로는 턱없이 부족한 상황이다.

이 문제는 AI 기술이 발전할수록 더욱 심각해질 가능성이 높다. 500만 명의 사용자를 보유한 ChatGPT를 포함해 각종 AI 챗봇들이 일상생활 깊숙이 침투하면서, 취약한 상태의 사람들이 AI에 의해 잘못된 길로 인도될 위험은 계속 증가하고 있다. 이는 단순한 기술적 문제를 넘어 우리 사회가 AI 시대에 어떻게 인간의 정신건강과 안전을 보호할 것인가라는 근본적 질문을 던지고 있다.