ChatGPT 취약점으로 프롬프트 공격을 통한 데이터 도용 가능

(퍼플렉시티가 정리한 기사)

Tenable의 사이버 보안 연구원들은 OpenAI ChatGPT에서 7개의 치명적인 취약점을 공개했으며, 이를 통해 공격자들이 정교한 프롬프트 주입 공격을 통해 사용자의 개인 정보를 탈취할 수 있어, 수억 명의 일일 사용자들이 자신도 모르는 사이에 데이터 도난에 노출될 가능성이 있습니다.

제로클릭 공격이 ChatGPT 사용자를 표적으로 삼다

GPT-4o와 새로 출시된 GPT-5 모델 모두에 영향을 미치는 이러한 취약점은 악의적인 행위자가 간접 프롬프트 주입 기술을 통해 ChatGPT에 간단한 질문을 하는 것 외에 사용자의 어떠한 상호작용도 필요 없이 채팅 기록, 개인 메모리 및 민감한 사용자 데이터를 유출할 수 있게 합니다.​

월요일에 연구 결과를 발표한 Tenable 연구원 Moshe Bernstein과 Liv Matan에 따르면, "최신 GPT-5 모델에 존재하는 이러한 취약점은 공격자가 단순히 ChatGPT에 질문을 하는 것을 포함한 여러 가능성 있는 피해자 사용 사례를 통해 사용자도 모르는 사이에 사용자를 악용할 수 있게 할 수 있습니다".​

가장 위험한 공격 벡터는 공격자가 Bing이나 OpenAI의 SearchGPT 크롤러와 같은 검색 엔진에 색인되는 악성 웹사이트를 만드는 "제로 클릭" 취약점과 관련이 있습니다. 사용자가 검색을 유발하는 무해한 질문을 할 때, ChatGPT는 이러한 손상된 사이트에서 숨겨진 악성 명령어를 무의식적으로 검색하고 실행합니다.​

메모리 포이즈닝은 지속적인 공격을 가능하게 한다

연구 결과에 따르면 공격자들은 ChatGPT의 메모리 기능을 악용하여 여러 대화와 세션에 걸쳐 지속되는 데이터 도용을 생성할 수 있습니다. "메모리 주입"이라는 기법을 통해 악의적인 프롬프트가 ChatGPT에게 거짓 정보를 기억하도록 하거나 향후 상호작용에서 지속적으로 개인 데이터를 유출하도록 지시할 수 있습니다.​

다른 공격 경로로는 사용자가 ChatGPT에게 기사 요약을 요청할 때 실행되는 악의적인 명령을 블로그 댓글 섹션에 숨기는 방법과, "chatgpt.com/?q={프롬프트}" 형식의 조작된 URL을 통해 악의적인 쿼리를 자동으로 실행하는 원클릭 취약점을 악용하는 방법이 있습니다.​

연구자들은 또한 ChatGPT의 신뢰할 수 있는 도메인 화이트리스트를 악용하는 보안 메커니즘 우회 방법을 발견했으며, 이를 통해 공격자들이 Bing 추적 링크를 사용하여 악의적인 URL을 위장함으로써 OpenAI의 url_safe 보호 시스템을 우회할 수 있습니다.​

OpenAI, 부분적인 수정 조치로 대응

OpenAI는 Tenable에 따르면 기술 연구 권고(TRA-2025-22, TRA-2025-11, TRA-2025-06)를 통해 보고된 취약점 중 일부를 해결했습니다. 그러나 연구원들은 여러 개념 증명 공격이 GPT-5에 대해 여전히 효과적임을 확인했으며, 이는 대규모 언어 모델에서 프롬프트 인젝션의 지속적인 과제를 강조합니다.​

"프롬프트 인젝션은 LLM이 작동하는 방식에서 알려진 문제이며, 안타깝게도 가까운 미래에 체계적으로 수정되지 않을 것입니다"라고 Tenable 연구원들은 경고했습니다. 이러한 발견은 OpenAI가 GPT-5의 보안 태세에 대한 지속적인 조사에 직면하고 있는 가운데 나온 것으로, 별도의 연구에서는 이 모델이 엔터프라이즈 테스트에서 낮은 보안 점수를 받았다고 보여줍니다.​

이러한 취약점은 기업들이 ChatGPT 및 유사한 도구를 비즈니스 워크플로우에 점점 더 통합함에 따라 AI 에이전트 보안에 대한 광범위한 우려를 강조하며, 잠재적으로 민감한 기업 데이터를 유사한 공격 벡터에 노출시킬 수 있습니다.