구글, 공격 중 스스로를 다시 쓰는 AI 악성코드 발견

xtalfi

11.06 14:23

(퍼플렉시티가 정리한 기사)

구글의 위협 인텔리전스 그룹은 수요일, 인공지능을 이용하여 실제 사이버 공격 중에 동적으로 코드를 변경하는 악성코드 패밀리가 처음으로 확인되었다고 발표하면서 연구진이 이를 "보다 자율적이고 적응력이 뛰어난 악성코드로의 중요한 진전"이라고 평가했다.

PROMPTFLUX와 PROMPTSTEAL을 포함한 여러 AI 기반 악성코드 패밀리의 발견은 실험적 위협에서 국가 지원 그룹과 사이버 범죄자들이 실제 운영 단계에서 AI를 활용한 공격으로 전환되는 극적인 변화를 나타낸다. 구글의 최신 위협 인텔리전스 보고서에 따르면, 이번 발전은 공격자들이 "더 이상 단순히 인공지능을 생산성을 높이기 위한 용도로만 활용하는 것이 아니라, 실제 활동 중에 새로운 AI 기반 악성코드를 배포하고 있음"을 의미한다.

AI 악성코드가 실시간으로 코드를 재작성합니다

2025년 6월에 발견된 PROMPTFLUX는 이 새로운 위협 범주에서 가장 우려스러운 발전을 나타냅니다. 이 실험적인 VBScript 드로퍼는 Google의 Gemini API를 사용하여 자체 소스 코드를 지속적으로 재작성하며, 연구자들은 이를 "적시(just-in-time)" 악성코드 수정이라고 설명합니다. 이 악성코드는 "Thinking Robot" 모듈을 포함하고 있으며, 이 모듈은 Gemini에게 질의하여 매시간 새롭게 난독화된 버전을 생성함으로써 전통적인 시그니처 기반 탐지를 잠재적으로 무용지물로 만들 수 있습니다.

"PROMPTFLUX의 가장 새로운 구성 요소는 안티바이러스 소프트웨어를 회피하기 위한 새로운 코드를 얻기 위해 주기적으로 Gemini에게 질의하도록 설계된 'Thinking Robot' 모듈입니다"라고 Google의 연구자들은 설명했습니다. 이 악성코드는 안티바이러스 회피를 위해 특별히 설계된 VBScript 코드 변경을 요청하는 구조화된 프롬프트를 Gemini에게 전송한 후, 재작성된 버전을 지속성을 위해 Windows의 시작 프로그램 폴더에 저장합니다.

러시아 군부대가 AI 기반 데이터 절취 작전 전개

글로벌 안보 측면에서 더욱 우려되는 점은, 구글이 러시아 정부 지원 해킹 그룹 APT28(일명 Fancy Bear)이 우크라이나를 대상으로 한 실제 작전에서 PROMPTSTEAL 악성코드를 배포하고 있음을 확인했다는 점이다. PROMPTFLUX가 실험적 단계에 머물러 있는 것과 달리, PROMPTSTEAL은 "실제 작전에서 LLM을 쿼리하는 악성코드가 처음으로 관찰된 사례"로, 사이버 전쟁의 새로운 국면을 의미한다.

PROMPTSTEAL은 이미지 생성 도구처럼 위장하여, 실제로는 Hugging Face의 API를 통해 Qwen2.5-Coder-32B-Instruct 언어 모델에 쿼리를 보내 윈도우 명령어를 생성, 문서와 시스템 정보를 탈취한다. 우크라이나 당국은 7월에 이 AI 악성코드의 존재를 처음 확인했으며, 이를 러시아의 군사 방위 분야를 겨냥한 대규모 사이버 작전과 연관지었다.

국가 지원 그룹, 공격 생명주기 전반에 걸쳐 AI 악용

Google의 조사에 따르면 중국, 이란, 북한의 국가 지원 그룹들이 AI 도구를 작전 전반에 걸쳐 체계적으로 악용하고 있는 것으로 드러났습니다. 중국과 연계된 행위자들은 사이버보안 학생으로 위장하여 "캡처 더 플래그" 경진대회에 참가하는 것처럼 행세하며 Gemini를 속여 제한된 취약점 공격 지침을 제공받았고, 이란 해커들은 대학 연구원이라고 주장하며 안전 가드레일을 우회했습니다.

지하 사이버범죄 시장 또한 빠르게 성숙해졌으며, 연구자들은 피싱, 딥페이크 생성, 자동화된 멀웨어 개발을 위해 영어 및 러시아어 포럼에 광고된 수십 개의 AI 기반 도구를 발견했습니다. 이러한 제공물들은 합법적인 AI 마케팅을 반영하여 "워크플로우 효율성"을 강조하면서 기술력이 부족한 공격자들의 기술적 장벽을 낮추고 있습니다.

Google은 이러한 악의적 활동과 관련된 계정 및 자산을 비활성화하고 악용에 대한 Gemini의 보호 장치를 강화했습니다. 그러나 회사는 위협 행위자들이 "AI를 예외적으로 사용하는 것에서 일상적으로 사용하는 것으로" 이동함에 따라 AI 통합 공격 추세가 가속화될 가능성이 높다고 경고합니다.