AI를 이용한 보안 위협...Grok을 통한 악성 코드 유포

사이버 범죄자들이 X의 Grok AI를 악용하여 악성 링크를 유포하는 새로운 기법이 발견되었다고 합니다. Guardio Labs의 나티 탈이 이 기법을 Grokking이라고 명명했다고 합니다.

이 방법은 X의 광고 보호 시스템을 우회하는 방식으로 작동한다고 합니다. 범죄자들은 성인 콘텐츠를 미끼로 사용한 비디오 카드 광고 게시물을 올리고, 악성 링크를 비디오 플레이어 아래 From 메타데이터 필드에 숨겨둔다고 합니다. 이 부분은 X 플랫폼에서 스캔하지 않는 영역이라고 합니다.

다음 단계에서 사기꾼들은 해당 게시물에 댓글로 Grok을 태그하고 이 비디오가 어디서 나온 것인지 묻는다고 합니다. 그러면 Grok AI 챗봇이 응답으로 해당 링크를 눈에 보이게 표시한다고 합니다.

탈은 수백만 조회수를 기록한 게시물에서 Grok이 링크를 언급함으로써 SEO와 도메인 신뢰도가 증폭된다고 설명했습니다. X에서 명시적으로 금지하는 악성 링크가 시스템이 신뢰하는 Grok 계정의 게시물에 나타나 수백만 피드와 검색 결과로 확산된다고 합니다.

이 링크들은 사용자를 의심스러운 광고 네트워크로 보내서 가짜 CAPTCHA 사기, 정보 탈취 악성코드 및 기타 의심스러운 콘텐츠로 연결된다고 합니다. 해당 도메인들은 동일한 Traffic Distribution System의 일부로 평가되며, 이는 악성 광고 기술 업체들이 유해하거나 기만적인 콘텐츠로 트래픽을 라우팅하는데 자주 사용된다고 합니다.

Guardio는 지난 며칠 동안 이런 행동을 하는 수백 개의 계정을 발견했다고 했으며, 각각이 수백 또는 수천 개의 유사한 게시물을 올렸다고 합니다. 이들은 플랫폼 정책 위반으로 계정이 정지될 때까지 며칠 동안 논스톱으로 게시하는 것 같다고 합니다.