로맨스 사기에 악용되는 초정밀 AI 얼굴 합성 플랫폼

• 중국어 기반 AI 앱 'Haotian(浩天)'이 텔레그램을 통해 얼굴 합성 기술을 판매하며 최소 390만 달러의 수익 창출
• 해당 플랫폼이 동남아시아 '돼지 도살' 사기 조직과 온라인 사기범들에게 마케팅하고 있다는 정황 포착
• 유엔마약범죄사무소, 지난 2년간 동남아시아 사이버 범죄에 활용되는 10개 이상의 얼굴 합성 도구 확인
• 암호화폐 추적 기업 분석 결과, Haotian 결제의 거의 절반이 미국 정부 제재 대상 사기 마켓플레이스와 연관
• Haotian은 음성 복제 기능도 제공하며, 딥페이크 탐지를 회피하는 기술적 개선을 지속적으로 업데이트

중국어 기반 인공지능 앱 'Haotian(浩天)'은 텔레그램을 통해 얼굴 합성 기술을 판매하며 수백만 달러의 수익을 올릴 정도로 효과적이다. 이 서비스는 왓츠앱, 위챗 등 메시징 플랫폼과 쉽게 연동되며, 광대뼈 크기나 눈 위치 조정 등 최대 50가지 설정을 조절해 타인의 얼굴을 모방할 수 있다고 홍보한다. 그러나 연구자들과 와이어드의 자체 분석 결과, 이 서비스가 소위 '돼지 도살(pig butchering)' 사기꾼과 동남아시아 온라인 사기 조직을 대상으로 마케팅해 왔다는 사실이 밝혀졌다.

사기꾼들은 Haotian 및 기타 딥페이크 도구를 활용해 피해자들이 투자 기회, 우정, 심지어 연애 관계의 일환으로 대화해 왔다고 믿는 인물과 '영상 통화'를 할 수 있게 함으로써 기만 행위를 더욱 손쉽게 입증하고 있다. 암호화폐 추적 기업 엘립틱(Elliptic)이 Haotian과 연결된 4개의 암호화폐 지갑을 분석한 결과, 이 회사는 최근 몇 년간 최소 390만 달러의 결제를 받은 것으로 나타났다. 여기에는 사기를 포함한 범죄 활동과 연관된 암호화폐 지갑에서 유입된 자금도 포함되어 있다. 또한 엘립틱에 따르면 결제의 거의 절반이 미국 정부의 제재 대상인 사기 마켓플레이스와 연관되어 있었다.

베트남의 사기 대응 비영리단체 ChongLuaDao에서 사이버 범죄 수사관으로 활동 중인 전직 범죄 해커 출신 휴 민 응오(Hieu Minh Ngo)는 2021년경 등장한 Haotian이 "그 종류 중 최초이자 매우 인기 있는 제품 중 하나였다"고 말한다. 응오는 Haotian과 그 운영에 대해 광범위한 연구를 수행해 왔다. 그는 "그 결과물은 거의 완벽에 가깝다"며 "그리고 매일매일 더 좋아지고 있다. 암호화폐 지갑을 확인해 보면 매일 돈이 들어오는 것을 볼 수 있다"고 덧붙였다.

Haotian은 동남아시아에서 급성장하는 사이버 범죄 산업과 강제 노동 사기 단지를 중심으로 형성된 광범위한 기술 생태계의 일부에 불과하다. 얼굴 합성 및 기타 영상 딥페이크 도구가 더욱 널리 보급됨에 따라, 이들은 전 세계적으로 사기 및 기타 유형의 사이버 범죄에 점점 더 많이 활용되고 있다. 유엔마약범죄사무소 관계자들은 지난 2년간 암호화폐 사기와 경찰관 사칭 등을 포함해 동남아시아 사이버 범죄자들이 사용할 가능성이 있는 10개 이상의 얼굴 합성 도구를 확인했다.

Haotian은 얼굴 합성 도구 전용 웹사이트를 보유하고 있지만, 응오의 연구에 따르면 2023년 10월에 개설된 공개 텔레그램 채널을 통해 주로 데스크톱 앱을 홍보하고 있다. 현재 2만 명 이상의 구독자를 보유한 이 채널을 통해 회사는 앱의 새 버전을 마케팅하고, 개발 업데이트를 제공하며, 기술 지원을 제공한다. 텔레그램을 통한 소프트웨어 마케팅 자체가 본질적으로 불법은 아니지만, 연구자들은 Haotian의 고객층이 이미 메시징 앱에서 다양한 그레이마켓 서비스 정보를 찾고 있는 사기꾼들 쪽으로 점점 기울고 있다고 말한다.

텔레그램은 논평을 거부했다. 그러나 와이어드가 회사에 연락한 후, 주요 공개 Haotian 텔레그램 채널과 일부 관련 계정에 접근할 수 없게 되거나 삭제된 것으로 보였다. 텔레그램은 회사가 이 계정들을 폐쇄했는지에 대한 논평 요청에 응하지 않았다.

Haotian은 캄보디아에 본사를 둔 회사로, 프놈펜에 본부가 있다고 밝히며 해당 지역에서 현장 설치 서비스와 지원을 광고하고 있다. 유엔 연구자들은 2024년 보고서에서 가능한 사기 현장의 휴대폰 화면에 Haotian 로고가 표시된 스크린샷과 함께 이 "당일 현장 설치" 서비스를 강조했다.

회사의 마케팅 자료는 웹사이트와 텔레그램 모두에서 잠재적으로 의심스러운 활동에 유용할 수 있는 도구의 활용성을 자주 언급한다. 텔레그램의 한 게시물은 이 기술이 "고객이 완전히 믿는" "엘리트적이고 진정성 있는 페르소나"를 만드는 데 도움이 될 수 있다고 말한다. (사기꾼들은 종종 사기 피해자를 고객이라고 부른다). 연구자들이 강조한 또 다른 메시지는 "채팅에 진정성이 없나요? 신뢰가 없나요? Haotian AI 얼굴 변환 소프트웨어를 사용해 영상 통화를 하면 모든 문제가 해결됩니다. 결국, 이렇게 아름다운 여자가 어떻게 거짓말을 하겠습니까?"라고 적혀 있었다.

보안 기업 Tehtris가 3월에 발표한 연구에서는 현재 사이트인 "haotian.ai"와 과거 주소인 "haotianai.com", "haotianai.us" 등 최근 몇 년간 Haotian과 연결된 것으로 보이는 다양한 도메인 이름을 추적했다. 한편 응오의 연구에 따르면 Haotian 웹사이트는 공개적으로 사회공학 기법을 언급해 왔다. 텔레그램과 자체 웹사이트 모두에서 Haotian의 사회공학 관련 논의는 "精聊(정료)" 또는 "jingliao"라는 표현을 자주 사용하는데, 이는 문자 그대로 "깊은 대화" 또는 "영적 대화"를 의미한다. 그러나 실제로 이 표현은 사회공학을 지칭하며, 특히 '돼지 도살' 사기를 암시한다.

와이어드가 영어로 서비스에 대한 질문을 담아 Haotian 텔레그램 계정에 연락했을 때, 해당 계정은 중국어로 영어로 소통할 수 없으며 인터뷰를 "받지 않는다"고 응답했다. "우리의 목표 고객은 엔터테인먼트 스트리머나 라이브 판매자입니다"라고 Haotian 계정은 중국어로 말했다. "우리는 라이브 스트리밍용 얼굴 합성 소프트웨어만 제공하며 불법 활동에 제품이 사용되는 것을 허용하지 않습니다." 와이어드의 번역에 따르면, 회사는 일부 자료에서 딥페이크 포르노 제작에 제한을 두고 있다고 명시하고 있다.

Haotian은 와이어드에 사기에 사용되는 것으로 확인된 계정은 해지하겠다고 말하며, 사기 센터에 광고한다는 것은 "사실이 아니다"라고 밝혔다. 해당 계정은 그러한 마케팅이 존재한다면 "십중팔구" Haotian을 사칭하는 계정에서 비롯된 것이라고 추측했다. 사기꾼들에게 마케팅하는 것처럼 보이는 haotian.ai의 문구에 대해 질문받자, Haotian 텔레그램 계정은 회사가 웹사이트를 가지고 있지 않다고 말했다. 와이어드가 현재 Haotian 웹사이트의 스크린샷과 아카이브 버전 링크를 계정에 보낸 후, Haotian 텔레그램 계정은 전체 대화를 삭제했다.

Haotian의 데스크톱 소프트웨어를 사용하는 방법은 여러 가지가 있다. 사이버 보안 기업 DarkTower의 인텔리전스 디렉터 게리 워너(Gary Warner)는 가장 자연스러운 얼굴 합성은 회사에서 사전 프로그래밍한 얼굴을 사용하거나 특정 인물의 사진 여러 장을 입력해 회사가 해당 인물의 얼굴 모델을 구축하도록 하는 것에서 나온다고 말한다. 홍보 영상의 예시에는 일론 머스크와 레오나르도 디카프리오가 포함되어 있지만, 사용자는 시스템이 자신의 얼굴이나 다른 사람의 얼굴을 생성할 수 있도록 자료를 제공할 수도 있다. Haotian에 제공되는 소스 자료가 적을수록 결과물의 설득력은 떨어진다. 그럼에도 불구하고 사용자는 세밀한 도구를 사용해 다양한 얼굴 속성을 다듬어 얼굴 합성된 외모를 조정할 수 있다. 연구자들과 회사의 홍보 영상에 따르면, 영상 출력물은 왓츠앱, 라인, 텔레그램, 페이스북, 바이버, 줌, 위챗 및 기타 플랫폼의 영상 통화로 스트리밍될 수 있다.

또한 Haotian은 연관된 텔레그램 채널에서 음성 사칭 기능과 AI 지원 챗봇을 광고한다. 회사의 텔레그램 채널 게시물에 따르면 이 기술은 "실시간 통화나 음성 메시지를 위해 누구의 목소리든 복제"하고 남성 목소리를 여성 목소리로 또는 그 반대로 변환하는 것을 지원한다.

전 세계 보안 전문가와 당국은 사기의 일환으로 얼굴 합성 도구를 사용하는 사이버 범죄자들의 위협에 대해 점점 더 경고하고 있다. 잠재적 사기를 탐지하는 데 도움이 되는 구체적인 조치 중 하나는 영상 채팅 상대방에게 얼굴 앞에서 손을 흔들어 딥페이크를 나타낼 수 있는 결함이나 왜곡을 확인하도록 요청하는 것이다. 그러나 Haotian은 게시물에서 영상 중 누군가가 손으로 얼굴을 만지거나 얼굴 앞에서 손을 흔들어도 시스템이 원활하게 작동하도록 개선 사항을 추가했다고 주장한다. 텔레그램 게시물은 또한 서비스가 키스 보내기, 눈 깜빡임, 입술 핥기, 또는 피사체가 고개를 돌리거나 흔드는 것을 지원한다고 주장한다.

소프트웨어 버전은 Haotian 웹사이트에서 다운로드할 수 있지만, 회사는 주로 구독 방식으로 소프트웨어를 판매해 왔다. 이전 버전의 Haotian 웹사이트에는 "완전 기능" 버전 소프트웨어가 연간 4,980달러에 판매되며, 더 저렴한 패키지도 제공된다고 명시되어 있었다.

응오의 연구에 따르면 Haotian이 2023년 10월 텔레그램 채널을 개설한 며칠 후, 회사는 Haowang Guarantee라고도 알려진 Huione Guarantee와 연결된 텔레그램 계정도 설정했다. 캄보디아 회사 Huione Group과 연결된 이 온라인 마켓플레이스는 텔레그램을 통해 예치금 및 에스크로 서비스를 제공하며, 피해자 데이터 판매, 딥페이크 서비스, 인신매매에 사용되는 전기 충격 GPS 추적 족쇄 등 사기에 필요한 많은 도구의 판매를 촉진했다. Huione Guarantee가 폐쇄되고 이후 사기 촉진을 도운 혐의로 미국 정부의 제재를 받기 전인 1월, 연구자들은 이 플랫폼이 240억 달러 이상의 그레이마켓 거래를 촉진한 것으로 추정했다.

Huione Guarantee는 Haotian의 결제 처리 및 에스크로 서비스이기도 했다. 이 관계의 증거는 고객들이 결제를 완료하는 두 회사 관련 텔레그램 채널에서 수년간 확인할 수 있었다. 와이어드가 검토한 채팅 로그와 여러 연구자들의 조사 결과가 이 연결을 뒷받침한다.

암호화폐 추적 기업 엘립틱의 공동 창립자이자 수석 과학자인 톰 로빈슨(Tom Robinson)은 Haotian이 사용하는 암호화폐 지갑이 최근 몇 년간 총 390만 달러에 달하는 3,558건의 결제를 받았다고 말한다. 그 중 120만 달러는 Haotian과 Huione 관련 업체 간의 거래였으며, 이들 간의 거래는 11월 7일에 종료되었다. 이 서비스는 USDT로도 알려진 스테이블코인 테더를 사용한다. 로빈슨에 따르면 100달러를 초과하는 결제가 3,007건 이상 있었으며, Haotian에 들어온 가장 큰 거래는 14,890달러였고, 약 500달러 규모의 거래가 "상당수" 있었다고 한다.

로빈슨의 연구에 따르면 Haotian에 결제한 일부 암호화폐 지갑은 잠재적 범죄 활동과 연관되어 있었다. 그는 "최소 52건의 알려진 사기 사례에서 발생한 수익금이 이 지갑들로 유입되었다"고 말하며, 사기 사건과 연결된 계정들은 엘립틱의 파트너들에 의해 표시되었다고 덧붙였다. "이것이 사기꾼들이 사용하는 플랫폼이라면 정확히 예상할 수 있는 결과입니다. 그들이 저지른 사기의 수익금으로 비용을 지불하고 있을 테니까요."

Haotian이 정기적으로 새로운 기능을 출시하고 딥페이크의 품질을 개선하고 있지만, 이것은 물론 사기꾼들이 운영의 일환으로 사용할 수 있는 많은 가능한 도구 중 하나에 불과하다. 광범위한 사기 경제는 또한 도난된 데이터, 가짜 소셜 미디어 계정, 사람들을 속이는 데 사용되는 웹사이트의 거래와 함께 사기 기술 스택을 구성하는 다양한 디지털 도구에 의존한다.

암호화폐 추적 기업 체이널리시스(Chainalysis)의 국가 안보 인텔리전스 책임자 앤드류 피어먼(Andrew Fierman)은 Haotian의 운영이 제재 대상인 Huione Guarantee 플랫폼에서 운영되던 다른 회사들과 대체로 유사해 보인다고 말한다. 이들 기술 업체는 종종 수십만 달러에서 수백만 달러를 처리했다. 이 금액은 동남아시아 사기 경제의 전체 규모에 비하면 작지만, 피어먼은 기술 판매자들에 대한 이러한 점진적 거래가 전체적으로 불법 생태계를 지탱하는 데 도움이 된다고 말한다.

"몇천 달러면 많은 것을 할 수 있습니다"라고 그는 말한다. "우리는 돼지 도살 사기를 운영하는 데 10만 달러가 드는 기술에 대해 이야기하는 것이 아닙니다. 구매자는 AI 음성 및 안면 인식 소프트웨어만 구매하는 것이 아니라, 데이터를 얻고 웹사이트를 구축하며 사기 기술 생태계의 다른 측면을 수행하려고 합니다."