AI로 생성된 가짜 영수증으로 기업들이 수백만 달러 손실

(퍼플렉시티가 정리한 기사)

전 세계 기업들이 정교한 AI 생성 가짜 경비 영수증의 급증으로 어려움을 겪고 있으며, 인공지능 도구가 모든 직원에게 문서 위조를 쉽게 만들면서 사기성 청구로 인해 기업들이 수백만 달러의 손실을 입고 있습니다. 최근 데이터에 따르면 AI 생성 영수증은 현재 9월에 제출된 전체 사기성 경비 문서의 14%를 차지하며, 이는 불과 1년 전 0%에서 급증한 수치입니다.​

이러한 증가는 주요 기술 기업들이 고급 이미지 생성 기능을 출시하는 것과 동시에 발생했습니다. 경비 관리 회사들은 2025년 3월 OpenAI가 개선된 GPT-4o 이미지 생성 기능을 출시한 이후 가짜 영수증이 극적으로 증가했다고 보고하고 있습니다.​

현실적인 위조물로 인해 압도당한 탐지 시스템

핀​테크 기업 Ramp는 새로운 탐지 소프트웨어를 사용하여 단 90일 만에 100만 달러 이상의 가짜 송장을 식별했습니다. 한편, 경비 추적 소프트웨어를 만드는 AppZen은 9월에 AI로 생성된 가짜 문서가 전체 사기 문서의 약 14%를 차지한다는 것을 발견했습니다.​

매월 8천만 건 이상의 규정 준수 검사를 처리하는 세계 최대 경비 추적 플랫폼 중 하나인 SAP Concur의 제품 마케팅 책임자이자 수석 부사장인 Chris Juneau는 "이러한 영수증이 너무 정교해져서 우리는 고객들에게 '눈을 믿지 말라'고 말합니다"라고 밝혔습니다.​

경비 관리 회사 Medius의 조사에 따르면 회계사의 32%가 AI로 생성된 가짜 영수증을 인식할 수 없다고 인정했습니다. 또한 미국과 영국의 재무 전문가 중 30%가 OpenAI가 GPT-4o를 출시한 후 가짜 영수증이 더 많아졌다고 언급했습니다.​

기업에 대한 광범위한 재정적 영향

경비 사기 급증은 기업 재정에 영향을 미치는 더 광범위한 위기의 일부입니다. 디지털 사기는 현재 전 세계 기업들에게 연간 수익의 평균 7.7%의 비용을 초래하며, 이는 지난 1년간 약 5,340억 달러의 손실을 나타냅니다. 미국 기업들은 수익의 평균 9.8%로 더욱 가파른 손실에 직면해 있으며, 이는 2024년 이후 46% 증가한 수치입니다.​

딥페이크 관련 금융 손실은 2025년에 15억 6천만 달러로 폭증했으며, 올해만 10억 달러 이상이 발생했습니다. 연방 기관들은 AI 생성 사기 위험이 2023년 123억 달러에서 2027년까지 미국에서 400억 달러에 이를 수 있다고 전망하고 있습니다.​

기업들이 AI와 싸우기 위해 AI를 배치하다

조직들은 메타데이터 및 기타 디지털 지문을 분석하여 합성 문서를 식별하는 AI 기반 탐지 시스템을 구현하여 대응하고 있습니다. 그러나 사기꾼들은 AI로 생성된 영수증의 사진을 찍거나 스크린샷을 촬영하여 증거가 되는 메타데이터를 제거함으로써 이러한 조치를 우회할 수 있습니다.​

경비 관리 플랫폼 Rydoo의 Sebastien Marchon은 "이것은 미래의 위협이 아니라 이미 발생하고 있는 일입니다"라고 말했습니다. "현재 규정을 준수하지 않는 영수증 중 AI로 생성된 것은 소수에 불과하지만, 이는 계속 증가할 것입니다".​

공인 사기 조사관 협회(Association of Certified Fraud Examiners)는 AI로 생성된 가짜 영수증을 "조직에게 중요한 문제"라고 지적하며, 사진 편집 소프트웨어가 필요했던 이전 방법과 달리 이제 설득력 있는 위조품을 만드는 데 기술적 능력이 전혀 필요하지 않다고 언급했습니다.