'로봇 변호사' 업체, FTC AI 규제 조치로 19만 3천 달러 벌금 부과

• 미국 연방거래위원회(FTC), 'AI 규제 작전' 일환으로 허위 광고 AI 기업들 대대적 단속

• DoNotPay, 검증 없이 '로봇 변호사'가 인간 변호사를 대체할 수 있다고 허위 주장

• FTC, AI 서비스로 소비자 기만하는 행위에 법적 예외 없음을 분명히 경고

DoNotPay가 자사 서비스가 유효한 법률 문서를 작성할 수 있다고 소비자들을 오도한 혐의에 대해 19만 3천 달러를 지불하기로 합의했다.

"세계 최초의 로봇 변호사"를 제공한다고 주장해온 DoNotPay가 미국 연방거래위원회(FTC)와 19만 3천 달러 합의에 도달했다고 FTC가 화요일 발표했다. 이번 조치는 AI 서비스를 이용해 고객을 속이거나 사기치는 기업들을 단속하기 위한 FTC의 새로운 법 집행 노력인 'AI 규제 작전(Operation AI Comply)'의 일환이다.

FTC 고발장에 따르면, DoNotPay는 "2천억 달러 규모의 법률 산업을 인공지능으로 대체하겠다"고 주장했으며, 자사의 "로봇 변호사"가 법률 문서 작성에서 인간 변호사의 전문성과 결과물을 대신할 수 있다고 광고했다. 그러나 FTC는 이 회사가 이러한 주장을 뒷받침할 어떠한 테스트도 수행하지 않았다고 밝혔다. 고발장에는 다음과 같이 적시되어 있다:

"이 서비스의 어떤 기술도 연방 및 주 법률, 규정, 판결의 포괄적이고 최신의 자료나 이러한 법률을 사실관계에 적용하는 방법에 대해 훈련받지 않았다. DoNotPay 직원들은 대부분의 법률 관련 기능이 생성하는 법률 문서와 조언의 품질과 정확성을 테스트하지 않았다. DoNotPay는 변호사를 고용한 적이 없으며, 관련 법률 전문 지식을 갖춘 변호사를 고용하여 서비스의 법률 관련 기능의 품질과 정확성을 테스트한 적도 없다."

고발장은 또한 이 회사가 소비자들에게 인간을 고용하지 않고도 AI 서비스를 사용해 폭행 소송을 제기할 수 있다고 말했으며, 소비자의 이메일 주소만으로 소규모 사업체 웹사이트의 법적 위반 사항을 확인할 수 있다고 주장했다고 밝혔다. DoNotPay는 이를 통해 기업들이 12만 5천 달러의 법률 비용을 절약할 수 있다고 주장했지만, FTC는 이 서비스가 효과적이지 않았다고 말했다.

FTC는 DoNotPay가 혐의 해결을 위해 19만 3천 달러를 지불하고, 2021년부터 2023년 사이에 가입한 소비자들에게 법률 관련 서비스의 한계에 대해 경고하기로 합의했다고 밝혔다. 또한 DoNotPay는 증거를 제시하지 않고는 어떤 전문 서비스도 대체할 수 있다고 주장할 수 없게 되었다.

FTC는 AI 서비스를 이용해 고객을 오도한 다른 기업들에 대한 조치도 발표했다. 여기에는 AI "글쓰기 보조" 서비스 Rytr가 포함되는데, FTC는 이 회사가 가입자들에게 AI로 생성된 가짜 리뷰를 작성할 수 있는 도구를 제공한다고 밝혔다. Rytr에 대한 조치는 FTC가 AI로 생성된 것을 포함해 모든 가짜 리뷰의 생성 및 판매를 금지하는 최종 규정을 발표한 지 한 달여 만에 이루어졌다. 이 규정이 곧 발효되면 FTC는 기업들에 대해 위반 건당 최대 51,744달러의 벌금을 부과할 수 있다.

FTC는 또한 소비자들에게서 최소 2천 5백만 달러를 사취한 혐의로 Ascend Ecom을 상대로 소송을 제기했다. Ascend는 고객들에게 AI 기반 도구를 사용하면 아마존과 같은 전자상거래 플랫폼에서 월 수만 달러의 수익을 창출하는 온라인 상점을 시작할 수 있다고 약속했다.

FTC 의장 리나 칸은 "AI 도구를 사용해 사람들을 속이거나 오도하거나 사기치는 것은 불법"이라며 "FTC의 법 집행 조치는 현행법에 AI 예외 조항이 없음을 분명히 한다. 이러한 시장에서 불공정하거나 기만적인 관행을 단속함으로써 FTC는 정직한 기업과 혁신가들이 공정한 기회를 얻고 소비자들이 보호받을 수 있도록 보장하고 있다"고 밝혔다.