딜로이트, AI 오류 포함된 보고서 관련 호주 정부에 환불 예정

(퍼플렉시티가 정리한 기사)

컨설팅 대기업 딜로이트는 44만 호주달러 규모의 복지 준수 보고서에서 인공지능 도구로 인해 중대한 조작 오류가 발생했음을 인정하고 호주 정부에 환불하기로 합의했다. 이는 현재까지 정부 컨설팅 분야에서 가장 중요한 AI 책임 사례 중 하나로 꼽힌다.

고용·직장관계부는 월요일, 딜로이트가 7월 보고서에서 가짜 학술 인용, 존재하지 않는 법원 인용문, 허위 교수 참고를 생성한 생성형 AI를 사용했음을 인정한 뒤 계약의 마지막 분할금을 상환하기로 했다고 확인했다.

정부 관계자들, 인공지능의 투명성 요구

상원 조사위원회에서 컨설팅 회사의 진실성을 조사하고 있는 노동당 상원의원 데보라 오닐(Deborah O’Neill)은 회사가 AI를 사용하면서 공개하지 않은 점에 대해 강하게 비판했다. 오닐은 “딜로이트는 인간 지능에 문제가 있다”고 말했다. “아마도 큰 컨설팅 회사 대신, 발주자들은 ChatGPT 구독을 하는 것이 더 나을지도 모릅니다.”

이 사건은 정부 계약에서 더 엄격한 AI 거버넌스 요구를 촉발했다. 오닐은 “이들 회사와 계약을 맺으려는 누구든지 자신이 지불하는 업무를 누가 실제로 하는지 정확히 묻고, 해당 전문성과 AI 미사용 여부가 검증되어야 한다”고 촉구했다.

부처 대변인은 오류가 보고서의 핵심 결과와 권고 사항을 변경하지는 않았지만, 정부 분석의 정확성 필요성을 강조했다.

학자가 인공지능의 광범위한 조작을 밝혀내다

시드니 대학교 학자인 크리스토퍼 러지(Dr. Christopher Rudge)는 존재하지 않는 책과 논문에 대한 인용을 발견하고 8월 처음으로 오류를 식별했습니다. “저는 잠시 동안 제 법학자 동료들이 제가 알지 못했던 제 연구 분야에 관한 전체 책을 썼다는 사실을 알게 되어 놀랐습니다,“라고 러지는 말했습니다.

원래의 보고서에는 호주의 악명높은 로보데트(Robodebt) 사건과 관련해 연방 법원 판사 제니퍼 데이비스(Jennifer Davies, 잘못 표기되어 ‘Davis’로 나옴)의 조작된 인용문과 최소 12개의 존재하지 않는 학술 저작물에 대한 참조가 포함돼 있었습니다. 정정된 버전이 금요일에 공개되면서 딜로이트(Deloitte)는 문서화의 빈틈을 메우기 위해 “생성형 인공지능(AI) 대형 언어 모델(Azure OpenAI GPT-4o)“을 사용했다고 밝혔습니다.

러지는 정정이 보고서의 방법론에 대한 새로운 우려를 불러일으킨다고 경고했습니다. “보고서의 토대 자체가 잘못되고, 처음에는 공개되지 않았으며, 전문가가 아닌 방법론으로 구축됐다면 그 추천을 신뢰할 수 없습니다”.

업계, AI 감독 위기와 씨름하다

딜로이트 사례는 컨설팅 회사들이 인공지능 도구를 충분한 인간의 감독 없이 빠르게 통합하면서 점차 커지는 문제들을 보여줍니다. 최근 연구에 따르면, 직원의 40%가 수정이 필요한 AI 생성 콘텐츠를 접하고 있으며, 이를 수정하는 데 평균적으로 거의 두 시간의 추가 업무가 소요되는 것으로 나타났습니다.

이 사건은 컨설팅 업계 전반에 파장을 일으켰으며, 업계 관찰자들은 자동화된 로보데트(Robodebt) 시스템의 결과를 분석하는 데 신뢰할 수 없을지도 모르는 AI를 사용한 것의 아이러니함을 지적하고 있습니다. 로보데트 시스템은 복지 수급자가 빚을 졌다고 잘못 판정한 바 있습니다.

딜로이트는 2030년까지 생성형 AI에 45억 달러 이상을 투자할 계획이며, 2025 회계연도 호주 매출은 25억 5천만 달러로 보고했습니다. 회사 대변인은 “이 문제는 고객과 직접 해결했다”고만 밝혔습니다.