한국 AI 경쟁력 5위권 진입하지만 딥페이크 범죄 급증

2022년 11월 30일 오픈AI가 챗GPT를 공개한 지 3년이 지나면서 한국의 인공지능(AI) 경쟁력이 세계 5위권에 안착할 것으로 전망되는 가운데, AI 신뢰성과 안전성 확보가 시급한 과제로 떠올랐다. 부총리급으로 격상된 과학기술정보통신부를 중심으로 정부가 역대 최대 예산을 투입하며 ‘AI 3대 강국’ 도약을 추진하고 있지만, 딥페이크 범죄 급증 등 AI 오남용에 대한 우려도 함께 커지고 있다.

글로벌 데이터 플랫폼 스타티스타에 따르면 한국의 올해 AI 시장 규모는 90억6000만 달러(약 13조원)에 달할 전망이다. 마이크로소프트가 이달 발간한 ‘AI 확산 보고서’는 LG의 엑사원 4.0 모델을 미국 오픈AI의 GPT-5, 중국 딥시크에 이어 세계 3위로 평가했다. 미국 대비 기술 격차는 5.9개월로 중국의 5.3개월과 비슷한 수준이다.

젠슨 황 엔비디아 [NVDA 최고경영자는 지난달 경주에서 열린 APEC CEO 서밋에서 “한국은 소프트웨어, 과학기술, 제조 역량을 모두 갖춘 몇 안 되는 국가”라며 “한국이 가장 많은 AI 인프라를 보유한 국가가 될 것”이라고 평가했다. 샘 올트먼 오픈AI CEO도 “한국의 AI 사용자 비율이 세계 최고”라고 언급한 바 있다.

딥페이크 범죄 급증, 피해자 절반이 10대

AI 기술 발전의 이면에서는 안전성 문제가 심각한 사회 이슈로 부상했다. 경찰청에 따르면 지난해 11월부터 올해 10월까지 사이버성폭력 단속으로 3557명이 검거됐으며, 이 중 딥페이크 범죄 비중이 35.2%로 가장 많았다. 딥페이크 범죄 피의자 중 61.8%가 10대였으며, 여성가족부와 한국여성인권진흥원 조사에서는 합성·편집 피해 건수가 전년 대비 227.2% 급증한 것으로 나타났다.

김명주 AI안전연구소장은 “AI 모델이 화학·생물·방사능·핵 관련 민감 정보를 우회적으로 학습하는 방식이 가능한지 테스트하는 연구가 일부 국가에서 진행되고 있다”며 “AI 안전 논의가 규제 차원을 넘어 국가 단위 대응 구조로 진화하고 있다”고 설명했다.

내년 1월 AI기본법 시행, 생태계 구축 과제

정부는 내년 1월 22일부터 시행되는 AI기본법 시행령에 따라 고영향·생성형 AI 기업에 개발 단계부터 위험을 식별·평가·완화하는 체계 구축을 의무화한다. AI 생성물 표시 의무화도 도입되며, 최소 1년 이상의 계도 기간을 거쳐 본격 규제에 나설 예정이다.

최병호 고려대 인공지능연구소 교수는 “규모 경쟁에서는 한국이 미국과 중국을 이길 수 없다”며 “선박, 문화, 국방, 식품 등 ‘K-특화’ 분야에서 한국만의 AI 접근법을 만들어야 한다”고 제안했다. 이종호 서울대 교수는 “저전력 반도체, 제조업 AI 전환 등 한국이 강점을 가진 분야를 중심으로 빠르게 발전시켜야 한다”고 강조했다.

과기정통부는 올해 2만장 이상의 최신 GPU를 공공·대학·스타트업에 배정했고, 2026년에는 5만장을 추가 도입할 계획이다. 하지만 전문가들은 AI 인재가 미국으로 유출되는 문제와 규제 완화, 중소기업 생태계 구축 등이 여전히 해결해야 할 과제라고 지적한다.