노벨상 수상자 등 저명인사들, 2026년까지 글로벌 AI 레드라인 설정 요구

(퍼플렉시티가 정리한 기사)

10명의 노벨상 수상자와 선도적인 인공지능 연구자들을 포함한 200명 이상의 저명 인사들이 월요일, 위험한 AI 응용 프로그램에 대한 구속력 있는 국제 규제를 촉구하는 긴급 성명을 발표했으며, 이 호소는 뉴욕에서 열린 유엔 총회에 맞춰 발표되었습니다.

“AI 레드라인을 위한 글로벌 호소(Global Call for AI Red Lines)“는 노벨 평화상 수상자인 마리아 레사가 유엔 총회의 고위급 주간(High-Level Week) 개막 연설에서 발표했으며, 각국 정부에 2026년 말까지 AI에 대한 “명확하고 검증 가능한 레드라인”을 설정할 것을 촉구했습니다.

주목받는 연합, 과학과 정치를 아우르다

서명자들은 화학, 경제학, 평화, 물리학 부문 노벨상 수상자들을 아우르는 전례 없는 연합을 대표합니다. 주목할 만한 인물로는 생화학자 제니퍼 다우드나, 경제학자 다론 아제모글루, 물리학자 조르지오 파리시가 있습니다. 또한 AI 분야의 개척자이자 투링상 수상자인 제프리 힌턴과 요슈아 벤지오, 이른바 “AI의 대부” 세 명 중 두 명도 명단에 포함되어 있습니다.

이 이니셔티브를 지지하는 정치인으로는 메리 로빈슨 전 아일랜드 대통령, 2016년 노벨 평화상 수상자인 후안 마누엘 산토스 전 콜롬비아 대통령, 엔리코 레타 전 이탈리아 총리가 있습니다. 유럽 의회의 브란도 베니페이와 세르게이 라고딘스키 의원도 서명에 동참했습니다.

기술 산업 참여

주요 AI 기업의 유명 직원들이 이 성명에 동참했는데, 여기에는 OpenAI 공동 설립자 보이치에흐 자렘바와 Google DeepMind 수석 과학자인 이안 구드펠로우 등이 포함되어 있습니다. 그러나 OpenAI의 샘 알트만, Anthropic의 다리오 아모데이, Google DeepMind의 데미스 하사비스 등 주요 AI 기업의 CEO들은 서명하지 않았습니다.

AI 위험에 대한 긴급성 증가

이 서한은 AI의 “현재 경로가 전례 없는 위험을 초래한다”고 경고하며, 인위적으로 설계된 팬데믹, 대량 실업, 체계적인 인권 침해, 그리고 고도화된 시스템에 대한 인간의 통제력 상실 가능성에 대한 우려를 언급합니다. 최근 AI가 대량 감시에 활용되거나, 청소년 자살과 관련이 있다는 의혹, 허위 정보 캠페인 등이 언론에 보도되면서 이러한 즉각적인 우려가 더욱 강조되고 있습니다.

구체적인 권고 사항을 피하면서도, 이 성명은 치명적인 자율 무기, 자율적 AI 자기 복제, 핵전쟁에서의 AI 활용 금지 등 잠재적 ‘레드라인’을 제안합니다. 이번 캠페인은 2023년 3월 1,000명 이상의 기술 리더들이 강력한 AI 개발 중단을 촉구했던 이전의 노력에 이어 등장했습니다.

이 캠페인은 특히 국제 AI 규제에 대한 미국의 반대 등 상당한 도전에 직면해 있습니다. 현 행정부는 “과도한 규제”와 AI 거버넌스에 대한 외국의 영향력에 대해 회의적 입장을 표명했습니다. 이런 장애물에도 불구하고, 다양한 지지세는 글로벌 AI 안전 조치의 필요성이 국제적으로 확산되고 있음을 보여줍니다.