해리 왕자, 배넌 등 700명이 초지능 AI 금지 촉구

(퍼플렉시티가 정리한 기사)

해리 왕자부터 스티브 배넌까지 700명 이상의 공인들이 수요일에 발표된 공개 서한에 서명하여, 안전 조치가 마련되고 대중이 그러한 기술을 지지할 때까지 초지능 인공지능 개발 금지를 촉구했습니다.

Future of Life Institute가 주관한 이 서한은 AI 규제 우려와 관련하여 지금까지 구성된 가장 다양한 연합체 중 하나를 대표합니다. 서명자들에는 5명의 노벨상 수상자,의 공동 창립자 스티브 워즈니악, 영국 억만장자 리처드 브랜슨, 전 합참의장 마이크 멀렌과 함께 조셉 고든-레빗과 뮤지션 will.i.am 같은 엔터테인먼트 인사들이 포함되어 있습니다.

전례 없는 연합이 정치적 분열을 넘어서다

30단어 성명서는 다음과 같이 선언합니다: "우리는 초지능 개발에 대한 금지를 요구하며, 이는 안전하고 통제 가능하게 수행될 것이라는 광범위한 과학적 합의와 강력한 대중의 동의가 있기 전까지는 해제되지 않아야 합니다".​

이 서한은 해리 왕자와 민주당 외교 정책 전문가 수잔 라이스부터 보수 논평가 스티브 배넌과 글렌 베크까지 예상치 못한 정치적 스펙트럼을 하나로 모았습니다. 이러한 초당적 접근은 백악관이 AI 개발 규제를 완화하려고 시도하는 가운데에도 도널드 트럼프 대통령의 행정부와 협력하려는 생명미래연구소(Future of Life Institute)의 전략을 반영합니다.​

해리 왕자는 동반 메시지에서 다음과 같이 강조했습니다: "AI의 미래는 인류를 대체하는 것이 아니라 인류에게 봉사해야 합니다. 진정한 진보의 시험대는 우리가 얼마나 빨리 움직이느냐가 아니라 얼마나 현명하게 방향을 잡느냐에 있다고 믿습니다. 두 번째 기회는 없습니다".

AI 경쟁이 심화되면서 침묵하는 기술 업계

주목할 점은 초인공지능을 향해 경쟁하고 있는 주요 AI 기업들의 CEO들이 서명자 명단에 없다는 것이다. OpenAI의 샘 올트먼, Google의 데미스 하사비스, 그리고 Meta의 마크 저커버그는 이전에 AI 안전성 논의에 참여했음에도 불구하고 서명하지 않았다. 현직 OpenAI 직원 중에서는 기술진인 레오 가오만이 서신에 서명했다.​

이 서신은 "인간을 여러 과제에서 능가하도록 설계된 형태의 인공지능을 구축하기 위해 서로 경쟁하고 있는" Google, OpenAI, Meta 같은 거대 기술 기업들을 겨냥하고 있다. 서신과 함께 발표된 최근 여론조사에 따르면, 미국인의 64%가 초인공지능은 안전성이 입증될 때까지 개발되어서는 안 된다고 믿는 반면, 급속한 개발을 지지하는 사람은 5%에 불과했다.​

생명의 미래 연구소 회장이자 MIT 교수인 맥스 테그마크는 AI 기업들이 직면한 경쟁 압박을 인정했다. "솔직히 그들을 정말로 이해합니다. 그들이 바닥을 향한 경쟁에 너무 갇혀 있어서 계속 나아가고 다른 회사에 추월당하지 않으려는 저항할 수 없는 압박을 느끼고 있기 때문입니다"라고 그는 말했다.​

이는 연구소가 2023년 이후 발표한 두 번째 주요 AI 서신이다. 당시 고급 AI 개발에 대한 6개월 중단을 요구한 이전 서신은 1,000개 이상의 서명을 받았지만 업계 속도를 늦추는 데 실패했다.