트럼프 AI 책임자, '오웰적' 감시에 대해 경고

(퍼플렉시티가 정리한 기사)

트럼프 대통령의 암호화폐 및 AI 차르인 데이비드 색스는 월요일 인공지능이 "오웰리안"적 수준의 정부 감시를 가능하게 한다는 강력한 경고를 발표했으며, AI로부터의 진정한 위협은 기계가 인간에게 등을 돌리는 것이 아니라 국가의 정보 통제와 시민 감시라고 주장했다.

앤드리슨 호로위츠의 팟캐스트 "The Ben & Marc Show"에서 색스는 가장 큰 위험은 "당신에게 거짓말을 하고, 답변을 왜곡하며, 권력을 가진 사람들의 현재 정치적 의제에 봉사하기 위해 실시간으로 역사를 다시 쓸 수 있는" AI 시스템에 있다고 강조했다. 그는 AI가 잠재적으로 "정부가 당신을 감시하고 통제하는 완벽한 도구"가 될 수 있다고 설명했다.​

AI 규제 철학을 둘러싼 충돌

Sacks의 발언은 AI 기업 Anthropic과의 진행 중인 공개 논쟁을 격화시켰으며, 그는 Anthropic이 "공포 조장에 기반한 정교한 규제 포획 전략을 운영하고 있다"고 비난했다. 이 논쟁은 AI 거버넌스에 대한 근본적으로 다른 접근 방식을 중심으로 하며, Sacks는 포괄적인 개발자 규제보다는 AI 오용을 표적으로 삼을 것을 주장하고 있다.​

"우리가 실제로 이야기하고 있는 것은 오웰적 AI입니다"라고 Sacks는 말하며, 할리우드가 묘사하는 AI 위협과 자신의 우려를 구분했다. "터미네이터가 아니라 1984입니다"라고 그는 조지 오웰의 디스토피아적 감시 국가를 언급하며 말했다.​

Anthropic CEO Dario Amodei가 Sacks의 주장에 대해 "부정확하다"고 반박하며 자신의 회사가 상충되는 주 규제를 피하기 위해 일관되게 연방 감독을 옹호해왔다고 주장하면서 갈등이 심화되었다. Amodei는 Anthropic의 "공익 헌장이 사회의 더 큰 선을 위해 AI를 사용할 것을 약속한다"고 강조했다.​

기술 산업 분열이 나타나다

이 논쟁은 실리콘밸리 AI 커뮤니티 내에서 더 깊은 정치적 분열을 드러냈다. 링크드인 공동 창업자 리드 호프만은 앤트로픽을 "착한 쪽"이라고 옹호했으며, 이에 대해 색스는 호프만을 "트럼프 대통령을 상대로 한 법적 전쟁과 비열한 술수의 주요 자금 제공자"라고 강하게 비난했다. 경쟁 AI 업체 xAI를 운영하는 일론 머스크도 "그렇다(Indeed)"는 짧은 코멘트로 색스의 입장에 동의했다.​

색스는 특히 바이든 행정부의 정책과 캘리포니아 및 콜로라도와 같은 민주당 주도의 주들이 "알고리즘 차별"을 다루기 위해 시행한 "과도한" AI 소비자 보호 법률을 비판했다. 그는 과도한 규제가 AI를 정부의 편향을 반영하는 정치적 도구로 변질시켜 불편한 진실을 억압할 수 있다고 경고했다.​

색스에 따르면 트럼프 행정부의 접근 방식은 AI 분야의 혁신을 촉진하고 암호화폐 시장에 규제적 확실성을 제공하는 데 중점을 두고 있다. 이는 이전 행정부가 AI 안전과 피해 방지에 중점을 뒀던 것과는 큰 전환점이다.