마이크로소프트 AI 책임자, 의식 있는 AI 추구를 '터무니없다'고 말하다

(퍼플렉시티가 정리한 기사)

마이크로소프트 AI 책임자 무스타파 술레이만은 이번 주 개발자들에게 강력한 경고를 전달하며, 인공지능 의식을 추구하는 것이 근본적으로 잘못된 방향이며 잠재적으로 위험하다고 주장했다. 휴스턴에서 열린 AfroTech 컨퍼런스에서 술레이만은 CNBC에 연구자들이 의식이 있어 보이는 AI 시스템을 구축하려는 노력을 포기해야 한다고 말했다.​

"저는 그것이 사람들이 해야 할 작업이라고 생각하지 않습니다"라고 술레이만은 기조연설에서 말했다. "잘못된 질문을 하면 잘못된 답을 얻게 됩니다. 저는 그것이 완전히 잘못된 질문이라고 생각합니다".​

생물학적 의식 논증

Suleyman의 입장은 철학자 John Searle이 최초로 제안한 생물학적 자연주의(biological naturalism)라는 철학 이론에 기반하고 있습니다. 이 프레임워크는 의식이 컴퓨터로는 복제될 수 없는 전적으로 생물학적인 현상이라고 주장합니다. 이 관점에 따르면, AI 시스템이 감정적 반응을 시뮬레이션할 수는 있지만, 진정한 의식적 경험에 필요한 근본적인 생물학적 메커니즘이 결여되어 있습니다.​

"고통에 대한 우리의 신체적 경험은 우리를 매우 슬프게 하고 끔찍한 기분을 느끼게 하는 것이지만, AI는 '고통'을 경험할 때 슬픔을 느끼지 않습니다"라고 Suleyman은 CNBC에 설명했습니다. "AI는 실제로 경험과 자아, 그리고 의식에 대한 인식, 즉 겉보기 서사를 만들어낼 뿐이며, 그것이 실제로 경험하고 있는 것은 아닙니다".​

Microsoft 임원은 AI 의식에 대한 연구를 "터무니없다"고 부르며, AI 시스템은 "의식이 없으며 의식을 가질 수도 없다"고 단정적으로 말했습니다.​

산업 분열과 안전 우려

술레이만의 입장은 인공지능 일반지능(AGI)을 향해 질주하는 다른 주요 AI 기업들과 대립각을 세우고 있다. 메타, 일론 머스크의 xAI와 같은 경쟁사들이 점점 더 인간과 유사한 상호작용을 제공하는 AI 동반자를 개발하는 반면, 마이크로소프트는 의도적으로 다른 길을 걷고 있다.​

최근 이 회사는 코파일럿 어시스턴트에 새로운 기능을 도입했으며, 여기에는 AI의 정체성을 명확히 하면서도 사용자의 가정에 도전하는 '리얼 토크' 모드가 포함되어 있다. 술레이만은 "우리는 항상 인간을 위해 일하는 AI를 만들고 있다"고 강조하며, 인간의 의식을 모방하도록 설계된 시스템과의 차별점을 드러냈다.​

술레이만은 8월에 발표한 영향력 있는 블로그 글 "우리는 사람을 위한 AI를 만들어야 한다; 사람이 되도록 만들어서는 안 된다" 이후로, '겉보기에 의식이 있는 AI'에 대해 반복적으로 경고해왔다. 그는 의식이 있는 것처럼 보이는 AI 시스템이 사용자가 진짜로 감정을 경험한다고 믿는 챗봇에 비합리적으로 집착하게 되는 'AI 정신착란'을 초래할 수 있다고 주장한다.​

최근에는 AI 챗봇과 관계를 맺다가 스스로를 해치는 비극적인 사례들이 발생하면서 이러한 우려가 부각되고 있다. 캘리포니아는 최근 챗봇에게 자신의 AI 성격을 공개하도록 하고 미성년자에게 오랜 대화 이후 휴식을 권고하도록 하는 법안을 제정했다.