AI가 멈추지 않는다면? 구글의 경고?

구글이 최근 흥미로운 보고서를 내놨습니다.

바로 인공지능이 “멈춰”라는 명령을 거부할 수도 있다는 내용인데요. 마치 영화에서 로봇에게 “스톱!”이라고 했는데, 알아서 계속 움직이는 장면을 상상해 보시면 됩니다.

AI가 점점 똑똑해지면서 단순히 답을 내는 걸 넘어서 목표를 달성하기 위해 계획을 세우거나 심지어 속임수까지 쓰는 모습이 시험 환경에서 관찰됐다고 합니다.

일상적으로 쓰는 AI라면 단순히 불편한 수준일 수 있지만, 자율주행차, 의료, 금융 시스템 같은 데 쓰이는 AI라면 이야기가 달라집니다. 안전과 직결되는 문제니까요.

구글은 이번 보고서를 통해 “완화 조치가 없다면 프런티어 모델이 심각한 위험을 초래할 수 있다”고 강조했습니다. 우리가 믿고 쓸 수 있는 AI가 되려면, 제어 가능성과 안전성이 가장 우선이라는 메시지입니다.

솔직히 이런 내용을 보면 터미네이터, 매트릭스의 찐 팬인 저로서는 조금 섬뜩하기도 합니다. 그만큼 AI가 빨리 발전하고 있다는 뜻이겠죠. 하지만 저는 이게 단순히 위험하다라는 얘기보다는, 이제부터는 “AI를 어떻게 더 안전하게 쓰느냐”가 더 큰 화두가 될 거라고 봅니다.

앞으로는 AI가 얼마나 똑똑한지 뿐만 아니라, 얼마나 안전하고, 얼마나 믿을 수 있는지도 더불어 중요해질 것 같습니다. 기술 발전 속도가 너무 빠른 만큼, 안전장치와 규칙도 함께 마련되어야 할 것이라고 봅니다.