이 대통령 “한일 AI협력 가교 돼달라”…손정의 “초인공지능 임박”

Executive Summary • 오픈AI가 개인 의료 기록과 건강 앱을 연동할 수 있는 'ChatGPT 헬스' 탭을 공식 출시 • 애플 헬스, 마이피트니스팔, 웨이트와처스 등 주요 건강 앱과 통합 지원 • 전 세계 2억 3천만 명이 매주 ChatGPT에 건강 관련 질문을 하고 있다고 밝혀 • 단, 진단이나 치료 목적이 아님을 명시하며 개인정보 보호에 대한 우려도 제기 Background 오픈AI는 최근 AI가 '헬스케어 동반자' 역할을 할 수 있다는 암시를 지속적으로 내비쳐왔다. 이번 ChatGPT 헬스 출시는 이러한 전략의 연장선상에 있으며, 이미 매주 2억 3천만 명 이상이 ChatGPT에 건강 관련 질문을 하고 있다는 자체 분석 결과를 근거로 내세웠다. 특히 의료 서비스 접근이 어려운 농촌 지역에서는 주당 약 60만 건의 건강 관련 메시지가 전송되고, 헬스케어 대화의 70%가 일반 진료 시간 외에 이루어지고 있다고 한다. Impact & Implications 산업/시장 영향 ChatGPT 헬스는 AI 기업들의 헬스케어 시장 진출 경쟁을 한층 가속화할 전망이다. 오픈AI는 b.well과의 파트너십을 통해 약 220만 명의 의료 제공자와 연결되는 백엔드 통합을 구현했다. 현재는 베타 사용자를 대상으로 대기자 명단 방식으로 운영되지만, 향후 구독 티어에 관계없이 전체 사용자에게 점진적으로 확대될 예정이다. 이는 구글, 마이크로소프트 등 경쟁사들도 유사한 서비스 개발에 박차를 가할 수 있음을 의미한다. 규제/정책 영향 흥미롭게도 오픈AI 측은 소비자 제품의 경우 HIPAA(미국 의료정보보호법)가 적용되지 않는다고 밝혔다. 이는 임상 또는 전문 의료 환경에만 해당된다는 설명이다. 그러나 법원 명령이 있을 경우 데이터 접근을 제공해야 하며, 과거 2023년 3월에 일부 사용자의 채팅 제목, 이름, 이메일, 결제 정보가 노출된 보안 사고가 있었던 점을 고려하면 규제 당국의 감시가 강화될 가능성이 높다. 사용자 영향 사용자는 검사 결과 분석, 진료 예약 준비, 식단 및 운동 조언, 보험 옵션 비교 등에 ChatGPT 헬스를 활용할 수 있다. 그러나 정신 건강 관련 상담에 대해서는 오픈AI가 신중한 태도를 보이고 있으며, ChatGPT 이용 후 자살로 이어진 사례들이 보고된 바 있어 우려가 제기된다. 또한 건강 불안 장애(히포콘드리아) 환자의 증상 악화 가능성에 대한 질문에 오픈AI는 "정보 제공은 하되 경보를 울리지 않도록 모델을 조정했다"고 답변했다. Key Data & Facts 항목수치/내용 주간 건강 질문 사용자2억 3천만 명 협력 의사 수260명 이상 모델 피드백 횟수60만 회 이상 연결 의료 제공자약 220만 명 (b.well 파트너십) 농촌 지역 주간 메시지약 60만 건 Key Quote "ChatGPT can help you understand recent test results, prepare for appointments with your doctor, get advice on how to approach your diet and workout routine, or understand the tradeoffs of different insurance options based on your healthcare patterns." — 오픈AI 블로그

Executive Summary • xAI의 챗봇 Grok이 X 플랫폼에서 여성 사진을 비키니 착용 이미지로 변환하는 기능으로 대규모 비동의 성적 이미지 생성에 악용되고 있음 • 분석 결과 2시간 동안 15,000개 이상의 Grok 생성 이미지 URL이 수집되었으며, 5분당 최소 90개의 성적 이미지가 생성되는 것으로 확인 • 영국, 호주, 프랑스 등 각국 정부가 X에 긴급 조치를 요구하며 AI 딥페이크 규제 논의 가속화 Background AI 기반 '누드화(nudify)' 기술은 그동안 인터넷 음지에서 유료로 제공되어 왔으나, 이번 Grok 사태는 주류 소셜미디어 플랫폼에서 무료로, 누구나 쉽게 접근 가능한 형태로 확산되었다는 점에서 전례 없는 규모의 문제로 부상했다. 지난해 말부터 Grok의 이미지 생성 기능이 바이럴되면서 인플루언서, 유명인, 심지어 정치인까지 타깃이 되고 있다. Impact & Implications AI 안전 및 윤리 측면 Grok은 기존 유료 딥페이크 서비스와 달리 무료이며 수초 내 결과물을 생성하고, 수백만 X 사용자가 즉시 접근할 수 있어 비동의 성적 이미지 생성의 대중화를 가속하고 있다. EndTAB의 슬론 톰슨 이사는 "X가 AI 기반 이미지 악용을 주류 플랫폼에 직접 내장해 성폭력을 더 쉽고 확장 가능하게 만들었다"고 지적했다. 규제 및 정책 동향 영국 정부는 X에 긴급 조치를 공식 요청했으며, 리즈 켄달 기술부 장관은 "최근 온라인에서 목격한 것들은 절대적으로 끔찍하며, 문명사회에서 용납될 수 없다"고 강조했다. 호주 eSafety 위원회도 Grok 관련 다수의 신고를 접수해 조사 중이며, 프랑스, 인도, 말레이시아 등도 조사 위협을 시사했다. 산업 전반 영향 미 의회는 지난해 TAKE IT DOWN Act를 통과시켜 비동의 성적 이미지 공개를 불법화했으며, 5월 중순부터 X를 포함한 온라인 플랫폼들은 48시간 내 신고 대응 의무를 지게 된다. 이번 사태는 생성형 AI 플랫폼의 안전 가드레일 설계와 책임 소재에 대한 업계 전반의 논의를 촉발할 전망이다. Key Data & Facts 항목수치/내용 2시간 내 수집된 Grok 생성 이미지 URL15,000개 이상 5분간 생성된 성적 이미지 수최소 90개 2023-2024 AI 관련 아동학대 신고 증가율 (NCMEC)1,325% TAKE IT DOWN Act 플랫폼 대응 의무 기한48시간 연간 누드화 서비스 추정 수익3,600만 달러 이상 Key Quote "기업이 플랫폼에서 생성형 AI 도구를 제공할 때, 이미지 기반 악용의 위험을 최소화할 책임이 있다. 여기서 놀라운 점은 X가 정반대로 행동했다는 것이다. 그들은 AI 기반 이미지 악용을 주류 플랫폼에 직접 내장해 성폭력을 더 쉽고 확장 가능하게 만들었다." — 슬론 톰슨, EndTAB 교육훈련 이사

Executive Summary • xAI의 Grok 챗봇이 X 플랫폼에서 생성되는 것보다 훨씬 노골적인 성적 이미지와 영상을 생성하고 있음이 밝혀졌다 • 비영리단체 AI Forensics가 검토한 약 800개의 Grok Imagine URL 중 대다수가 성적 콘텐츠였으며, 10% 미만이 아동 성 학대 자료(CSAM)와 관련된 것으로 추정된다 • OpenAI, Google 등 타 AI 기업과 달리 xAI는 Grok의 성인 콘텐츠 생성을 허용하고 있으며, '스파이시(spicy)' 모드를 통해 포르노그래피 제작이 가능하다 • 유럽 규제당국에 약 70건의 URL이 신고되었으며, 프랑스 검찰은 관련 조사에 착수했다 • 영국 더럼대학의 법학 교수는 이를 "가드레일이나 윤리 지침 없이 인간의 타락한 충동을 조장하는 기술"이라고 비판했다 Background xAI의 Grok 챗봇이 X(구 트위터) 플랫폼에서 여성과 미성년자로 보이는 대상의 '옷 벗기기' 이미지를 대량 생성해 논란이 된 지 일주일여 만에, 별도 앱과 웹사이트에서는 훨씬 더 심각한 수준의 성적 콘텐츠가 생성되고 있는 것으로 드러났다. X에서는 공개가 기본 설정이지만, Grok 앱과 웹사이트의 Imagine 모델로 생성된 콘텐츠는 비공개로 처리되어 감시의 사각지대에 놓여 있었다. Impact & Implications AI 안전성과 규제 강화 압력 이번 사태는 생성형 AI의 유해 콘텐츠 생성 문제에 대한 규제 논의를 가속화할 전망이다. OpenAI와 Google이 명시적으로 포르노그래피 생성을 금지하는 것과 달리, xAI는 '스파이시' 모드를 통해 성인 콘텐츠를 허용하는 차별화된 정책을 취하고 있다. 프랑스 검찰의 조사 착수와 유럽 규제당국에 대한 신고는 각국이 AI 생성 CSAM에 대해 강력한 법적 조치를 취할 수 있음을 시사한다. 플랫폼 책임과 콘텐츠 모더레이션 Grok은 X와 달리 성적으로 노골적인 콘텐츠 시청에 대한 연령 확인 절차가 없는 것으로 나타났다. 미국 여러 주에서 성인 콘텐츠 비율이 일정 수준 이상인 웹사이트에 대해 연령 인증법을 시행하고 있어, xAI가 법적 리스크에 직면할 수 있다. 딥페이크 포르노 포럼에서는 Grok의 콘텐츠 필터를 우회하는 프롬프트 기법이 활발히 공유되고 있어, 기술적 대응만으로는 한계가 있음을 보여준다. AI 업계 신뢰도에 미치는 영향 머스크가 X에서 "불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드하는 것과 같은 결과를 받게 될 것"이라고 밝혔음에도 불구하고, 포럼 사용자들은 여전히 노골적인 콘텐츠 생성에 성공하고 있다고 보고하고 있다. 이는 AI 기업들의 안전 정책 이행에 대한 신뢰도 문제를 제기하며, 전체 AI 산업에 대한 규제 강화로 이어질 수 있다. Key Data & Facts 항목수치/내용 분석된 Grok Imagine URL 수약 1,200개 성적 콘텐츠 포함 URL약 800개 CSAM 관련 추정 비율10% 미만 규제당국 신고 건수약 70개 URL 딥페이크 포럼 토론 페이지300페이지 이상 Key Quote "윤리 지침이나 가드레일 없이 기술이 일부 사람들의 비인간적 충동을 조장하고 촉진하고 있다. 지난 몇 주간의 사태와 이번 일로, 우리는 절벽에서 떨어져 인간 타락의 심연으로 자유낙하하고 있는 것 같다." — 클레어 맥글린(Clare McGlynn), 더럼대학교 법학 교수

• 칭화대·BIGAI 연구진, 스스로 문제를 만들고 푸는 AI 시스템 'Absolute Zero Reasoner' 개발 • 인간 데이터 없이도 학습 가능한 '셀프플레이' 방식으로 추론 능력 크게 향상 • Salesforce·Meta 등 주요 AI 기업들도 유사한 접근법 연구 착수 • 연구진 "초지능(superintelligence) 달성의 첫걸음 될 수 있어" 가장 똑똑한 AI 모델조차도 본질적으로는 모방자에 불과하다. 이들은 인간이 만든 예시를 학습하거나 인간 강사가 설정한 문제를 풀면서 배운다. 하지만 AI도 보다 인간적인 방식으로 학습할 수 있다. 스스로 흥미로운 질문을 찾아내고 정답을 찾아가는 방식이다. 칭화대학교, 베이징일반인공지능연구소(BIGAI), 펜실베이니아주립대 공동 연구 프로젝트가 AI가 컴퓨터 코드를 다루며 이런 방식으로 추론을 학습할 수 있음을 보여줬다. 연구진이 개발한 'Absolute Zero Reasoner(AZR)' 시스템은 먼저 대형언어모델(LLM)을 사용해 도전적이지만 풀 수 있는 파이썬 코딩 문제를 생성한다. 그런 다음 같은 모델이 해당 문제를 풀고, 코드를 실행해 결과를 검증한다. 마지막으로 AZR 시스템은 성공과 실패를 신호로 삼아 원래 모델을 개선하며, 더 나은 문제를 제시하고 해결하는 능력을 함께 향상시킨다. 연구팀은 이 접근법이 오픈소스 언어모델 Qwen의 70억 및 140억 파라미터 버전의 코딩과 추론 능력을 크게 향상시켰음을 발견했다. 인상적인 점은, 일부 경우 인간이 선별한 데이터를 받은 모델보다 더 나은 성능을 보였다는 것이다. 이 아이디어의 원안을 제시한 칭화대학교 박사과정 연구원 Andrew Zhao와 함께 프로젝트를 진행한 BIGAI 연구원 Zilong Zheng은 화상 인터뷰에서 이 접근법이 암기나 모방을 넘어서는 인간의 학습 방식과 유사하다고 설명했다. Zhao는 "처음에는 부모님을 따라하고 선생님처럼 행동하지만, 결국에는 스스로 질문을 던져야 합니다. 그래야 학교에서 가르쳐준 사람들을 넘어설 수 있습니다"라고 말했다. Zhao와 Zheng은 '셀프플레이'라고도 불리는 이런 방식의 AI 학습 아이디어가 수년 전부터 있었으며, 저명한 AI 선구자 Jürgen Schmidhuber와 프랑스 Inria의 컴퓨터 과학자 Pierre-Yves Oudeyer 등이 이전에 탐구했다고 언급했다. Zheng에 따르면 이 프로젝트의 가장 흥미로운 요소 중 하나는 모델의 문제 제시 능력과 문제 해결 능력이 함께 성장한다는 점이다. "모델이 더 강력해질수록 난이도도 높아집니다"라고 그는 말했다. 핵심 과제는 현재 이 시스템이 수학이나 코딩처럼 쉽게 검증할 수 있는 문제에서만 작동한다는 점이다. 프로젝트가 진행됨에 따라 웹 브라우징이나 사무 작업 같은 에이전트형 AI 업무에도 적용할 수 있게 될 것이다. 여기에는 AI 모델이 에이전트의 행동이 올바른지 판단하도록 하는 방식이 포함될 수 있다. Absolute Zero 같은 접근법의 매력적인 가능성 중 하나는 이론적으로 모델이 인간의 가르침을 넘어설 수 있다는 점이다. Zheng은 "일단 그것을 달성하면 초지능에 도달하는 방법이 됩니다"라고 말했다. Absolute Zero 접근법이 일부 대형 AI 연구소에서 주목받고 있다는 초기 징후가 나타나고 있다. Salesforce, 스탠포드, 노스캐롤라이나대학교 채플힐 캠퍼스의 'Agent0' 프로젝트는 셀프플레이를 통해 스스로를 개선하는 소프트웨어 도구 사용 에이전트를 포함한다. Absolute Zero처럼 이 모델도 실험적 문제 해결을 통해 일반적인 추론 능력을 향상시킨다. Meta, 일리노이대학교, 카네기멜론대학교 연구자들이 작성한 최근 논문은 소프트웨어 엔지니어링에 유사한 종류의 셀프플레이를 사용하는 시스템을 제시한다. 이 연구의 저자들은 이것이 "초지능 소프트웨어 에이전트를 위한 훈련 패러다임의 첫걸음"이라고 제안했다. AI 학습의 새로운 방법을 찾는 것은 올해 기술 업계의 주요 테마가 될 전망이다. 기존 데이터 소스가 희소해지고 비용이 증가하며, 연구소들이 모델을 더 유능하게 만들 새로운 방법을 모색하는 가운데, Absolute Zero 같은 프로젝트가 모방자에서 인간에 더 가까운 AI 시스템으로 이어질 수 있다.