미 보건부, 백신 이상반응 가설 도출용 AI 도구 개발 중…LLM 활용 논란

Executive Summary

• 미 보건복지부(HHS)가 백신 모니터링 데이터베이스에서 패턴을 찾아 백신 부작용에 대한 가설을 생성하는 생성형 AI 도구 개발 중

• 2023년 말부터 개발 시작됐으나 아직 배포되지 않은 상태로, 케네디 보건장관의 반백신 기조와 맞물려 우려 제기

• 전문가들 "LLM은 환각 현상이 있어 반드시 후속 검증 필요" 경고

• VAERS 데이터는 검증되지 않은 자가 보고 방식으로, AI 분석 결과를 단독 근거로 삼기엔 한계

Background

백신부작용보고시스템(VAERS)은 1990년 CDC와 FDA가 공동으로 설립한 백신 안전성 모니터링 시스템이다. 의료진이나 일반인 누구나 이상반응을 신고할 수 있지만, 신고 내용이 별도로 검증되지 않는다는 한계가 있다. 이러한 데이터를 분석해 가설을 도출하려는 시도는 이전부터 있었으나, 대규모 언어모델(LLM) 기반의 생성형 AI를 본격 도입하려는 것은 이번이 처음이다. 백신 회의론자로 알려진 로버트 F. 케네디 주니어 보건장관 취임 이후, 이 도구의 활용 방향에 대한 우려가 커지고 있다.

Impact & Implications

AI 기술의 한계와 위험

전문가들은 LLM이 그럴듯한 환각(hallucination)을 생성하는 것으로 유명하다고 지적했다. 조지타운대 감염병 전문의 제시 굿맨 교수는 "접근 방식에 따라 많은 거짓 경보가 발생할 것으로 예상되며, 백신과 가능한 이상반응을 이해하고 통계, 역학, LLM 출력의 문제점을 파악하는 숙련된 인력의 후속 검토가 필수"라고 강조했다. CDC 인력이 대폭 축소된 상황에서 AI 생성 데이터를 제대로 검토할 역량이 있는지도 의문이다.

정치적 맥락과 우려

케네디 장관은 취임 후 코로나19, 인플루엔자, A·B형 간염 등 여러 백신을 아동 필수 접종 목록에서 제외했다. FDA 생물학적제제평가연구센터의 비나이 프라사드 소장은 최근 내부 메모에서 증거 인용 없이 코로나19 백신으로 최소 10명의 아동이 사망했다고 주장한 것으로 알려졌다. 전직 FDA 위원장 12명 이상이 뉴잉글랜드의학저널에 "선택적 증거의 재해석에 기반해 백신 규제를 극적으로 변경할 것"이라며 우려를 표명했다.

VAERS 데이터의 본질적 한계

필라델피아 아동병원 백신교육센터장 폴 오핏 박사는 "VAERS는 기껏해야 가설 생성 메커니즘"이라며 "누구나 보고할 수 있고 대조군이 없는 시끄러운 시스템"이라고 설명했다. 백신 접종 후 발생한 이상반응을 보여줄 뿐, 백신이 그 반응을 유발했다는 인과관계를 증명하지는 못한다. 그럼에도 반백신 활동가들은 오랫동안 VAERS 데이터를 백신 위험성의 근거로 오용해왔다.

Key Data & Facts

Key Quote

"VAERS는 기껏해야 가설 생성 메커니즘이다. 누구나 보고할 수 있고 대조군이 없는 시끄러운 시스템이다."
— 폴 오핏, 필라델피아 아동병원 백신교육센터장