마이크로소프트, AI가 바이오보안 시스템을 우회할 수 있다고 밝혀

(퍼플렉시티가 정리한 기사)

Microsoft 연구진은 이번 주에 전 세계 생명보안 시스템에서 치명적인 취약점을 밝혀냈으며, 인공지능 단백질 설계 도구가 생물무기 개발을 방지하기 위해 고안된 안전성 검사망을 피해 치명적인 독소의 합성 버전을 만들어낼 수 있음을 시연했습니다.

10월 2일 Science에 게재된 이번 연구는 AI가 위험한 단백질의 유전적 설계도를 “바꿔 말할 수” 있음을 드러냈습니다. 즉, DNA 합성 회사들이 전 세계적으로 사용하는 스크리닝 소프트웨어의 탐지를 피해, 치명적인 구조와 기능을 유지하면서 해당 유전자의 DNA 서열을 새로 작성할 수 있음을 보여준 것입니다.

업계 간 협력이 중요한 격차를 메운다

마이크로소프트 최고 과학 책임자 에릭 호르비츠(Eric Horvitz)가 이끄는 연구팀은 적군 모의훈련(red-teaming) 과정에서 독성 단백질과 바이러스성 단백질 등 7만 5천 개가 넘는 위험 단백질 변종을 생성하며, 이 과정에서 제로데이 취약점을 발견했다. AI가 설계한 서열들은 초기 테스트에서 표준 생명과학 보안 스크리닝 소프트웨어를 성공적으로 우회했으며, 호르비츠에 따르면 개조된 독성 단백질들은 “스크리닝 기술을 손쉽게 통과했다”고 한다.

이 발견은 Twist Bioscience , Integrated DNA Technologies, 그리고 여러 생명과학 보안 스크리닝 소프트웨어 공급업체들이 참여한 긴급 10개월 협력의 계기가 되어, 보안 패치를 개발하고 배포했다. 업데이트 이후, 스크리닝 시스템은 AI가 생성한 가장 위험한 변종의 97%를 탐지하지만, 약 3%는 여전히 탐지를 피하고 있다.

이중 용도 위험이 인공지능의 증가하는 생물학적 위협을 부각시키다

이 취약점은 약물 발견과 의학 연구를 혁신하고 있는 동일한 AI 도구에서 비롯됩니다. 마이크로소프트는 자체 단백질 설계 소프트웨어인 EvoDiff와 기타 오픈소스 도구를 활용해 디지털 시뮬레이션에서 리친, 보툴리눔과 같은 독소를 변형했습니다. 실제 유독 단백질이 제조되지는 않았지만, 이번 연구는 생물 테러리스트가 AI를 이용해 보호 조치를 우회할 수 있는 잠재적 방법을 보여주었습니다.

“AI의 발전이 생물학과 의학에서 돌파구를 만들어내고 있지만, 새로운 힘에는 경계와 신중한 위험 관리의 책임이 따릅니다.”라고 호르비츠는 언론 브리핑에서 말했습니다.

트위스트 바이오사이언스(Twist Bioscience)의 CEO인 에밀리 르프루스트도 위협의 진화하는 특성을 강조했습니다. “AI 역량이 진화함에 따라, 스크리닝 방식도 그만큼 빠르게 진화해야 합니다.”. 남부 샌프란시스코에 본사를 둔 이 회사는 지난 10년 동안 수천 건의 DNA 합성 주문을 처리하는 가운데 다섯 건도 안 되는 의심스러운 주문만을 법 집행 기관에 넘겼습니다.