OpenAI, AI 생명보안 스타트업에 1,500만 달러 투자 주도

(퍼플렉시티가 정리한 기사)

OpenAI는 목요일 인공지능이 생물학적 위협을 만드는 무기로 전용되는 것을 방지하는 데 중점을 둔 스타트업인 Red Queen Bio에 1,500만 달러 규모의 시드 라운드를 주도할 것이라고 발표했으며, 이는 ChatGPT 제작사의 한 달도 안 되는 기간 내 두 번째 주요 생물안보 투자를 의미한다.

mRNA 치료제 회사인 Helix Nano에서 분사한 샌프란시스코 소재 이 회사는 잠재적인 생물무기 위협과 같은 속도로 진화하는 AI 기반 방어 시스템 개발을 목표로 하고 있다. Red Queen Bio는 공동 창립자 Hannu Rajaniemi에 따르면, 생물학적 시스템의 취약점을 식별하고 대응책을 설계하기 위해 컴퓨터 모델과 실험실 테스트를 결합할 예정이다.​

"생물학적 역량이 우리가 예상했던 것보다 빠르게 발전하고 있다는 것이 명백했습니다"라고 Rajaniemi는 Reuters에 말했다. "우리는 방어책 개발을 시작해야 한다고 느꼈습니다".​

OpenAI의 안전 포트폴리오 확장

이번 투자는 OpenAI가 지난 10월 뉴욕에 본사를 둔 생물보안 소프트웨어 회사 Valthos에 3천만 달러를 투자한 것에 이어 이루어졌다. OpenAI의 최고 전략 책임자인 Jason Kwon은 회사가 유사한 위험을 다루는 추가 스타트업을 지원하는 데 열려 있다고 말했다. "우리는 전체 생태계의 전반적인 회복력을 높이고 싶습니다"라고 Kwon은 Reuters에 말했다. "위험 완화를 다룰 수 있는 가장 좋은 방법 중 하나는 더 많은 기술입니다".​

이번 펀딩 라운드에는 Cerberus Ventures, Fifty Years, Halcyon Futures도 참여했다. 거래의 일환으로 OpenAI CEO Sam Altman과 이사회 멤버 Nicole Seligman은 Helix Nano에 대한 이전 투자로 인해 Red Queen Bio의 주식을 받게 되지만, 두 사람 모두 이번 거래 승인에는 참여하지 않았다. OpenAI의 최고 컴플라이언스 책임자와 이해관계가 없는 이사회 구성원들이 이번 투자를 검토하고 승인했다.​

AI 기반 위협에 맞서는 경쟁

레드 퀸 바이오는 루이스 캐럴의 「거울나라의 앨리스」에서 이름을 따왔으며, 이는 생물학적 위협과 방어 역량 간의 끊임없는 진화적 경쟁을 의미합니다. 이 스타트업의 창립자들은 오픈AI와의 협업 중 최첨단 AI 모델들이 놀라운 생물학적 창의성을 보여주었으며, 이는 혁신적인 치료법 개발에 활용될 수 있는 가능성을 갖는 동시에, 더 어두운 잠재력도 내포하고 있음을 관찰했습니다.​

안전 전문가들은 약물 개발을 가속화할 수 있는 AI 시스템이 동시에 악의적인 행위자들이 위험한 병원체를 설계하는 장벽을 낮출 수 있다고 경고합니다. 최근 연구에서는 합성 단백질 스크리닝 과정에서의 취약점이 드러났고, 여러 AI 연구소에서 생물무기 개발 정보를 제공할 위험 임계점에 다다른 모델들에 대해 우려를 표명하고 있습니다.​

레드 퀸 바이오는 선진 AI 모델, 실험실 자동화, 강화학습을 활용하여 AI 기반 생물학적 위협을 맵핑하고 미리 의료 대책을 개발할 계획입니다. 이 회사는 퍼블릭 베네핏 코퍼레이션 구조로 설립되었으며, 모든 AI 연구소, 바이오제약 회사, 정부와 협력할 것을 약속합니다.