구글, 소프트웨어 버그를 감지하고 수정하는 AI 에이전트 공개

(퍼플렉시티가 정리한 기사)

구글 딥마인드(DeepMind)가 소프트웨어 취약점을 자동으로 감지하고 수정하는 인공지능 에이전트인 코드멘더(CodeMender)를 공개했습니다. 이는 기업들이 확대되는 공격 표면에 대응해야 하는 가운데, AI 기반 사이버보안 분야에서 중요한 진전을 의미합니다.

10월 6일 발표된 코드멘더는 구글의 첨단 제미니 딥싱크(Gemini Deep Think) 모델을 활용하여 보안 결함을 자율적으로 식별하고, 근본 원인을 분석하며, 인간의 개입 없이 수정 방안을 생성합니다. 이 시스템은 이미 실제로도 성과를 보였으며, 내부 테스트 6개월 만에 450만 줄 이상의 코드를 포함하는 오픈소스 프로젝트에 72건의 보안 패치를 제출했습니다.

대규모 자동화된 보안

CodeMender는 반응적으로도, 그리고 선제적으로도 작동하여 새롭게 발견된 취약점을 즉시 패치하고, 기존 코드를 재작성하여 전체적인 보안 위험군을 제거합니다. 이 AI 에이전트는 정적 및 동적 분석, 퍼징, 차분 테스트, 심볼릭 리즈닝 등 포괄적인 분석 도구 세트를 활용하여 취약점의 근본 원인을 파악합니다.

“고품질의 보안 패치를 자동으로 생성·적용함으로써, CodeMender의 AI 기반 에이전트는 개발자와 유지보수 담당자가 본연의 역할인 훌륭한 소프트웨어 구축에 집중할 수 있도록 돕습니다,”라고 Google DeepMind 연구원 Raluca Ada Popa와 Four Flynn은 말했습니다.

이 시스템은 제안된 수정 사항이 회귀 문제나 기존 기능 손상을 유발하지 않도록, 사람의 리뷰 전 자동 검증 메커니즘이 내장되어 있습니다. 한 시연에서는, CodeMender가 2023년 제로 클릭 iOS 공격에 악용된 것과 동일한 libwebp 이미지 압축 라이브러리에 보안 어노테이션을 적용하여, 유사한 버퍼 오버플로 취약점을 영구적으로 예방할 가능성을 보였습니다.

산업 환경 및 광범위한 이니셔티브

이번 출시는 사이버 보안 전문가들이 AI가 생성한 코드가 사람이 작성한 코드보다 보안 취약성이 더 많다는 경고와 맞물려 이뤄졌습니다. 초기 연구에 따르면 AI 코딩 보조 도구를 사용하는 개발자는 80%의 경우 덜 안전한 코드를 작성하며, 본인의 코드가 안전하다고 믿을 가능성도 3.5배 더 높다고 합니다.

구글은 동시에 AI 관련 보안 결함을 신고할 경우 최대 3만 달러의 보상을 제공하는 AI 취약점 보상 프로그램을 확대해 발표했으며, 자율 AI 에이전트 보안에 중점을 둔 Secure AI Framework 2.0 버전도 출시했습니다. 구글은 이전 AI 관련 취약점 보상 프로그램을 통해 43만 달러 이상을 지급한 바 있습니다.

이 이니셔티브는 인공지능을 악의적으로 활용한 정교한 공격이 증가함에 따라, 구글이 AI를 방어적으로 활용하겠다는 더 넓은 전략을 반영합니다. 구글은 “AI를 활용해 보안과 안전을 강화하고, 이 기술이 방어자들에게 우위를 제공할 수 있도록 하겠다”고 밝혔습니다.