아마존, 경쟁 에이전트를 활용해 위협을 탐지하는 AI 시스템 공개

Amazon은 월요일, 해커들이 취약점을 악용하기 전에 이를 찾아내기 위해 경쟁하는 인공지능 에이전트 팀들을 배치하는 새로운 사이버 보안 방어 시스템을 공개했으며, 이는 이 거대 기술 기업이 광범위한 인프라를 보호하는 방식에 중대한 변화를 나타낸다.

자율 위협 분석(Autonomous Threat Analysis) 시스템, 즉 ATA는 2024년 8월 내부 해커톤에서 시작되었으며, 회사가 공개하고 WIRED가 최초로 보도한 세부 사항에 따르면 이후 Amazon의 보안 운영을 위한 중요한 도구가 되었다. 단일 AI 모델에 의존하는 대신, 이 시스템은 공격자를 시뮬레이션하는 레드팀으로 작동하는 전문화된 에이전트들과 방어를 개발하는 블루팀을 조율하며, 모두 Amazon의 프로덕션 시스템을 반영하는 격리된 테스트 환경에서 기계 속도로 작동한다.​

파이썬 공격 탐지에서 입증된 결과

이 시스템은 이미 해커들이 손상된 시스템에 대한 원격 제어를 확립하기 위해 사용하는 일반적인 기술인 Python 역방향 셸 공격을 탐지하는 데 효과성을 입증했습니다. ATA의 레드팀 에이전트는 체계적으로 37개의 역방향 셸 기술 변형을 생성하고 실행한 후, 64개의 위협 변형에 대해 테스트된 개선된 탐지 규칙을 개발했습니다. Amazon의 공식 발표에 따르면, 새로운 규칙은 프로덕션 감사 데이터에 대해 검증했을 때 1.00의 완벽한 정밀도와 재현율 점수를 달성했습니다. WIRED는 별도로 이 시스템이 테스트에서 100% 효과성에 도달했음을 확인했습니다.​

Amazon의 최고 보안 책임자인 Steve Schmidt는 WIRED에 "초기 개념은 보안 테스트의 중요한 한계—제한된 범위와 빠르게 진화하는 위협 환경에서 탐지 능력을 최신 상태로 유지하는 과제—를 해결하기 위한 것이었습니다"라고 말했습니다. Amazon에 따르면, 이 시스템은 일반적인 보안 테스트 워크플로를 수 주의 수동 작업에서 약 4시간으로 단축하여 시간을 96% 줄였습니다.​

인간 감독 하의 기계 속도

이 아키텍처는 Amazon이 "grounded execution"이라고 부르는 것을 중심으로 하며, 모든 기술과 탐지 주장은 테스트 시스템의 실제 원격 측정 데이터와 타임스탬프가 찍힌 로그로 검증되어야 합니다. 레드팀 에이전트는 검증 가능한 로그를 생성하는 실제 명령을 실행하고, 블루팀 에이전트는 실제 데이터베이스를 쿼리하여 제안된 방어가 작동하는지 확인합니다. 이는 AI 환각을 방지하기 위한 설계입니다.​

자동화에도 불구하고 Amazon은 "human in the loop" 접근 방식을 유지하며, 프로덕션 시스템에 배포하기 전에 보안 전문가가 모든 변경 사항을 승인하도록 요구합니다. 2024년 해커톤에서 ATA를 제안한 보안 엔지니어 중 한 명인 Michael Moran은 이 시스템을 통해 보안 팀이 일상적인 테스트 작업보다는 복잡한 과제에 집중할 수 있다고 언급했습니다.