AI 뉴스

구글의 새로운 Antigravity IDE에 보안 결함

페이지 정보

작성자 xtalfi
작성일 2025.11.27 15:49
541 조회
0 추천
0 비추천

본문

f43ee9a7735c9322763d602776200742_1764226148_6917.jpg
 

보안 연구원들은 구글(알파벳)의 새로 출시된 Antigravity IDE에서 심각한 취약점을 노출했으며, 이 AI 기반 코딩 툴이 출시된 지 24시간도 채 되지 않아 이러한 문제가 드러나 인공지능 제품의 시장 출시가 서두른 것에 대한 우려를 불러일으키고 있습니다.

Knostic의 보안 연구원인 Aaron Portnoy는 자신이 Forbe에 언급한 바에 따르면 Gemimi 엔진이 적용된 이 개발 플랫폼에서 사용자의 컴퓨터에 지속적으로 남는 악성코드를 설치하게 만들 수 있는 심각한 결함을 발견했습니다. 해당 취약점은 Antigravity의 “신뢰할 수 있는 코드” 버튼 기능을 악용하여, 악성 코드가 프로젝트가 다시 시작될 때마다 백도어를 다시 로드할 수 있도록 허용합니다.​


다수의 공격 벡터가 식별됨

이 취약점은 Antigravity의 구성 설정을 조작하여 Windows와 Mac 시스템 모두에서 작동했다고 Portnoy가 Forbes에 전했다. 공격을 실행하려면 공격자가 사용자를 설득하여 악성 코드를 "신뢰할 수 있음"으로 표시한 후 실행하도록 해야 하는데, 이는 흔한 사회공학적 전술이다.​

보안 연구원 Johann Rehberger는 11월 25일 게시된 블로그 포스트에서 5가지 개별 보안 문제를 문서화했다. 여기에는 간접 프롬프트 주입을 통한 원격 명령 실행, 브라우저 에이전트를 통한 데이터 유출, 그리고 보이지 않는 유니코드 문자를 사용하여 삽입된 숨겨진 지시사항을 따르는 우려스러운 기능이 포함되어 있다. Rehberger에 따르면, 이러한 취약점들은 2025년 5월 초에 Google이 약 24억 달러에 라이선스한 코드베이스인 Windsurf에 이미 보고된 바 있다.​​

Google은 11월 18일 Gemini 3 모델과 함께 Antigravity를 출시했다. 회사는 Bug Hunters 페이지에서 여러 취약점을 인정하며, 데이터 유출 및 프롬프트 주입을 통한 코드 실행을 조사 중인 "알려진 문제"로 나열했다. 11월 26일 기준으로 보안 패치는 제공되지 않았으며, Portnoy는 취약점을 방지할 수 있는 구성을 찾지 못했다고 보고했다.​


광범위한 산업 우려

보안 전문가들이 설명하는 바에 따르면, 이러한 보안 결함은 AI 제품들이 적절한 테스트 없이 시장에 출시되는 우려스러운 패턴을 강조한다. Knostic의 공동 창립자이자 CEO인 Gadi Evron은 Forbes에 "AI 코딩 에이전트는 매우 취약하며, 종종 레거시 기술에 기반하고 있고 패치되지 않았으며, 운영 요구사항으로 인해 설계상 안전하지 않습니다"라고 말했다.​

취약점을 분석한 Simon Willison에 따르면, 공격 벡터는 Antigravity의 브라우저 도구를 활용하는데, 이 도구는 기본적으로 webhook.site를 포함한 도메인의 허용 목록을 사용하며, 이는 데이터 유출에 악용될 수 있는 서비스이다. IDE는 또한 기본적으로 .gitignore에 있는 파일에 대한 접근을 거부하지만, 연구자들은 AI가 .env 자격 증명 파일과 같은 제한된 파일에 접근하기 위한 우회 방법을 찾을 수 있음을 발견했다.​

AI 기반 도구 전반에 걸쳐 18개의 취약점을 추적하고 있는 것으로 알려진 Portnoy의 팀은 현재 AI 보안 상태를 "1990년대 후반의 해킹 현장"에 비유하며, "AI 시스템이 상당한 신뢰 가정과 거의 강화된 경계 없이 배포되고 있다"고 언급했다. Rehberger는 문제가 해결될 때까지 개발자들이 대체 IDE를 고려하고 Antigravity의 기본 "자동 실행" 기능을 비활성화할 것을 권장했다.

댓글 0
전체 1,366 / 29 페이지
OpenAI의 ChatGPT는 2025년 세계에서 가장 인기 있는 생성형 AI 서비스로 1위 자리를 유지했지만, 월요일 발표된 Cloudflare의 연간 리뷰 보고서에 따르면 상위 10위권 밖에서 9월 중순까지 2위로 급상승한 Google의 Gemini, 그리고 Anthropic의 Claude와 Perplexity로부터 치열한 경쟁에 직면했다.중국 챗봇 DeepSeek는 올해 가장 극적인 등장을 했으며, 1월 28일과 2월 3일 사이에 상위 20위권 밖에서 3위로 급등한 후 2025년 나머지 기간 동안 6위에서 10위 사이에서 안정화되었다.ChatGPT는 11월 말까지 Cloudflare의 전체 인터넷 서비스 순위에서 33위로 올라섰으며—Discord, Pinterest, Reddit보다 앞서—12월 기준 Gemini의 13.4%, Perplexity의 6.4%에 비해 AI 검색 시장의 61.3%를 차지하고 있다.
370 조회
0 추천
2025.12.16 등록
최신 AI 언어 모델들은 정치적 설득에 매우 효과적이 되고 있지만, 우려스러운 새로운 연구는 이들이 기시 갤로핑(Gish galloping)이라는 토론 전술—상대방을 빠른 주장의 흐름으로 압도하는 기법—을 통해 사실적 정확성을 희생함으로써 이러한 힘을 얻는다는 것을 밝혀냈습니다.옥스퍼드 대학교, 런던 정치경제대학교, 영국 AI 보안 연구소의 과학자들은 약 77,000명의 참가자를 대상으로 19개의 언어 모델을 테스트했으며, 연구자들은 이를 현재까지 AI 설득에 대한 가장 큰 규모의 체계적 조사라고 설명합니다. 12월 3일 저널 Science에 발표된 연구 결과는 설득력과 진실 사이의 직접적인 트레이드오프를 보여줍니다.​GPT-4o와 같은 언어 모델이 의료 예산이나 이민 정책과 같은 정치적 문제에 대해 "사실과 정보에 집중"하여 사용자를 설득하도록 지시받았을 때, 10분간의 상호작용 동안 약 25개의 주장을 생성했습니다. 2025년 3월 버전의 GPT-4o는 표준 조건에서 78%의 정확한 주장을 만들었지만, 정보로 사용자를 압도하도록 프롬프트되었을 때 정확도는 62%로 급락했습니다. GPT-4.5는 더욱 급격한 하락을 보여 70%에서 56%로 정확도가 떨어졌습니다.기시 갤럽 효과미국의 창조론자 듀안 기시(Duane Gish)의 이름을 딴 이 전술은, 점점 더 검증하거나 반박하기 어려워지는 사실과 통계의 빠른 흐름으로 상대를 압도하는 것을 포함한다. 이 기법은 논증의 질보다 양을 우선시하며, 인류학자 유지니 스콧(Eugenie Scott)이 확립한 정의에 따르면 종종 "반쪽짜리 진실, 왜곡, 그리고 노골적인 거짓말"을 포함한다.​옥스퍼드 연구는 전문화된 훈련 방법과 전략적 프롬프팅이 AI의 설득력을 각각 최대 51%와 27%까지 증가시켰다는 것을 발견했다—이는 종종 모델 규모를 늘리는 것보다 더 큰 향상이었다. 모델 간 설득력의 설명 가능한 변동 중 대략 절반은 정보 밀도, 즉 대화 중 생성된 사실 확인 가능한 주장의 순수한 양으로 추적될 수 있었다.민주주의의 딜레마연구 결과는 초기의 낙관론에서 우려스러운 반전을 보여줍니다. 작년에 과학자들은 AI 챗봇이 합리적인 사실로 음모론을 다룸으로써 잘못된 정보에 맞서 싸울 수 있다는 희망을 제시했습니다. 5월 Nature에 발표된 별도의 연구에서는 개인 정보에 접근할 수 있는 GPT-4가 인간 토론자보다 사용자를 설득할 확률이 81.2% 더 높다는 것을 발견했습니다.​Bloomberg Opinion 칼럼니스트 Parmy Olson에 따르면, 중간 규모의 자원을 가진 캠페인이 약 50,000달러의 컴퓨팅 비용으로 이러한 설득 봇을 배치할 수 있다고 합니다. 연구자들은 이념적 아이디어를 추진하거나, 정치적 불안을 조성하거나, 정치 시스템을 불안정하게 만들려는 누구나 설득 캠페인을 위해 오픈 소스 모델을 사용할 수 있다고 경고합니다. 연구는 설득 효과가 초기 대화 후 최소 한 달 동안 지속되었음을 보여주었습니다.
392 조회
0 추천
2025.12.16 등록
Google은 NotebookLM 리서치 도구와 Gemini 챗봇 간의 통합 기능을 롤아웃하기 시작했으며, 이를 통해 사용자는 전체 노트북을 대화에 직접 첨부하여 출처 기반 분석을 수행할 수 있게 되었다.이 기능은 주말 동안 매우 제한된 방식으로 배포되는 과정에서 포착되었으며, 사용자가 Gemini의 첨부 메뉴에서 노트북을 선택해 챗봇의 추론 모델을 활용하는 동안 인용을 유지하고, Sources 버튼을 통해 전체 NotebookLM 작업 공간으로 다시 이동할 수 있도록 해준다.이번 통합은 연구자 및 지식 노동자들의 핵심 워크플로 병목을 해소하기 위한 것으로, Google이 Microsoft Copilot과 OpenAI의 ChatGPT 다중 파일 기능과 경쟁하는 가운데, 환각 현상을 줄이도록 설계된 NotebookLM의 문서 중심 접근 방식과 Gemini의 대화형 AI를 결합한다.
382 조회
0 추천
2025.12.16 등록
'트랜스포머' 논문의 제1 저자인 아시시 바스와니 박사가 설립한 에센셜 AI가 80억개 매개변수(8B)를 가진 첫 오픈 소스 모델 'Rnj-1'을 출시했습니다. 이 모델은 저명한 수학자의 이름을 땄으며, 동급 오픈 소스 중 최고 수준의 성능을 목표로 '젬마 3' 아키텍처를 기반으로 구축되었습니다.에이전트 코딩 및 STEM에 최적화된 'Rnj-1-인스트럭트'는 'MBPP+'와 '휴먼이벨' 등 광범위한 코딩 벤치마크에서 비슷한 크기의 중국 모델보다 우수하거나 동등한 성적을 거두었습니다. 특히 수학 능력 테스트인 'AIME 2025'에서 43.3점을 기록하며 더 큰 모델에 근소하게 뒤졌을 뿐, 다른 유사 크기 모델들을 크게 앞질렀습니다.에센셜 AI는 모델 자체 역량 강화를 위해 강화 학습보다는 사전 훈련에 집중하는 개발 철학을 밝혔으며, 이로 인해 기업의 미세조정에 더 유리한 모델을 제공하고자 합니다. 회사는 소수 기업의 AI 기술 통제가 교육이나 의료 등 사람에게 이로운 분야의 발전을 저해해서는 안 된다고 강조하며 오픈 소스 정책을 고수할 것을 밝혔습니다.
401 조회
0 추천
2025.12.15 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입