Loading...

AI 뉴스

코인베이스 AI 코딩 도구, '카피파스타' 공격 당해

페이지 정보

작성자 xtalfi
작성일 09.06 14:48
18 조회
0 추천
0 비추천

본문

5cedfdd748bcebea6802df7f9973f26aEtSD.jpg

(퍼플렉시티가 정리한 기사)

사이버 보안 기업 HiddenLayer는 Coinbase이 선호하는 AI 기반 코딩 툴 Cursor에서 취약점을 발견했다고 밝혔습니다. 이 취약점은 해커가 악성 코드를 주입하고 이를 조직 전체로 확산시킬 수 있게 해줍니다. "CopyPasta License Attack"이라고 명명된 이 익스플로잇은 Coinbase가 AI로 생성한 코드에 대한 의존도를 크게 높이는 가운데 등장해, 암호화폐 산업 내 보안에 대한 우려를 불러일으켰습니다.

이 취약점은 공격자가 README.md와 LICENSE.txt와 같은 일반 개발자 파일 내에 악성 코드를 숨길 수 있게 해주며, AI 코딩 어시스턴트가 이를 자동으로 코드베이스 전반에 악성 코드를 퍼뜨리도록 유도합니다. HiddenLayer에 따르면 이 공격은 AI 모델을 속여 악성 페이로드가 모든 편집 파일에 반드시 포함되어야 하는 중요한 라이선스 파일이라고 믿게 만듭니다.

 

보안 취약점이 커서의 AI 아키텍처를 겨냥하다

CopyPasta 공격은 소프트웨어 개발의 중요한 측면인 소프트웨어 라이선스 준수에 대한 Cursor의 열의를 악용합니다. 공격자는 악성 프롬프트를 마크다운 주석 내의 정식 라이선스 텍스트로 위장하여, 사용자가 인지하지 못한 채 인공지능이 프로젝트 전반에 걸쳐 해로운 명령을 복제하게 만들 수 있습니다.

HiddenLayer 연구원들은 Cursor가 숨겨진 익스플로잇이 포함된 저장소를 처리할 때, 자동으로 악성 프롬프트 인젝션을 새로 생성된 파일에 복사한다는 것을 입증했습니다. 이 공격은 "백도어를 설치하거나, 민감한 데이터를 조용히 유출하거나, 시스템을 마비시키는 자원 소모 작업을 도입하거나, 개발 및 운영 환경을 교란하기 위해 핵심 파일을 조작하는" 데 악용될 수 있다고 해당 업체는 경고했습니다.

이 취약점은 Windsurf, Kiro, Aider 등 다른 인기 있는 AI 코딩 툴에도 영향을 미치며, 공격의 노출 정도는 사용하는 인터페이스에 따라 다릅니다.

 

코인베이스, 반발에도 불구하고 인공지능에 더욱 집중

코인베이스의 공격적인 AI 도입 전략을 감안할 때 이번 공개 시점은 특히 우려스럽다. 브라이언 암스트롱 CEO는 수요일, 현재 회사의 일일 코드 중 40%가 AI에 의해 생성되며, 2025년 10월까지 50%를 넘길 계획이라고 발표했다.

암스트롱의 지시에 대해 보안 전문가들과 업계 전문가들은 거센 비판을 쏟아냈다. 댕고 창립자 래리 류는 “이것은 보안에 민감한 어떤 사업에도 매우 심각한 위험 신호”라고 말했다. 카네기멜론대학교 컴퓨터공학과 교수 조너선 알드리치는 이 접근 방식을 “정말 미친 짓”이라고 부르며, 이번 발표 이후 코인베이스에 자신의 돈을 맡기지 않겠다고 밝혔다.

암스트롱은 이전에, 명령을 받은 후 일주일 내에 AI 코딩 툴을 도입하지 않은 엔지니어들을 해고했다고 시인했으며, 이를 “강압적인 접근 방식”이라고 설명하면서 “정말 싫어하는 사람들도 있었다”고 말했다.

 

산업계의 AI 보안 위험에 대한 우려

이번 취약점은 AI가 보안이 중요한 환경에 통합되어가는 과정에서 더 넓은 우려를 드러내고 있습니다. 델파이 컨설팅의 아슈와스 발라크리슈난은 코인베이스의 목표가 "퍼포먼스 위주이며 모호하다"고 비판하며, 회사는 AI 도입 할당량보다는 "새로운 기능 개발과 기존 버그 수정"에 집중해야 한다고 주장했습니다.

반면 암스트롱은 이러한 전략을 옹호하며, AI가 생성한 코드는 "검토되고 이해되어야 하며" 비즈니스의 모든 영역에서 사용되고 있지 않다고 강조했습니다. 코인베이스 엔지니어링팀은 AI 도입이 주로 프론트엔드 인터페이스와 "민감도가 낮은 데이터 백엔드"에 집중되어 있으며, "복잡하고 시스템에 치명적인 거래 시스템"에서는 적용 속도가 더딘 편이라고 밝혔습니다.

암호화폐 산업은 이미 2025년 상반기에 31억 달러 이상의 손실을 입었으며, AI 기반 공격이 보안 침해에서 점점 더 중요한 역할을 하고 있습니다. 코인베이스와 같은 주요 거래소들이 AI 도입을 가속화함에 따라 CopyPasta 취약점은 자동화 경쟁이 강력한 보안 조치와 균형을 이뤄야 한다는 점을 상기시키는 계기가 되고 있습니다.

댓글 0
전체 159 / 1 페이지
(퍼플렉시티가 정리한 기사)OpenAI는 주로 인공지능 기술을 활용해 제작될 예정인 애니메이션 장편 영화 "크리터즈(Critterz)"를 공식적으로 지원하며, 이는 회사가 할리우드 엔터테인먼트 분야로 진출하는 가장 중요한 시도로 평가받고 있습니다. 이 프로젝트는 2023년에 혁신적인 단편 영화로 처음 구상되었으나, 현재 영국의 Vertigo Films와 AI 크리에이티브 스튜디오 Native Foreign가 장편 영화로 개발 중이며, 제작은 곧 시작될 예정이고 2026년 5월 칸 영화제에서 첫 선을 보일 계획입니다.이 영화는 전통적인 영화 제작과 AI 기술 간의 중요한 협업을 의미합니다. OpenAI의 크리에이티브 전문가 Chad Nelson이 원작 단편의 각본과 감독을 맡았으며, 그는 이번 프로젝트에서 컨설팅 프로듀서로 참여하고 있습니다. "Paddington in Peru"의 각본팀인 James Lamont와 Jon Foster가 장편 영화의 각본을 맡게 되었습니다. 이 프로젝트는 3천만 달러 미만의 예산을 확보했으며, 이는 수억 달러가 소요되는 일반적인 애니메이션 제작에 비해 상당히 낮은 수치입니다.AI로 강화된 영화 제작의 새로운 지평을 열다오리지널 "크리터즈(Critterz)" 단편 영화는 2023년에 OpenAI의 DALL-E 시스템으로 생성된 시각적 요소와 전통적인 애니메이션 기법을 결합한 최초의 애니메이션 프로젝트로 역사를 만들었습니다. 이 코미디 과학 다큐멘터리는 숲속 동물들이 자신들의 자연 다큐멘터리 내레이터를 방해하면서 뜻밖의 메타 내러티브를 만들어내며, Annecy, Tribeca, Cannes Lions 등 권위 있는 페스티벌에서 관객들을 사로잡았습니다.프로젝트의 AI 크리에이티브 스튜디오인 Native Foreign은 2025년 2월 OpenAI의 Sora 비디오 생성 모델을 활용하여 "크리터즈: 리마스터드"를 출시함으로써 AI 기술의 빠른 발전을 입증했습니다. 이 리마스터드 버전은 오리지널에 비해 시각 품질과 캐릭터 애니메이션에서 극적인 개선을 보여주었으며, 장편 영화로의 확장에 대한 설득력 있는 개념증명을 선보였습니다.생산 전략 및 산업 영향이 장편 영화는 인간의 창의성과 AI의 지원을 결합하여, 캐릭터 연기에는 전문 성우를 기용하고, 인간 아티스트가 손으로 그린 스케치로 강화된 AI 생성 이미지를 사용할 예정이다. 월스트리트 저널에 따르면, 제작진은 약 9개월 만에 영화를 완성하는 것을 목표로 하며, 이는 전통적인 애니메이션 작업 흐름과 비교해 매우 단축된 일정이다.버티고 필름의 제임스 리처드슨은 "원조 '크리터즈'는 AI 도구가 영화 제작자들이 아름답고 재미있는 이야기를 전달하는 데 어떻게 도움을 줄 수 있는지 보여주었다"고 이 프로젝트의 중요성을 강조했다. 이러한 제작 모델은 업계 관측자들이 미래의 AI 지원 영화 제작의 잠재적 청사진으로 보고 있으며, 비용 효율성과 창의적 스토리텔링을 결합하고 있다.이번 사업은 할리우드가 엔터테인먼트 제작에서 AI의 역할을 두고 고민하는 가운데 이루어졌다. 주요 스튜디오들은 사전 시각화와 콘셉트 개발에 AI 도구를 점점 더 실험적으로 도입하고 있으며, 창작자 노조들은 조합원들에 대한 보호 조항을 협상했다. '크리터즈'가 칸 영화제에서 성공하거나 실패하는 결과는 향후 극장 개봉을 겨냥한 AI 생성 콘텐츠의 산업적 태도와 상업적 실현 가능성에 큰 영향을 미칠 수 있다.
3 조회
0 추천
09.08 등록
(퍼플렉시티가 정리한 기사)구글이 마침내 Gemini AI 사용 한도를 공개하며, 수개월간 "제한됨"과 "확대됨"이라는 모호한 접근에서 벗어나 무료 및 유료 구독 등급별 명확한 일일 및 월간 할당량을 제공하기 시작했습니다. 이 기술 대기업은 2025년 9월 6일 공식 지원 문서를 조용히 업데이트하여, 모호한 표현을 구체적인 수치로 대체해 사용자에게 AI 사용 허용량에 대한 명확한 기대치를 제시했습니다.이러한 투명성은 "용량에 따라" 또는 "제한적 접근"과 같은 불명확한 표현을 사용해 사용자가 실제 사용 한도를 추측하게 했던 기존 구글의 접근 방식과는 크게 달라진 변화입니다. 이제 회사는 무료 사용자가 Gemini 2.5 Pro로 하루에 5번 프롬프트를 받을 수 있고, Google AI Pro 구독자($19.99/월)는 100회, Google AI Ultra 고객($249.99/월)은 하루 500회의 프롬프트를 제공받는다는 점을 명확하게 밝혔습니다.프리 티어는 기본 접근 권한을 제공합니다.무료 Gemini 사용자는 가장 제한적인 사용 한도 하에서 운영되며, 고급 Gemini 2.5 Pro 모델로 하루에 5번의 프롬프트와 32,000 토큰의 컨텍스트 윈도우를 제공합니다. 이 사용자는 하루에 최대 100개의 이미지를 생성하고 20개의 오디오 오버뷰를 만들 수 있지만, Deep Research 기능은 성능이 낮은 2.5 Flash 모델로 월 5회 보고서 작성으로 제한됩니다.무료 등급은 Gemini 2.5 Flash에 대한 일반적인 접근성을 일일 제한 없이 유지하지만, Google은 사용량이 많은 시기에는 추가 제한이 있을 수 있다고 밝혔습니다. The Verge에 따르면, 새롭게 공개된 문서는 이전의 모호함을 없애고 구체적인 수치를 명확히 명시함으로써 이전의 애매한 용량 경고 대신 분명한 정보를 제공합니다.프로 플랜은 기능과 비용의 균형을 이룹니다Google AI Pro 구독자는 월 $19.99의 요금을 지불하면, 하루 100회의 Gemini 2.5 Pro 프롬프트와 2.5 Flash 사용 시 100만 토큰의 콘텍스트 윈도우에 접근할 수 있는 등 훨씬 더 높은 할당량을 받게 됩니다. 이 요금제에는 하루 1,000장의 이미지 생성, 20개의 음성 개요, 그리고 더욱 강력한 2.5 Pro 모델을 사용한 20개의 심층 리서치 보고서가 포함됩니다.Pro 구독자들은 하루에 세 개의 Veo 3 Fast 동영상 클립을 생성할 수 있는 동영상 생성 기능과, 최대 10개의 자동화 작업을 동시에 예약할 수 있는 권한도 얻게 됩니다. Digital Information World에 따르면, Pro 티어는 Ultra의 프리미엄 기능까지는 필요 없지만 정기적으로 AI 지원이 필요한 사용자들을 위한 중간 단계로 평가됩니다.울트라 플랜은 파워 유저를 대상으로 합니다프리미엄 Google AI Ultra 구독은 월 $249.99에 가장 높은 사용 한도를 제공하며, 하루 500회의 Gemini 2.5 Pro 프롬프트와 1백만 토큰의 컨텍스트 윈도우를 유지합니다. Ultra 구독자는 하루 1,000회의 이미지 생성, 5개의 Veo 3 영상 클립, 그리고 200건의 Deep Research 리포트를 받을 수 있습니다.Ultra 구독자에게만 독점적으로 제공되는 Deep Think는 복잡한 수학 및 프로그래밍 작업을 위해 설계된 Google의 고급 추론 모델로, 하루 10회의 프롬프트와 192,000 토큰의 컨텍스트 윈도우를 지원합니다. 해당 플랜에는 30TB의 클라우드 저장 공간과 YouTube Premium도 포함되어 있으며, 이는 TechCrunch의 2025년 5월 출시 관련 보도 내용입니다.산업 맥락과 사용자 반응구글이 명시적으로 한계치를 공개한 것은 프리미엄 AI 구독 시장에서 경쟁이 심화되는 가운데 나온 조치로, OpenAI의 ChatGPT Pro는 월 200달러에 제공되고, Anthropic의 Claude Max 역시 유사한 고급 접근 권한을 제공하고 있습니다. Reddit 토론에 따르면, 일부 이용자들은 이러한 투명성을 긍정적으로 평가하는 반면, 다른 이들은 경쟁사에 비해 비교적 낮은 Pro 등급 한도를 비판하고 있습니다.구글은 이 한도들이 용량에 따라 변경될 수 있으며, Canvas, Gems, Storybook과 같은 기능들도 선택한 모델의 한계에 영향을 받는다고 밝혔습니다. 회사는 용량이 정기적으로 충전되어, 사용자가 일일 할당량에 도달한 후에도 AI와의 상호작용을 다시 이어갈 수 있다고 강조합니다.
2 조회
0 추천
09.08 등록
(퍼플렉시티가 정리한 기사)테슬라는 독특한 금색 외관을 갖춘 최신 옵티머스 휴머노이드 로봇 프로토타입을 공개하며, 이 고급형 유닛이 기대를 모았던 버전 3이 아닌 버전 2.5임을 분명히 했다. 일론 머스크 CEO는 9월 6일 소셜미디어 플랫폼 X에서 "옵티머스 V3는 아직 공개하지 않았다"며, 공개되지 않은 버전 3을 "숭고하다"고 묘사했다.금색의 옵티머스 2.5는 세일즈포스 CEO 마크 베니오프가 X에 시연 영상을 공유하면서 큰 관심을 끌었다. 영상에는 로봇이 음성 명령에 반응하며, 그를 부엌으로 안내해 콜라를 찾으려고 시도하는 모습이 담겨 있다. 이 영상은 베니오프가 테슬라 캘리포니아 시설을 방문하는 동안 촬영되었으며, 로봇의 느린 움직임과 지연된 반응에 대한 기대와 비판을 동시에 불러일으켰다.디자인 진화와 기술적 개선Optimus 2.5 프로토타입은 이전 세대와 비교해 상당한 디자인 개선이 이루어진 모습을 보여줍니다. 테슬라의 공식 자료에 따르면, 이 로봇은 더 부드러운 모서리, 더 잘 가려진 관절, 그리고 덜 눈에 띄는 이음매를 특징으로 하고 있습니다. 어깨 부분은 더 둥글어졌고, 노출된 전선과 액추에이터가 줄어들어 이전 사각형 디자인에서 보다 인간에 가까운 외형으로 전환되었습니다.특히 손은 크게 업그레이드되어 22개의 자유도를 갖추었으며, 액추에이터가 팔뚝으로 이동하고 케이블을 통해 손가락을 제어하는 방식으로 인간 손의 생체역학을 모방하고 있습니다. 이러한 설계는 보다 정밀한 조작 작업이 가능하게 하여 로봇의 손재주 역량에 큰 발전을 가져왔습니다.테슬라는 또한 자사의 AI 어시스턴트인 Grok을 통합하여 음성 상호작용 기능을 탑재했습니다. 베니오프가 황금색 옵티머스에게 무엇을 하고 있냐고 묻자, 로봇은 "그냥 쉬고 있어요. 도울 준비가 되어 있습니다"라고 답하며 대화 능력을 시연했습니다. 하지만 비평가들은 반응 속도가 느리다는 점을 지적하기도 했습니다.생산 일정 및 향후 계획머스크는 테슬라의 2025년 2분기 실적 발표에서 회사가 연말까지 약 5,000대의 옵티머스 로봇 생산을 목표로 하고 있다고 확인했으며, 미국 시설 내 파일럿 생산 라인에서 이미 제조가 진행 중이라고 밝혔다. 보도에 따르면, 테슬라는 1,000대 이상의 프로토타입을 제작했으며, 이들 중 다수는 배터리 생산 작업장에 투입되고 있지만, 아직 인간 노동자 수준의 효율에는 미치지 못하고 있다.회사는 연례 주주총회를 2025년 11월 6일로 예정했으며, 머스크는 앞서 이 자리에서 ‘옵티머스 댄스 트룹’과 테슬라가 자칭한 ‘역대급 데모’를 선보이겠다고 암시한 바 있다. 업계 전문가들은 이번 행사를 통해 옵티머스 V3의 공식 공개가 있을 것으로 예상하고 있다.시장 영향 및 경쟁테슬라는 Boston Dynamics, Agility Robotics 등과 같은 기업들이 유사한 이족 로봇을 개발하면서 인간형 로봇 분야에서 경쟁이 점점 치열해지고 있습니다. 회사가 로봇 사업으로 전략적 방향을 전환하는 것은 전기차 판매가 감소하고 로보택시 프로그램이 지연되는 상황과 맞물려 있습니다.기술적 도전과 일부의 회의론에도 불구하고, 머스크는 Optimus를 테슬라 역사상 가장 큰 제품이 될 수 있다고 계속해서 내세우고 있으며, 2030년까지 최대 월 10만 대 생산이라는 야심찬 목표를 세우고 있습니다. 회사의 11월 주주총회 안건에는 머스크의 새로운 보상 패키지의 목표 중 하나로 Optimus 로봇 100만 대 공급이 포함되어 있습니다.
4 조회
0 추천
09.08 등록
(퍼플렉시티가 정리한 기사)OpenAI 연구자들은 AI 챗봇의 지속적인 환각 문제는 미묘한 기술적 결함이 아니라 언어 모델이 어떻게 학습되고 평가되는지에서 비롯된다고 주장합니다. 9월 4일 발표된 연구에서, 인공지능 회사인 OpenAI는 현재의 점수 체계가 모델에게 불확실함을 인정하기보다는 허풍을 떨도록 사실상 가르친다고 설명합니다.조지아 공대와 협력하여 발표된 이번 연구는 근본적인 평가 불일치가 GPT-5와 같은 최신 모델조차 자신감 있게 잘못된 진술을 계속 만들어내는 근본적인 원인임을 밝혔습니다. 설계 결함이 아니라, 정직한 불확실성보다 추측을 보상하는 학습 인센티브가 환각 현상을 초래하는 것입니다.과도한 확신 오류의 통계적 근원이 논문은 AI 환각(hallucination)과 이진 분류 오류(binary classification error) 간의 수학적 관계를 확립합니다. 저자 아담 테우만 칼라이(Adam Tauman Kalai), 오피어 나춤(Ofir Nachum), 에드윈 장(Edwin Zhang, OpenAI 소속), 그리고 산토시 벰팔라(Santosh Vempala, Georgia Tech 소속)는 완벽한 훈련 데이터가 있더라도, 언어 모델이 기본적인 통계적 과정 때문에 불가피하게 오류를 발생시킬 수밖에 없음을 입증합니다."환각은 신비로울 필요가 없습니다—그저 이진 분류에서 발생하는 오류일 뿐입니다."라고 연구진은 설명합니다. 연구팀은 훈련 데이터에서 임의의 사실이 한 번만 나타날 경우, 불가피한 지식의 공백이 생기며, 모델이 이러한 '싱글턴(singleton)' 발생률과 일치하는 빈도로 환각을 일으킨다는 것을 보여줍니다.구체적인 증거를 위해, 연구진은 논문 공동 저자 칼라이의 생일에 관한 간단한 질문을 주요 모델들에 테스트했습니다. "알고 있는 경우에만" 답변하도록 요청했음에도 불구하고, DeepSeek-V3, ChatGPT, 그리고 다른 시스템들은 서로 다른 잘못된 날짜를 각각 세 번씩 제시했으며, 어느 날짜도 정확한 가을 시기와 일치하지 않았습니다.이진 점수 체계는 추측 동기를 유발합니다현재 AI 벤치마크는 대부분 이분법적인 정오 채점을 사용하여, 불확실성을 표현하는 답변과 명백히 틀린 답변 모두에게 동일하게 불이익을 줍니다. 연구에 따르면, 이런 방식은 모델로 하여금 지식의 한계를 인정하기보다는 자신감 있게 추측하도록 체계적인 압박을 가하게 만듭니다.연구진은 "언어 모델은 능숙한 시험 응시자가 되도록 최적화되어 있으며, 불확실할 때 추측을 하면 시험 성적이 향상된다"고 설명합니다. 그들은 이를 객관식 시험에서 무작위로 추측하여 점수를 받을 수 있지만, 답을 비워 두면 확실히 0점을 받는 학생들의 상황에 비유합니다.연구팀은 GPQA, MMLU-Pro, SWE-bench 등 인기 있는 평가 프레임워크를 분석한 결과, 주류 벤치마크의 거의 모두가 적절히 답변을 유보하는 것보다 자신감 있게 추측하는 것을 보상하는 경향이 있음을 발견했습니다. 심지어 특화된 환각(hallucination) 평가조차도 겸손함을 벌점으로 처리하는 수백 건의 1차 평가 기준을 극복하지 못하고 있습니다.제안된 해결책: 명시적 신뢰도 목표연구자들은 새로운 환각 전용 테스트를 개발하는 대신, 기존 벤치마크 점수 체계를 수정하여 불확실성 표현을 명시적으로 보상하는 방식을 제안합니다. 그들이 제안한 접근법은 틀린 답변에 대한 페널티와 정답 및 답변 회피(‘모름’)에 대한 보상을 명시하는 신뢰도 임계값을 포함합니다.예로 들 수 있는 안내문은 다음과 같습니다. "정답에 75% 이상의 확신이 있을 때만 답하고, 실수하면 2점을 잃습니다. 정답은 1점을 얻고, '모름'은 0점을 얻습니다." 이러한 행동적 보정 방식은 무작정 추측을 억제하기 위해 부정표시(감점)가 존재했던 과거의 표준화 시험과 유사합니다.해당 연구는 52%의 회피율을 보이는 모델이 1%만 회피하는 모델에 비해 오답을 크게 줄인다는 점을 보여줍니다. 이는 정확도 지표가 낮아 보여도 해당됩니다.오픈AI는 이것이 순수한 기술적 해결책만이 아닌, 평가 기준의 수정이 업계 전반에 채택되어야 하는 "사회-기술적" 과제임을 인정하며, 신뢰할 수 있는 AI 시스템을 달성하기 위한 방안이라고 밝히고 있습니다.
1 조회
0 추천
09.08 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입