Loading...

AI 뉴스

코인베이스 AI 코딩 도구, '카피파스타' 공격 당해

페이지 정보

작성자 xtalfi
작성일 2025.09.06 14:48
1,055 조회
0 추천
0 비추천

본문

5cedfdd748bcebea6802df7f9973f26aEtSD.jpg

(퍼플렉시티가 정리한 기사)

사이버 보안 기업 HiddenLayer는 Coinbase이 선호하는 AI 기반 코딩 툴 Cursor에서 취약점을 발견했다고 밝혔습니다. 이 취약점은 해커가 악성 코드를 주입하고 이를 조직 전체로 확산시킬 수 있게 해줍니다. "CopyPasta License Attack"이라고 명명된 이 익스플로잇은 Coinbase가 AI로 생성한 코드에 대한 의존도를 크게 높이는 가운데 등장해, 암호화폐 산업 내 보안에 대한 우려를 불러일으켰습니다.

이 취약점은 공격자가 README.md와 LICENSE.txt와 같은 일반 개발자 파일 내에 악성 코드를 숨길 수 있게 해주며, AI 코딩 어시스턴트가 이를 자동으로 코드베이스 전반에 악성 코드를 퍼뜨리도록 유도합니다. HiddenLayer에 따르면 이 공격은 AI 모델을 속여 악성 페이로드가 모든 편집 파일에 반드시 포함되어야 하는 중요한 라이선스 파일이라고 믿게 만듭니다.

 

보안 취약점이 커서의 AI 아키텍처를 겨냥하다

CopyPasta 공격은 소프트웨어 개발의 중요한 측면인 소프트웨어 라이선스 준수에 대한 Cursor의 열의를 악용합니다. 공격자는 악성 프롬프트를 마크다운 주석 내의 정식 라이선스 텍스트로 위장하여, 사용자가 인지하지 못한 채 인공지능이 프로젝트 전반에 걸쳐 해로운 명령을 복제하게 만들 수 있습니다.

HiddenLayer 연구원들은 Cursor가 숨겨진 익스플로잇이 포함된 저장소를 처리할 때, 자동으로 악성 프롬프트 인젝션을 새로 생성된 파일에 복사한다는 것을 입증했습니다. 이 공격은 "백도어를 설치하거나, 민감한 데이터를 조용히 유출하거나, 시스템을 마비시키는 자원 소모 작업을 도입하거나, 개발 및 운영 환경을 교란하기 위해 핵심 파일을 조작하는" 데 악용될 수 있다고 해당 업체는 경고했습니다.

이 취약점은 Windsurf, Kiro, Aider 등 다른 인기 있는 AI 코딩 툴에도 영향을 미치며, 공격의 노출 정도는 사용하는 인터페이스에 따라 다릅니다.

 

코인베이스, 반발에도 불구하고 인공지능에 더욱 집중

코인베이스의 공격적인 AI 도입 전략을 감안할 때 이번 공개 시점은 특히 우려스럽다. 브라이언 암스트롱 CEO는 수요일, 현재 회사의 일일 코드 중 40%가 AI에 의해 생성되며, 2025년 10월까지 50%를 넘길 계획이라고 발표했다.

암스트롱의 지시에 대해 보안 전문가들과 업계 전문가들은 거센 비판을 쏟아냈다. 댕고 창립자 래리 류는 “이것은 보안에 민감한 어떤 사업에도 매우 심각한 위험 신호”라고 말했다. 카네기멜론대학교 컴퓨터공학과 교수 조너선 알드리치는 이 접근 방식을 “정말 미친 짓”이라고 부르며, 이번 발표 이후 코인베이스에 자신의 돈을 맡기지 않겠다고 밝혔다.

암스트롱은 이전에, 명령을 받은 후 일주일 내에 AI 코딩 툴을 도입하지 않은 엔지니어들을 해고했다고 시인했으며, 이를 “강압적인 접근 방식”이라고 설명하면서 “정말 싫어하는 사람들도 있었다”고 말했다.

 

산업계의 AI 보안 위험에 대한 우려

이번 취약점은 AI가 보안이 중요한 환경에 통합되어가는 과정에서 더 넓은 우려를 드러내고 있습니다. 델파이 컨설팅의 아슈와스 발라크리슈난은 코인베이스의 목표가 "퍼포먼스 위주이며 모호하다"고 비판하며, 회사는 AI 도입 할당량보다는 "새로운 기능 개발과 기존 버그 수정"에 집중해야 한다고 주장했습니다.

반면 암스트롱은 이러한 전략을 옹호하며, AI가 생성한 코드는 "검토되고 이해되어야 하며" 비즈니스의 모든 영역에서 사용되고 있지 않다고 강조했습니다. 코인베이스 엔지니어링팀은 AI 도입이 주로 프론트엔드 인터페이스와 "민감도가 낮은 데이터 백엔드"에 집중되어 있으며, "복잡하고 시스템에 치명적인 거래 시스템"에서는 적용 속도가 더딘 편이라고 밝혔습니다.

암호화폐 산업은 이미 2025년 상반기에 31억 달러 이상의 손실을 입었으며, AI 기반 공격이 보안 침해에서 점점 더 중요한 역할을 하고 있습니다. 코인베이스와 같은 주요 거래소들이 AI 도입을 가속화함에 따라 CopyPasta 취약점은 자동화 경쟁이 강력한 보안 조치와 균형을 이뤄야 한다는 점을 상기시키는 계기가 되고 있습니다.

댓글 0
전체 773 / 155 페이지
(퍼플렉시티가 정리한 기사)테슬라는 독특한 금색 외관을 갖춘 최신 옵티머스 휴머노이드 로봇 프로토타입을 공개하며, 이 고급형 유닛이 기대를 모았던 버전 3이 아닌 버전 2.5임을 분명히 했다. 일론 머스크 CEO는 9월 6일 소셜미디어 플랫폼 X에서 "옵티머스 V3는 아직 공개하지 않았다"며, 공개되지 않은 버전 3을 "숭고하다"고 묘사했다.금색의 옵티머스 2.5는 세일즈포스 CEO 마크 베니오프가 X에 시연 영상을 공유하면서 큰 관심을 끌었다. 영상에는 로봇이 음성 명령에 반응하며, 그를 부엌으로 안내해 콜라를 찾으려고 시도하는 모습이 담겨 있다. 이 영상은 베니오프가 테슬라 캘리포니아 시설을 방문하는 동안 촬영되었으며, 로봇의 느린 움직임과 지연된 반응에 대한 기대와 비판을 동시에 불러일으켰다.디자인 진화와 기술적 개선Optimus 2.5 프로토타입은 이전 세대와 비교해 상당한 디자인 개선이 이루어진 모습을 보여줍니다. 테슬라의 공식 자료에 따르면, 이 로봇은 더 부드러운 모서리, 더 잘 가려진 관절, 그리고 덜 눈에 띄는 이음매를 특징으로 하고 있습니다. 어깨 부분은 더 둥글어졌고, 노출된 전선과 액추에이터가 줄어들어 이전 사각형 디자인에서 보다 인간에 가까운 외형으로 전환되었습니다.특히 손은 크게 업그레이드되어 22개의 자유도를 갖추었으며, 액추에이터가 팔뚝으로 이동하고 케이블을 통해 손가락을 제어하는 방식으로 인간 손의 생체역학을 모방하고 있습니다. 이러한 설계는 보다 정밀한 조작 작업이 가능하게 하여 로봇의 손재주 역량에 큰 발전을 가져왔습니다.테슬라는 또한 자사의 AI 어시스턴트인 Grok을 통합하여 음성 상호작용 기능을 탑재했습니다. 베니오프가 황금색 옵티머스에게 무엇을 하고 있냐고 묻자, 로봇은 "그냥 쉬고 있어요. 도울 준비가 되어 있습니다"라고 답하며 대화 능력을 시연했습니다. 하지만 비평가들은 반응 속도가 느리다는 점을 지적하기도 했습니다.생산 일정 및 향후 계획머스크는 테슬라의 2025년 2분기 실적 발표에서 회사가 연말까지 약 5,000대의 옵티머스 로봇 생산을 목표로 하고 있다고 확인했으며, 미국 시설 내 파일럿 생산 라인에서 이미 제조가 진행 중이라고 밝혔다. 보도에 따르면, 테슬라는 1,000대 이상의 프로토타입을 제작했으며, 이들 중 다수는 배터리 생산 작업장에 투입되고 있지만, 아직 인간 노동자 수준의 효율에는 미치지 못하고 있다.회사는 연례 주주총회를 2025년 11월 6일로 예정했으며, 머스크는 앞서 이 자리에서 ‘옵티머스 댄스 트룹’과 테슬라가 자칭한 ‘역대급 데모’를 선보이겠다고 암시한 바 있다. 업계 전문가들은 이번 행사를 통해 옵티머스 V3의 공식 공개가 있을 것으로 예상하고 있다.시장 영향 및 경쟁테슬라는 Boston Dynamics, Agility Robotics 등과 같은 기업들이 유사한 이족 로봇을 개발하면서 인간형 로봇 분야에서 경쟁이 점점 치열해지고 있습니다. 회사가 로봇 사업으로 전략적 방향을 전환하는 것은 전기차 판매가 감소하고 로보택시 프로그램이 지연되는 상황과 맞물려 있습니다.기술적 도전과 일부의 회의론에도 불구하고, 머스크는 Optimus를 테슬라 역사상 가장 큰 제품이 될 수 있다고 계속해서 내세우고 있으며, 2030년까지 최대 월 10만 대 생산이라는 야심찬 목표를 세우고 있습니다. 회사의 11월 주주총회 안건에는 머스크의 새로운 보상 패키지의 목표 중 하나로 Optimus 로봇 100만 대 공급이 포함되어 있습니다.
1050 조회
0 추천
2025.09.08 등록
(퍼플렉시티가 정리한 기사)OpenAI 연구자들은 AI 챗봇의 지속적인 환각 문제는 미묘한 기술적 결함이 아니라 언어 모델이 어떻게 학습되고 평가되는지에서 비롯된다고 주장합니다. 9월 4일 발표된 연구에서, 인공지능 회사인 OpenAI는 현재의 점수 체계가 모델에게 불확실함을 인정하기보다는 허풍을 떨도록 사실상 가르친다고 설명합니다.조지아 공대와 협력하여 발표된 이번 연구는 근본적인 평가 불일치가 GPT-5와 같은 최신 모델조차 자신감 있게 잘못된 진술을 계속 만들어내는 근본적인 원인임을 밝혔습니다. 설계 결함이 아니라, 정직한 불확실성보다 추측을 보상하는 학습 인센티브가 환각 현상을 초래하는 것입니다.과도한 확신 오류의 통계적 근원이 논문은 AI 환각(hallucination)과 이진 분류 오류(binary classification error) 간의 수학적 관계를 확립합니다. 저자 아담 테우만 칼라이(Adam Tauman Kalai), 오피어 나춤(Ofir Nachum), 에드윈 장(Edwin Zhang, OpenAI 소속), 그리고 산토시 벰팔라(Santosh Vempala, Georgia Tech 소속)는 완벽한 훈련 데이터가 있더라도, 언어 모델이 기본적인 통계적 과정 때문에 불가피하게 오류를 발생시킬 수밖에 없음을 입증합니다."환각은 신비로울 필요가 없습니다—그저 이진 분류에서 발생하는 오류일 뿐입니다."라고 연구진은 설명합니다. 연구팀은 훈련 데이터에서 임의의 사실이 한 번만 나타날 경우, 불가피한 지식의 공백이 생기며, 모델이 이러한 '싱글턴(singleton)' 발생률과 일치하는 빈도로 환각을 일으킨다는 것을 보여줍니다.구체적인 증거를 위해, 연구진은 논문 공동 저자 칼라이의 생일에 관한 간단한 질문을 주요 모델들에 테스트했습니다. "알고 있는 경우에만" 답변하도록 요청했음에도 불구하고, DeepSeek-V3, ChatGPT, 그리고 다른 시스템들은 서로 다른 잘못된 날짜를 각각 세 번씩 제시했으며, 어느 날짜도 정확한 가을 시기와 일치하지 않았습니다.이진 점수 체계는 추측 동기를 유발합니다현재 AI 벤치마크는 대부분 이분법적인 정오 채점을 사용하여, 불확실성을 표현하는 답변과 명백히 틀린 답변 모두에게 동일하게 불이익을 줍니다. 연구에 따르면, 이런 방식은 모델로 하여금 지식의 한계를 인정하기보다는 자신감 있게 추측하도록 체계적인 압박을 가하게 만듭니다.연구진은 "언어 모델은 능숙한 시험 응시자가 되도록 최적화되어 있으며, 불확실할 때 추측을 하면 시험 성적이 향상된다"고 설명합니다. 그들은 이를 객관식 시험에서 무작위로 추측하여 점수를 받을 수 있지만, 답을 비워 두면 확실히 0점을 받는 학생들의 상황에 비유합니다.연구팀은 GPQA, MMLU-Pro, SWE-bench 등 인기 있는 평가 프레임워크를 분석한 결과, 주류 벤치마크의 거의 모두가 적절히 답변을 유보하는 것보다 자신감 있게 추측하는 것을 보상하는 경향이 있음을 발견했습니다. 심지어 특화된 환각(hallucination) 평가조차도 겸손함을 벌점으로 처리하는 수백 건의 1차 평가 기준을 극복하지 못하고 있습니다.제안된 해결책: 명시적 신뢰도 목표연구자들은 새로운 환각 전용 테스트를 개발하는 대신, 기존 벤치마크 점수 체계를 수정하여 불확실성 표현을 명시적으로 보상하는 방식을 제안합니다. 그들이 제안한 접근법은 틀린 답변에 대한 페널티와 정답 및 답변 회피(‘모름’)에 대한 보상을 명시하는 신뢰도 임계값을 포함합니다.예로 들 수 있는 안내문은 다음과 같습니다. "정답에 75% 이상의 확신이 있을 때만 답하고, 실수하면 2점을 잃습니다. 정답은 1점을 얻고, '모름'은 0점을 얻습니다." 이러한 행동적 보정 방식은 무작정 추측을 억제하기 위해 부정표시(감점)가 존재했던 과거의 표준화 시험과 유사합니다.해당 연구는 52%의 회피율을 보이는 모델이 1%만 회피하는 모델에 비해 오답을 크게 줄인다는 점을 보여줍니다. 이는 정확도 지표가 낮아 보여도 해당됩니다.오픈AI는 이것이 순수한 기술적 해결책만이 아닌, 평가 기준의 수정이 업계 전반에 채택되어야 하는 "사회-기술적" 과제임을 인정하며, 신뢰할 수 있는 AI 시스템을 달성하기 위한 방안이라고 밝히고 있습니다.
1136 조회
0 추천
2025.09.08 등록
(퍼플렉시티가 정리한 기사)• 정규돈 카카오 최고기술책임자(CTO)가 9월 5일 테크 블로그를 통해 AI 개발 전략에 대한 새로운 접근법을 제시하며, 대형언어모델(LLM) 직접 개발보다는 기존 모델을 운영체제(OS)처럼 활용해야 한다는 입장을 밝혔다.• 그는 현재 글로벌 AI 경쟁을 ‘골리앗들의 전쟁’으로 정의하며, 전력·컴퓨팅·인재 측면에서 글로벌 빅테크 기업이 벌린 격차가 이미 거대한 장벽으로 작용한다고 설명했다.• 카카오는 AI와 개발자가 협업하는 ‘바이브 코딩’ 방식을 통해 평균 50%, 최대 100%의 생산성 향상을 확인했으며, 매달 120달러 상당의 ‘AI 마일리지’ 제도로 개발자들이 다양한 AI 툴을 자유롭게 활용할 수 있도록 지원하고 있다.• 9월 23일 개최 예정인 ‘이프카카오25’에서 오픈AI와의 협력을 통해 카카오톡 채팅탭에서 바로 챗GPT를 사용할 수 있는 서비스를 공개할 예정이라고 발표했다.• 이러한 접근법은 독자 모델 구축을 중요시하는 ‘소버린 AI’ 기조와는 다른 결로, 국내 AI 3강 정책과는 상반된 현실적 전략을 제시한 것으로 평가된다.왜 중요한가한국 대표 IT 기업 카카오 CTO가 제시한 AI 전략은 국가 차원의 소버린 AI 정책과 상반되는 현실적 접근으로, 국내 AI 생태계의 방향성에 대한 새로운 논의를 촉발할 것으로 예상된다. 글로벌 빅테크와의 협력을 통한 실용적 AI 활용이 독자 기술 개발보다 효과적일 수 있다는 주장은 한국 AI 정책에 중요한 시사점을 제공한다.
1063 조회
0 추천
2025.09.07 등록
(퍼플렉시티가 정리한 기사)중국은 전자전이 정교하게 이루어지는 환경에서도 거의 완벽한 목표 추적을 유지할 수 있는 인공지능 기반의 반재밍(anti-jamming) 레이더 기술을 성공적으로 시험함으로써 돌파구를 마련했습니다. 중국 저널 '정보화 연구(Informatisation Research)'에 발표된 연구에 따르면, 인공지능이 탑재된 이 시스템은 기존 70~80% 수준이던 레이더 목표 추적 연속성을 비행 시험 중 99% 이상으로 끌어올렸습니다.이 획기적인 시험 결과는 현대 전자전을 근본적으로 변화시킬 수 있는 레이더 성능의 근본적 전환을 시사합니다. 중국전자기술그룹(CETC) 제14연구소(난징) 책임 연구원 장제(张杰)는 지난달 동료 심사를 거쳐 발표된 논문에서 이를 “레이더 설계 철학의 패러다임 전환”이라고 표현했습니다.진보된 인공지능 적응력, 전통적인 한계를 극복하다테스트는 AI로 강화된 레이더 시스템을 탑재한 미확인 항공기가 "첨단의 정교한 전자 방해(jamming)" 상황에 직면한 상태에서 진행되었으며, 이러한 상황은 일반적으로 기존 레이더의 성능을 저하시킬 수 있습니다. 전통적인 레이더 시스템이 교전 중 약 25%의 확률로 표적을 놓쳤던 반면, AI로 강화된 시스템은 거의 완벽한 정확도로 추적을 유지했습니다.이 기술을 개발한 중국전자기술그룹공사(CETC) 산하 제14연구소는 중국의 대표적인 레이더 개발 허브로, "중국 군용 레이더 산업의 요람"이라고 불려왔습니다. 이 돌파구는 최근 베이징에서 열린 승전기념일(Victory Day) 군사 퍼레이드에서도 뚜렷이 드러난 바와 같이, 인공지능을 군사 시스템 전반에 통합하려는 중국의 광범위한 노력 속에서 이루어졌습니다.중국의 전자전 야망에 대한 맥락레이더 개발은 중국이 확장 중인 전자전 능력과 일치하며, 이는 9월 3일 승리의 날 퍼레이드에서 여러 분야에 걸쳐 AI 기반 시스템들이 등장함으로써 공개되었습니다. 퍼레이드에서는 인지 전자전에 대한 중국의 중점을 강조했으며, J-15DT 전자전기와 같은 플랫폼이 레이더 시스템을 교란하고 AI 강화 능력을 사용해 후속 부대를 위한 통로를 만드는 데 설계되었습니다.중국의 군 현대화는 점점 더 서방의 첨단 레이더 및 미사일 시스템에 대응하는 데 집중하고 있습니다. 최근 보도에 따르면 중국 연구진이 "텔레파시 레이더" 시스템도 개발하여 군 부대가 탐지 가능한 신호 발신 없이 통신할 수 있게 하고, 항공기를 적 전자 감시에 거의 탐지되지 않게 만드는 주파수 다중 배열 시스템도 고안했다고 합니다.이러한 개발의 시점은 인도-태평양 지역의 긴장 고조와 맞물려 있으며, 전자전 능력이 어떤 잠재적 분쟁에서 결정적인 역할을 할 수 있습니다. 중국이 AI 기반 군사 기술을 계속 발전시키면서, 지역 안보 역학과 글로벌 전자전 능력의 균형에 대한 함의는 여전히 중요합니다.
1087 조회
0 추천
2025.09.07 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입