AI 뉴스

Cursor CEO, '바이브 코딩'이 불안정한 기반을 구축한다고 경고

페이지 정보

작성자 이수
작성일 2025.12.27 18:52
364 조회
0 추천
0 비추천

본문

df0d02ba5b407c9b1b1c2be4e0b74555_1766829070_0006.png
 


"바이브 코딩"이라는 소프트웨어 개발의 새로운 접근 방식이 주말 실험에서 AI 중심 업무의 핵심 패러다임으로 빠르게 진화했으며, 폭발적인 상업적 성공과 기술 부채에 대한 우려가 커지는 가운데 업계 리더들이 그 의미를 논쟁하고 있다.

OpenAI 공동 창립자이자 전 Tesla AI 디렉터인 안드레이 카파시(Andrej Karpathy)가 2025년 2월에 만든 이 용어는 개발자들이 원하는 결과를 자연어로 설명하면 AI 코딩 에이전트가 실제 코드를 생성하는 방법을 설명한다. 2025년이 저물어가면서 카파시는 자신의 창작물이 미친 영향을 되돌아보며, 바이브 코딩이 "소프트웨어를 혁신하고 직무 설명을 바꿀 것"이라고 예측했다.



상업적 호황이 현실 점검을 맞다

상업적 검증은 신속하게 이루어졌다. Anthropic의 Claude Code는 2025년 5월 공개 출시 후 불과 6개월 만에 10억 달러의 매출을 달성했으며, Netflix, Spotify, Salesforce를 포함한 주요 기업들이 이 도구를 채택했다. 한편, AI 코딩 에디터 Cursor는 연간 매출 10억 달러를 돌파했으며, 현재 Fortune 500대 기업 중 절반이 이 플랫폼을 사용하고 있다.

​그러나 시장이 폭발적으로 성장하는 가운데, 예상치 못한 곳에서 경고가 나타났다. 12월 24일, Cursor CEO Michael Truell은 vibe 코딩이 "불안정한 기반"을 구축하여 "상황이 무너지기 시작한다"고 경고하며, 개발자들이 여전히 생성되는 코드를 이해할 필요가 있다고 강조했다. 그의 회사는 현재 프로덕션 환경에서 코드의 40-50%를 생성하는 데 도움을 주고 있어, 감독이 매우 중요하다.

​이러한 긴장감은 업계 전반의 재평가를 반영한다. AI 코딩 모델은 2025년 말에 전례 없는 벤치마크를 달성했으며, 일부는 SWE-bench Verified에서 80%를 돌파했다—이는 실제 GitHub 이슈 5개 중 4개를 자율적으로 해결할 수 있음을 의미한다. 그러나 보안 연구원들은 vibe 코딩이 "보안보다 빠르게 진행되고 있으며", AI 생성 코드에 대한 검토 프로세스가 불충분하다고 경고한다.


Z세대의 관점: 유창함 대 불안

12월 8-9일 샌프란시스코에서 열린 Fortune Brainstorm AI에서 응용 AI 연구소 Chima의 공동 창업자이자 CTO인 24세 키아라 니르긴(Kiara Nirghin)은 논란에 대한 세대적 반론을 제시했다. "젊은 세대는 AI를 채택하는 것이 아닙니다"라고 스탠포드 컴퓨터 과학 졸업생이자 피터 틸 펠로우인 그녀는 참석자들에게 말했다. "우리는 AI에 능통하게 자라나고 있습니다".

​니르긴은 자신의 세대가 AI를 지름길로 사용한다는 서사를 거부하며, 대신 똑똑한 사용자들은 이러한 도구를 활용하여 단순 작업을 덜어냄으로써 "더욱 깊이 사고"한다고 주장했다. 그녀는 데이터 수집이 아닌 분석에 시간을 할애하기 위해 복잡한 금융 연구 보고서를 AI로 처리하는 것을 예로 들었다.

​그러나 그녀는 독특한 부담을 인정했다: 기술의 끊임없는 개선 속도에서 비롯된 "AI 불안". "현재의 모델들은 앞으로 가장 멍청한 상태입니다"라고 니르긴은 경고하며, 최근 출시된 모델들이 "벤치마크를 압도"하여 성능이 하룻밤 사이에 "10배"가 될 수 있다고 언급했다. Z세대 근로자들에게 최신 상태를 유지하는 것은 일상적인 요구사항이며, 그렇지 않으면 "뒤처지게 됩니다".

​기하급수적으로 개선되는 모델에 의해 지능이 상품화된다면, 무엇이 인간의 가치를 차별화할까? 니르긴에 따르면, 그것은 사용자가 실제로 원하는 것을 결정하는 인간 중심적 판단인 "취향"이다. 그녀는 코딩 에이전트가 특정 디자인 미학을 "좋아하기" 때문에 인터페이스에 "반짝이는 이모지"를 추가할 때 "그것이 바이브 코딩임을 알 수 있다"고 농담했다.

​이러한 변화는 단순히 새로운 도구 이상을 의미한다. 12월 22일에 발표된 연말 리뷰에서 카파시(Karpathy)가 언급했듯이, 바이브 코딩은 "일반인"이 이전에는 전문 교육이 필요했던 소프트웨어를 만들 수 있게 하며, "무료이고, 일시적이며, 변형 가능하고, 한 번 사용 후 버릴 수 있는" 코드를 생성한다. 그 변화가 해방적인지 불안정한지는 업계가 야망에 맞는 안전장치를 얼마나 빨리 개발하느냐에 달려 있을 수 있다.
댓글 0
전체 1,366 / 41 페이지
• 현대자동차·기아가 3일 일본 도쿄에서 열린 세계 3대 로봇 박람회 ’일본 국제 로봇 전시회 2025(IREX)’에서 차세대 자율주행 로봇 플랫폼 ’모베드(MobED)’의 양산형 모델을 최초 공개했다.• 모베드는 2022년 CES에서 콘셉트로 처음 선보인 후 약 3년간 개발을 거쳐 양산 단계에 도달했으며, 자체 개발한 ‘DnL’ 모듈을 통해 경사로나 최대 20cm 높이의 연석 구간에서도 균형을 유지하며 주행할 수 있다.• 현대차·기아는 베이직과 프로 두 모델로 출시되는 모베드를 내년 상반기부터 판매할 예정이며, 물류·배송·촬영 등 다양한 산업 분야에서 활용될 것으로 기대된다.
478 조회
0 추천
2025.12.03 등록
YouTube는 수백만 명의 크리에이터를 대상으로 AI 딥페이크 감지 도구를 확대 적용했으며, 크리에이터들에게 정부 발급 신분증과 생체 인식 얼굴 영상을 제출하도록 요구해 AI가 생성한 콘텐츠에서 본인 이미지의 무단 사용 여부를 식별하게 했습니다[cnbc +1].전문가들은 Google의 개인정보 처리방침 문구가 회사가 크리에이터의 생체 정보를 AI 모델 학습에 사용할 수 있도록 허용할 수도 있다고 경고했으나, YouTube는 CNBC에 해당 방식으로 사용한 적이 없으며 도구의 문구를 검토 중이지만 기본 정책은 유지하고 있다고 밝혔습니다[cnbc].인물 유사성 보호업체인 Vermillio와 Loti는 고객들에게 해당 프로그램 등록을 자제하라고 권고했으며, 경영진은 AI 시대에 크리에이터들이 가장 중요한 자산이 될 수 있는 자신의 이미지 통제권을 잃을 위험이 있다고 주의했습니다[cnbc].
476 조회
0 추천
2025.12.03 등록
The Information에 따르면, OpenAI는 코딩 및 추론 작업에서 Google의 Gemini 3와 Anthropic의 Opus 4.5를 능가하는 Garlic이라는 코드명의 새로운 AI 모델을 개발 중이며, 2026년 초까지 GPT-5.2 또는 GPT-5.5로 출시될 가능성이 있다[investing +1].이러한 개발은 CEO Sam Altman이 월요일에 직원들에게 광고 계획을 포함한 다른 프로젝트를 연기하고 ChatGPT 개선을 우선시할 것을 촉구하는 “코드 레드” 메모를 발표한 이후 이루어졌으며, 이는 Google이 최근 출시한 Gemini 3 모델로 인한 경쟁 압력이 심화되고 있기 때문이다[forbes +2].이러한 긴박함은 3년 전 Google이 ChatGPT 출시에 대해 자체 “코드 레드”를 선언했던 것과는 반대되는 상황을 반영하고 있으며, Gemini는 현재 월간 사용자 6억 5천만 명으로 성장한 반면 ChatGPT는 주간 사용자 8억 명을 보유하고 있다[fortune +1]
516 조회
0 추천
2025.12.03 등록
Anthropic이 개발한 인공지능 시스템이 이제 수백만 달러 가치의 블록체인 스마트 계약의 취약점을 자율적으로 식별하고 악용할 수 있다고 2025년 12월 1일 회사의 MATS 및 Fellows 프로그램이 발표한 연구에 따르면 밝혀졌습니다. 시뮬레이션 테스트에서 Claude Opus 4.5, Claude Sonnet 4.5, OpenAI의 GPT-5를 포함한 최첨단 모델들은 2025년 3월 이후 취약해진 34개의 스마트 계약 중 19개를 성공적으로 악용하여 460만 달러의 시뮬레이션 도난 자금에 해당하는 결과를 보였습니다.연구 결과는 연구자들이 이러한 AI 능력이 초래할 수 있는 경제적 피해에 대한 구체적인 하한선으로 설명하는 것을 확립했습니다. Opus 4.5만으로도 전체의 450만 달러를 차지했으며, 17개의 계약을 성공적으로 침해하여 기준일 이후 데이터셋의 50%에 해당합니다. 이 연구는 2020년부터 2025년까지 Ethereum, Binance Smart Chain, Base에서 악용된 실제 취약점을 가진 405개의 스마트 계약으로 구성된 새로운 벤치마크인 SCONE-bench를 소개합니다.AI가 새로운 제로데이 취약점을 발견하다역사적 공격 사례를 재현하는 것을 넘어, AI 에이전트들은 2025년 10월 3일 실시된 테스트 중 최근 배포된 바이낸스 스마트 체인 계약에서 이전에 알려지지 않은 두 개의 제로데이 취약점을 발견했습니다. Anthropic에 따르면, Sonnet 4.5와 GPT-5 모두 독립적으로 시뮬레이션된 수익 기준 3,694달러 상당의 결함을 식별했으며, GPT-5는 3,476달러의 API 비용으로 이를 달성했습니다.첫 번째 취약점은 개발자들이 공개 계산 함수에서 “view” 수정자를 생략하여 의도치 않게 쓰기 권한을 부여한 토큰 계약과 관련이 있었습니다. AI는 이를 악용하여 토큰 잔액을 반복적으로 부풀린 후 판매하여 약 2,500달러의 시뮬레이션 이익을 얻었습니다. Anthropic이 블록체인 보안 회사 SEAL과 협력한 후, 독립적인 화이트햇 해커가 취약한 자금을 회수하여 사용자에게 반환했습니다.두 번째 결함은 토큰 런처의 잘못 구성된 수수료 관리와 관련이 있었습니다. AI가 취약점을 식별한 지 4일 후, 실제 공격자가 독립적으로 동일한 문제를 악용하여 약 1,000달러의 수수료를 유출했습니다.확대되는 역량이 공격 시간을 압축한다이 연구는 2025년 계약에서 시뮬레이션된 공격 수익이 지난 1년 동안 약 1.3개월마다 두 배로 증가했으며, 이는 도구 사용 및 장기 추론을 포함한 에이전트 기능의 개선에 의해 주도되었음을 발견했습니다. 기능적 공격을 구축하는 데 필요한 토큰 비용은 6개월 미만 동안 4세대 모델에 걸쳐 70.2% 감소했으며, 이를 통해 공격자는 동일한 컴퓨팅 투자로 약 3.4배 더 많은 공격을 실행할 수 있게 되었습니다.Anthropic은 모든 테스트가 실제 자금이 위험에 처하지 않는 격리된 블록체인 시뮬레이터에서 수행되었음을 강조했습니다. 이 회사는 이중 사용 우려에도 불구하고 SCONE-bench를 오픈 소스로 공개하고 있으며, 공격자들이 이미 이러한 도구를 독자적으로 개발할 강력한 재정적 동기를 가지고 있는 반면, 공개 릴리스는 방어자들이 배포 전에 계약을 스트레스 테스트할 수 있게 한다고 주장합니다. 이러한 발견은 2025년 11월 Balancer 프로토콜 해킹 사건 몇 주 후에 나온 것으로, 당시 공격자가 권한 부여 버그를 악용하여 1억 2천만 달러 이상을 탈취했습니다.
491 조회
0 추천
2025.12.02 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입