Loading...

AI 뉴스

AI '바이브 코딩'의 45%에서 보안 결함 발견

페이지 정보

작성자 xtalfi
작성일 2025.09.21 13:28
3,098 조회
1 추천
0 비추천

본문

aadda27e7ccc8a68ba4f5527254a6cb4Bjln.jpg

(퍼플렉시티가 정리한 기사)

"Vibe coding"은 자연어 지시를 AI 도구를 통해 실제 작동하는 코드 프로토타입으로 변환하는 것을 일컫는 실리콘밸리의 유행어로, 숙련된 경영진과 젊은 개발자 모두가 프로그래밍에 접근하는 방식을 빠르게 바꾸고 있습니다. 기술 리더들은 그것이 혁신의 속도를 높인다고 강조하지만, 점점 더 많은 증거들이 그 이면에 심각한 보안 취약점과 품질 문제들이 도사리고 있음을 드러내고 있습니다.

이 트렌드는 이번 주 다시 주목을 받았습니다. 클라르나 CEO 세바스티안 시에미앗코프스키는 Sourcery 팟캐스트에서 자신이 "비즈니스맨"에서 Cursor와 같은 AI 코딩 도구를 활용해 20분 만에 프로토타입을 만들 수 있는 아마추어 개발자로 변신한 과정을 자세히 밝혔기 때문입니다. 한편, 메타 최고 AI 책임자인 알렉산드르 왕은 10대들에게 "모든 시간을 vibe coding에 쏟아부으라"고 조언하며, 현재의 시점을 빌 게이츠와 마크 저커버그와 같은 테크 거인들을 탄생시켰던 PC 혁명 초기와 비교했습니다.

 

임원의 포옹

 

시에먀트코프스키의 열정은 분위기 코딩(vibe coding)이 경영진 사이에서 널리 채택되고 있음을 반영한다. 그의 회사가 지난주 뉴욕 증권거래소에 상장하면서 주가가 공모가를 웃돌았던 클라르나(Klarna) CEO는 이 접근법이 개발 팀을 투입하기 전 스스로 아이디어를 실험할 수 있게 해준다고 주장한다.

"이제는 좋은 아이디어 반, 나쁜 아이디어 반인 생각으로 불쌍한 엔지니어와 프로덕트 팀을 방해하는 대신, 내가 직접 실험해본다"라고 시에먀트코프스키는 팟캐스트에서 설명했다. 구글() CEO 순다 피차이 역시 이 방식을 적극 도입하고 있는데, 그는 AI가 현재 구글의 신규 코드 중 30% 이상을 생성하고 있다며, 이를 "25년 만의 소프트웨어 개발 분야 최대 도약"이라고 표현했다.

메타의 왕(Wang)은 전통적인 코딩 기술이 5년 내에 AI 모델이 모든 인간 작성 코드를 대체하면서 사라질 것이라고 주장한다. 메타 내 100인 규모의 그의 초지능 연구실은 이 변화에 크게 투자하고 있으며, 그는 분위기 코딩을 AI 기반 스마트 글라스를 통한 미래 인지능력 강화로 이어지는 가교로 보고 있다.

 

보안 현실 점검

 

하지만 최근 연구는 바이브 코딩의 보안 문제에 대해 우려스러운 모습을 보여주고 있습니다. 베라코드의 2025년 GenAI 코드 보안 보고서에 따르면, AI가 생성한 코드의 45%에서 보안 결함이 발견되었으며, 모델들이 선택지를 주었을 때도 동일한 비율로 비보안적인 코딩 방식을 선택하는 것으로 나타났습니다. 이 취약점 비율은 AI 모델의 구문적으로 올바른 코드를 생성하는 능력이 향상되었음에도 불구하고 변하지 않고 있습니다.

2025년 7월 패스틀리가 791명의 개발자를 대상으로 조사한 결과, 95%가 AI 생성 코드를 고치는 데 추가 시간을 소비하고 있는 것으로 나타나, 생산성 향상에 대한 주장과 상반되었습니다. 조사에 따르면 시니어 개발자는 AI가 생성한 코드를 실제 프로덕션 환경에 투입할 가능성이 두 배 높았으며, 32%는 배포하는 코드의 절반 이상이 AI로부터 만들어진 것이라고 답한 반면, 주니어 개발자 중에서는 13%에 불과했습니다.

사이버 보안 연구원들은 임의 코드 실행 취약점이나 민감한 정보 노출 등의 주요 취약점이 인기 있는 바이브 코딩 플랫폼에서 존재함을 밝혔습니다. 데이타브릭스의 AI 레드팀은 바이브 코딩이 겉보기에 무해한 게임 개발 작업을 통해 원격 코드 실행 취약점을 의도치 않게 도입할 수 있음을 시연했습니다.

 

세대 간의 격차

 

보안 우려에도 불구하고, 채용 시장은 이미 바이브 코딩 수요에 맞춰 변화하고 있습니다. Visa, Reddit, DoorDash 등 다양한 기업들이 이제 구인 공고에 바이브 코딩 역량을 명확하게 요구하고 있으며, 일부 스타트업은 코드의 50%가 AI로 생성될 것을 의무화하고 있습니다.

Y Combinator는 현재 배치의 기업 중 25%가 코드베이스의 95%가 AI로 생성된다고 보고하며, 이는 스타트업 생태계가 해당 기술을 얼마나 빠르게 도입하고 있는지 보여줍니다. 이러한 변화로 인해 업계 관찰자들은 "바이브 코딩 클린업 전문가"라 불리는 새로운 직종이 생겨났는데, 이들은 AI가 생성한 코드의 문제를 해결하는 데 특화된 개발자입니다.

바이브 코딩이 실리콘밸리의 이사회와 개발팀 속으로 계속해서 퍼져가면서, 혁신의 속도와 코드 보안 사이의 긴장은 여전히 해소되지 않고 있습니다. 경영진들은 빠른 프로토타이핑 역량을 기뻐하고 있지만, 근본적인 보안 문제는 업계가 장기적인 안정성을 단기적인 속도와 맞바꾸고 있을 수 있음을 시사합니다.

댓글 0
전체 1,366 / 310 페이지
손목밴드에서 조정을 하는 것 같고 전작과 많이 달라졌습니다.AI 기능으로 번역도 가능하네요..https://www.meta.com/kr/ai-glasses/meta-ray-ban-display/
3215 조회
0 추천
2025.09.18 등록
조금 전 메타가 AI 기능이 있는 안경을 비롯하여 중요한 키노트를 진행하였습니다.CNET이 준비한 키노트 요약입니다.RAYBAN 과 새로 제작한 안경이 큰 화제입니다.
3262 조회
0 추천
2025.09.18 등록
마이크로소프트가 코파일럿 메모장과 그림판 연동기능을 제공하기 시작했으며이 기능은 오피스365를 사용하지 않아도 코파일럿을 이욯하면 이용할 수 있다.예를 들어 메모장은 다음과 같은 기능을 갖게 된다.-요약: 긴 텍스트를 간략하게 요점만 추려내고, 문서의 핵심을 빠르게 파악할 수 있습니다.- 쓰기: 프롬프트나 선택한 텍스트를 활용해 새로운 문장을 AI로 쉽고 빠르게 작성합니다.- 다시 쓰기: 선택한 내용을 AI가 어투, 길이, 명확성 등 다양한 스타일로 변환해 줍니다.또한 그림판은 다음과 같은 기능을 추가하게 된다.- 프로젝트 파일 저장 기능: 그림판에서 작업을 .paint 파일로 저장해 언제든 이어서 편집이 가능.- 불투명도(Opacity) 슬라이더: 연필 및 브러시 도구의 투명도를 원하는 대로 조절해 더 섬세한 혼합이나 레이어링 효과 주기.- 크기 및 불투명도 슬라이더 병행 사용: 두 슬라이더를 활용해 부드럽게 배합하고 다양한 질감의 그림 그리기.
3168 조회
0 추천
2025.09.18 등록
(퍼플렉시티가 정리한 기사)중국 AI 스타트업 DeepSeek은 획기적인 R1 모델 훈련 방식에 관한 새로운 세부 정보를 세계적인 권위지 네이처(Nature)의 동료검토 논문을 통해 발표했습니다. 이 논문에서는 기존 경쟁 모델 대비 극히 적은 비용으로 순수 강화학습만을 사용해 첨단 추론 능력을 달성한 방법을 공개했습니다.항저우에 본사를 둔 이 회사는 자사의 R1 추론 모델 훈련 비용이 단 29만 4천 달러에 불과하며, 기반 베이스 모델의 개발 비용은 약 600만 달러였음을 처음으로 공개했습니다. 총 630만 달러가 소요된 것으로, 이는 미국의 기술 기업들이 개발한 경쟁 모델이 수천만 달러에 달하는 것과는 극명한 대조를 이룹니다.순수 강화학습의 획기적인 발전DeepSeek의 주요 혁신은 연구자들이 “순수 강화 학습(pure reinforcement learning)“이라고 부르는 방식을 사용해 R1을 개발한 점에 있으며, 이는 인간이 만든 예시에 의존하는 기존의 감독 학습(supervised learning) 방식과는 다른 접근법입니다. 이 과정에서 모델은 인간이 선택한 추론 방식에 따르도록 학습시키는 대신, 올바른 답변에 도달할 때 보상을 받도록 설계되었습니다.네이처(Nature) 논문에 따르면, DeepSeek의 접근법은 모델이 인간이 제시한 전략을 따르지 않고도 자체적인 추론 전략을 개발하고 자신의 작업을 검증할 수 있는 능력을 갖추게 해주었습니다. 회사는 자체 시도에 대해 별도의 알고리즘을 사용하지 않고 추정치를 활용해 점수를 매길 수 있게 해주는 Group Relative Policy Optimization(GRPO)이라는 기법을 활용했습니다.“이 모델은 AI 연구자들 사이에서 매우 영향력이 컸습니다,“라고 오하이오 주립대(Ohio State University) 콜럼버스 소재 AI 연구원인 Huan Sun은 말했습니다. “2025년 현재까지 LLM에서 강화 학습을 수행하는 거의 모든 연구가 어떻게든 R1로부터 영감을 받았을지도 모릅니다”.5단계 훈련 과정완전한 R1 학습 과정은 감독 학습(fine-tuning)과 강화 학습을 번갈아가며 진행하는 여러 단계로 구성되었습니다. 이 과정은 딥시크(DeepSeek)의 V3-Base 모델을 수천 개의 ‘콜드 스타트’ 데이터 포인트로 파인튜닝하는 것으로 시작했고, 이후 순수 강화 학습을 통해 추론 능력을 향상시켰습니다.수렴에 가까워지면 시스템은 리젝션 샘플링(rejection sampling) 방식을 사용했습니다. 여기서 모델은 강화 학습 실행에서 성공적인 예시 중 최상의 예시를 선택해 자체 합성 훈련 데이터를 생성했습니다. 이 합성 데이터는 이후 글쓰기나 사실 기반 질문응답 등 다양한 영역에서 DeepSeek-V3-Base의 감독 학습 데이터와 통합되었습니다.동료 평가 중인 최초의 주요 LLMR1은 엄격한 동료 평가 과정을 거친 최초의 대형 언어 모델을 의미합니다. Nature 논문을 심사한 허깅페이스의 머신러닝 엔지니어 루이스 턴스톨은 이를 “매우 환영할 만한 선례”라고 평가하며, 훈련 과정이 공개되지 않으면 AI 시스템이 위험을 초래하는지 평가하기 어렵다고 언급했습니다.이 동료 평가 과정에서 DeepSeek는 훈련에 사용된 데이터 유형과 안전 조치를 포함한 기술적 세부 사항에 대한 설명을 추가하게 되었습니다. 이 모델은 오픈소스 특성을 유지하면서도 OpenAI의 o1 모델에 필적하는 추론 벤치마크 성능을 달성하였습니다.성능 및 접근성Hugging Face에서 1월에 출시된 이후, R1은 복잡한 문제 해결을 위한 플랫폼에서 가장 많이 다운로드된 모델이 되었으며, 다운로드 수는 1,090만 회를 넘어섰습니다. 이 모델은 AIME 2024 수학 벤치마크에서 pass@1 점수 79.8%를 기록하여 OpenAI o1의 79.2%를 소폭 앞섰습니다.DeepSeek의 혁신은 AI 개발 비용 및 성능 향상을 위해 모델 크기와 연산 능력을 늘려야 한다는 확장 법칙에 대한 기존의 통념에 도전장을 내밀었습니다. 회사는 비교적 덜 강력한 H800 칩을 사용해 성공을 거두었으며, 이 칩은 2023년 미국의 수출 통제로 중국 내 판매가 금지된 바 있습니다. 이러한 성과는 향후 AI 개발 방향에 대한 논의를 촉진하고 있습니다.
3150 조회
0 추천
2025.09.18 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입