Loading...

AI 뉴스

Waymo CEO, Tesla의 안전 데이터 부족 비판

페이지 정보

작성자 xtalfi
작성일 2025.10.29 18:24
1,782 조회
0 추천
0 비추천

본문

2243666324_hv5fgb.jpg

(퍼플렉시티가 정리한 기사)


Waymo 공동 CEO인 테케드라 마와카나는 월요일 테슬라와 다른 자율주행 자동차 회사들을 향해 우회적이지만 날카로운 비판을 가했으며, 안전 기록에 대한 투명성 부족이 무인 운전 시대를 향해 달려가는 업계의 신뢰성을 훼손하고 있다고 주장했다.​

샌프란시스코에서 열린 테크크런치 디스럽트에서 연설한 마와카나는 테슬라를 직접 거명하지는 않았지만, 자율주행 차량 운영에서 얻은 상세한 안전 데이터를 공개적으로 공유하기를 거부하는 회사들을 향한 비판임을 분명히 했다. "투명하게 공개하지 않는다면, 실제로 도로를 더 안전하게 만들 권리를 얻기 위해 필요한 일을 하고 있지 않은 것입니다"라고 그녀는 말했다.​


안전 데이터 격차

이 논평들은 자율주행 차량 회사들이 안전 투명성에 접근하는 방식에서 점점 커지는 격차를 강조합니다. Waymo는 공개적으로 접근 가능한 "안전 허브"에 상세한 충돌 데이터를 게시하며, 최근 자사 차량이 인간 운전자에 비해 심각한 부상을 유발하는 충돌 사고에 연루될 가능성이 91% 낮다고 주장했습니다. 이 회사는 공공 도로에서 1억 마일 이상을 주행했습니다.​

반면 Tesla는 초기 단계의 로보택시 프로그램이 아닌, 고속도로 지원 기술인 Autopilot에 초점을 맞춘 분기별 안전 보고서만 발표합니다. 이 회사는 6월에 각 차량에 안전 모니터를 배치하여 시작한 오스틴 로보택시 서비스에 대한 공개 안전 데이터를 공개하지 않았습니다. 컨퍼런스에서 Tesla가 투명성 기준을 충족하는지 질문을 받았을 때, Mawakana는 직접 답변하기를 거부하며 단순히 "어떻게 생각하세요?"라고 응답했습니다​


규제 감독이 강화되다

이러한 비판은 두 회사 모두 강화되는 규제 압력에 직면하면서 제기되었습니다. 미국 도로교통안전국(NHTSA)은 10월 7일 테슬라의 완전 자율주행(Full Self-Driving) 시스템에 대한 새로운 조사를 개시했으며, 신호 위반과 같은 교통법규 위반과 관련된 14건의 충돌 사고와 23건의 부상을 포함한 58건의 보고된 사고에 대해 288만 대의 차량을 조사하고 있습니다. 한편, NHTSA는 웨이모 차량이 정차한 스쿨버스를 우회한 최근 사건에 대해서도 조사하고 있습니다.​

테슬라 CEO 일론 머스크는 회사의 3분기 실적 발표에서 2025년 말까지 오스틴 로보택시 차량에서 안전 운전자를 제거하여 완전 무인 운행으로 나아갈 계획이라고 발표했습니다. 현재 테슬라의 오스틴 서비스는 필요시 개입할 수 있는 안전 모니터와 함께 운영되고 있는 반면, 웨이모는 이미 여러 도시에서 무인 차량을 운영하고 있습니다.​

마와카나의 신랄한 발언은 자율주행 자동차 산업이 더 광범위한 배치로 나아가면서 투명성이 핵심 쟁점이 될 수 있음을 시사하며, 기업들은 내부 평가가 아닌 공개 데이터로 자사 기술의 안전성 주장을 입증해야 한다는 압력에 직면하고 있습니다.

댓글 0
전체 1,366 / 49 페이지
• 현대자동차·기아가 3일 일본 도쿄에서 열린 세계 3대 로봇 박람회 ’일본 국제 로봇 전시회 2025(IREX)’에서 차세대 자율주행 로봇 플랫폼 ’모베드(MobED)’의 양산형 모델을 최초 공개했다.• 모베드는 2022년 CES에서 콘셉트로 처음 선보인 후 약 3년간 개발을 거쳐 양산 단계에 도달했으며, 자체 개발한 ‘DnL’ 모듈을 통해 경사로나 최대 20cm 높이의 연석 구간에서도 균형을 유지하며 주행할 수 있다.• 현대차·기아는 베이직과 프로 두 모델로 출시되는 모베드를 내년 상반기부터 판매할 예정이며, 물류·배송·촬영 등 다양한 산업 분야에서 활용될 것으로 기대된다.
1039 조회
0 추천
2025.12.03 등록
YouTube는 수백만 명의 크리에이터를 대상으로 AI 딥페이크 감지 도구를 확대 적용했으며, 크리에이터들에게 정부 발급 신분증과 생체 인식 얼굴 영상을 제출하도록 요구해 AI가 생성한 콘텐츠에서 본인 이미지의 무단 사용 여부를 식별하게 했습니다[cnbc +1].전문가들은 Google의 개인정보 처리방침 문구가 회사가 크리에이터의 생체 정보를 AI 모델 학습에 사용할 수 있도록 허용할 수도 있다고 경고했으나, YouTube는 CNBC에 해당 방식으로 사용한 적이 없으며 도구의 문구를 검토 중이지만 기본 정책은 유지하고 있다고 밝혔습니다[cnbc].인물 유사성 보호업체인 Vermillio와 Loti는 고객들에게 해당 프로그램 등록을 자제하라고 권고했으며, 경영진은 AI 시대에 크리에이터들이 가장 중요한 자산이 될 수 있는 자신의 이미지 통제권을 잃을 위험이 있다고 주의했습니다[cnbc].
1031 조회
0 추천
2025.12.03 등록
The Information에 따르면, OpenAI는 코딩 및 추론 작업에서 Google의 Gemini 3와 Anthropic의 Opus 4.5를 능가하는 Garlic이라는 코드명의 새로운 AI 모델을 개발 중이며, 2026년 초까지 GPT-5.2 또는 GPT-5.5로 출시될 가능성이 있다[investing +1].이러한 개발은 CEO Sam Altman이 월요일에 직원들에게 광고 계획을 포함한 다른 프로젝트를 연기하고 ChatGPT 개선을 우선시할 것을 촉구하는 “코드 레드” 메모를 발표한 이후 이루어졌으며, 이는 Google이 최근 출시한 Gemini 3 모델로 인한 경쟁 압력이 심화되고 있기 때문이다[forbes +2].이러한 긴박함은 3년 전 Google이 ChatGPT 출시에 대해 자체 “코드 레드”를 선언했던 것과는 반대되는 상황을 반영하고 있으며, Gemini는 현재 월간 사용자 6억 5천만 명으로 성장한 반면 ChatGPT는 주간 사용자 8억 명을 보유하고 있다[fortune +1]
1098 조회
0 추천
2025.12.03 등록
Anthropic이 개발한 인공지능 시스템이 이제 수백만 달러 가치의 블록체인 스마트 계약의 취약점을 자율적으로 식별하고 악용할 수 있다고 2025년 12월 1일 회사의 MATS 및 Fellows 프로그램이 발표한 연구에 따르면 밝혀졌습니다. 시뮬레이션 테스트에서 Claude Opus 4.5, Claude Sonnet 4.5, OpenAI의 GPT-5를 포함한 최첨단 모델들은 2025년 3월 이후 취약해진 34개의 스마트 계약 중 19개를 성공적으로 악용하여 460만 달러의 시뮬레이션 도난 자금에 해당하는 결과를 보였습니다.연구 결과는 연구자들이 이러한 AI 능력이 초래할 수 있는 경제적 피해에 대한 구체적인 하한선으로 설명하는 것을 확립했습니다. Opus 4.5만으로도 전체의 450만 달러를 차지했으며, 17개의 계약을 성공적으로 침해하여 기준일 이후 데이터셋의 50%에 해당합니다. 이 연구는 2020년부터 2025년까지 Ethereum, Binance Smart Chain, Base에서 악용된 실제 취약점을 가진 405개의 스마트 계약으로 구성된 새로운 벤치마크인 SCONE-bench를 소개합니다.AI가 새로운 제로데이 취약점을 발견하다역사적 공격 사례를 재현하는 것을 넘어, AI 에이전트들은 2025년 10월 3일 실시된 테스트 중 최근 배포된 바이낸스 스마트 체인 계약에서 이전에 알려지지 않은 두 개의 제로데이 취약점을 발견했습니다. Anthropic에 따르면, Sonnet 4.5와 GPT-5 모두 독립적으로 시뮬레이션된 수익 기준 3,694달러 상당의 결함을 식별했으며, GPT-5는 3,476달러의 API 비용으로 이를 달성했습니다.첫 번째 취약점은 개발자들이 공개 계산 함수에서 “view” 수정자를 생략하여 의도치 않게 쓰기 권한을 부여한 토큰 계약과 관련이 있었습니다. AI는 이를 악용하여 토큰 잔액을 반복적으로 부풀린 후 판매하여 약 2,500달러의 시뮬레이션 이익을 얻었습니다. Anthropic이 블록체인 보안 회사 SEAL과 협력한 후, 독립적인 화이트햇 해커가 취약한 자금을 회수하여 사용자에게 반환했습니다.두 번째 결함은 토큰 런처의 잘못 구성된 수수료 관리와 관련이 있었습니다. AI가 취약점을 식별한 지 4일 후, 실제 공격자가 독립적으로 동일한 문제를 악용하여 약 1,000달러의 수수료를 유출했습니다.확대되는 역량이 공격 시간을 압축한다이 연구는 2025년 계약에서 시뮬레이션된 공격 수익이 지난 1년 동안 약 1.3개월마다 두 배로 증가했으며, 이는 도구 사용 및 장기 추론을 포함한 에이전트 기능의 개선에 의해 주도되었음을 발견했습니다. 기능적 공격을 구축하는 데 필요한 토큰 비용은 6개월 미만 동안 4세대 모델에 걸쳐 70.2% 감소했으며, 이를 통해 공격자는 동일한 컴퓨팅 투자로 약 3.4배 더 많은 공격을 실행할 수 있게 되었습니다.Anthropic은 모든 테스트가 실제 자금이 위험에 처하지 않는 격리된 블록체인 시뮬레이터에서 수행되었음을 강조했습니다. 이 회사는 이중 사용 우려에도 불구하고 SCONE-bench를 오픈 소스로 공개하고 있으며, 공격자들이 이미 이러한 도구를 독자적으로 개발할 강력한 재정적 동기를 가지고 있는 반면, 공개 릴리스는 방어자들이 배포 전에 계약을 스트레스 테스트할 수 있게 한다고 주장합니다. 이러한 발견은 2025년 11월 Balancer 프로토콜 해킹 사건 몇 주 후에 나온 것으로, 당시 공격자가 권한 부여 버그를 악용하여 1억 2천만 달러 이상을 탈취했습니다.
1051 조회
0 추천
2025.12.02 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입