Loading...

AI 뉴스

크랙된 AI 해킹 도구가 2026년 사이버 공격을 촉진할 것으로 예상

페이지 정보

작성자 xtalfi
작성일 2025.11.23 17:40
719 조회
0 추천
0 비추천

본문

5bfb56478fc804c6e81be0e9345447f9_1763887113_6317.png
 

보안 연구원들은 이번 주 AI 기반 침투 테스트 도구의 크랙 버전이 2026년 사이버 범죄 포럼에서 확산될 것으로 예상되며, 이를 통해 공격자들이 전례 없는 속도로 취약점을 발견하고 악용할 수 있게 될 것이라는 강력한 경고를 발표했습니다. 목요일에 게시된 이 경고는 정당한 보안 도구가 Cobalt Strike와 유사하게 무기화될 수 있다는 우려가 커지고 있음을 강조하며, 이는 위협 행위자들이 공격 일정을 며칠에서 몇 분으로 단축할 수 있게 할 가능성이 있습니다.


AI 도구가 인간 해커를 앞지르다

AI 기반 침투 테스트 플랫폼은 취약점 발견에서 인간 보안 전문가를 능가하는 능력을 입증했습니다. 주요 버그 바운티 플랫폼에서 1위를 차지한 Xbow 도구는 주요 시스템 전반에 걸쳐 원격 코드 실행 및 SQL 인젝션 취약점을 포함한 수많은 보안 결함을 발견했습니다. ReliaQuest 위협 연구원에 따르면 온라인 포럼의 증거는 사이버 범죄자들이 이미 불법 AI 도구를 구축하기 위해 개발자를 모집하고 있음을 나타냅니다.

크랙 버전이 온라인에 등장한 후 광범위하게 악용된 합법적인 레드팀 도구인 Cobalt Strike가 설정한 선례는 이러한 신흥 AI 제품에 대해 유사한 궤적을 시사합니다. 연구원들은 크랙 복사본을 통해 고급 AI 도구가 널리 사용 가능해지면 공격이 빠르게 전개될 수 있다고 경고합니다. 최근 데이터에 따르면 랜섬웨어 서비스형(ransomware-as-a-service) 그룹이 AI 기반 기능을 통합함에 따라 공격자의 “탈출 시간”은 이미 2024년 48분에서 2025년 중반 단 18분으로 급감했습니다.


코드 보안 우려 증가

이러한 위협들이 가중되는 가운데, 연구에 따르면 AI가 생성한 코드의 최대 45%가 보안 취약점을 포함하고 있는 것으로 나타났습니다. 80개의 코딩 작업에 걸쳐 100개 이상의 대규모 언어 모델을 분석한 Veracode 연구에서는 안전한 방법과 안전하지 않은 방법 중 선택해야 할 때 AI 모델이 45%의 경우에 안전하지 않은 옵션을 선택한 것으로 밝혀졌습니다. Java는 72%의 보안 실패율로 가장 높은 위험도를 보였으며, Python, C# 및 JavaScript는 38-45%의 실패율을 나타냈습니다.

보안 전문가들은 또한 오픈소스 소프트웨어에 대한 위험이 증가하고 있다고 경고했는데, 약 1,200만 개에 달하는 프로젝트 중 절반 이상이 단일 자원봉사자에 의해 관리되고 있습니다. 2025년의 주목할 만한 사건들에서는 유지관리자들이 피싱 사기의 희생양이 되어 범죄자들이 널리 사용되는 리포지토리에 악성 코드를 게시할 수 있게 되었으며, 이는 수백 개의 애플리케이션과 수백만 명의 사용자에게 잠재적으로 영향을 미쳤습니다.

이러한 경고는 Qilin, Akira, DragonForce를 포함한 랜섬웨어 그룹들이 운영을 강화하는 가운데 나왔으며, 일부는 시끄럽고 공격적인 전술을 수용하는 반면 다른 그룹들은 법 집행 기관의 개입을 피하기 위해 은밀한 접근 방식을 유지하고 있습니다.

댓글 0
전체 1,366 / 36 페이지
오픈AI는 구글 '제미나이 3'에 대응하기 위해 내년 1월 새로운 모델을 출시할 예정이며, 이는 단순 성능 경쟁을 넘어 사용자와의 '상호 작용' 및 '대화 기능 강화'에 중점을 둔 것으로 알려졌습니다. 샘 알트먼 CEO는 지난 1일 '코드 레드'를 발령하고 8주간 챗GPT 개선에 집중할 것을 요구하며, 직원들에게 "사용자 신호를 더 잘 활용하라"고 지시했습니다. 이는 안전성 강화에 집중한 이전 모델이 사용자 만족도 측면에서 정체되었다고 판단하여, 챗봇 응답에 대해 전문가 평가가 아닌 사용자의 피드백을 적극 반영하는 전략으로 선회했음을 보여줍니다.이러한 사용자 중심 전략은 내부적으로 '로컬 사용자 선호도 최적화(LUPO)'라 불리며, 이미 사용자 대화에 초점을 맞춘 'GPT-5.1'을 출시하고 이 방침을 테스트하는 과정에서 일일 활성 사용자 증가라는 놀라운 결과를 확인했습니다. 알트먼 CEO는 이메일 초안 작성 등 간단한 작업에서는 모델의 추론 성능 차이가 크지 않으므로, 사용자의 선호에 맞는 톤으로 응답하는 것이 실질적인 사용량 증대에 더 큰 영향을 미친다고 판단했습니다. 아울러 새로운 모델에는 챗GPT 초기 성공 사례나 구글 제미나이의 인기 요소를 반영하여 향상된 '이미지 생성 기능'도 탑재될 예정입니다.한편, 이번 개선 작업은 인공일반지능(AGI) 달성에 집중하는 연구원들과 챗봇 경험 개선에 집중하려는 운영진 사이의 내부 갈등을 해소하기 위한 조치로도 해석됩니다. 또한, 코딩 기능을 중심으로 한 기업용 모델인 'GPT-5.2'도 곧 공개될 예정이지만, 경영진은 구글의 공세에 빠르게 대응하기 위해 성능 향상을 위한 출시 연기 요청에도 불구하고 일정을 강행할 정도로 위기감을 느끼고 있습니다. 다만, 사용자 선호도에만 초점을 맞춘 모델이 소셜 미디어의 전철을 밟아 정신 건강 위기를 초래할 수 있다는 우려에 대해, 오픈AI는 사용자 피드백, 전문가 리뷰, 안전 시스템을 신중하게 조화하여 모델을 개선하고 있다고 밝혔습니다.
449 조회
0 추천
2025.12.10 등록
최근 소셜네트워크서비스(SNS)에서 실제 전문의가 아닌 인공지능(AI)이 합성해 만든 '가짜 의사'들이 특정 영양제나 치료제를 추천하는 허위·과장 광고가 급증하면서, 특히 고령층 소비자들의 피해가 잇따르고 있습니다. 이들 가짜 의사는 실제 유명인이나 의사를 딥페이크로 합성하는 등 자연스러운 모습으로 소비자를 기만하여 식·의약품 및 건강기능식품 관련 허위 광고가 빠르게 확산되는 상황입니다. 이에 정부는 AI 기반 허위광고에 대한 강력한 대응책을 마련하고 나섰습니다.정부는 김민석 국무총리 주재 국가정책조정회의에서 'AI 활용 시장질서 교란 광고 대응 방안'을 발표하고, AI 기반 허위·과장 광고를 24시간 단위로 신속하게 차단할 것이라고 밝혔습니다. 주요 내용은 AI로 만든 얼굴, 음성, 영상이 포함된 광고물에 'AI 생성물'이라는 표시를 의무화하는 것이며, 이를 삭제하거나 훼손하는 행위는 금지됩니다. 또한, 플랫폼 사업자에게 게시자가 표시 의무를 이행했는지 관리할 책임이 주어지며, 관련 가이드라인은 내년 시행되는 'AI 기본법'과 연계하여 추가로 마련될 예정입니다.AI 기반 허위광고가 빈발하는 식·의약품 등 품목에 대해서는 방송미디어통신위원회(방미통위)의 서면 심의 대상에 추가하고, 심의 요청 후 24시간 내 신속 심의가 이뤄지도록 패스트트랙을 확대합니다. 특히 AI 합성 의사가 식·의약품을 추천하는 것은 '소비자 기만 광고'로 간주하여 제재를 강화하며, 악성 허위·조작 정보 유통에 대해서는 손해액 최대 5배의 징벌적 손해배상 및 표시·광고법상 과징금 상향을 도입할 계획입니다. 정부는 신기술의 부작용을 최소화하고 AI 시대에 맞는 새로운 시장 질서를 확립하기 위해 법령 개정과 제도 보완을 신속히 추진할 방침입니다.
483 조회
0 추천
2025.12.10 등록
Bloomberg은 Apple의 인공지능에 대한 신중한 접근 방식이 한때 약점으로 여겨졌으나, 시장이 기술 업계의 대규모 AI 지출에 회의적으로 변하면서 경쟁 우위로 전환되었다고 보도했습니다.2025년 6월 이후, Apple의 주가는 35% 급등한 반면 AI 중심 경쟁사인 Meta Platforms와 Amazon은 마이너스 영역으로 하락했으며, 이로 인해 Apple의 시가총액은 4조 1천억 달러에 달하고 S&P 500에서 두 번째로 큰 기업으로 자리매김했습니다.Apple이 자본 지출 경쟁을 피한 반면, 기술 거대 기업인 Google, Meta, Microsoft, Amazon은 지난 1년 동안에만 AI 인프라에 3,600억 달러 이상을 지출했으며, 업계 전체 AI 자본 지출은 2027년까지 6,000억 달러에 달할 것으로 예상됩니다
464 조회
0 추천
2025.12.10 등록
OpenAI, Anthropic, Block은 Linux Foundation 산하에 Agentic AI Foundation을 설립하여 독립적으로 계획하고, 추론하며, 복잡한 작업을 수행할 수 있는 자율 AI 시스템을 위한 개방형 표준을 확립했습니다.세 회사는 Anthropic의 Model Context Protocol(10,000개 이상의 서버에서 채택되고 ChatGPT, Microsoft Copilot, Google Gemini에 통합됨), OpenAI의 AGENTS.md 사양(40,000개의 오픈소스 프로젝트에서 사용됨), Block의 Goose 프레임워크를 포함하여 널리 채택된 기술들을 기여했습니다.Amazon, Bloomberg, Cloudflare, Google, Microsoft를 포함한 플래티넘 멤버들이 이 이니셔티브에 합류했으며, 이는 에이전틱 AI가 소수의 기업에 의해 독점적으로 통제되기보다는 개방형 표준을 통해 발전하도록 보장하는 것을 목표로 합니다.
473 조회
0 추천
2025.12.10 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입