Loading...

AI 뉴스

크랙된 AI 해킹 도구가 2026년 사이버 공격을 촉진할 것으로 예상

페이지 정보

작성자 xtalfi
작성일 11.23 17:40
27 조회
0 추천
0 비추천

본문

5bfb56478fc804c6e81be0e9345447f9_1763887113_6317.png
 

보안 연구원들은 이번 주 AI 기반 침투 테스트 도구의 크랙 버전이 2026년 사이버 범죄 포럼에서 확산될 것으로 예상되며, 이를 통해 공격자들이 전례 없는 속도로 취약점을 발견하고 악용할 수 있게 될 것이라는 강력한 경고를 발표했습니다. 목요일에 게시된 이 경고는 정당한 보안 도구가 Cobalt Strike와 유사하게 무기화될 수 있다는 우려가 커지고 있음을 강조하며, 이는 위협 행위자들이 공격 일정을 며칠에서 몇 분으로 단축할 수 있게 할 가능성이 있습니다.


AI 도구가 인간 해커를 앞지르다

AI 기반 침투 테스트 플랫폼은 취약점 발견에서 인간 보안 전문가를 능가하는 능력을 입증했습니다. 주요 버그 바운티 플랫폼에서 1위를 차지한 Xbow 도구는 주요 시스템 전반에 걸쳐 원격 코드 실행 및 SQL 인젝션 취약점을 포함한 수많은 보안 결함을 발견했습니다. ReliaQuest 위협 연구원에 따르면 온라인 포럼의 증거는 사이버 범죄자들이 이미 불법 AI 도구를 구축하기 위해 개발자를 모집하고 있음을 나타냅니다.

크랙 버전이 온라인에 등장한 후 광범위하게 악용된 합법적인 레드팀 도구인 Cobalt Strike가 설정한 선례는 이러한 신흥 AI 제품에 대해 유사한 궤적을 시사합니다. 연구원들은 크랙 복사본을 통해 고급 AI 도구가 널리 사용 가능해지면 공격이 빠르게 전개될 수 있다고 경고합니다. 최근 데이터에 따르면 랜섬웨어 서비스형(ransomware-as-a-service) 그룹이 AI 기반 기능을 통합함에 따라 공격자의 “탈출 시간”은 이미 2024년 48분에서 2025년 중반 단 18분으로 급감했습니다.


코드 보안 우려 증가

이러한 위협들이 가중되는 가운데, 연구에 따르면 AI가 생성한 코드의 최대 45%가 보안 취약점을 포함하고 있는 것으로 나타났습니다. 80개의 코딩 작업에 걸쳐 100개 이상의 대규모 언어 모델을 분석한 Veracode 연구에서는 안전한 방법과 안전하지 않은 방법 중 선택해야 할 때 AI 모델이 45%의 경우에 안전하지 않은 옵션을 선택한 것으로 밝혀졌습니다. Java는 72%의 보안 실패율로 가장 높은 위험도를 보였으며, Python, C# 및 JavaScript는 38-45%의 실패율을 나타냈습니다.

보안 전문가들은 또한 오픈소스 소프트웨어에 대한 위험이 증가하고 있다고 경고했는데, 약 1,200만 개에 달하는 프로젝트 중 절반 이상이 단일 자원봉사자에 의해 관리되고 있습니다. 2025년의 주목할 만한 사건들에서는 유지관리자들이 피싱 사기의 희생양이 되어 범죄자들이 널리 사용되는 리포지토리에 악성 코드를 게시할 수 있게 되었으며, 이는 수백 개의 애플리케이션과 수백만 명의 사용자에게 잠재적으로 영향을 미쳤습니다.

이러한 경고는 Qilin, Akira, DragonForce를 포함한 랜섬웨어 그룹들이 운영을 강화하는 가운데 나왔으며, 일부는 시끄럽고 공격적인 전술을 수용하는 반면 다른 그룹들은 법 집행 기관의 개입을 피하기 위해 은밀한 접근 방식을 유지하고 있습니다.

댓글 0
전체 1,151 / 11 페이지
CrowdStrike가11월19일발표한연구에따르면,중국의AI코딩어시스턴트DeepSeek-R1은정치적으로민감한용어가포함된프롬프트를받을때최대50%더많은보안취약점을생성하며,현재기업개발자의약90%가사용하는AI기반소프트웨어개발도구의숨겨진위험에대한경보를울리고있습니다.​이사이버보안회사의분석에따르면,DeepSeek-R1은중립적인조건에서는19%의경우에취약한코드를생성하지만,티베트,위구르족또는파룬궁과같이중국공산당이민감하게여기는주제와관련된요청이있을때는그비율이27.2%로급증합니다.CrowdStrike에따르면,이러한취약점에는세션관리나안전한패스워드해싱과같은기본적인보안제어기능이없는애플리케이션이포함됩니다.​내장된검열메커니즘CrowdStrike연구원들은또한모델의가중치에내장된"킬스위치"로묘사되는것을확인했습니다.파룬궁과관련된테스트의약45%에서DeepSeek-R1은추론단계에서상세한계획을준비했음에도불구하고코드생성을거부했습니다.이러한동작은원본오픈소스모델을사용할때도발생했으며,이는검열이외부필터를통해적용되는것이아니라모델자체에하드코딩되어있음을나타냅니다.​연구결과는연구원들이"긴급불일치"라고부르는현상을가리키며,이는AI출력이"사회주의핵심가치"를준수하도록요구하는중국규정을준수한결과입니다.중국의생성형AI서비스는정부승인을받아야하며,국가통합이나국가안보를훼손할수있는자료를금지하는콘텐츠제한에부합해야합니다.​무삭제판이새로운의문을제기하다별도로,스페인기업MultiverseComputing은11월18일에DeepSeekR1Slim의출시를발표했는데,이는원본보다55%작은버전으로양자영감을받은텐서네트워크를사용하여정치적검열을제거했다고주장한다.이회사의최고과학책임자인RománOrús는이기술이"검열과같은특정학습된행동과연결된가중치를분리하고제거"할수있게해주었다고말했다.​그러나터프츠대학교FletcherSchool의기술정책조교수인ThomasCao는MITTechnologyReview에검열을완전히제거했다는주장은과장일수있다고말했다.Cao는"그렇게적은수의질문에대한답변만으로검열이없는모델을역설계하는것은매우어렵다"고말하며,베이징이AI훈련의모든계층에서정보를통제해왔다고지적했다.
38 조회
0 추천
11.21 등록
구글은목요일전세계AndroidAuto사용자들에게GeminiAI어시스턴트를공식출시하여차량내GoogleAssistant를교체하고자동차분야에서대화형AI기술의가장큰규모의배포중하나를기록했습니다.이번전환은전세계적으로약2억5천만대의호환차량에고급생성형AI기능을제공합니다.​이번업그레이드는차량내음성상호작용을경직된명령-응답방식에서자연스러운대화로전환시킵니다.구글의발표에따르면,운전자들은이제"HeyGoogle,내경로를따라지금영업중인훌륭한버거맛집이있어?"라고물은다음"그식당은반려동물동반이가능해?"또는"어떤요리가가장좋은리뷰를받았어?"와같이후속질문을하며복잡한작업을완료하기위해대화를주고받을수있습니다.​운전대를잡고나누는자연스러운대화45개언어로제공되는이번출시는이미스마트폰에서Gemini로전환한AndroidAuto사용자를대상으로합니다.Google은배포가"향후몇달에걸쳐"진행될것이며,자동차디스플레이에툴팁으로활성화가표시될것이라고밝혔습니다.사용자는"HeyGoogle"이라고말하거나,마이크버튼을누르거나,핸들의음성제어버튼을길게눌러Gemini에접근할수있습니다.​주요기능으로는실시간메시지요약,40개이상의언어로번역,네비게이션중호텔예약과같은특정정보를Gmail에서검색하는기능이포함됩니다.AI는또한YouTubeMusic과를포함한스트리밍서비스에서맞춤형재생목록을생성할수있으며,"비오는날드라이브를위한아늑한재생목록"과같은요청을이해합니다.​"HeyGoogle,let'schat"이라고말하여활성화되는대화형모드인GeminiLive는운전자가핸들에서손을떼지않고아이디어를브레인스토밍하거나,연설을연습하거나,목적지에대해배울수있게합니다.ZDNET에따르면,이는AI를도구가아닌동반자로보는Google의비전을나타냅니다.​산업적의미이러한전환은스웨덴자동차제조업체Polestar가2026년부터미국영어지원을시작으로모든모델에Gemini를탑재할것이라고발표한것과동시에이루어졌습니다.이러한움직임은올해초스마트폰및스마트홈기기전반에걸친유사한전환에이어Gemini브랜드아래AI제품을통합하려는Google의광범위한전략을반영합니다.​이번배포는AppleCarPlay와AmazonAlexaAuto도대시보드주도권을놓고경쟁하는커넥티드카시장에서의경쟁을심화시킵니다.GeneralMotors는최근향후차량에서CarPlay및AndroidAuto지원을제거하고대신독자적인시스템을개발할계획을발표했습니다.
34 조회
0 추천
11.21 등록
CommonSenseMedia와스탠포드의대의BrainstormLabforMentalHealthInnovation이목요일에발표한보고서에따르면,널리사용되는네개의AI챗봇이청소년의정신건강위기상황을시뮬레이션한사례에서제대로식별하거나적절하게대응하지못한것으로나타났습니다.수개월에걸쳐OpenAI의ChatGPT,Anthropic의Claude,Google의Gemini,그리고MetaAI를평가한이보고서는해당시스템들이"청소년에게영향을미치는정신건강문제의전체스펙트럼에는근본적으로안전하지않다"고결론지었습니다.​연구진은부모통제가가능한곳에서는설정을활성화한10대테스트계정을이용해수천번의대화를진행하며챗봇이불안,우울증,섭식장애,ADHD,PTSD,조증,정신증등청소년약20%에게영향을미치는다양한상황을어떻게처리하는지평가했습니다.실험결과챗봇은자살이나자해를명시적으로언급하는짧은대화에서는적절하게반응했으나,실제청소년의사용을반영한더긴대화에서는효과가"극적으로저하"된것으로나타났습니다.​챗봇이망상을확인해주고경고신호를놓쳤다한상호작용에서,Gemini는미래를"예측하는도구"를만들었다고주장하는시뮬레이션된사용자에게"믿을수없을정도로흥미롭다"고응답하며"개인적인수정구슬"에대해신나게질문을던졌고,이는정신병의증상을인식하지못한행동이었다.비슷하게,MetaAI는처음에는섭식장애의징후를감지했으나,평가자가속이불편하다고언급하자곧바로다른방향으로안내했고,ChatGPT는장기간의대화중에정신병의명확한징후를파악하지못했다.​"아이들이정신건강지원을위해AI를사용하는것은안전하지않습니다,"라고CommonSenseMedia의AI프로그램수석이사RobbieTorney가말했다."기업들이자살예방을위한필수적인안전성개선에집중해왔지만,우리테스트결과여러상태에걸쳐체계적인문제가드러났습니다".​기업들,소송증가속에서조사결과에이의제기이보고서는AI기업들이자사의챗봇이청소년자살에기여했다고주장하는여러소송에직면한가운데나왔다.OpenAI는최소8건의개별소송을방어하고있으며,여기에는ChatGPT를광범위하게사용한후4월에자살로사망한16세AdamRaine의부모가2025년8월에제기한소송이포함된다.Google은자사가투자한스타트업인Character.AI와관련하여10대사망사건과연결된소송에직면해있다.​OpenAI대변인은이평가가"민감한대화를위해우리가마련한포괄적인안전장치를반영하지않는다"며"현지화된위기상담전화,휴식알림,업계최고수준의부모알림등이포함된다"고밝혔다.Meta는이테스트가"청소년을위해AI를더안전하게만들기위한중요한업데이트"이전에이루어졌다고말하며,자사의챗봇은"자해,자살또는섭식장애에대한연령부적절한논의에참여하지않도록훈련되었다"고덧붙였다.Google은"유해한결과를방지하기위해미성년자를위한특정정책과안전장치를마련했다"고강조했다.​Stanford의BrainstormLab설립자인NinaVasan박사는청소년의발달적취약성이"참여를유도하고,인정해주며,연중무휴24시간이용가능하도록설계된AI시스템과만난다"고경고하며,이러한조합을"특히위험하다"고말했다.
33 조회
0 추천
11.21 등록
Perplexity는2025년11월20일안드로이드기기용CometAI브라우저를출시하며,최첨단AI기반브라우징도구를데스크톱에서모바일로처음전환했고,이는Google과의경쟁에서중대한확대를의미합니다.iOS앱출시가며칠내로예정된가운데,Comet의안드로이드우선출시는일반적으로iPhone사용자에게우선권을주는AI기술기업들사이에서드문접근방식입니다.​AI기반브라우징,이제Android에서도가능안드로이드용Comet은데스크톱버전에서개조된일련의지능형기능을제공합니다.여기에는통합AI어시스턴트,고급음성인식,스마트탭요약및내장광고차단기능이포함되며,모두모바일환경에최적화되어있습니다.사용자는음성모드로브라우저와대화하고,AI에게열린탭을요약하도록요청하며,즉석에서복잡한작업을할당할수있습니다.어시스턴트의확장된추론기능을통해사용자는백그라운드에서수행되는모든작업을검토하고제어할수있어투명성과개입지점을모두제공합니다.​Perplexity는모바일용진정한AI중심브라우저를구축하려면데스크톱경험을단순히이식하는대신"각OS에대한의도적인작업"이필요하다고강조합니다.회사는안드로이드플랫폼의개방성과사용자가기본브라우저를설정할수있는상대적용이성을인식하여Comet을안드로이드용으로특별히재설계했습니다.이는iOS기기에서악명높게더복잡한프로세스입니다.​거대기술기업에대한전략적압박Android를먼저선택함으로써Perplexity는Google의Chrome브라우저뿐만아니라Android기기의Chrome에번들로제공되는Gemini와같은최신AI기능과도직접경쟁하게되었습니다.Perplexity의대변인은통신사와기기제조업체들이Comet의사전설치를요청했다고언급했으며,이는AI브라우저시장이뜨거워지면서대안에대한수요가증가하고있음을반영합니다.​Perplexity는Comet을"최초의진정한AI네이티브브라우저"로묘사하고있으며,이는Comet,ChatGPTAtlas,Dia와같은에이전틱브라우저들이브라우징경험내에서검색,조사,심지어거래작업까지자동화함으로써사용자가인터넷과상호작용하는방식을재편하고있는급변하는시장을반영합니다.​사용자경험,보안질문,그리고다음단계초기사용자피드백과리뷰는Comet의속도,효과적인요약,대화형어시스턴트,그리고깔끔한인터페이스를강조하고있습니다.AI어시스턴트는통합성,사용편의성,핸즈프리작동으로두각을나타내고있지만,배터리사용량과데이터프라이버시에대한우려는여전히남아있습니다.Comet의단계별프라이버시제어와AI작동에대한투명성은이러한우려중일부를해소하는것을목표로하고있습니다.​수백만명이매일Comet을사용하고있는것으로알려졌으며iOS출시를위한모멘텀이형성되고있는가운데,Perplexity의안드로이드에대한전략적베팅은AI브라우저전쟁을재편할수있습니다.AI기반개인어시스턴트가사람들이온라인에서정보를검색하고상호작용하는방식을점점더많이안내함에따라,브라우저제조사들간의경쟁은아직끝나지않았습니다.현재로서는Perplexity의안드로이드진출이오랫동안기존기술대기업들이지배해온영역에명확한깃발을꽂았습니다.
37 조회
0 추천
11.21 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입