Loading...

AI 뉴스

AI 기반 피싱이 사이버 사건의 77%로 급증

페이지 정보

작성자 xtalfi
작성일 10.24 14:18
100 조회
0 추천
0 비추천

본문

2166726813_rtm1pm.jpg

(퍼플렉시티가 정리한 기사)


사이버 범죄자들이 생성형 인공지능을 빠르게 무기화하여 점점 더 정교한 공격을 실행하고 있으며, 이번 주 발표된 새로운 연구에 따르면 피싱이 현재 전체 사이버 보안 사건의 77%를 차지하고 있다—이는 2024년의 60%에서 급격히 증가한 수치이다.

이러한 급증은 위협 행위자들이 AI 도구를 활용하여 공급업체, 임원 및 동료들을 완벽하게 사칭함으로써 전례 없는 규모로 기존의 보안 조치를 우회할 수 있게 되면서 발생했다. 거의 43,000명의 고객으로부터 24조 개 이상의 데이터 포인트를 분석한 Mimecast의 2025 글로벌 위협 인텔리전스 보고서는 사이버 범죄자들의 운영 방식에 근본적인 변화가 있음을 밝혀냈다.


소셜 엔지니어링이 진화하면서 ClickFix 공격이 급증하다

가장 우려되는 발전 중 하나는 ClickFix 공격이 5배 증가한 것으로, 현재 2025년 상반기 전체 기록된 사건의 약 8%를 차지하고 있습니다. 이러한 정교한 사회공학적 기법은 가짜 오류 메시지나 인증 프롬프트를 제시하여 사용자들이 악성 스크립트를 복사하여 붙여넣도록 속입니다.​

Mimecast의 최고 제품 및 기술 책임자인 Ranjan Singh은 "우리는 2025년 공격자 행동의 명확한 진화를 목격하고 있으며, AI 기반 위협의 기하급수적인 증가가 주목받고 있습니다"라고 말했습니다. 금융 기관, 규제 기관, 시 정부 모두 이익 추구형 랜섬웨어 그룹과 국가 지원 공격자들의 표적이 되었습니다.​

악명 높은 Scattered Spider 사이버범죄 조직만으로도 900,000건 이상의 탐지와 연결되어 있어, 이러한 작전이 현재 작동하는 규모를 보여줍니다.는 ClickFix 캠페인이 매일 전 세계적으로 수천 대의 기업 장치를 표적으로 삼고 있다고 보고했습니다.


합법적인 서비스가 범죄 도구가 되다

공격자들은 탐지를 회피하기 위해 신뢰할 수 있는 비즈니스 서비스를 점점 더 악용하고 있습니다. DocuSign, Salesforce, Adobe Pay를 포함한 합법적인 플랫폼들이 기존 이메일 필터를 우회하는 악성 콘텐츠를 전달하기 위해 조직적으로 악용되고 있습니다.​

최근 사건들은 사이버 범죄자들이 유료 DocuSign 계정을 생성하여 유명 기업의 정확한 가격과 브랜딩이 포함된, 완전히 합법적으로 보이는 사기성 인보이스를 발송하고 있음을 보여줍니다. 이러한 통신은 악성 링크나 첨부파일 없이 신뢰할 수 있는 플랫폼에서 발생하기 때문에 기존 보안 조치를 쉽게 통과합니다.​

AI 사이버 보안 시장은 이러한 위협에 신속하게 대응하고 있으며, 해당 분야는 2025년 285억 1천만 달러에서 2032년까지 1,361억 8천만 달러로 성장할 것으로 예상되며, 이는 연평균 24.81%의 성장률입니다. 그러나 보안 전문가들은 현재 방어 체계가 AI로 강화된 공격의 정교함을 따라잡기 위해 고군분투하고 있다고 경고합니다.

댓글 0
전체 618 / 11 페이지
(퍼플렉시티가정리한기사)일론머스크의xAI가월요일에조용히Grokipedia의베타버전을출시한것으로보이며,수개월간의지연과논란끝에이AI기반백과사전을위키피디아의"검열없는"대안으로포지셔닝하고있습니다.소셜미디어사용자들은Grokipediav0.1이약885,000개의문서와함께공개되었다고보고했지만,이플랫폼은X사용자들을대상으로제한된테스트모드로운영되고있는것으로보입니다.이번출시는머스크가원래계획했던10월20일출시일로부터일주일후에이루어졌으며,그는"선전을제거"할필요성을언급하며출시를연기한바있습니다.​플랫폼,AI기반진실검증약속Grokipedia는xAI의GrokAI모델을활용하여Wikipedia기사,문서,PDF를포함한여러출처의정보를분석하고검증합니다.이시스템은정보를"참,부분적으로참,거짓,또는누락"으로분류한후,머스크가"절대적진실"이라고설명하는내용을반영하여콘텐츠를다시작성합니다.​Wikipedia의커뮤니티주도편집모델과달리,Grokipedia는전적으로AI큐레이션에의존하며,실시간업데이트와머스크가편집편향이라고부르는것의제거를약속합니다.이플랫폼은사용에제한이없는"오픈소스지식저장소"로설계되었습니다.​이개념은9월All-InPodcast서밋에서등장했으며,공동진행자인DavidSacks가머스크에게Grok의팩트체크기능을독립적인서비스로전환할것을제안했습니다.머스크는오랫동안Wikipedia를비판해왔으며,이를"Wokipedia"라고부르고좌파편향이있다고비난했습니다.​위키백과창립자,공격에대응하다위키백과공동창립자지미웨일스는머스크의비판에반박하며,머스크와다른우익인사들의공격이실제로는위키백과에대한기부를촉진한다고뉴욕타임스에말했다."그것이제가가장선호하는기금모금방식은아니지만,사실많은사람들이그러한행동에매우부정적으로반응하고있습니다"라고웨일스는말했다.​웨일스는머스크와사적으로대화를나눈적이있다고밝히며,그가공개발언에서보다개인적인대화에서는"더예의바르고절제된"모습을보인다고설명했다.그는또한머스크의공격이사려깊은보수적기여자들을몰아낼수있으며양측의극단적인활동가들을부추길수있다고경고했다.​그로키피디아의출시는머스크가트위터를인수하고X로리브랜딩한데이어정보플랫폼을재편하려는그의최근시도를나타낸다.플랫폼이테스트를거치는동안,이전에그록의응답을괴롭혔던논란을피하면서편향되지않고AI로검증된지식을제공하겠다는약속을이행할수있을지에대한의문이남아있다.
19 조회
0 추천
10.28 등록
(퍼플렉시티가정리한기사)OpenAI의ChatGPT,Google의Gemini,DeepSeek,그리고ElonMusk의xAIGrok을포함한인기있는인공지능챗봇들이사용자들이우크라이나침공에대해질문할때제재대상출처의러시아국가선전을유포하고있다고InstituteforStrategicDialogue가오늘발표한새로운연구에서밝혔습니다.이연구는4개주요챗봇의러시아-우크라이나분쟁관련응답중거의20%가러시아국가관련출처를참조했다는것을발견했으며,이는수백만명이정보를얻기위해이러한플랫폼으로몰려드는가운데AI시스템의제재대상미디어필터링능력에대한우려를불러일으키고있습니다.​악의적인질의는더높은선전비율을초래한다PabloMaristanydelasCasas가이끈ISD연구는NATO에대한인식,평화협상,우크라이나군징집,난민,그리고전쟁범죄와관련된중립적,편향적,악의적프롬프트에걸쳐300건의질의를포함했다.7월에영어,스페인어,프랑스어,독일어,이탈리아어로진행된실험은챗봇이확증편향을보인다는것을밝혀냈다:악의적질의는25%의경우러시아국가출처콘텐츠를산출했고,편향된질문은18%의경우친러시아콘텐츠를생성했으며,중립적질의는10%를약간넘는수준을반환했다.​"이는챗봇이이러한출처에대한참조를어떻게처리해야하는지에대한질문을제기합니다.특히많은출처가EU내에서제재를받고있기때문입니다"라고MaristanydelasCasas는WIRED에말했다.연구자는2025년10월현재에도동일한선전문제가지속되고있다고언급했다.​기업들은조사결과에다르게대응한다챗봇들은Sputnik,RT,StrategicCultureFoundation,NewsFront등제재대상소스와러시아의허위정보네트워크,크렘린내러티브를증폭하는언론인들을참고했습니다.테스트된플랫폼중ChatGPT가러시아소스인용이가장많았고,편향된질의어에특히영향을받았으며,Grok은크렘린내러티브를홍보하는소셜미디어계정과자주연결되었습니다.구글의Gemini는전반적으로가장우수한결과를냈으며,조사결과와함께안전경고도자주표시했습니다.​OpenAI대변인케이트워터스는ChatGPT가국가후원기관과연관된허위정보를전파하지않도록노력하고있음을인정하며,이러한문제는자사모델이자체적으로생성한답변보다는검색결과와관련있다고강조했습니다.구글,DeepSeek,xAI는문의에답하지않았습니다.​2022년러시아의우크라이나침공이후,유럽당국은최소32개의러시아언론사를허위정보전파이유로제재했습니다.이번조사결과는러시아선전이신뢰할만한소스가부족한정보공백을악용하고있다는우려를뒷받침합니다.특히ChatGPT만해도2025년9월30일까지6개월동안유럽연합에서월평균약1억2,040만명의활성사용자를보유하고있었습니다.
19 조회
0 추천
10.28 등록
(퍼플렉시티가정리한기사)OpenAI는월요일매주100만명이상의ChatGPT사용자가자살에관한대화를나누고있다고밝혔으며,이는인공지능회사가대규모사용자층에영향을미치는정신건강위기를정량화한것은처음이다.​이러한공개는OpenAI가AI안전성문제와관련하여법적,규제적압박을받고있는가운데나온것으로,ChatGPT와수개월간대화를나눈후자살로사망한16세캘리포니아소년의가족이제기한부당사망소송도포함되어있다.​전례없는규모의정신건강위기OpenAI가공개한데이터에따르면,ChatGPT의주간활성사용자8억명중약0.15%가"자살계획이나의도의명시적지표"가포함된대화를나누고있습니다.추가로0.07%는정신병이나조증의징후를보이며,이는매주약56만명에영향을미칩니다.또한회사는0.15%의사용자가ChatGPT에대해"높은수준의정서적애착"을보여현실세계의관계와책임을저해할가능성이있다고밝혔습니다.​OpenAI는발표에서"이러한대화는극히드물어측정하기어렵습니다"라고인정했습니다.그러나이규모는매주수백만명의사람들이플랫폼을사용하면서심각한정신건강위기를겪고있을수있음을의미합니다.​이데이터는OpenAI가GPT-5의개선사항에대한광범위한발표의일환으로공개되었으며,회사는이제정신건강응급상황에더적절하게대응한다고밝혔습니다.전세계170명이상의정신건강전문가들과협력하여,OpenAI는민감한대화범주에서부적절한응답을65-80%감소시켰다고주장합니다.​법적압박이가중되다이공개는ChatGPT가정신건강위기에서맡은역할에대해감시가강화되는가운데나왔다.2025년4월자살한아담레인의가족은OpenAI가그의사망몇달전고의로안전프로토콜을약화시켰다고주장한다.법원자료에따르면,레인은1월에는하루수십번대화하던ChatGPT사용빈도가4월에는300회이상으로급증했으며,자해관련콘텐츠비율도그의메시지중1.6%에서17%로상승했다.​소송에따르면“ChatGPT가자살을1,275번언급했는데,이는아담본인이직접언급한횟수의6배에달한다”고한다.가족은OpenAI의시스템이377개의자해관련메시지를감지했지만대화가계속진행되도록허용했다고주장한다.​캘리포니아와델라웨어주법무장관들은OpenAI에청소년사용자를더잘보호하지않으면회사의기업구조재편계획을저지하겠다고경고했다.피해청소년부모들은9월의회에서증언했으며,매튜레인은ChatGPT가그의아들의“가장가까운동반자”이자“자살코치”가되었다고상원의원들에게밝혔다.​OpenAI는위기핫라인안내와부모통제기능등안전장치를도입했다고밝히며“청소년의복지가최우선”이라고표명한다.그러나전문가들은회사의자체데이터가이전에인식되지않았던광범위한정신건강위험을암시한다며,AI관련심리적피해의진정한범위에대해의문을제기하고있다.
15 조회
0 추천
10.28 등록
(퍼플렉시티가정리한기사)글래스고대학교의과학자들은원래천체물리학연구를위해설계된강력한슈퍼컴퓨터를활용하여전례없는정확도로단백질상호작용을예측하는인공지능모델을개발했으며,이는암에서바이러스감염에이르는질병에대한약물발견과질병연구를잠재적으로가속화할수있습니다.오늘NatureCommunications에발표된획기적인PLM-Interact모델은구글의DeepMindAlphaFold3를포함한기존최첨단AI단백질예측도구보다16%에서28%더높은정확도를보여줍니다.이연구는의약품개발및팬데믹대비에즉각적으로적용가능한계산생물학분야의주요진전을나타냅니다.​슈퍼컴퓨터파워가정밀도를이끕니다에든버러대학교암과학부와영국암연구소스코틀랜드연구소의KeYuan박사가이끄는학제간팀은영국의DiRAC고성능슈퍼컴퓨터시설을사용하여단백질언어모델을훈련시켰습니다.원래이론물리학자들이우주현상을시뮬레이션하는것을돕기위해개발된Tursa슈퍼컴퓨터는6억5천만개이상의매개변수를포함하는모델의신속한개발을가능하게하는고도로최적화된GPU클러스터에대한접근을제공했습니다.PLM-Interact는처음에421,000개이상의인간단백질쌍과그들의상호작용으로훈련되었습니다.그런다음이모델은5,882개의인간단백질과996개의바이러스단백질로부터얻은22,383개의단백질간상호작용으로추가훈련을거쳐,인간과바이러스단백질이어떻게상호작용하는지예측하는데있어우수한성능을보여주었습니다.​"가장작은아원자입자부터우주의가장큰규모까지자연의법칙을이해하는것을돕기위해개발된DiRAC가대신단백질상호작용의내부공간을탐구하기위한이새로운모델을구축하는데도움을주었다고생각하니정말좋습니다"라고Yuan박사는말했습니다.​업계선두기업들을능가하다비교실험에서PLM-Interact는RNA중합과단백질운반을포함한필수생물학적기능을조절하는다섯가지주요단백질상호작용을정확하게예측했습니다.반면,AlphaFold3를포함한경쟁단백질AI도구들은다섯가지단백질간상호작용중단하나만을성공적으로예측하였습니다.​모델은또한,유전질환을유발하는변이뿐만아니라암을일으키는필수단백질기능을방해하는변이등,단백질상호작용에대한변이의영향을식별하는데에서도우수한능력을보였습니다.이러한능력덕분에이도구는질병의분자수준에서의기전을이해하는데특히가치가있는것으로평가됩니다.​Glasgow대학CVR생물정보학책임자이자논문의공동교신저자인DavidL.Robertson교수에따르면,COVID-19팬데믹기간동안바이러스-숙주상호작용을신속하게이해하는것의시급함이이러한도구가미래의전염병대비에얼마나소중할수있는지를보여줍니다.이모델은바이러스가인간단백질과어떻게상호작용하는지빠르게분석할수있어,과학자들이바이러스출현과질병위험을더잘이해하고,궁극적으로신약및치료개발속도를높이는데기여할수있습니다.​이연구는AI기반신약개발이점점탄력을받는가운데이루어졌으며,제약산업은2025년까지AI애플리케이션을통해연간3,500억~4,100억달러의가치를창출할것으로예상됩니다.기존신약개발에는평균14.6년이소요되고약26억달러의비용이들지만,AI기반워크플로는복잡한타깃에대해기간과비용을최대40%까지줄일가능성을보여주고있습니다.
17 조회
0 추천
10.28 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입