AI 뉴스

딥페이크 사기가 너무 쉅다

xtalfi

11.23 17:13

84

0

0

Linus Tech Tips는 딥페이크 기술이 지난 5년 동안 제작이 훨씬 쉬워지고 더욱 그럴듯해졌음을 보여주며, 이 기술이 취약 계층을 노린 사기 등에 악용될 수 있다는 시급한 우려를 제기합니다.

팀은 DeepFaceLab을 사용하여 라이너스 세바스찬의 얼굴 사진 7,000장으로 훈련된 딥페이크를 매우 그럴듯하게 제작했으며, 이 과정은 5년 전 시도에 비해 “적어도 100배는 더 쉬웠다”고 밝히기도 했습니다. 또한 일반 하드웨어와 상업용 도구만으로 완전히 AI 기반의 영상을 만들어냈습니다.

2024년 전 세계 온라인 사기 피해액은 1조 달러를 넘어섰고, 북미 지역의 딥페이크 사기 사례는 2022년부터 2023년까지 1,740% 급증했으며, 이 영상은 시청자들이 이러한 빠르게 증가하는 위협을 인식하고 피할 수 있도록 돕는 것을 목표로 합니다.

링크

https://www.youtube.com/watch?v=-kDtt0QBNRU

43 회 연결

댓글 0

전체 1,238 / 42 페이지

메타 AI 책임자 얀 르쿤, 스타트업 창업을 위해 퇴사

(퍼플렉시티가정리한기사)YannLeCun은수요일에12년이상근무한를연말에떠나자신의인공지능스타트업을설립할것이라고발표했으며,이는소셜미디어거대기업의AI운영내지속적인격변속에서이분야의가장영향력있는선구자중한명의퇴사를의미한다.65세의LeCun은LinkedIn게시물에서자신의새로운회사가AdvancedMachineIntelligence연구에집중할것이며,"물리적세계를이해하고,지속적인기억을가지며,추론할수있고,복잡한행동순서를계획할수있는"AI시스템을개발할것이라고밝혔다.Meta는이새로운벤처와파트너십을맺을예정이지만,협력의세부사항은아직불분명하다.메타AI의불안정성시대이번퇴사는메타의AI부문이격동의시기를겪고있는가운데발생했습니다.10월에회사는슈퍼인텔리전스랩스에서약600개의직책을삭감했으며,이는LeCun이설립을도운기초AI연구부서에영향을미쳤습니다.이번주초,널리채택된PyTorch프레임워크의창시자인SoumithChintala가MiraMurati의스타트업에합류하기위해떠났습니다.메타는올해ScaleAI의전CEO였던28세의AlexandrWang하에AI운영을극적으로재편했으며,그는메타가그의회사에143억달러를투자한후합류했습니다.재편성은훈련,연구,제품및인프라에집중하는네개의별개팀을만들었으며,회사의Llama4모델출시는내부적으로나외부적으로미온적인반응을얻었습니다.갈라지는비전LeCun의Meta방향성과의철학적분열은최근몇달동안깊어졌습니다.Meta가OpenAI와Google과경쟁하기위해대규모언어모델에막대한투자를한반면,LeCun은그러한접근방식을"막다른길"이라고공개적으로비판하며,텍스트만으로훈련된AI는인간수준의지능을달성할수없다고주장했습니다.그의새로운스타트업은세계모델—물리적현실을이해하기위해비디오와공간데이터로부터학습하는AI시스템—을추구할것입니다.LeCun은2013년Facebook에FAIR의창립이사로합류했으며,2018년이사직에서물러났지만수석AI과학자로는남아있습니다.그는딥러닝분야의혁신적업적으로GeoffreyHinton및YoshuaBengio와함께2019년튜링상을수상했습니다.그는뉴욕대학교에서시간제로계속강의할예정입니다.

109

0

11.20

마스터카드, 두바이에서 AI 결제 시스템 출시

(퍼플렉시티가정리한기사)Mastercard는2025년11월19일두바이에서AgentPay를선보였으며,이는미국외지역에서AI기반결제시스템을첫번째로도입한것입니다.두바이미래포럼에서대형유통업체MajidAlFuttaim및핀테크기업Dataiera와의파트너십을통해진행된이번출시는소비자가AI에이전트를사용하여음성명령만으로VOXCinemas영화티켓을포함한제품을검색,선택및구매할수있는방법을보여줍니다.UAE인공지능부장관OmarSultanAlOlama와MastercardCEOMichaelMiebach는AI에이전트가사용자가웹사이트를탐색하거나결제정보를수동으로입력할필요없이공포영화티켓두장을구매하는플랫폼의첫실시간거래를목격했습니다.AlOlama는"UAE는일상생활을단순화하기위해인공지능을수용하고배포하는데있어새로운글로벌기준을설정했습니다"라고말했습니다.혁신과보안의균형이번확장은Mastercard가U.S.Bank및Citibank와의초기출시에이어연말까지모든미국카드발급사에AgentPay를활성화할준비를하면서이루어졌습니다.이러한움직임은2025년10월에출시된Visa의TrustedAgentProtocol및Google의AgentPaymentsProtocol과함께점점더경쟁이치열해지는환경에서결제네트워크의입지를강화합니다.그러나보안문제가이기술의급속한배포에그림자를드리우고있습니다.11월초Money20/20컨퍼런스의결제임원들은에이전트AI가사기위험을증폭시킬수있으며,FraudGPT와같은악성프로그램이연간1,400달러의낮은구독료로이용가능하다고경고했습니다.Experian의운영전략책임자인NashAli는"우리는지금에이전트AI가다가오면서사기의또다른폭발직전에서있습니다"라고말했습니다.Miebach는이러한과제를인정하며"안전,보안및신뢰의문제가매우중요하다"고말하고강력한안전장치의필요성을강조했습니다.Visa의프로토콜은암호화서명을사용하여합법적인AI에이전트와악성봇을구별하며,업계관찰자들은구매결정에서AI자율성에대한고객의편안함에대한질문이지속되고있다고지적합니다.UAE의전략적기반두바이출시는UAE인공지능청과의협력으로구축된마스터카드의2023년에미리트내첨단AI및사이버기술센터설립을기반으로합니다.마스터카드의동유럽,중동및아프리카지역사장인디미트리오스도시스는AgentPay가"에이전틱커머스가투명성,동의및보안을기반으로구축되도록보장한다"고말했습니다.2025년시장보고서에따르면에이전틱커머스시장은2033년까지51억9천만달러에달할것으로예상됩니다.배포가가속화됨에따라업계는AI기반쇼핑이주류가되기전에책임프레임워크,사기예방및소비자신뢰문제를해결해야한다는압박에직면해있습니다.

111

0

11.20

AI 영양 조언, 부정확한 것으로 드러나 전문가들 경고

(퍼플렉시티가정리한기사)식이지침에대한인공지능의존도가높아지면서영양전문가들뿐만아니라챗봇들자체에서도경고가나오고있습니다.새로운연구는만성건강상태를관리하는사람들을위해AI가생성한식단계획의한계를드러냅니다.소비자권익단체인위치(Which?)는11월18일,ChatGPT와GoogleGemini를포함한인기AI도구들이일반적인소비자질문에대해부정확하고잠재적으로위험한건강조언을제공했다는연구결과를발표했습니다.여섯개의AI플랫폼을평가한이번연구에서전문가들은응답의정확성과윤리적책임성을기준으로ChatGPT가전체적으로64%의점수를받았다고밝혔습니다.특히우려되는점은,조사대상자중5명중1명이의료조언을받을때항상또는자주AI에의존한다고답했다는점입니다.AI가부족할때영양전문가들은AI기반앱이일반적인식단계획및추적을간소화할수있지만,개인맞춤형식이요법관리를위해필요한중요한역량이부족하다고강조합니다.영양컨설턴트루팔리두타는특히건강문제를가진사람들의경우,AI가임상적판단을대체할수없다고말합니다.두타는“AI가정보를단순화하게하고,영양사가그정보를개인에게맞추도록해야한다”라며진정한식이관리에는기술과임상전문성모두가필요하다고설명합니다.영양학박사니체타바티아는더욱근본적인문제를지적합니다.AI가내놓는조언은대부분일반적이며,개개인의생물학적특성과행동을반영하지못한다는것입니다.당뇨병,심장질환,PCOD,갑상선기능저하증,암등과같은질환을가진사람들은스트레스수치와감정적요인까지고려하는맞춤형평가가필요한데,이는AI가해결할수없는부분입니다.2023년학술지「Nutrition」에게재된연구에서는ChatGPT가실험된56건중4건에서견과류가들어가지않은식단에아몬드우유를포함시켜,견과류알레르기가있는사람들에게잠재적으로위험한오류를범했습니다.또다른연구에서는올해ChatGPT가활동적인사람에게실질적으로약1,950칼로리가필요한데도하루1,200칼로리만제공하는식단을제안하며,단백질·식이섬유·채소가불충분하다는점이밝혀졌습니다.잠재적인건강위험전문가의지도없이일반적인AI식단제안을따르는것은근육약화,칼슘결핍,산성화,편두통,피로,수면장애,과민성대장증상을유발할수있다고Bhatia박사는말한다.최근의체계적문헌고찰에따르면AI생성식이중재가일부맥락에서가능성을보이지만,영양학적정확성,일관성및안전성에대한우려는여전히남아있다.ChatGPT조차도자신의한계를인정한다.영양조언제공에대해직접질문했을때,챗봇은건강상태진단,섭식장애해결,안전한보충제조언제공,그리고음식의문화적·정서적측면이해에있어부족함을인정한다."저는여러분이탐색하도록돕고,정보를제공하며,건강에해로운것이있을때경고해야합니다"라고ChatGPT는말하며,"최종선택은항상여러분으로부터나와야합니다"라고덧붙인다.등록영양사인StaciGulbin은AI를시작점으로만사용할것을권장하며,만성질환,섭식장애이력,또는복잡한영양문제를가진개인은인간전문가의도움이필요하다고강조한다.

112

0

11.20

ARC Raiders, AI 논란 속에서 게임 어워드 후보 선정 제외

(퍼플렉시티가정리한기사)추출형슈터게임ARCRaiders가2025년게임어워드에서단하나의후보에만지명되면서뜨거운논쟁을불러일으켰으며,유명스트리머들은이시상식이인공지능사용을이유로의도적으로게임을처벌했다고비난하고있다.11월17일게임어워드가후보작들을공개했을때,10월30일출시되어400만장이상판매되고70만명의동시접속자를기록한ARCRaiders는최고멀티플레이어부문에서만인정받았다.제한적인후보지명은게임커뮤니티로부터즉각적인반발을불러일으켰으며,많은이들은AI로생성된음성대사를둘러싼논란때문에이게임이배제당했다고믿고있다.스트리머들이부당함을외치다1,130만명의팔로워를보유한인기트위치스트리머마이클"슈라우드"그제시엑은라이브스트림에서후보발표에대한반응으로시상식이"조작되었다"고말했다."세상은아직비디오게임에서AI를받아들일준비가되어있지않아요,아직은요,"슈라우드가말했다."또다시,또한해,또다른조작된해네요.정말놀랍습니다."동료스트리머xQc도비슷한의견을표명하며,TheGameAwards가ARCRaiders를주요부문에서제외함으로써"시청자층을소외시키는것을피하려고한다"고제안했다."제생각에TheGameAwards는'AI'논란때문에ArcRaiders를몇몇부문에포함시키지않음으로써시청자층을소외시키는것을피하려고하는것같아요,"xQc가X에게시했다.어느부문에서이게임이인정받을자격이있는지질문받자,그는이렇게답했다:"오디오,액션,아트요.그부문들의대부분타이틀을쉽게대체할수있어요,정말로."AI논쟁이번논란은11월10일,게임매체Eurogamer가ARCRaiders에5점만점에2점을부여하면서시작되었으며,리뷰어RickLane은리뷰의거의3분의1을EmbarkStudios의AI음성생성사용을비판하는데할애했다.이낮은점수는일시적으로Metacritic에서2025년최고평점타이틀자리에서이게임을밀어냈으며,현재50개의리뷰를기반으로86점을기록하고있다.EmbarkStudios는콘텐츠제작에생성형AI를사용하지않으며,대신사전녹음된인간음성샘플을조정하여대화를생성하기위해머신러닝을사용한다고주장해왔다.그러나이러한구분은창작작업에서어떠한AI구현도문제가있다고보는이들의비판을잠재우는데거의도움이되지못했다.EpicGamesCEOTimSweeney는이논쟁에뛰어들어Eurogamer리뷰를"정치적"이라고부르며"AI에의한생산성향상"은긍정적으로봐야한다고주장했다."정치적의견은오피니언칼럼에실어야합니다"라고Sweeney는X에게시했다.경쟁하는설명들스트리머와팬들은고의적인편향을의심하는반면,업계전문가들은더게임어워즈에서멀티플레이어타이틀이직면한구조적인과제를지적합니다.시상식의투표과정은100개이상의미디어매체로구성된평가단의90%와대중투표의10%로이루어지며,이과정은심사위원들이후보선정마감전완전히평가할수있는싱글플레이어경험을자연스레선호하게만듭니다.11월마감일에가까운시기에출시된게임은평가자들이품질을판단할시간이제한되기때문에특히불리한위치에놓입니다.후보선정이마감되기몇주전에출시된ARCRaiders는라이브멀티플레이어서버가필요하기때문에사전접근을평론가들에게제공할수없었습니다."무시당하는가장큰원인은시기적인문제로보입니다,"라고게임사이트1v1me는지적했습니다."평론가들이게임의깊이와장기적인잠재력을완전히이해할만큼충분히플레이하지않았을수있습니다."Polygon의분석은멀티플레이어게임이올해의게임으로고려될때,이전후보들인오버워치와PUBG처럼'세대를대표하는'임팩트를보여줘야하는특별히높은기준에직면한다고주장했습니다."ArcRaiders같은게임이슈터장르를재정의할지,아니면앞으로몇달내에잊혀질지는여전히알수없습니다,"라고해당매체는전했습니다.GeoffKeighley가진행하는더게임어워즈시상식은2025년12월11일로예정되어있으며,ARCRaiders는BestMultiplayer부문에서Battlefield6,EldenRing:Nightreign,Peak,SplitFiction과경쟁할예정입니다.

84

0

11.20