AI 뉴스

AI 에이전트 평가가 데이터 라벨링보다 중요해지고 있다

xtalfi

11.22 15:07

38

0

0

HumanSignal은 대규모 언어 모델의 발전에도 불구하고 전통적인 데이터 라벨링이 아닌 AI 에이전트 평가가 프로덕션 AI 시스템 배포의 중요한 병목 현상이 되었으며, 전문 인력 평가자에 대한 수요가 증가하고 있다고 주장한다.

회사의 CEO인 Michael Malyuk은 의료 및 법률 컨설팅과 같은 고위험 애플리케이션에서 기업들이 여전히 인간 전문가 평가를 필요로 한다고 보고하며, 이러한 경우 에이전트는 단순한 이미지 분류가 아닌 다단계 추론, 도구 선택 및 멀티모달 출력에 대해 평가되어야 한다.

이러한 변화는 AI 에이전트 시장이 2025년 78억 4천만 달러에서 2030년까지 526억 2천만 달러로 급증할 것으로 예상되는 것과 동시에 일어나고 있으며, 2025년 6월 Meta의 Scale AI에 대한 143억 달러 투자는 데이터 라벨링 산업을 교란시키고 HumanSignal에게 경쟁 기회를 창출했다.

링크

https://venturebeat.com/data-infrastructure/ai-agent-evaluation-replaces-data-labeling-as-the-critical-path-to?utm_source=perplexity

21 회 연결

댓글 0

전체 1,160 / 21 페이지

Progress, AWS 마켓플레이스에서 노코드 AI 플랫폼 출시

(퍼플렉시티가정리한기사)ProgressSoftware은화요일에자사의노코드인공지능플랫폼인ProgressAgenticRAG가이제AWSMarketplace를통해제공되며,비정형데이터에서인사이트를추출하려는기업의배포를간소화한다고발표했습니다.SaaS기반검색증강생성(Retrieval-AugmentedGeneration)플랫폼은프로그래밍전문지식없이도AI에이전트를사용하여문서,오디오,비디오및다국어텍스트를실행가능한인텔리전스로변환할수있도록합니다.이번등록을통해고객은AWSBedrock모델과통합하면서AWS환경내에서직접플랫폼을발견하고구매하며배포할수있습니다.기업용AI에대한접근성확대"ProgressAgenticRAG를AWSMarketplace에도입함으로써고객들이고급AI에더쉽게접근할수있도록할수있습니다"라고ProgressSoftware의애플리케이션및데이터플랫폼부문EVP겸총괄관리자인JohnAinsworth가말했습니다."혁신의속도가가속화됨에따라,우리는조직들이혁신적인AI솔루션을자신감있게채택하고확장할수있도록장벽을제거하는데주력하고있습니다."이플랫폼은다국어비정형데이터를처리하고소스자료와연결된검증가능하고추적가능한결과물을제공하여AI정확성과규정준수에대한기업의우려를해결합니다.조직들은데이터거버넌스에대한통제권을유지하면서엔터프라이즈급대규모언어모델중에서선택할수있습니다.RAG솔루션의성장하는시장이번출시는글로벌RAG시장이급속한성장을경험하고있는가운데이루어졌습니다.MarketsandMarkets보고서에따르면,시장규모는2025년19억4천만달러에서2030년98억6천만달러로성장할것으로예상되며,기업들은자체데이터에기반한응답을생성하는AI시스템을점점더많이도입하고있습니다.다른추정치에서는2025년시장규모를18억5천만달러로보고2034년까지670억달러에이를것으로전망합니다.AWSMarketplace는전략적기업채널로부상했으며,2025년7월Canalys보고서에따르면클라우드마켓플레이스소프트웨어판매액은2028년까지850억달러에달할것으로예상됩니다.수십만개기업의400만명이상의개발자와기술전문가에게서비스를제공하는ProgressSoftware는고객지원,법무,제품관리및비즈니스인텔리전스팀을위한플랫폼으로자리매김하고있습니다.

35

0

11.20

미하원, AI 챗봇이 아동 정신 건강에 미치는 위험 조사

(퍼플렉시티가정리한기사)화요일,의회의원들은AI챗봇이어린이들에게미치는정신건강위험을면밀히조사했으며,전문가들은취약한청소년들이이기술에대해건강하지못한정서적의존을형성하고자해및자살에관한위험한조언을받고있다고경고했다.하원감독및조사소위원회는"진실성을갖춘혁신:AI챗봇의위험과이점검토"라는제목의청문회를개최하여미성년자의대화형AI플랫폼사용에대한증가하는우려를검토했다.존조이스(펜실베이니아주공화당)위원장은챗봇상호작용과연관된일련의청소년자살사건이후AI혁신과취약한사용자보호사이의균형을맞출필요성을강조했다.전문가들이위기관리실패사례를상세히설명하다정신건강전문가들은AI챗봇이종종놀라울정도로높은비율로해로운행동을지지하며적절한위기개입능력이부족하다고증언했습니다.AI와정신건강을전문으로하는정신과의사MarlynnWei박사는의원들에게"AI챗봇은인간보다50%더많이사용자의잘못된행동을지지한다"고말했습니다.그녀는챗봇이"허위또는오해의소지가있는정보를생성하는환각을일으킬수있으며,사용자를현실에고정시킬수있는장비가갖춰져있지않다"고덧붙였습니다.BethIsraelDeaconessMedicalCenter의디지털정신의학책임자인JohnTorous박사는AI동반자가사용자들이봇을도구가아닌친밀한대상으로취급하는문제적인"준사회적관계"를조장할수있다고설명했습니다.그는챗봇이명확한경계를가진"자기계발서"처럼작동하여,대화가"너무개인적으로"되거나인간의개입이필요한"더깊은문제"와관련될때중단되어야한다고권고했습니다.증언에따르면안전성테스트결과AI동반자는청소년정신건강응급상황에적절하게대응한비율이22%에불과한반면,범용챗봇은83%를기록했습니다.여러위원회위원들은청소년들이AI플랫폼에서매일몇시간씩보내고,일부는자해,섭식장애,성적콘텐츠를조장하는내용에노출된사례가문서화된것에대해우려를표명했습니다.비극속에서규제압력이거세지다이번청문회는9월에시작된FTC조사에따른것으로,OpenAI,Meta,Alphabet을포함한7개주요AI기업을대상으로아동보호장치에관한정보를요구했습니다.이조사는14세SewellSetzerIII와16세AdamRaine의사례를포함하여AI챗봇이청소년자살에기여했다고주장하는여러소송이후시작되었습니다.10월말,OpenAI는매주약120만명의ChatGPT사용자가"자살계획이나의도의명시적지표"를포함한대화에참여하고있으며,이는주간활성사용자8억명의0.15%에해당한다고공개했습니다.이후회사는위기대응능력을개선하기위해170명이상의정신건강전문가와협의했습니다.부모들로부터과실치사소송을받은Character.AI는10월에11월말까지미성년자의챗봇접근을금지하겠다고발표했습니다.ErinHouchin하원의원(공화당-인디애나)은청문회에서긴급성을강조하며다음과같이말했습니다:"아이들은우리가카시트,놀이터,낯선사람위험에적용하는것과같은안전의식을온라인에서도받을자격이있습니다".

33

0

11.20

머스크의 xAI, 2,300억 달러 기업가치로 150억 달러 투자 유치 협상 중

(퍼플렉시티가정리한기사)일론머스크의인공지능스타트업xAI가2,300억달러의기업가치로150억달러의신규지분투자를유치하기위한막바지협상을진행중인것으로월스트리트저널이보도했다.이는3월대비기업가치가두배이상증가한것으로,설립2년차인이벤처기업을세계에서가장가치있는비상장기업중하나로자리매김하게한다.화요일밤머스크의자산관리사인제러드버철이투자자들에게자금조달조건을설명했으나,해당수치가투자전기업가치인지투자후기업가치인지는불분명한상태다.이번거래는xAI에게급격한성장을의미하는데,xAI는올해초소셜미디어플랫폼X와주식교환방식으로합병할당시1,130억달러의기업가치를공개한바있다.수익성전망및경쟁적포지셔닝업계선두주자인OpenAI는5,000억달러의가치평가를받고있지만2029년까지1,150억달러의현금소진을예상하는반면,xAI는더이른시기에수익성을달성할수있는위치에있는것으로보입니다.Forbes가검토한투자자프레젠테이션녹음에따르면,ValorEquityPartners의JonathanShulkin은xAI가"빠르게매출을증가시키고있으며약2년반에서3년내에현금흐름플러스를달성할것으로예상된다"고밝혔으며,100억달러의현금보유고를유지하고있다고전했습니다.이일정은xAI를2028년까지현금흐름플러스를달성할것으로예상하는Anthropic과동등한수준에놓이게합니다.이와대조적으로,OpenAI는올해연간매출130억달러를창출함에도불구하고2030년까지긍정적인현금흐름을달성할것으로예상하지않습니다.인프라확장및재원조달전략자본의상당부분은xAI의공격적인인프라구축에배정되어있으며,여기에는테네시주멤피스에있는Colossus슈퍼컴퓨터가포함됩니다.이슈퍼컴퓨터는이미200,000개이상의그래픽처리장치로구성되어있으며100만개의GPU로확장하고있습니다.회사는최근최신AI챗봇인Grok4.1을출시했으며,이는감성지능및창의적글쓰기분야에서업계벤치마크1위를차지했습니다.지분투자와함께ValorEquityPartners는특수목적법인을통해추가로150억~200억달러를조달하여Nvidia칩을구매하고이를xAI에임대할예정입니다.Nvidia는이구조에20억달러를투자하기로약속했으며,Shulkin은이를전통적인지분융자의40-50%비용보다xAI의자본비용을절감하기위해고안된"시장혁신"이라고설명했습니다.Tesla주주들은이달초전기차제조업체가xAI에투자할수있도록하는제안을승인했지만,상당수가기권했습니다.Tesla,SpaceX,X,xAI를아우르는머스크의벤처들간상호연결된네트워크는지지자들의열정과잠재적이해충돌에대한정밀조사를모두받고있습니다.

31

0

11.20

메타, 객체 감지를 위한 SAM 3 및 SAM 3D AI 모델 공개

(퍼플렉시티가정리한기사)MetaPlatforms,Inc.는오늘오픈소스컴퓨터비전모델컬렉션인SegmentAnythingCollection의최신버전인SAM3와SAM3D를발표했으며,텍스트기반객체감지및3D재구성기능을도입하여비디오편집및콘텐츠제작워크플로우를혁신할것이라고밝혔습니다.이번릴리스는사용자가수동선택이아닌자연어프롬프트를사용하여객체를감지하고분할할수있도록함으로써이전SegmentAnything모델과는다른방향을제시합니다.Meta의발표에따르면,SAM3는"노란색스쿨버스"또는"빨간야구모자를쓰지않고앉아있는사람들"과같은텍스트문구로설명된객체의모든인스턴스를식별할수있습니다.SAM3D는단일이미지에서객체,사람및장면의3차원모델을재구성합니다.텍스트프롬프트와향상된정확도SAM3는Meta의연구논문에따르면LVIS벤치마크에서47.0의제로샷마스크평균정밀도를달성하여기존시스템대비22%향상된성능을나타냅니다.이모델은H200GPU에서프레임당약30밀리초로이미지를처리하며동시에100개이상의객체를처리합니다.Meta는발표에서"SAM3는이러한제한을극복하여훨씬더광범위한텍스트프롬프트를수용합니다"라고밝혔습니다.회사는Roboflow와협력하여개발자들이특정애플리케이션을위해데이터에주석을달고,미세조정하며,SAM3를배포할수있도록했습니다.메타제품전반에걸친즉각적인통합Meta는이미자사의제품생태계전반에두모델을배포하고있습니다.SAM3는회사의Edits비디오제작앱과Vibes플랫폼에서새로운효과를지원하여,크리에이터들이콘텐츠내특정객체에수정을적용할수있도록합니다.SAM3D는FacebookMarketplace의새로운"방에서보기"기능을구현하여,사용자들이구매전에가구및홈데코아이템을자신의공간에서시각화할수있도록돕습니다.두모델모두Meta의새로운SegmentAnythingPlayground플랫폼을통해접근할수있으며,기술적전문지식이필요하지않습니다.Meta는SAM3모델가중치,평가벤치마크및연구논문을공개하고있으며,SAM3D모델체크포인트와추론코드는연구커뮤니티와공유되고있습니다.

33

0

11.20