AI 뉴스

AI 에이전트 평가가 데이터 라벨링보다 중요해지고 있다

xtalfi

2025.11.22 15:07

654

0

0

HumanSignal은 대규모 언어 모델의 발전에도 불구하고 전통적인 데이터 라벨링이 아닌 AI 에이전트 평가가 프로덕션 AI 시스템 배포의 중요한 병목 현상이 되었으며, 전문 인력 평가자에 대한 수요가 증가하고 있다고 주장한다.

회사의 CEO인 Michael Malyuk은 의료 및 법률 컨설팅과 같은 고위험 애플리케이션에서 기업들이 여전히 인간 전문가 평가를 필요로 한다고 보고하며, 이러한 경우 에이전트는 단순한 이미지 분류가 아닌 다단계 추론, 도구 선택 및 멀티모달 출력에 대해 평가되어야 한다.

이러한 변화는 AI 에이전트 시장이 2025년 78억 4천만 달러에서 2030년까지 526억 2천만 달러로 급증할 것으로 예상되는 것과 동시에 일어나고 있으며, 2025년 6월 Meta의 Scale AI에 대한 143억 달러 투자는 데이터 라벨링 산업을 교란시키고 HumanSignal에게 경쟁 기회를 창출했다.

링크

https://venturebeat.com/data-infrastructure/ai-agent-evaluation-replaces-data-labeling-as-the-critical-path-to?utm_source=perplexity

418 회 연결

댓글 0

전체 1,366 / 89 페이지

기술 기자, 마이크로소프트의 AI 추진 속에서 게이밍 PC를 리눅스로 전환

(퍼플렉시티가정리한기사)TheVerge의수석에디터인네이선에드워즈는이번주자신의게이밍데스크톱을Windows11에서리눅스로전환한다고발표하며마이크로소프트의방향성에불만을가진소수이지만점점늘어나는PC게이머들의흐름에합류했습니다.이결정은마이크로소프트가인공지능에이전트를Windows11작업표시줄에직접통합해운영체제를회사가"AI를위한캔버스"라고부르는형태로탈바꿈하겠다고발표한바로다음날나온것입니다.과거맥시멈PC매거진에서게이밍하드웨어를테스트했던노련한테크저널리스트인에드워즈는마이크로소프트의AI통합과클라우드서비스에대한공격적인추진이마지막결정적계기가되었다고밝혔습니다.그는"나는컴퓨터와대화하고싶지않다.나는원드라이브를사용하고싶지않다"고썼습니다."그리고절대Recall도사용하지않을것이다".리눅스게임이새로운이정표에도달하다에드워즈의전환시점은리눅스게이밍이새로운이정표에도달한시기와일치합니다.Valve의2025년10월스팀하드웨어설문조사에따르면,리눅스사용자가처음으로전체스팀사용자중3%를돌파했으며,이는잠재적으로월간활성사용자400만명이상을의미합니다.이러한성장은주로Valve의스팀덱휴대용게임기와윈도우게임을리눅스에서실행할수있게해주는Proton호환성계층의성공에기인합니다.에드워즈는CachyOS를설치할계획인데,이는최신하드웨어에서의게임에최적화된Arch기반리눅스배포판입니다.그의게임컴퓨터는AMDRyzen79800X3D프로세서와NvidiaGeForceRTX4070Super그래픽카드를탑재하고있습니다.TheVerge는이전에동료인안토니오빌라스-보아스가Framework의데스크톱시스템에서페도라기반의리눅스배포판인Bazzite를사용해콘솔과유사한게이밍성능을달성했다고보도한바있습니다.마이크로소프트의AI통합,반발을불러일으키다Microsoft는Ignite2025에서사용자가"AskCopilot"이라는기능을통해Windows작업표시줄에서직접AI에이전트를호출하고관리할수있도록하는계획을발표했습니다.또한회사는전문가들의지속적인개인정보보호및보안우려와여러애플리케이션이이를차단하기로선택했음에도불구하고,사용자활동의스크린샷을자동으로캡처하는논란의여지가있는Recall기능을계속추진하고있습니다.이러한움직임은Windows10이2025년10월14일에지원종료에도달하면서나온것으로,사용자들은Windows11로업그레이드하거나,연장보안업데이트비용을지불하거나,호환되지않는하드웨어를교체해야하는상황에직면했습니다.Edwards는더넓은맥락을인정하며다음과같이말했습니다:"Microsoft는Windows10지원을종료하여하드웨어업그레이드나보안위험을강요하고있습니다.로컬계정설정을위한우회방법을제거하고오래된하드웨어에서의설치를차단하고있습니다".

725

0

2025.11.20

플라즈마 제어 혁신으로 핵융합 에너지 발전 가속화

(퍼플렉시티가정리한기사)연구자들은이번달핵융합로켓제어분야에서중요한진전을이루었으며,초고온플라즈마를관리하는계산을몇초가아닌몇밀리초만에완료했습니다.이는이기술의가장지속적인과제중하나를해결하는획기적인성과입니다.이러한발전은민간기업들이수십억달러의신규투자를받고인공지능이일정을수십년앞당길수있다는예측에힘입어2030년대초반까지상업용핵융합전력을전력망에공급하기위해경쟁하는가운데이루어졌습니다.투자급증이상업적추진력을강화하다CommonwealthFusionSystems는8월에8억6,300만달러를유치하여총투자금이약30억달러에달하며세계최대민간핵융합기업으로서의입지를확고히했습니다.이번투자라운드에는Nvidia의벤처투자부문인NVentures가참여했으며,Google및BreakthroughEnergyVentures와같은기존투자자들도함께했습니다.매사추세츠에본사를둔이회사는실증기계인SPARC를건설하고있으며,버지니아주체스터필드카운티에세계최초의그리드규모핵융합발전소인ARC건설계획을진행하고있습니다.DominionEnergy와의파트너십을통해400메가와트규모의이시설은2030년대초반전력망에전력을공급하는것을목표로하고있습니다.2025년초,호주의Hostplus연금펀드는CommonwealthFusionSystems의4퍼센트지분을위해3억3,000만달러를투자했습니다.Hostplus의최고투자책임자인SamSicilia는"이것은우리생애에서볼수있는세계에너지믹스의가장큰잠재적변화입니다"라고말하며,상업용원자로가5년내에가동될수있을것으로예측했습니다.기술발전이개발을가속화하다DIII-D국립핵융합시설의연구원들은20~100밀리초이내에플라즈마계산을완료하는병렬화된물리코드를개발하여주요제어돌파구를달성했습니다.TORBEAM코드는20밀리초이내에실행되며,STRIDE코드는100밀리초에계산을수행합니다.이는미래핵융합발전소의실시간플라즈마제어에필수적인속도입니다.독일에서는카를스루에공과대학의과학자들이FocusedEnergy와협력하여DINERWA프로젝트를통해핵융합반응로벽을위한초내성재료를개발하고있습니다.이연구는태양표면보다높은온도를견딜수있도록설계된산화물분산강화강철,구리합금,나노구조텅스텐및고엔트로피합금에중점을두고있습니다.독일연방교육연구부는이발전을가속화하기위해1억2,700만유로를배정했습니다.한편,데이터센터회사Switch의창립자이자CEO인RobRoy는SchneiderElectric의혁신정상회담에서AI가핵융합개발을"20~30년"앞당길것이라고밝혔습니다.Roy의회사는원자로스타트업Oklo와전력공급계약을체결했습니다.

724

0

2025.11.20

AI 코딩 어시스턴트 Cline, 데이터 도난 공격에 취약

(퍼플렉시티가정리한기사)보안연구원들은380만번이상설치된인기있는AI코딩어시스턴트인Cline에서치명적인취약점들을발견했습니다.이취약점들은공격자가개발자가손상된프로젝트저장소를열때민감한데이터를탈취하고악성코드를실행할수있도록합니다.이번공개는소프트웨어엔지니어링에서표준이되어가고있는AI기반개발도구들의보안격차를부각시켰습니다.AI보안업체인Mindgard는2025년8월22일부터24일까지진행된VisualStudioCode확장프로그램의간단한보안감사과정에서Cline에서네가지취약점을발견했습니다.이결함들은프롬프트인젝션공격이발생할수있게하며,API키를유출하고,안전장치를우회하고,무단명령을실행하고,모델정보를누출할수있습니다.이모든것이사용자모르게일어날수있습니다.코드저장소를통한공격벡터취약점들은Cline의코드분석기능을악용하여공격자가Python닥스트링이나마크다운구성파일에악성명령어를삽입할수있게합니다.개발자가감염된저장소를열고Cline에게분석을요청하면AI어시스턴트가승인프롬프트없이위험한작업을수행하도록조작될수있습니다.연구원들에따르면한가지공격방법은일반적으로안전하다고허용되는ping명령어를통한DNS기반데이터유출을사용합니다.공격자는Cline에게API키가포함된환경변수를읽고,이를공격자가제어하는도메인으로전송되는DNS쿼리로인코딩하도록지시할수있습니다.두번째취약점은Cline의.clinerules구성디렉토리를악용하는것으로,악성마크다운파일이requires_approval플래그를무시해위험한작업을사전승인된작업으로바꿀수있습니다.연구진은또한타임오브체크–타임오브유즈(TOCTOU)경쟁조건을시연했으며,이를통해여러번의프롬프트인젝션을활용해악성페이로드를여러조각으로조립함으로써분석중에는공격이보이지않도록만들수있습니다.지연된대응과부분적인수정Mindgard는2025년8월에모든취약점을Cline에공개했으나,벤더는연구진에게그에상응하는대응을하지않았습니다.Cyberpress에따르면,10월에공론화된압력이있은후에야Cline팀이해당문제를인정했습니다.3.35.0버전기준으로취약점이부분적으로완화된것으로보이나,연구진은구현변경사항에대해자세한정보를받지못했다고밝혔습니다.이결과는AI코딩어시스턴트에대한업계전반의우려와일치합니다.OWASP2025LLM애플리케이션Top10에따르면,프롬프트인젝션이주요1순위의치명적취약점으로,보안감사에서평가된실제AI배포의73%이상에서발견되었습니다.최근연구에서는AI가생성한코드의45%가OWASPTop10에명시된취약점을포함하고있음이밝혀졌습니다.이사건은보안전문가들이AI기반개발도구의근본적인맹점이라고지적하는부분을부각시켰습니다.즉,시스템프롬프트가중요한보안요소로간주되기보다는공격표면으로악용될수있다는점입니다.

705

0

2025.11.20

Databricks CEO는 AGI가 이미 존재한다고 말하며, 업계가 목표를 바꿨…

(퍼플렉시티가정리한기사)DatabricksCEO알리곳시(AliGhodsi)는인공일반지능(AGI)이이미존재하며,기술업계가단순히AGI의정의에대해"골대를계속옮기고"있다고선언했습니다.이는9월에열린GoldmanSachs컨퍼런스에서나온발언으로이번주에공개되었습니다.9월10일GoldmanSachs의Communacopia+TechnologyConference에서연설한곳시는현재의AI챗봇들이이미10년전연구자들이사용했던AGI의정의를충족한다고주장했습니다."모두가그렇다고말할것이지만,우리는계속해서골대를옮겼습니다"라고곳시는화요일에공개된토론에서말했습니다.이러한발언은현재1,000억달러이상의가치를인정받고있는Databricks가TheInformation에따르면1,300억달러를초과하는기업가치로신규자금조달협상중인것으로알려진가운데나왔습니다.스케일링법칙이한계에부딪혔다컴퓨터과학박사학위를보유한Ghodsi는컨퍼런스에서AI모델의거대한도약의시대가둔화되었으며최근AI발전을이끈스케일링법칙이"멈춰섰다"고말했다.그는OpenAI의GPT-5와Anthropic의Claude4와같은최신시스템이대규모개선을제공하지못하고있다며"다음사전훈련된거대모델에서가치를얻는것이점점더어려워지고있다"고덧붙였다.이CEO는인간보다훨씬더똑똑하게추론할수있는AI인초지능에대한업계의집착이"잘못된방향"이라고주장하며,세계에서가장뛰어난두뇌를능가하는시스템을구축하는것은기업들이실제로필요로하는것이아니라고말했다."AGI는자동화하고에이전트를구축하는데필요한모든것을갖추고있습니다"라고그는말했다."우리는단지지루한작업을해야할뿐입니다".초지능에대한업계의의견분열Ghodsi의발언은인공초지능구축이바람직한지에대해기술업계가분열되는가운데나왔다.MicrosoftAICEOMustafaSuleyman은토요일공개된팟캐스트에서인공초지능을"반(反)목표"로취급해야한다고말하며,이를"미래에대한긍정적인비전처럼느껴지지않는것"이라고언급했다.DeepMind를공동창립한후Microsoft에합류한Suleyman은자신의팀이대신"인본주의적초지능"—인간의이익과가치에기반을둔AI—을추구하고있다고말했다.다른기술리더들은초지능을달성하겠다는결심을유지하고있다.OpenAICEOSamAltman은9월에업계가2030년까지초지능에도달하지못한다면"매우놀랄것"이라고말했다."초지능도구는우리가스스로할수있는것을훨씬넘어서과학적발견과혁신을대폭가속화할수있습니다"라고Altman은1월에말했다.GoogleDeepMind공동창립자DemisHassabis는AGI가"향후5~10년내에"도래할수있다고제안했다.Databricks는9월에1,000억달러를초과하는가치평가로10억달러를조달했으며,회사는2분기동안매출런레이트가40억달러를돌파하여전년대비50%증가했다고보고했다.회사의AI제품만으로도최근매출런레이트10억달러를돌파했다.

650

0

2025.11.20