Loading...

AI 뉴스

AI 에이전트 구축은 여전히 어렵다

페이지 정보

작성자 xtalfi
작성일 11.23 17:10
50 조회
0 추천
0 비추천

본문

179eca808840ce5856d6d8f0d4e339a7_1763885343_7714.png
 

개발자 Armin Ronacher는 2025년에도 AI 에이전트 구축이 여전히 어렵다고 주장하며, Vercel AI SDK와 같은 고수준 SDK 추상화는 실제 도구 사용을 처리할 때 제대로 작동하지 않아, 캐싱, 강화, 에이전트 루프 설계에 대한 더 나은 제어를 위해 Anthropic과 OpenAI의 네이티브 플랫폼 SDK로 회귀하게 된다고 설명한다.

이 글은 명시적 캐시 관리가 자동 캐싱보다 예상외로 우수하다고 지적하며, Anthropic의 수동 캐시 제어는 개발자가 대화를 분할하고, 컨텍스트를 편집하며, 시스템 프롬프트 이후와 대화 기록 전반에 캐시 포인트를 배치하여 비용을 더 정확하게 예측할 수 있게 한다고 설명한다.

Anthropic Claude 모델은 명시적 캐싱 전략을 통해 최대 90%의 비용 절감을 달성할 수 있지만, 에이전트 개발자들은 학습을 위한 상세한 실패 로깅의 이점과 모든 오류를 컨텍스트에 보존하는 데 따르는 토큰 비용 사이의 근본적인 긴장 관계에 직면한다.

댓글 0
전체 1,203 / 27 페이지
바이두CEO로빈리는화요일로보택시가"중국과미국모두에서전환점에도달했다"고선언하며,자율주행차량이주류채택에근접하고있다는신호를보내는기술경영진들의대열에합류했다.이발언은미국과중국기업들이글로벌로보택시시장을장악하기위한경쟁이심화되는가운데바이두의3분기실적발표에서나왔다.​리는변곡점의증거로대중의수용도증가를언급하며,현재충분한수의사람들이무인주행을경험하고소셜미디어에호의적인인상을공유함으로써규제승인을가속화할가능성이있다고지적했다.그의발언은엔비디아CEO젠슨황의최근성명과일치하는데,황은10월우버와의파트너십을발표하며2027년부터전세계적으로10만대의자율주행차량을배치할계획이며,이러한변화가"빠르게일상적인현실이되고있다"고언급했다.​중국기업들이국제확장을주도하다중국의로보택시기업들이글로벌확장에서미국경쟁사들을앞서고있으며,Baidu의ApolloGo,Pony.ai,WeRide가중동,동남아시아,유럽전역에서상업운영을시작했습니다.ApolloGo는현재두바이,아부다비,베이징,상하이,우한을포함한전세계22개도시에서매주25만건이상의완전무인주행서비스를제공하고있습니다.이회사는아부다비에서완전자율주행서비스에대해승객에게요금을부과할수있는승인을받았습니다.​Baidu는ApolloGo가총1,700만건의주행을달성하여5월에1,000만건의주행을발표한Alphabet의Waymo에필적한다고주장합니다.11월회사컨퍼런스에서Li는ApolloGo의차량이에어백전개전까지평균1,014만킬로미터를주행하여"인간운전자의성능을크게능가"하며Waymo의안전지표를초과한다고밝혔습니다.​GoldmanSachs는글로벌로보택시시장이2030년까지250억달러를초과할수있으며,중국시장만으로도2035년까지470억달러에달할것으로예측합니다.이투자은행은2025년부터2030년까지약90%의연평균성장률을전망합니다.​미국기업들의배치가속화Waymo는이번주미니애폴리스,탬파,뉴올리언스로확장할계획을발표했으며,최근마이애미및기타도시에서의출시에이어추가됩니다.1,500대이상의차량을운영하는이회사는화요일마이애미에서완전자율주행운영을시작했으며2026년대중서비스를계획하고있습니다.Tesla는이번주애리조나에서차량호출허가를받아미국내세번째시장에서운영을가능하게했습니다.​XPeng은내년광저우에서세가지로보택시모델을출시할계획을발표했으며,Alibaba의지도서비스Amap과파트너십을맺었습니다.이차량들은라이다나고해상도지도에의존하지않고3,000TOPS의컴퓨팅성능을특징으로합니다.
49 조회
0 추천
11.21 등록
기술억만장자일론머스크는수요일워싱턴D.C.에서열린미국-사우디투자포럼에서인공지능과로봇공학이향후10년에서20년내에돈을"무의미하게"만들고일을선택적활동으로변화시킬것이라고예측했다."제생각에는,충분히먼미래를내다본다면,AI와로봇공학의지속적인발전이있을것으로보이는데,미래의어느시점에서돈은더이상의미가없어질것입니다"라고머스크는11월19일케네디센터에서열린패널토론에서말했다."전력과같은에너지와질량에대한제약은여전히존재할것입니다"라고그는덧붙였다."하지만어느시점에서는화폐가무의미해질것이라고생각합니다."​AI영향력에대한대조적인비전Tesla,SpaceX,그리고xAI를이끄는머스크는NvidiaCEO젠슨황과함께AI주도경제에서의업무와생산성의미래에대해논의하기위해나타났다.머스크가일이없는미래에대한광범위한비전을제시한반면,황은보다신중한관점을제시했다.​황은여러매체에따르면"모든사람의직업이달라질것이며,그것은확실하다고생각한다"고말했다.그는AI가업무를완전히없애기보다는사람들을더생산적으로만들것이라고제안하며,"엘론은AI의결과로더바빠질것이라는것이내추측이다.나도AI의결과로더바빠질것이다"라고예측했다.​사우디왕세자무함마드빈살만의백악관방문과동시에열린이포럼에서는양국간확대된투자약속에대한발표가있었다.같은날,Nvidia는월스트리트예상을뛰어넘는570억달러의3분기매출을보고했다.​​선택적여가로서의일머스크는미래의고용에대한자신의비전을여가활동에비유했다."그것은스포츠나비디오게임을하는것과비슷할것입니다,"라고그는말했다."당신은상점에가서채소를그냥살수도있고,집뒤뜰에서채소를직접키울수도있습니다.집에서채소를기르는것은훨씬더어렵지만,어떤사람들은채소를기르는것을좋아해서여전히그렇게합니다.앞으로의일은이런식이될것입니다:선택적입니다".​테슬라CEO는자신의회사옵티머스휴머노이드로봇이"빈곤을없앨것"이라고여러차례주장했다.그는긍정적인AI미래가어떨지보여주는예시로1987년부터2012년까지쓰여진SF작가이언뱅크스의컬처시리즈를언급했다.​머스크는10월에조로건과의인터뷰에서보편적기본소득(universalbasicincome)이아니라"보편적고소득(universalhighincome)"을옹호하며말했다:"누구나원하는제품이나서비스를가질수있습니다.하지만그과정에는많은트라우마와혼란이있을것입니다".
45 조회
0 추천
11.21 등록
일론머스크는이번주에태양광인공지능위성을궤도에배치하겠다는야심찬비전을제시하면서,이러한위성들이인공지능컴퓨팅의에너지수요를충족시키고지구에도달하는태양복사량을정밀하게제어함으로써지구온난화를방지할수있다고주장했다.수요일열린미-사우디투자포럼에서머스크는스페이스X의스타십로켓이“연간약300GW,어쩌면500GW정도의태양광인공지능위성을궤도에쏘아올릴수있을것”이라고말했다.그는세일즈포스(Salesforce,Inc.)의CEO마크베니오프가머스크가우주기반데이터센터가지상시설대비비용효율성이높다고논의하는영상을공유한것에답변했다.​이제안은기술업계리더들이급증하는AI의전력수요문제를해결하기위해경쟁하는가운데나왔다.머스크는AI의전력수요가미국전체에너지소비의“3분의2”에도달할수있다고언급했으며,이는연방에너지규제위원회(FERC)데이터에따르면현재약473GW에해당한다.포럼에서머스크와함께무대에오른엔비디아(NVIDIACorporation)CEO젠슨황은현재AI슈퍼컴퓨터가랙당2톤이넘고,그중“1.95톤은아마도냉각을위한것”이라고말했다.머스크는우주가냉각목적으로"매우매력적인장소가될것"이라며동의했고,"우주에서는항상해가비치기때문에배터리가필요없다"고덧붙였다.​우주기반컴퓨팅경쟁가열머스크의발언은궤도컴퓨팅인프라를향한업계전반의움직임과일치한다.알파벳(AlphabetInc.)은11월3일,플래닛랩스(PlanetLabs)와협력해2027년초까지텐서프로세싱유닛이탑재된두대의프로토타입위성을발사하는'프로젝트선캐처(ProjectSuncatcher)'를발표했다.이프로젝트는대기간섭없이태양광을이용해궤도에서머신러닝워크로드를테스트하는것이목표다.​블루오리진(BlueOrigin)CEO인제프베조스는지난달이탈리아테크위크에서"향후10에서20년내에기가와트규모의데이터센터가우주에건설될것"이라고예측했다.베조스는자동차및항공우주애플리케이션에초점을맞춘새로운AI하드웨어스타트업인프로젝트프로메테우스(ProjectPrometheus)도지원하고있는것으로알려졌다.​이달초머스크는"대형태양광AI위성군집을이용해지구에도달하는태양에너지를미세하게조정함으로써지구온난화를방지하자"고제안했다.이개념은'태양복사관리(solarradiationmanagement)'로알려져있으며,기후를인위적으로통제하는것은예기치못한부작용이있을수있다고경고하는과학자들사이에서논쟁을불러일으키고있다.​하지만머스크는칩생산을"해결해야할가장큰퍼즐조각"이라고지적했다.그는테슬라(Tesla,Inc.)가AI프로세서수요를충족하기위해인텔(IntelCorporation)과개발중인것으로알려진자체'테라팹(TeraFab)'파운드리를지어야할수도있다고밝혔다.
46 조회
0 추천
11.21 등록
알리바바는Qwen대규모언어모델을매우허가친화적인오픈소스라이선스로공개함으로써궁극적으로자사의클라우드컴퓨팅및전자상거래비즈니스에이로운광범위한AI도입을이끌것이라고전망하고있으며,이는회사의AI전략에대한BismarckBrief의분석에근거한것이다.​에어비앤비CEO브라이언체스키는자사가고객서비스에Qwen모델을적극적으로활용한다고밝혔으며,그이유로"우수함","빠른속도","합리적인비용"을꼽았고,플랫폼통합요구사항에"완전히준비되지않은"ChatGPT대신선택했다고설명했다.​Qwen오픈소스모델은전세계적으로6억회이상다운로드됐으며,현재아마존,애플등미국대형기업의AI시스템에도적용되어,알리바바가세계최대오픈소스AI생태계를구축하게되었다.
73 조회
0 추천
11.21 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입