AI 뉴스

AI는 규모에서 효율성과 속도로 전환하고 있다

xtalfi

11.23 17:21

82

0

0

Matthew Harris는 AI 개발이 순수한 스케일링에서 벗어나 토큰당 비용을 우선시하는 효율성 중심 아키텍처로 전환되고 있으며, 하이브리드 어텐션 메커니즘이 전통적인 단일 어텐션 접근 방식을 대체하고 있다고 주장합니다.

Qwen3 Next와 Kimi Linear 같은 모델은 Gated DeltaNet을 전체 어텐션 블록과 3:1 비율로 사용하여 메모리 및 KV-캐시 사용량을 최대 75%까지 줄이면서 수십만 토큰의 컨텍스트 윈도우를 가능하게 합니다.

이러한 아키텍처 변화는 AI 토큰 비용이 1년 만에 백만 토큰당 $10에서 $2.50로 75% 하락한 것을 보여주는 광범위한 업계 트렌드와 일치하며, 이는 모델 효율성을 최적화하려는 경쟁 압력에 의해 주도되었습니다.

링크

https://matthewharris.substack.com/p/the-bleeding-edge

43 회 연결

댓글 0

전체 1,238 / 36 페이지

머스크, AI가 일을 선택사항으로 만들고 돈을 무의미하게 만들 것이라 예측

기술억만장자일론머스크는수요일워싱턴D.C.에서열린미국-사우디투자포럼에서인공지능과로봇공학이향후10년에서20년내에돈을"무의미하게"만들고일을선택적활동으로변화시킬것이라고예측했다."제생각에는,충분히먼미래를내다본다면,AI와로봇공학의지속적인발전이있을것으로보이는데,미래의어느시점에서돈은더이상의미가없어질것입니다"라고머스크는11월19일케네디센터에서열린패널토론에서말했다."전력과같은에너지와질량에대한제약은여전히존재할것입니다"라고그는덧붙였다."하지만어느시점에서는화폐가무의미해질것이라고생각합니다."AI영향력에대한대조적인비전Tesla,SpaceX,그리고xAI를이끄는머스크는NvidiaCEO젠슨황과함께AI주도경제에서의업무와생산성의미래에대해논의하기위해나타났다.머스크가일이없는미래에대한광범위한비전을제시한반면,황은보다신중한관점을제시했다.황은여러매체에따르면"모든사람의직업이달라질것이며,그것은확실하다고생각한다"고말했다.그는AI가업무를완전히없애기보다는사람들을더생산적으로만들것이라고제안하며,"엘론은AI의결과로더바빠질것이라는것이내추측이다.나도AI의결과로더바빠질것이다"라고예측했다.사우디왕세자무함마드빈살만의백악관방문과동시에열린이포럼에서는양국간확대된투자약속에대한발표가있었다.같은날,Nvidia는월스트리트예상을뛰어넘는570억달러의3분기매출을보고했다.선택적여가로서의일머스크는미래의고용에대한자신의비전을여가활동에비유했다."그것은스포츠나비디오게임을하는것과비슷할것입니다,"라고그는말했다."당신은상점에가서채소를그냥살수도있고,집뒤뜰에서채소를직접키울수도있습니다.집에서채소를기르는것은훨씬더어렵지만,어떤사람들은채소를기르는것을좋아해서여전히그렇게합니다.앞으로의일은이런식이될것입니다:선택적입니다".테슬라CEO는자신의회사옵티머스휴머노이드로봇이"빈곤을없앨것"이라고여러차례주장했다.그는긍정적인AI미래가어떨지보여주는예시로1987년부터2012년까지쓰여진SF작가이언뱅크스의컬처시리즈를언급했다.머스크는10월에조로건과의인터뷰에서보편적기본소득(universalbasicincome)이아니라"보편적고소득(universalhighincome)"을옹호하며말했다:"누구나원하는제품이나서비스를가질수있습니다.하지만그과정에는많은트라우마와혼란이있을것입니다".

82

0

11.21

머스크, 궤도상 태양광 발전 AI 위성 제안

일론머스크는이번주에태양광인공지능위성을궤도에배치하겠다는야심찬비전을제시하면서,이러한위성들이인공지능컴퓨팅의에너지수요를충족시키고지구에도달하는태양복사량을정밀하게제어함으로써지구온난화를방지할수있다고주장했다.수요일열린미-사우디투자포럼에서머스크는스페이스X의스타십로켓이“연간약300GW,어쩌면500GW정도의태양광인공지능위성을궤도에쏘아올릴수있을것”이라고말했다.그는세일즈포스(Salesforce,Inc.)의CEO마크베니오프가머스크가우주기반데이터센터가지상시설대비비용효율성이높다고논의하는영상을공유한것에답변했다.이제안은기술업계리더들이급증하는AI의전력수요문제를해결하기위해경쟁하는가운데나왔다.머스크는AI의전력수요가미국전체에너지소비의“3분의2”에도달할수있다고언급했으며,이는연방에너지규제위원회(FERC)데이터에따르면현재약473GW에해당한다.포럼에서머스크와함께무대에오른엔비디아(NVIDIACorporation)CEO젠슨황은현재AI슈퍼컴퓨터가랙당2톤이넘고,그중“1.95톤은아마도냉각을위한것”이라고말했다.머스크는우주가냉각목적으로"매우매력적인장소가될것"이라며동의했고,"우주에서는항상해가비치기때문에배터리가필요없다"고덧붙였다.우주기반컴퓨팅경쟁가열머스크의발언은궤도컴퓨팅인프라를향한업계전반의움직임과일치한다.알파벳(AlphabetInc.)은11월3일,플래닛랩스(PlanetLabs)와협력해2027년초까지텐서프로세싱유닛이탑재된두대의프로토타입위성을발사하는'프로젝트선캐처(ProjectSuncatcher)'를발표했다.이프로젝트는대기간섭없이태양광을이용해궤도에서머신러닝워크로드를테스트하는것이목표다.블루오리진(BlueOrigin)CEO인제프베조스는지난달이탈리아테크위크에서"향후10에서20년내에기가와트규모의데이터센터가우주에건설될것"이라고예측했다.베조스는자동차및항공우주애플리케이션에초점을맞춘새로운AI하드웨어스타트업인프로젝트프로메테우스(ProjectPrometheus)도지원하고있는것으로알려졌다.이달초머스크는"대형태양광AI위성군집을이용해지구에도달하는태양에너지를미세하게조정함으로써지구온난화를방지하자"고제안했다.이개념은'태양복사관리(solarradiationmanagement)'로알려져있으며,기후를인위적으로통제하는것은예기치못한부작용이있을수있다고경고하는과학자들사이에서논쟁을불러일으키고있다.하지만머스크는칩생산을"해결해야할가장큰퍼즐조각"이라고지적했다.그는테슬라(Tesla,Inc.)가AI프로세서수요를충족하기위해인텔(IntelCorporation)과개발중인것으로알려진자체'테라팹(TeraFab)'파운드리를지어야할수도있다고밝혔다.

81

0

11.21

알리바바의 Qwen AI 모델이 에어비앤비의 챗봇을 구동

알리바바는Qwen대규모언어모델을매우허가친화적인오픈소스라이선스로공개함으로써궁극적으로자사의클라우드컴퓨팅및전자상거래비즈니스에이로운광범위한AI도입을이끌것이라고전망하고있으며,이는회사의AI전략에대한BismarckBrief의분석에근거한것이다.에어비앤비CEO브라이언체스키는자사가고객서비스에Qwen모델을적극적으로활용한다고밝혔으며,그이유로"우수함","빠른속도","합리적인비용"을꼽았고,플랫폼통합요구사항에"완전히준비되지않은"ChatGPT대신선택했다고설명했다.Qwen오픈소스모델은전세계적으로6억회이상다운로드됐으며,현재아마존,애플등미국대형기업의AI시스템에도적용되어,알리바바가세계최대오픈소스AI생태계를구축하게되었다.

104

0

11.21

마이크로소프트, 새로운 AI 기능이 기기를 위험에 빠뜨릴 수 있다고 경고

Microsoft는 파일 정리 및 이메일 전송과 같은 작업을 자동화하도록 설계된 새로운 Copilot Actions AI 기능이 장치를 손상시키고 민감한 데이터를 훔칠 수 있다는 경고를 발표했으며, 이는 빅테크 기업들이 보안 위험을 완전히 이해하기 전에 기능을 출시한다는 비판을 다시 불러일으켰습니다.회사는 특히 공격자가 웹사이트, 이력서 또는 이메일에 악의적인 명령을 삽입할 수 있는 프롬프트 인젝션 취약점에 대해 사용자들에게 경고했으며, 대규모 언어 모델은 이를 정당한 사용자 지시와 구별할 수 없습니다.Open Worldwide Application Security Project는 2025년 LLM 애플리케이션 상위 10대 보안 위험에서 프롬프트 인젝션을 1위 보안 위험으로 선정했으며, 이는 AI 에이전트가 제어 명령과 사용자 데이터를 구분하지 못하는 근본적인 무능력에 대한 업계 전반의 우려를 반영합니다.

128

0

11.20