Loading...

AI 뉴스

과학자들이 더 빠른 AI 처리를 위한 광학 컴퓨팅 방법 개발

페이지 정보

작성자 xtalfi
작성일 2025.11.25 16:02
539 조회
0 추천
0 비추천

본문

f43ee9a7735c9322763d602776200742_1764054173_9101.png
 

Aalto 대학교의 연구진들은 전기 대신 빛을 사용하여 인공지능 계산을 처리하는 새로운 방법을 시연했으며, 이는 AI 시스템의 확장을 제한해온 주요 병목 현상을 잠재적으로 제거할 수 있다.​

POMMM(Parallel Optical Matrix-Matrix Multiplication)이라 불리는 이 기술은 신경망의 수학적 기초인 복잡한 텐서 연산을 단일 통과의 가간섭 빛으로 완료하며, 이는 11월 14일 Nature Photonics에 게재된 연구에 따른 것이다. 여러 번의 빛 전파를 필요로 하는 기존의 광학 컴퓨팅 방법과 달리, POMMM은 전체 행렬 곱셈을 동시에 수행하여 에너지 소비를 극적으로 줄이면서 더 빠른 처리 속도로 가는 길을 제공한다.​

"여러 다른 기능을 가진 여러 기계를 통해 모든 소포를 검사한 다음 올바른 보관함으로 분류해야 하는 세관 직원을 상상해 보세요"라고 Aalto 대학교 전자 및 나노공학과의 제1 저자인 Dr. Yufeng Zhang이 말했다. "우리의 광학 컴퓨팅 방법은 모든 소포와 모든 기계를 함께 병합합니다 — 우리는 각 입력을 올바른 출력에 연결하는 여러 개의 '광학 고리'를 만듭니다. 단 한 번의 작업, 한 번의 빛 통과로 모든 검사와 분류가 즉시 그리고 병렬로 일어납니다."​


GPU 병목 현상 해결

현재 AI 시스템은 텐서 처리 속도에 한계를 겪고 있으며, 이러한 제약으로 인해 OpenAI, Anthropic, Google, xAI와 같은 기업들은 대규모 모델을 훈련하고 운영하기 위해 수천 개의 그래픽 처리 장치를 병렬로 실행하고 있습니다. GPU는 병렬 처리에 뛰어나지만, 상당한 전력을 소비하고 메모리 대역폭 제약에 직면해 있습니다.​

POMMM 프로토타입은 이미지 인식 작업을 위한 합성곱 신경망을 실행할 때 94% 이상의 정확도를 달성했으며, 손글씨 숫자 분류에서 94.44%, 의류 아이템 인식에서 84.11%의 정확도를 기록했습니다. 이 시스템은 최대 50x50 크기의 행렬에 대해 0.15 미만의 평균 절대 오차를 보였으며, 줄당 20억 회 이상의 연산 효율성을 나타냈습니다.​


상업적 통합으로 가는 길

Aalto University의 Photonics Group을 이끄는 Zhipei Sun 교수는 이 접근법이 "거의 모든 광학 플랫폼에 구현될 수 있다"고 말했다. Zhang은 이 기술이 3~5년 내에 주요 AI 플랫폼에 통합될 수 있을 것으로 추정한다.​

이 혁신적 발견은 AI 인프라를 위한 광학 인터커넥트에 대한 업계의 증가하는 관심을 바탕으로 한다. Ayar Labs와 Lightmatter를 포함한 기업들은 데이터 센터 병목 현상을 위한 광학 솔루션 개발에 수억 달러의 벤처 캐피털을 유치했다. Nvidia CEO Jensen Huang은 2025년 3월에 공동 패키징된 광학 기술이 네트워킹 스위치에 대해 가능성을 보여주지만, 직접 GPU 연결에는 전통적인 구리 연결이 "몇 배나" 더 신뢰할 수 있다고 밝혔다.​

연구진은 POMMM을 포토닉 칩에 직접 통합하여 광 기반 프로세서가 더 낮은 전력 소비로 복잡한 AI 작업을 수행할 수 있도록 할 계획이다.

댓글 0
전체 1,366 / 55 페이지
메타 플랫폼스가 구글의 AI 칩 텐서처리장치(TPU)를 2027년부터 데이터센터에 도입하는 방안을 논의 중인 것으로 25일 알려지면서, 엔비디아가 장악해온 AI 반도체 시장에 균열이 생길 조짐을 보이고 있다. 이날 뉴욕증시에서 엔비디아 주가는 2.59% 하락한 177.82달러에 마감한 반면, 알파벳 주가는 1.62% 상승하며 시가총액 4조 달러를 눈앞에 두게 됐다.IT 전문매체 디 인포메이션은 24일 메타가 수십억 달러 규모로 구글의 TPU를 도입하는 방안을 검토 중이라고 보도했다. 메타는 2027년부터 자사 데이터센터에 TPU를 직접 설치하고, 내년에는 구글 클라우드를 통해 TPU를 임대하는 방안도 협의하고 있는 것으로 전해졌다. 현재 메타는 AI 학습과 서비스 운영에 엔비디아 GPU를 대규모로 사용하고 있어, 이 계약이 성사되면 엔비디아의 주요 고객사에 대한 영향력이 축소될 수 있다는 우려가 나온다.구글 제미나이3.0 성공이 TPU 확산 계기구글이 자체 AI 칩에 자신감을 갖게 된 배경에는 최근 공개한 AI 모델 ‘제미나이 3.0 프로’의 성공이 있다. 제미나이 3.0 프로는 LM아레나 리더보드에서 1501점을 기록하며 처음으로 1500점을 돌파했고, ‘인류의 마지막 시험’에서 정답률 37.5%로 챗GPT의 26.5%를 크게 앞섰다. 이 모델은 엔비디아 GPU 없이 100% 자체 TPU 클러스터만으로 학습됐다는 점에서 업계의 주목을 받고 있다.구글은 지난 10월 AI 챗봇 ‘클로드’를 운영하는 앤트로픽과 최대 100만 개의 TPU를 공급하는 수백억 달러 규모의 계약을 체결한 바 있다. 구글 클라우드 경영진은 TPU 도입 확대를 통해 엔비디아 연간 매출의 최대 10%를 확보할 수 있을 것으로 보고 있다고 디 인포메이션은 전했다.엔비디아 즉각 반박, 삼성전자는 수혜 전망엔비디아는 25일 소셜미디어 엑스(X)를 통해 “우리는 업계보다 한 세대 앞서 있으며, 모든 AI 모델을 구동하고 컴퓨팅이 이뤄지는 모든 곳에서 이를 수행하는 것은 우리 플랫폼뿐”이라고 강조했다. 엔비디아는 “TPU 같은 주문형반도체(ASIC)보다 뛰어난 성능과 다용성, 호환성을 제공한다”고 덧붙였다.구글도 성명에서 “맞춤형 TPU와 엔비디아 GPU 모두 수요가 늘어나고 있다”며 “우리는 수년간 그래왔던 대로 양쪽 모두를 지원할 것”이라고 밝혔다.증권가에서는 TPU 생태계 확장의 최대 수혜자로 삼성전자를 꼽고 있다. 김동원 KB증권 연구원은 “구글 TPU 설계와 생산을 담당하는 브로드컴의 경우 삼성전자가 메모리 공급 점유율 1위를 기록하고 있어 향후 구글 TPU 생태계 확장의 최대 수혜가 기대된다”고 분석했다. SK하이닉스도 구글 TPU에 HBM을 공급하고 있어 AI 생태계 다변화로 수혜를 볼 것으로 전망된다.
520 조회
0 추천
2025.11.26 등록
제품 리더 Aakash G와 OpenAI의 Miqdad Jaffer는 모델 품질보다는 컨텍스트 엔지니어링—사용자 기록, 관련 문서, 시스템 제약 조건과 같은 올바른 정보를 AI 모델에 제공하는 관행—이 AI 기능이 훈련이 부족한 인턴처럼 실패하거나 성공하는지를 결정한다고 주장합니다.이 글은 Apollo의 이메일 작성기를 통해 이를 보여주는데, 엔지니어들이 대화 스레드, CRM 노트, 회사 톤, 관계 컨텍스트를 계층화한 후에야 일반적인 출력에서 출시 가능한 품질로 발전했습니다.전체 코드베이스를 인덱싱하고 벡터 데이터베이스를 통해 관련 코드를 검색하여 연간 10억 달러 이상의 수익을 달성한 AI 코딩 어시스턴트 Cursor는 컨텍스트 엔지니어링이 어떻게 경쟁 우위를 만들어내는지를 보여주는 사례로, Google이 이 기능을 내부에서 구축하는 대신 경쟁사인 Windsurf와 24억 달러의 라이선스 계약을 체결하게 만들었습니다.
534 조회
0 추천
2025.11.26 등록
하버드 비즈니스 리뷰 분석에 따르면, AI 에이전트는 아직 소비자 대상 애플리케이션에 충분히 신뢰할 수 있는 수준이 아니며—보안 및 정확성에 대한 우려로 인해 소비자의 76%가 구매에 이를 사용하는 데에 소극적인 것으로 나타났습니다—하지만 구조화되고 반복적인 작업 및 인간의 감독이 한계를 보완할 수 있는 백엔드 엔터프라이즈 운영에서는 실질적인 가치를 제공하고 있습니다.주요 유럽 인터넷 제공업체와의 사례 연구에서는 현장 기술자를 지원하기 위해 멀티 에이전트 시스템을 도입하여, 문제 해결 시간을 60% 단축시키고 연간 100만 유로 이상의 반복적인 비용 절감과 함께 고객 만족도를 크게 향상시켰다는 잠재력을 보여주었습니다.이러한 점진적 개선은 혁명적인 변화라기보다는 린 제조(Lean manufacturing) 방법론에 가깝고, 엔터프라이즈 적용에는 세밀한 프로세스 매핑, 광범위한 IT 시스템 통합, 그리고 실제 환경에서 프롬프트 기반 시스템이 일반적으로 70% 이상의 정확도를 넘지 못하게 하는 AI 환각(hallucination)에 대한 관용이 요구됩니다 .
523 조회
0 추천
2025.11.26 등록
엔비디아가 25일(현지시간) 자사 그래픽처리장치(GPU)가 업계보다 “한 세대 앞서 있다”며 구글의 AI 칩 경쟁에 정면 반박했다. 엔비디아는 소셜미디어 엑스(X) 공식 계정을 통해 “구글의 성공에 기쁘다. 우리는 계속 구글에 제품을 공급하고 있다”면서도 “우리는 업계보다 한 세대 앞서 있으며, 모든 AI 모델을 구동하고 컴퓨팅이 이뤄지는 모든 곳에서 작동하는 유일한 플랫폼”이라고 강조했다.이번 성명은 메타가 구글의 텐서처리장치(TPU)를 2027년부터 자사 데이터센터에 도입하기 위해 수십억 달러 규모의 계약을 협의 중이라는 보도가 나온 직후 나왔다. IT 전문매체 디인포메이션은 메타가 내년에 구글 클라우드를 통해 TPU를 임대하고, 2027년부터는 직접 구매해 데이터센터에 탑재하는 방안을 검토하고 있다고 전했다.주가 엇갈린 반응이날 엔비디아 주가는 전일 대비 2.59% 하락한 177.82달러에 거래를 마쳤다. 장중 한때 5.5% 이상 급락하기도 했다. 반면 알파벳 주가는 1.53% 상승 마감했으며, 장중 328.83달러까지 오르며 52주 신고가를 경신했다. 애널리스트들은 엔비디아가 GPU 기반 AI 칩 시장의 90% 이상을 점유하고 있지만, 최근 구글의 자체 칩 TPU가 엔비디아 최신 칩인 블랙웰의 실행 가능한 대안으로 주목받고 있다고 분석했다.구글 TPU 영향력 확대구글은 10년 전부터 브로드컴을 통해 TPU를 제조해왔으며, 최근 7세대 TPU ‘아이언우드’를 출시했다. 구글은 이미 AI 챗봇 ‘클로드’를 운영하는 앤트로픽과 최대 100만 개의 TPU를 공급하는 계약을 지난달 체결했다. 구글은 이날 성명에서 “맞춤형 TPU와 엔비디아 GPU 모두 수요가 늘어나고 있다”며 “양쪽 모두를 지원할 것”이라는 입장을 밝혔다.젠슨 황 엔비디아 최고경영자는 최근 실적발표에서 “구글은 고객사이며 제미나이도 엔비디아 기술로 구동된다”고 말하며, AI 개발에 더 많은 칩과 데이터가 필요하다는 ‘스케일링 법칙’이 여전히 유효하다고 강조했다.
538 조회
0 추천
2025.11.26 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입