로그인
회원가입
계정찾기
AI Services

AI 뉴스

AWS, 엔비디아 블랙웰 울트라 GPU를 탑재한 AI 인스턴스 출시

xtalfi
2025.11.20 03:00
726
0
0
목록

inference-corp-blog-onsite-gtcdc-think-smart-blog-1280x680-4529232.png

(퍼플렉시티가 정리한 기사)


Amazon Web Services는 월요일 Nvidia의 Blackwell Ultra GPU를 탑재한 Amazon EC2 P6-B300 인스턴스의 정식 출시를 발표했으며, 이는 고성능 AI 인프라에 대한 급증하는 수요를 충족시키기 위한 클라우드 거대 기업의 최신 노력을 보여줍니다.​

새로운 인스턴스는 올해 초 출시된 AWS의 이전 세대 P6-B200 인스턴스와 비교하여 2배의 네트워킹 대역폭과 1.5배 더 많은 GPU 메모리를 제공합니다. 각 P6-B300 인스턴스는 2.1테라바이트의 고대역폭 GPU 메모리, 초당 6.4테라비트의 Elastic Fabric Adapter 네트워킹, 그리고 4테라바이트의 시스템 메모리를 갖춘 8개의 Nvidia B300 GPU를 탑재하고 있습니다.​


조 단위 매개변수 모델을 위해 설계됨

AWS에 따르면, 이 인스턴스들은 Mixture of Experts 및 멀티모달 처리와 같은 정교한 기술을 사용하는 대규모 AI 모델, 특히 수천 개의 GPU에 걸친 분산 훈련이 필요한 수조 개의 매개변수를 가진 모델을 훈련하고 배포하도록 설계되었습니다. 향상된 메모리 및 네트워킹 기능을 통해 대규모 모델이 단일 Nvidia NVLink 도메인 내에 상주할 수 있어 모델 샤딩 및 통신 오버헤드가 감소합니다.​

P6-B300 인스턴스는 FSx for Lustre와 함께 Nvidia GPUDirect Storage를 지원하여 빠른 모델 로딩을 위해 초당 최대 1.2테라비트의 처리량을 달성합니다. 이 인스턴스들은 현재 Amazon EC2 Capacity Blocks for ML 및 Savings Plans를 통해 미국 서부(오리건) 리전에서 사용할 수 있습니다.​


AI 인프라 포트폴리오 확장

이번 출시로 AWS는 경쟁사인 Microsoft와 Google과 경쟁할 수 있는 위치에 서게 되었으며, 이들 역시 Blackwell 기반 인프라를 출시한 바 있습니다. Microsoft는 11월 초 4,600개 이상의 Nvidia Blackwell Ultra GPU를 탑재한 Nvidia GB300 NVL72 시스템의 첫 번째 대규모 프로덕션 클러스터를 배포한다고 발표했습니다. Google Cloud는 10월에 Nvidia의 RTX PRO 6000 Blackwell Server Edition GPU를 탑재한 G4 가상 머신을 정식 출시했습니다.​

AWS는 12월 1일부터 5일까지 라스베이거스에서 열리는 re:Invent 컨퍼런스에서 추가적인 컨테이너 및 AI 개발 사항을 선보일 예정입니다.

댓글 0
목록
전체 1,366 / 37 페이지
MS 연구 결과, 사용자들이 건강 및 관계 조언을 위해 Copilot 이용
MS 연구 결과, 사용자들이 건강 및 관계 조언을 위해 Copilot 이용
Microsoft는 2025년 1월부터 9월까지 3,750만 건의 익명화된 대화를 분석한 최초의 포괄적인 Copilot 사용 연구를 발표했으며, 사용자들이 단순히 생산성 도움만이 아닌 건강, 관계, 인생 결정에 대한 개인적인 지침을 점점 더 많이 찾고 있다는 사실을 밝혔습니다.연구는 데스크톱과 모바일 사용자 간의 뚜렷한 차이를 발견했는데, 데스크톱 사용자는 Copilot을 생산성 도구로 취급한 반면 모바일 사용자는 “대화형 동반자”로 활용했으며, 건강 관련 주제가 하루 중 모든 시간대의 대화를 지배했습니다.Microsoft의 책임 있는 AI 책임자는 사용자들이 그러한 목적으로 설계되지 않은 도구에서 정서적 지원을 구함에 따라 안전 문제를 인정했으며, OpenAI, Google, Meta, Anthropic과 장기 챗봇 사용자를 두고 경쟁하는 가운데 “필요한 통제와 보호 장치”의 필요성을 강조했습니다.
479
0
2025.12.11
AI 사용이 뉴노멀이 된 대학 교육 현장
AI 사용이 뉴노멀이 된 대학 교육 현장
AI 시대의 대학교육과 AI 활용 경향생성형 AI의 급격한 발전으로 인해 대학생들의 학습 방식이 근본적으로 변화하고 있습니다. 대학생들은 과제, 수업 이해, 시험 대비 등 학습 전반에 걸쳐 AI를 폭넓게 사용하며, AI를 '선호하지 않을 수는 있지만 안 쓰는 사람은 없을 것'이라는 인식이 확산되었습니다. 일부 대학은 챗GPT 표절 방지를 위해 과제 현장 수행을 늘리거나, 경인교대처럼 논쟁적 질문 준비 시 AI 사용을 금지하는 등의 가이드라인을 제시하고 있습니다. 그러나 대다수 학생들은 AI를 자료 요약, 아이디어 도출, 모의고사 제작 등에 활용하며 AI를 '좋은 도구'이자 학습의 효율을 높이는 '필수 교보재'로 인식하고 있습니다.학습자와 교수자의 AI 활용과 인식 차이대학생들은 AI를 여러 단계로 활용하는 '헤비 유저'가 많으며, 예를 들어 자료 검색, 초안 작성, 문체 리라이팅 등 다양한 AI를 교차 사용하는 경향을 보입니다. 이들은 중간에 자신의 의견을 넣어 협업했기 때문에 AI가 생성한 결과물도 '나의 결과물'로 여기는 경향이 뚜렷합니다. 한편, 대학 교수들 사이에서는 AI 활용을 막을 수 없다는 판단하에 글쓰기나 철학 등 인문계열에서도 AI 활용법을 가르치는 사례가 증가하고 있습니다. 교수들은 학생들이 AI 산출물을 그대로 사용하지 않고, AI가 제시한 아이디어를 비판적으로 수정하고 자신의 것으로 소화하는 '자기화 과정'이 중요하다고 강조하며, 사고의 외주화를 경계하고 있습니다.AI 활용의 '선' 설정과 교육적 대안 모색AI의 활용이 '뉴노멀'이 되었음에도 불구하고, 대학들의 AI 활용 가이드라인은 주로 부정행위 방지나 평가 방식(과정평가/구술평가)에 초점을 맞추고 있으며, AI 활용의 윤리적 쟁점이나 비용 격차로 인한 학습 격차 같은 심층적인 논의는 부족한 실정입니다. 대학들은 AI 활용의 무게추를 '활용'과 '제한' 사이에서 달리하고 있지만, 전문가들은 'AI를 어느 선까지 활용하는 것이 타당한지'에 대한 교육적 합의와 논의가 필요하다고 지적합니다. 교수자-학습자가 특정 활동에서 AI 사용 여부를 합의하고, 왜 AI를 사용하는 것이 학문적 역량에 도움이 되는지, 어떤 때 사용하지 않는 것이 좋은지를 교수자가 설득하여 학생들의 사고 과정 체화를 유도해야 할 시점입니다.
499
0
2025.12.10
오픈AI, 내년 1월 출시할 모델은 '사용자 선호'에 초점
오픈AI, 내년 1월 출시할 모델은 '사용자 선호'에 초점
오픈AI는 구글 '제미나이 3'에 대응하기 위해 내년 1월 새로운 모델을 출시할 예정이며, 이는 단순 성능 경쟁을 넘어 사용자와의 '상호 작용' 및 '대화 기능 강화'에 중점을 둔 것으로 알려졌습니다. 샘 알트먼 CEO는 지난 1일 '코드 레드'를 발령하고 8주간 챗GPT 개선에 집중할 것을 요구하며, 직원들에게 "사용자 신호를 더 잘 활용하라"고 지시했습니다. 이는 안전성 강화에 집중한 이전 모델이 사용자 만족도 측면에서 정체되었다고 판단하여, 챗봇 응답에 대해 전문가 평가가 아닌 사용자의 피드백을 적극 반영하는 전략으로 선회했음을 보여줍니다.이러한 사용자 중심 전략은 내부적으로 '로컬 사용자 선호도 최적화(LUPO)'라 불리며, 이미 사용자 대화에 초점을 맞춘 'GPT-5.1'을 출시하고 이 방침을 테스트하는 과정에서 일일 활성 사용자 증가라는 놀라운 결과를 확인했습니다. 알트먼 CEO는 이메일 초안 작성 등 간단한 작업에서는 모델의 추론 성능 차이가 크지 않으므로, 사용자의 선호에 맞는 톤으로 응답하는 것이 실질적인 사용량 증대에 더 큰 영향을 미친다고 판단했습니다. 아울러 새로운 모델에는 챗GPT 초기 성공 사례나 구글 제미나이의 인기 요소를 반영하여 향상된 '이미지 생성 기능'도 탑재될 예정입니다.한편, 이번 개선 작업은 인공일반지능(AGI) 달성에 집중하는 연구원들과 챗봇 경험 개선에 집중하려는 운영진 사이의 내부 갈등을 해소하기 위한 조치로도 해석됩니다. 또한, 코딩 기능을 중심으로 한 기업용 모델인 'GPT-5.2'도 곧 공개될 예정이지만, 경영진은 구글의 공세에 빠르게 대응하기 위해 성능 향상을 위한 출시 연기 요청에도 불구하고 일정을 강행할 정도로 위기감을 느끼고 있습니다. 다만, 사용자 선호도에만 초점을 맞춘 모델이 소셜 미디어의 전철을 밟아 정신 건강 위기를 초래할 수 있다는 우려에 대해, 오픈AI는 사용자 피드백, 전문가 리뷰, 안전 시스템을 신중하게 조화하여 모델을 개선하고 있다고 밝혔습니다.
481
0
2025.12.10
정부, AI 기반 허위·과장 광고 신속 차단 계획
정부, AI 기반 허위·과장 광고 신속 차단 계획
최근 소셜네트워크서비스(SNS)에서 실제 전문의가 아닌 인공지능(AI)이 합성해 만든 '가짜 의사'들이 특정 영양제나 치료제를 추천하는 허위·과장 광고가 급증하면서, 특히 고령층 소비자들의 피해가 잇따르고 있습니다. 이들 가짜 의사는 실제 유명인이나 의사를 딥페이크로 합성하는 등 자연스러운 모습으로 소비자를 기만하여 식·의약품 및 건강기능식품 관련 허위 광고가 빠르게 확산되는 상황입니다. 이에 정부는 AI 기반 허위광고에 대한 강력한 대응책을 마련하고 나섰습니다.정부는 김민석 국무총리 주재 국가정책조정회의에서 'AI 활용 시장질서 교란 광고 대응 방안'을 발표하고, AI 기반 허위·과장 광고를 24시간 단위로 신속하게 차단할 것이라고 밝혔습니다. 주요 내용은 AI로 만든 얼굴, 음성, 영상이 포함된 광고물에 'AI 생성물'이라는 표시를 의무화하는 것이며, 이를 삭제하거나 훼손하는 행위는 금지됩니다. 또한, 플랫폼 사업자에게 게시자가 표시 의무를 이행했는지 관리할 책임이 주어지며, 관련 가이드라인은 내년 시행되는 'AI 기본법'과 연계하여 추가로 마련될 예정입니다.AI 기반 허위광고가 빈발하는 식·의약품 등 품목에 대해서는 방송미디어통신위원회(방미통위)의 서면 심의 대상에 추가하고, 심의 요청 후 24시간 내 신속 심의가 이뤄지도록 패스트트랙을 확대합니다. 특히 AI 합성 의사가 식·의약품을 추천하는 것은 '소비자 기만 광고'로 간주하여 제재를 강화하며, 악성 허위·조작 정보 유통에 대해서는 손해액 최대 5배의 징벌적 손해배상 및 표시·광고법상 과징금 상향을 도입할 계획입니다. 정부는 신기술의 부작용을 최소화하고 AI 시대에 맞는 새로운 시장 질서를 확립하기 위해 법령 개정과 제도 보완을 신속히 추진할 방침입니다.
511
0
2025.12.10
회원가입
아이디/비밀번호 찾기