Loading...

AI 뉴스

SKT 에이닷 엑스 4.0 오픈소스 공개 (보도자료)

페이지 정보

작성자 JeromePark
작성일 07.07 13:16
36 조회
0 추천
0 비추천

본문

SK텔레콤, 에이닷 엑스 4.0 지식형 모델 오픈소스로 공개

SK텔레콤(대표이사 CEO 유영상, www.sktelecom.com)은 세계 최고 수준의 한국어 처리 능력을 가진 한국어 특화 LLM인 A.X(에이닷 엑스) 4.0을 오픈소스로 공개했다고 3일 밝혔다.

SKT는 이날 오전 세계적인 오픈소스 커뮤니티 허깅페이스(Hugging Face)를 통해 A.X 4.0의 표준 모델과 경량 모델 2종을 공개했다.

83ee0fb08007b1aa040baf70c4d47ca1baa7c5c7q4b8.jpg

이번에 공개한 A.X 4.0은 현존 대규모 언어 모델(LLM) 중에서도 최상급의 한국어 처리 효율성은 물론 데이터 보안을 고려한 설계, 그리고 로컬 환경에서의 운영 가능성 등이 강점이다. 오픈소스 모델인 Qwen2.5에 방대한 한국어 데이터를 추가로 학습시켜 국내 비즈니스 환경에 최적화된 성능을 발휘한다.

SKT는 A.X 4.0의 토크나이저1)를 자체 설계, 적용해 높은 수준의 한국어 처리 역량을 구현했다. 자체 테스트 결과 같은 한국어 문장을 입력했을 때 GPT-4o보다 A.X 4.0이 약 33%가량 높은 토큰 효율을 기록하며, 다른 LLM 대비 높은 정보 처리용량에 비용 절감까지 가능한 경제성을 갖췄다.
1) 토크나이저(Tokenizer): 문장의 구조를 분석해 토큰으로 분할하는 작업 도구

또한 A.X 4.0은 대표적인 한국어 능력 평가 벤치마크인 KMMLU2)에서 78.3점을 기록하여, GPT-4o(72.5점)보다 우수한 성능을 보였으며, 한국어 및 한국 문화 벤치마크인 CLIcK3)에서도 83.5점을 획득해, GPT-4o(80.2점)보다 더 높은 한국 문화 이해도를 입증했다.
2) KMMLU(Measuring Massive Multitask Language Understanding in Korean): 한국어 대규모 다중과제 언어 이해 평가
3) CLIcK(Cultural and Linguistic Intelligence in Korea): 한국어 특유의 문화적 맥락과 언어적 요소를 반영하여, 기존 영어 기반 번역 데이터셋으로는 부족했던 한국 문화·언어 이해 능력을 평가

이와 함께 SKT는 A.X 4.0를 기업 내부 서버에 직접 설치해 사용할 수 있는 온프레미스4) 방식으로 제공해 기업들이 데이터 보안에 대한 걱정을 덜 수 있도록 서비스할 계획이다. 특히 A.X 4.0 개발 과정에서도 대규모 학습(CPT, Continual Pre-Training)의 전 과정을 외부와 연동없이 자체 데이터로 학습해 데이터의 주권도 확보한 바 있다.
4) 온프레미스(On-premises): 클라우드가 아닌 자체 전산 서버에 직접 설치하고 운영하는 방식

또한 표준 모델은 720억 개(72B), 경량 모델은 70억 개(7B)의 매개변수를 갖추고 있어, 이용자들이 목적에 맞춰 선택적으로 이용할 수 있도록 했다.

SKT는 이미 A.X4.0을 지난 5월 에이닷 통화 요약에 적용, 성공적으로 활용하고 있으며, 추후 자사는 물론 SK그룹 내 다양한 서비스에 적용할 계획이다.

SKT가 이번에 선보인 모델로 기업들은 파생형 모델을 개발할 수 있고, 연구 분야에서도 활용할 수 있다. 이를 통해 국내 기업들이 자체 환경에서 AI 기술을 보다 쉽게 활용할 수 있는 새로운 선택지를 제공해 나갈 예정이다.

SKT는 이번 A.X 4.0 지식형 모델의 오픈소스 공개와 동시에 추론형 모델의 발표도 앞두고 있다. SKT는 이달 중으로 수학 문제 해결과 코드 개발 능력이 강화된 추론(Reasoning)형 모델을 공개하고, 이미지와 텍스트를 동시에 이해하고 처리할 수 있는 수준까지 모델을 업데이트할 계획이다.

또한 소버린 AI 관점에서 A.X 3.0에 적용한 프롬 스크래치(From Scratch)5) 방식도 병행하여 개발을 진행하고 있으며, 후속 모델도 순차적으로 공개할 예정이다.
5) 프롬 스크래치(From Scratch): 모델의 맨 처음 단계부터 모두 직접 구축

김지원 SK텔레콤 AI Model Lab장은 “SK텔레콤의 다양한 서비스를 고도화하고, 기업 시장에서 한국어 특화 LLM으로 국내 비즈니스 환경에 최적화된 모델이 될 수 있도록 지속적인 기술 개발을 추진할 계획”이라고 밝혔다.

댓글 0
전체 31 / 5 페이지
‘쿠팡 인텔리전트 클라우드 (Coupang Intelligent Cloud)’로 리브랜딩다년 간 쿠팡 서비스 개선 및 운영에 활용하던 AI 인프라…본격 CSP(Cloud Service Provider)로서 클라이언트 영입 박차중소 상공인 사업 지원에 활용하는 한편 연구기관, 스타트업 등과 우선 협력할 것2025. 07. 02. 서울 – 쿠팡이 AI 클라우드 컴퓨팅 서비스를 ‘쿠팡 인텔리전트 클라우드(Coupang Intelligent Cloud, 이하 “CIC”)로 리브랜딩 하고 새 로고를 공개했다. CIC는 그간 쿠팡 내부 서비스와 외부 연구기관, 스타트업 등에게 제공되던 AI 인프라를 리브랜딩한 쿠팡 AI 클라우드 컴퓨팅(GPUaaS)의 새 이름이다.CIC가 확보, 운영하고 있는 데이터센터는 모두 서울 및 수도권에 위치하고 있으며, 최첨단 인프라를 갖추고 있다. 대용량 전력 확보 및 최첨단 냉각 시스템, 이중화 전원 구조, 다중 통신 지원, 물리보안 체계 완비 등 다양한 위기 상황에도 안정적인 운영이 가능하다. 뿐만 아니라 최종 수요자와의 물리적 거리가 짧아 서비스 지연(latency)도 최소화 했다.또, 복잡한 AI 컴퓨팅을 효과적으로 수행할 수 있도록 고성능 GPU를 다수 탑재했다. CIC는 최신 GPU를 턴키 혹은 자체 클러스터링 방식을 통해 제공하고 있으며, 클라이언트의 과업에 맞는 맞춤형 서비스로 제공한다. 빨라지는 GPU 교체 연한 주기에도 불구하고 최신 기종의 하드웨어를 구비, 운영할 방침이다.쿠팡은 지난 다년 간 쿠팡 서비스 개선 및 운영의 목적으로 쿠팡 내 자체 사업 다수를 대상으로 AI 컴퓨팅 인프라를 폭넓게 활용해 왔다. 이를 통해 쿠팡 고객 경험을 개발, 개선하는 한편, 전국 23만개에 이르는 입점 중소 상공인의 매출 증진에도 큰 성과를 냈다. 또, 쿠팡 외 연구 기관 및 스타트업 등 외부 클라이언트 대상으로도 클라우드 서비스를 제공해 오고 있다.쿠팡 인텔리전트 클라우드 관계자는 “최신 GPU 서버와 안정적인 대규모 데이터센터를 기반으로 가장 높은 수준의 AI클라우드 컴퓨팅 서비스를 제공할 것”이라며, “스타트업, 연구 기관과의 적극 협력을 통해 AI 생태계를 더욱 풍성하게 만들겠다”고 포부를 밝혔다.쿠팡은 지난 달 과학기술정보통신부가 공모한 인공지능 컴퓨팅 자원 활용기반 강화사업에 지원했으며, 향후 AI 생태계 구축을 위한 정부의 다양한 사업에도 폭넓게 협력 할 예정이다.*쿠팡 인텔리전트 클라우드쿠팡 인텔리전트 클라우드는 쿠팡이 만든 AI 클라우드 컴퓨팅 서비스다. 최고, 최신의 인프라를 통해 가장 품질 높은 클라우드 컴퓨팅 서비스를 제공한다.
64 조회
0 추천
07.03 등록
X에AI 챗봇이 직접 커뮤니티 노트(Community Notes)를 작성할 수 있는 기능이 도입되었다.커뮤니티 노트는 게시물에 추가 맥락이나 사실관계를 제공하는 사용자 참여형 주석 시스템이다.기사 번역 요약 : 퍼플렉시티AI 챗봇이 커뮤니티 노트 작성사용자는 X의 자체 AI 모델인 'Grok'이나 OpenAI의 ChatGPT 등 대형 언어 모델(LLM)을 활용해 자신만의 AI 노트 작성기를 만들고, API를 통해 X에 연결할 수 있습니다검증 및 공개 절차AI가 작성한 노트는 인간이 쓴 노트와 동일한 규칙을 적용받으며, 사용자 평가를 거쳐 정확성이 검증되어야 모든 이용자에게 공개됩니다. 다양한 관점을 가진 사용자들이 '도움이 된다'고 평가해야만 공개되는 구조입니다투명성 및 오픈 생태계AI가 쓴 노트는 별도로 표시되어 투명성을 보장하며, 누구나 AI 노트 작성기를 개발해 참여할 수 있도록 개방형 생태계를 지향합니다인간-기계 협업 강화X는 AI와 인간이 함께 커뮤니티 노트 생태계를 확장해, 더 많은 게시물에 신속하게 맥락을 제공하면서도 신뢰성을 유지하겠다는 전략입니다. AI가 작성한 노트도 인간의 평가와 피드백을 받아 점점 더 정확해질 것으로 기대하고 있습니다파일럿 도입 배경최근 커뮤니티 노트 참여율이 감소하는 등 운영에 어려움을 겪으면서, AI 도입을 통해 커뮤니티 노트의 양과 범위를 확대하려는 의도가 있습니다
73 조회
0 추천
07.02 등록
APPLE이 Siri 인공지능 기능을 개선하기 위해 외부 AI 연동을 계속 타진하고 있는와중에 기존에 협력하고 있는 Open AI 외에오픈AI(OpenAI)와 앤트로픽(Anthropic)의 인공지능(AI) 모델을 고려하고 있는 것으로 알려졌다.최근에는 엔트로픽 인수를 검토했다는 보도도 나왔었는데 이번에는 협력을 추진한다는 이야기가 나오고 있다.이는 애플이 시리 인공지능 개발에 어려움을 겪고 있는 것을 예상할 수 있는 부분이다.https://finance.yahoo.com/news/apple-weighs-using-anthropic-openai-184526221.html
75 조회
0 추천
07.02 등록
OpenAI가 자사 인공지능 모델의 연산 인프라로 Google Cloud TPU의 도입을 검토 중인 것으로 알려졌다. 현재 OpenAI는 엔비디아의 GPU를 주력으로 사용하고 있지만, 최근 공급 병목과 비용 문제 등으로 인프라 다변화에 나선 것이다.Google TPU는 텐서 연산에 특화된 자체 설계 칩으로, 고속 대규모 AI 모델 학습과 추론에 강점을 가진다. OpenAI는 현재 테스트 단계를 진행 중이며, 향후 일부 서비스에 도입될 가능성이 있다.이번 결정은 단순한 클라우드 플랫폼 이전이 아닌, AI 모델 학습 전략과 효율성 구조의 재편 가능성을 내포한다.특히 Microsoft Azure를 주요 기반으로 활용하던 OpenAI가 Google Cloud를 부분적으로라도 채택할 경우, AI 생태계 내 협력과 경쟁의 복합 구조가 한층 복잡해질 수 있다.업계에서는 "엔비디아 의존도를 줄이려는 주요 AI 기업들의 행보가 구체화되고 있다"며, OpenAI의 이 움직임이 차세대 AI 인프라 전쟁의 신호탄이 될 수 있다고 분석하고 있다.OpenAI 측은 "다양한 하드웨어와 클라우드 옵션을 검토 중이며, 특정 플랫폼에 종속되지 않기 위한 전략의 일환"이라고 밝혔다.
69 조회
0 추천
07.02 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입