Loading...

AI 뉴스

한국 과학자들이 데이터 왜곡으로부터 AI를 보호하는 방법 개발

페이지 정보

작성자 xtalfi
작성일 2025.11.14 16:18
1,405 조회
0 추천
0 비추천

본문

f43ee9a7735c9322763d602776200742_1763104693_5102.jpg
 

(퍼플렉시티기 정리한 기사)


부산대학교와 서울대학교의 연구진들이 올해 저명한 통계학 저널에 발표한 연구 결과에 따르면, 데이터 왜곡에 대항하여 인공지능 및 의료 영상 시스템을 강화할 수 있는 새로운 통계적 방법을 개발했습니다.

휴버 평균(Huber mean)이라고 불리는 이 방법은 현대 데이터 과학의 지속적인 과제를 다룹니다: 평평한 표면이 아닌 곡면 기하학적 공간에 존재하는 정보를 분석하는 것입니다. 3차원 의료 스캔부터 로봇 방향 데이터에 이르기까지, 오늘날의 복잡한 데이터 대부분은 수학자들이 리만 다양체라고 부르는 공간에 존재하며, 여기서 전통적인 통계 도구들은 노이즈나 이상치에 직면했을 때 종종 실패합니다.​


정확한 분석을 위한 장벽 허물기

부산대학교 통계학과 이종민 교수는 서울대학교 정성규 교수와 함께 2025년 8월 25일 Journal of the Royal Statistical Society: Series B에 연구를 발표했다.​

연구 발표에 따르면 이 교수는 "우리 연구는 리만 다양체에서 고전적인 프레셰 평균의 강건한 일반화를 소개한다"며 "이는 이상치에 대한 더 큰 안정성을 제공하고 기하학적 데이터에 대한 통계 분석의 신뢰성을 향상시킨다"고 말했다.​

Huber 평균은 데이터 구조에 자동으로 적응하여, 일반적인 관측값에 대해서는 최소제곱 손실을 사용하고 큰 편차에 대해서는 절대편차 손실을 사용한다. 이러한 균형을 통해 0.5의 붕괴점을 달성할 수 있으며, 이는 데이터의 절반이 이상치이거나 극단값이더라도 추정량이 신뢰할 수 있음을 의미한다.​


산업 전반의 응용 분야

이 방법의 잠재적 응용 분야는 과학 및 공학 분야 전반에 걸쳐 확장됩니다. 의료 영상 분야에서 Huber 평균은 뇌나 장기 형상 데이터의 평균화를 개선하여 더 정확한 진단으로 이어질 수 있습니다. 로봇공학 분야에서는 시스템이 소음이 많거나 예측 불가능한 환경에서도 움직임 및 방향 데이터를 더 잘 해석하는 데 도움이 될 수 있습니다. AI 및 머신러닝 분야에서는 기하학적 데이터를 다루는 모델을 더 견고하게 만들 수 있습니다.​

이 교수는 "강건하고 기하학적으로 인식하는 데이터 분석의 기반을 제공함으로써, 이 연구는 신뢰할 수 있는 차세대 AI, 정밀 의료, 그리고 실제 세계와 상호작용하는 지능형 기술을 조용히 뒷받침할 수 있을 것"이라고 덧붙였습니다.​

이 연구는 추정량의 존재성, 유일성, 수렴성, 불편성에 대한 이론적 보장과 함께 실제로 빠르게 수렴하는 새로운 계산 알고리즘을 제공합니다.

댓글 0
전체 1,366 / 34 페이지
인공지능(AI) 모델들의 성능 경쟁이 치열해지면서, 추론, 수리 등 종합적인 역량을 객관적으로 평가하는 다양한 벤치마크에 대한 관심이 높아지고 있습니다. 사용자의 직접적인 평가를 반영하는 '엘엠아레나(LMArena)'는 익명으로 받은 두 개의 AI 답변 중 더 우수한 것을 고르거나 무승부를 선언하여 순위를 매기는 방식입니다.기존 벤치마크의 한계를 극복하기 위해 만들어진 '인류의 마지막 시험(HLE)'은 수학, 물리학 등 100개 이상 과목의 고난도 문제를 통해 AI의 정답률을 측정합니다. 또한, AI의 자율적인 경제활동 능력을 측정하는 '벤딩 벤치(Vending-Bench)'는 AI가 재고 관리와 가격 책정 등을 얼마나 잘 수행하는지 평가합니다.이 외에도 코딩 오류 해결 능력을 평가하는 'SWE벤치'와 수학 올림피아드 난이도의 '매스아레나 에이펙스' 등 다양한 전문 벤치마크들이 활용됩니다. 하지만 이러한 AI 벤치마크는 윤리나 안전보다는 높은 경제적 보상이 기대되는 과업에만 초점을 맞춘다는 비판도 제기됩니다.
578 조회
0 추천
2025.12.14 등록
앨런 AI 연구소(Ai2)는 훈련 데이터와 가중치까지 완전히 공개하는 대표적인 대형언어모델(LLM)인 '올모(OLMo) 3'의 업데이트 버전 '올모 3.1'을 공개했습니다. 새로 출시된 '올모 3.1 싱크 32B'와 '올모 3.1 인스트럭트 32B'는 강화 학습(RL)을 추가 적용하여 추론, 수학, 지시 이행 능력 등 여러 벤치마크에서 성능이 크게 향상되었습니다.특히, '싱크 32B'는 고급 추론과 연구 목적에 최적화되었으며, '인스트럭트 32B'는 대화형 AI와 툴 기반 워크플로에 맞춰 현재까지 공개된 완전 오픈 소스 32B급 지시형 모델 중 가장 강력한 성능을 자랑합니다. Ai2는 이를 새로운 모델 출시가 아닌 '체크포인트 추가' 개념으로 소개하며, 개발자들이 모델의 학습 과정을 완벽하게 통제하고 자체 데이터를 추가해 재학습할 수 있도록 지원합니다.Ai2는 올모 시리즈가 개방성과 성능을 동시에 발전시킬 수 있음을 보여주며, 학습 데이터, 코드, 결정에 대한 엔드투엔드 투명성을 유지하면서 기능을 지속적으로 개선했다고 강조했습니다. 이 새로운 '체크포인트' 모델들은 Ai2 플레이그라운드와 허깅페이스를 통해 제공되어 개발자 및 연구기관의 활용을 넓힐 예정입니다.* 앨런 인공지능 연구소(Ai2)는 마이크로소프트 공동 창립자였던 고(故) 폴 앨런이 공익을 위해 고도(하이-임팩트) AI 연구 및 엔지니어링을 수행할 목적으로 2014년에 설립한 비영리 연구소입니다. 이 연구소는 텍스트를 읽고 추론하여 지식을 입증하는 AI 시스템 개발을 목표로 시작했으며, 현재도 개방성과 투명성을 중시하며 AI 분야의 발전을 주도하고 있습니다.
573 조회
0 추천
2025.12.14 등록
오픈AI의 최신 AI 모델인 'GPT-5.2'는 초기 테스트에서 전문가와 기업용 업무 처리, 복잡한 문제 해결 능력 등 전문 작업 분야에서 역대 최고라는 평가를 받았습니다. 하이퍼라이트AI CEO 등 전문가들은 이 모델이 상당한 사고 시간을 요구하는 어려운 작업을 완벽하게 수행하며 '세계 최고의 모델'이라고 극찬했습니다.이 모델은 사고력과 문제 해결 능력이 눈에 띄게 향상되어 복잡한 코드 구조를 한 번에 생성하고, 몇 시간 동안 작업을 지속하는 등 개발자와 기업에 매우 중요한 의미를 갖습니다. 박스(Box) CEO 등은 GPT-5.2가 금융 및 생명 과학 분야의 실제 업무 지식을 테스트하는 확장 추론에서 기존 모델보다 훨씬 빠르게 작업을 수행했다고 밝혔습니다.반면, 일반 사용자들은 일상적인 글쓰기나 순수 채팅 기능에서 체감할 만한 개선점을 느끼기 어렵다는 엇갈린 평가가 나왔고, 일부는 딱딱한 어조나 속도 저하를 단점으로 지적했습니다. 코드명 '갈릭'으로 알려진 이 모델은 코딩과 B2B에 최적화된 도구로 보이며, 일반 사용자가 느낄 만한 성능 향상은 내년 1월 출시 모델을 기다려야 할 것으로 분석됩니다.
561 조회
0 추천
2025.12.14 등록
저작권 소송에서 Meta를 고소한 작가들은 목요일 연방 판사에게 회사가 Llama AI 모델을 훈련시키기 위해 BitTorrent를 통해 불법 복제된 책을 다운로드하고 파일 공유를 통해 저작권이 있는 자료를 다른 사람들에게 적극적으로 재배포했다는 새로운 혐의로 소장을 수정해 줄 것을 요청했습니다.코미디언 Sarah Silverman과 작가 Richard Kadrey 및 Christopher Golden을 포함한 원고들은 Meta가 저작권이 있는 저작물을 어떻게 입수했는지에 대해 처음에는 “알 수 없었다”고 말했지만, 회사가 최근 증거 개시 과정에서 토렌트 활동에 대한 “결정적인 증거”를 제출했으며, 여기에는 Meta가 토렌트 사이트에서 그들의 저작물이 포함된 불법 복제 파일을 “시딩”했다는 증언이 포함되어 있습니다.새로운 주장은 Vince Chhabria 판사가 6월에 AI 모델을 훈련시키기 위해 저작권이 있는 책을 사용하는 것은 공정 이용에 해당한다고 판결했지만 배포에 대한 문제는 여지를 남긴 이후, BitTorrent 시딩을 통한 Meta의 불법 복제 자료 재배포가 훈련을 넘어선 저작권 침해에 해당하는지 여부를 중심으로 합니다.
581 조회
0 추천
2025.12.14 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입