AI 뉴스

한국 과학자들이 데이터 왜곡으로부터 AI를 보호하는 방법 개발

페이지 정보

작성자 xtalfi
작성일 2025.11.14 16:18
1,528 조회
0 추천
0 비추천

본문

f43ee9a7735c9322763d602776200742_1763104693_5102.jpg
 

(퍼플렉시티기 정리한 기사)


부산대학교와 서울대학교의 연구진들이 올해 저명한 통계학 저널에 발표한 연구 결과에 따르면, 데이터 왜곡에 대항하여 인공지능 및 의료 영상 시스템을 강화할 수 있는 새로운 통계적 방법을 개발했습니다.

휴버 평균(Huber mean)이라고 불리는 이 방법은 현대 데이터 과학의 지속적인 과제를 다룹니다: 평평한 표면이 아닌 곡면 기하학적 공간에 존재하는 정보를 분석하는 것입니다. 3차원 의료 스캔부터 로봇 방향 데이터에 이르기까지, 오늘날의 복잡한 데이터 대부분은 수학자들이 리만 다양체라고 부르는 공간에 존재하며, 여기서 전통적인 통계 도구들은 노이즈나 이상치에 직면했을 때 종종 실패합니다.​


정확한 분석을 위한 장벽 허물기

부산대학교 통계학과 이종민 교수는 서울대학교 정성규 교수와 함께 2025년 8월 25일 Journal of the Royal Statistical Society: Series B에 연구를 발표했다.​

연구 발표에 따르면 이 교수는 "우리 연구는 리만 다양체에서 고전적인 프레셰 평균의 강건한 일반화를 소개한다"며 "이는 이상치에 대한 더 큰 안정성을 제공하고 기하학적 데이터에 대한 통계 분석의 신뢰성을 향상시킨다"고 말했다.​

Huber 평균은 데이터 구조에 자동으로 적응하여, 일반적인 관측값에 대해서는 최소제곱 손실을 사용하고 큰 편차에 대해서는 절대편차 손실을 사용한다. 이러한 균형을 통해 0.5의 붕괴점을 달성할 수 있으며, 이는 데이터의 절반이 이상치이거나 극단값이더라도 추정량이 신뢰할 수 있음을 의미한다.​


산업 전반의 응용 분야

이 방법의 잠재적 응용 분야는 과학 및 공학 분야 전반에 걸쳐 확장됩니다. 의료 영상 분야에서 Huber 평균은 뇌나 장기 형상 데이터의 평균화를 개선하여 더 정확한 진단으로 이어질 수 있습니다. 로봇공학 분야에서는 시스템이 소음이 많거나 예측 불가능한 환경에서도 움직임 및 방향 데이터를 더 잘 해석하는 데 도움이 될 수 있습니다. AI 및 머신러닝 분야에서는 기하학적 데이터를 다루는 모델을 더 견고하게 만들 수 있습니다.​

이 교수는 "강건하고 기하학적으로 인식하는 데이터 분석의 기반을 제공함으로써, 이 연구는 신뢰할 수 있는 차세대 AI, 정밀 의료, 그리고 실제 세계와 상호작용하는 지능형 기술을 조용히 뒷받침할 수 있을 것"이라고 덧붙였습니다.​

이 연구는 추정량의 존재성, 유일성, 수렴성, 불편성에 대한 이론적 보장과 함께 실제로 빠르게 수렴하는 새로운 계산 알고리즘을 제공합니다.

댓글 0
전체 1,366 / 19 페이지
구글이오픈소스모델인'젬마3(Gemma3)'의내부작동원리를분석할수있는도구인'젬마스코프2(GemmaScope2)'를출시하며AI의'블랙박스'현상을규명하기위한연구결과를공개했습니다.이도구모음은인공지능이탈옥이나환각증상을보이거나아첨하는태도를취할때내부의어떤기능이활성화되고네트워크를통해어떻게전달되는지를실시간으로추적하여AI의안전성과정렬상태를정밀하게검사할수있도록돕습니다.특히모든레이어에포함된'트랜스코더'기술을통해인공지능내부에서정보가어떻게전파되고계산되는지그구체적인경로를파악할수있게함으로써,AI모델의신뢰도를높이고윤리적인행동제어를가능하게하는데기여할것으로기대됩니다.
538 조회
0 추천
2025.12.29 등록
구글은생성AI가단순히텍스트답변을내놓는것을넘어,대화맥락에맞는사용자인터페이스(UI)를직접생성할수있도록돕는오픈소스프로토콜'A2UI'를출시했습니다.기존에는AI가HTML코드등을보내UI를구현하려했으나,보안위험과앱디자인과의부조화문제가있었습니다.A2UI는UI구성요소를'데이터(JSON)'형태로전달하여각앱의프레임워크에맞춰안전하고자연스럽게렌더링하도록설계되었습니다.이프로토콜의가장큰특징은보안성과유연성입니다.실행가능한코드가아닌사전에약속된컴포넌트정보만주고받기때문에임의스크립트실행과같은보안공격을방지할수있습니다.또한앵귤러,플러터,리액트등다양한개발환경에서재사용이가능하며,AI가계산을수행하는동안UI가실시간으로구성되는스트리밍방식의점진적렌더링을지원해사용자경험을크게향상시킵니다.A2UI는여러기업의AI에이전트들이협업하는'멀티에이전트'환경에서복잡한작업을효율적으로처리하기위해개발되었습니다.예를들어레스토랑예약처럼텍스트로만대화하기번거로운상황에서AI가즉시예약폼이나버튼을생성해사용자에게보여줌으로써작업속도를높여줍니다.구글은이표준기술을통해서로다른시스템의AI들이안전하고일관된방식으로사용자와소통할수있는기반을마련할계획입니다.
547 조회
0 추천
2025.12.28 등록
미국이인공지능(AI)패권전쟁에서초기승기를잡았음에도불구하고,화석연료중심의에너지정책때문에결국중국에역전당할수있다는경고가나왔습니다.트럼프행정부는생산성회복을위해AI발전을강조하고있지만,재생에너지를확대하는중국과달리화석연료의존도를높이고있어장기적인비용경쟁력에서뒤처질위험에처해있습니다.중국은태양광과해상풍력등재생에너지를빠르게늘리며AI전력비용을낮추고있는반면,미국은2030년대까지데이터센터전력의상당부분을천연가스등비싼화석연료에의존할전망입니다.에너지비용곡선이하락하는재생에너지와달리화석연료는비용압박이커질수밖에없어,저렴한에너지를확보한중국AI산업이가격경쟁력에서유리한고지를점할것으로분석됩니다.또한,화석연료발전과데이터센터운영에필요한막대한용수공급문제도미국AI산업의발목을잡는요인으로지적되었습니다.현재미국신규데이터센터의상당수가물부족지역에위치해있어,향후물부족심화와식량안보위기가사회적비용상승으로이어져AI발전을가로막는경제적부담이될수있다는진단입니다.
549 조회
0 추천
2025.12.28 등록
많은기업이인건비를줄이기위해인공지능(AI)도입을서두르고있지만,직원의역할을지나치게단순화해판단하는'도어맨의오류'에빠져오히려비용이증가하는부작용을겪고있습니다.이는겉으로드러난핵심업무만자동화하면인간을완전히대체할수있다는잘못된믿음에서비롯됩니다.실제로AI상담원을도입했던금융권이나패스트푸드체인등에서고객불만이폭증하고서비스품질이저하되는사례가잇따르고있습니다.인간직원이제공하던섬세한응대나맥락이해같은'보이지않는가치'가사라지면서,결국해고했던직원을복귀시키거나서비스를재검토하는등추가비용을지불하게된것입니다.전문가들은AI가인간을완전히대체하기보다인간의판단력과결합될때가장큰효과를낼수있다고강조합니다.효율성만을기준으로기술을도입하기에앞서,해당직무가실제현장에서어떤복합적인가치를창출하는지깊이이해하는능력이기업경영의핵심과제로떠오르고있습니다.
549 조회
0 추천
2025.12.28 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입