Loading...

AI 뉴스

한국 과학자들이 데이터 왜곡으로부터 AI를 보호하는 방법 개발

페이지 정보

작성자 xtalfi
작성일 2025.11.14 16:18
1,541 조회
0 추천
0 비추천

본문

f43ee9a7735c9322763d602776200742_1763104693_5102.jpg
 

(퍼플렉시티기 정리한 기사)


부산대학교와 서울대학교의 연구진들이 올해 저명한 통계학 저널에 발표한 연구 결과에 따르면, 데이터 왜곡에 대항하여 인공지능 및 의료 영상 시스템을 강화할 수 있는 새로운 통계적 방법을 개발했습니다.

휴버 평균(Huber mean)이라고 불리는 이 방법은 현대 데이터 과학의 지속적인 과제를 다룹니다: 평평한 표면이 아닌 곡면 기하학적 공간에 존재하는 정보를 분석하는 것입니다. 3차원 의료 스캔부터 로봇 방향 데이터에 이르기까지, 오늘날의 복잡한 데이터 대부분은 수학자들이 리만 다양체라고 부르는 공간에 존재하며, 여기서 전통적인 통계 도구들은 노이즈나 이상치에 직면했을 때 종종 실패합니다.​


정확한 분석을 위한 장벽 허물기

부산대학교 통계학과 이종민 교수는 서울대학교 정성규 교수와 함께 2025년 8월 25일 Journal of the Royal Statistical Society: Series B에 연구를 발표했다.​

연구 발표에 따르면 이 교수는 "우리 연구는 리만 다양체에서 고전적인 프레셰 평균의 강건한 일반화를 소개한다"며 "이는 이상치에 대한 더 큰 안정성을 제공하고 기하학적 데이터에 대한 통계 분석의 신뢰성을 향상시킨다"고 말했다.​

Huber 평균은 데이터 구조에 자동으로 적응하여, 일반적인 관측값에 대해서는 최소제곱 손실을 사용하고 큰 편차에 대해서는 절대편차 손실을 사용한다. 이러한 균형을 통해 0.5의 붕괴점을 달성할 수 있으며, 이는 데이터의 절반이 이상치이거나 극단값이더라도 추정량이 신뢰할 수 있음을 의미한다.​


산업 전반의 응용 분야

이 방법의 잠재적 응용 분야는 과학 및 공학 분야 전반에 걸쳐 확장됩니다. 의료 영상 분야에서 Huber 평균은 뇌나 장기 형상 데이터의 평균화를 개선하여 더 정확한 진단으로 이어질 수 있습니다. 로봇공학 분야에서는 시스템이 소음이 많거나 예측 불가능한 환경에서도 움직임 및 방향 데이터를 더 잘 해석하는 데 도움이 될 수 있습니다. AI 및 머신러닝 분야에서는 기하학적 데이터를 다루는 모델을 더 견고하게 만들 수 있습니다.​

이 교수는 "강건하고 기하학적으로 인식하는 데이터 분석의 기반을 제공함으로써, 이 연구는 신뢰할 수 있는 차세대 AI, 정밀 의료, 그리고 실제 세계와 상호작용하는 지능형 기술을 조용히 뒷받침할 수 있을 것"이라고 덧붙였습니다.​

이 연구는 추정량의 존재성, 유일성, 수렴성, 불편성에 대한 이론적 보장과 함께 실제로 빠르게 수렴하는 새로운 계산 알고리즘을 제공합니다.

댓글 0
전체 1,366 / 13 페이지
• 엔비디아의 차세대 AI 칩 플랫폼 '베라 루빈'이 양산 단계에 진입했다고 젠슨 황 CEO가 CES 2026에서 발표• 루빈 칩은 현행 블랙웰 대비 AI 모델 운영 비용을 10분의 1로 절감하고, 대형 모델 학습에 필요한 칩 수를 4분의 1로 줄일 전망• 마이크로소프트와 CoreWeave가 올해 안에 루빈 기반 서비스를 최초로 제공할 예정• 미국 천문학자 베라 루빈의 이름을 딴 이 시스템은 TSMC 3나노 공정으로 제작된 GPU와 CPU를 포함한 6개 칩으로 구성기사 요약엔비디아 젠슨 황 CEO가 라스베이거스 CES 2026 행사에서 차세대 AI 슈퍼칩 플랫폼 '베라 루빈'이 양산에 돌입했다고 발표했다. 2024년 처음 공개된 루빈 플랫폼은 현행 블랙웰 칩 대비 AI 모델 운영 비용을 90% 절감하고, 대규모 모델 학습에 필요한 칩 수량도 대폭 줄일 수 있어 AI 시스템의 경제성을 크게 개선할 것으로 기대된다.마이크로소프트와 CoreWeave가 올해 안에 루빈 칩 기반 서비스를 최초로 제공할 예정이며, 마이크로소프트가 조지아주와 위스콘신주에 건설 중인 대형 AI 데이터센터에도 수천 개의 루빈 칩이 탑재될 계획이다. 엔비디아는 레드햇과 협력해 은행, 자동차 제조사, 항공사, 정부 기관 등을 대상으로 루빈 시스템에서 구동되는 엔터프라이즈 소프트웨어 제품군도 확대할 방침이다.왜 중요한가이번 발표는 AI 칩 시장의 절대 강자 엔비디아가 경쟁사들의 추격과 고객사들의 자체 칩 개발 움직임에도 불구하고 기술적 우위를 공고히 하고 있음을 보여준다. OpenAI가 브로드컴과 손잡고 자체 AI 칩 개발에 나서는 등 대형 고객사들이 엔비디아 의존도를 낮추려는 시도를 하고 있지만, 업계 전문가들은 엔비디아의 통합 플랫폼 전략이 단순 GPU 공급을 넘어 컴퓨팅, 네트워킹, 메모리, 스토리지, 소프트웨어 오케스트레이션까지 아우르는 '풀스택 AI 시스템 아키텍트'로 진화하고 있어 대체하기가 점점 어려워지고 있다고 분석한다.2024년 블랙웰 칩이 발열 문제로 출하가 지연됐던 전례가 있어 루빈의 일정 준수 여부에 업계 관심이 집중됐는데, 이번 양산 선언은 "루빈이 예정대로 진행되고 있다"는 신호를 시장에 보내려는 의도로 해석된다. 루빈 시스템은 2026년 하반기부터 본격 출하될 예정이다.핵심 인용"베라 루빈이 양산에 돌입했습니다. 이 칩 시스템의 모든 구성요소는 완전히 혁신적이며 각 분야 최고의 성능을 자랑합니다." — 젠슨 황, 엔비디아 CEO
684 조회
0 추천
2026.01.07 등록
• xAI가 시리즈 E 라운드에서 목표치 150억 달러를 초과한 200억 달러 투자 유치• Grok 5 모델 현재 훈련 중, 새로운 소비자 및 기업용 제품 출시 예정• Grok의 여성·아동 사진 누드화 기능 논란 속에서 발표된 소식• AI 산업 내 대규모 자금 유치 경쟁 심화기사 요약일론 머스크가 이끄는 AI 기업 xAI가 시리즈 E 펀딩 라운드에서 200억 달러(약 29조 원)를 유치했다고 발표했다. 이는 당초 목표였던 150억 달러를 크게 상회하는 금액이다. 회사 측은 블로그 포스트를 통해 차세대 모델 Grok 5가 현재 훈련 중이며, 혁신적인 소비자 및 기업용 신제품 출시에 집중하고 있다고 밝혔다.왜 중요한가이번 투자 유치는 AI 산업에서 벌어지고 있는 치열한 자금 확보 경쟁을 보여주는 사례다. OpenAI, Anthropic 등 주요 AI 기업들이 대규모 투자를 유치하는 가운데, xAI도 이 대열에 합류하며 시장 경쟁력을 강화하고 있다.그러나 이번 발표는 xAI의 챗봇 Grok이 사용자 요청에 따라 여성과 아동의 사진을 누드로 변환할 수 있다는 논란이 여러 국가에서 불거진 시점에 나왔다는 점에서 주목된다. AI 안전성과 윤리에 대한 우려가 커지는 상황에서 대규모 투자가 이루어졌다는 점은 업계의 성장 동력과 규제 필요성 사이의 긴장 관계를 잘 보여준다.핵심 인용"xAI said that Grok 5 is in training and the company is focused on launching innovative new consumer and enterprise products."
699 조회
0 추천
2026.01.07 등록
• 트럼프 전 대통령이 테일러 스위프트가 자신을 지지하는 것처럼 보이는 AI 생성 이미지를 소셜 미디어에 게시• 해당 이미지들은 새로운 딥페이크 선거법 위반에 해당하지 않을 가능성이 높으나, 스위프트 측은 초상권 침해로 법적 대응 가능• 현재 미국 연방 차원에서 딥페이크 사용을 규제하는 법률은 없으며, 약 20개 주에서만 관련 규정 시행 중기사 요약도널드 트럼프 전 대통령이 자신의 대선 캠페인을 위해 AI로 생성된 것으로 보이는 이미지들을 소셜 미디어에 게시했다. 그중에는 팝스타 테일러 스위프트가 트럼프를 지지하는 듯한 허위 이미지도 포함되어 있다. 스위프트가 엉클 샘 복장을 한 채 "테일러가 도널드 트럼프에게 투표하길 원합니다"라는 문구가 적힌 이미지에 트럼프는 "수락합니다!"라고 답했다. 이러한 게시물은 AI 생성 선거 허위 정보를 단속하려는 시도를 복잡하게 만들고 있다.왜 중요한가이 사건은 생성형 AI가 선거와 민주주의에 미치는 영향을 단적으로 보여준다. 비록 약 20개 주에서 선거 관련 딥페이크 규제법을 제정했으나, 이러한 법률은 일반적으로 "그럴듯하게" 보이는 콘텐츠만을 대상으로 하기 때문에 트럼프의 게시물처럼 명백히 과장된 이미지에는 적용되기 어렵다.더 우려스러운 점은 연방 차원의 딥페이크 규제가 전무하다는 것이다. FCC의 AI 생성 음성 로보콜 금지를 제외하면 후보자들이 AI를 활용해 상대를 허위로 표현하는 것을 막을 연방법이 없다. 소셜 미디어 플랫폼들도 규정을 선택적으로 집행하고 있어 실효성이 의문시된다.이 상황은 "사람들이 눈으로 보고 귀로 듣는 것을 믿을 수 없다면 민주사회를 유지하기 매우 어렵다"는 전문가의 경고를 상기시킨다. AI 기술의 발전 속도를 법과 제도가 따라가지 못하는 현실을 여실히 드러내는 사례다.핵심 인용"It's very hard to have a democratic society if people can't believe the things that they see and hear with their own eyes." — Robert Weissman, 퍼블릭 시티즌(Public Citizen) 공동대표
689 조회
0 추천
2026.01.07 등록
• AI 딥페이크가 유명 목사와 종교 지도자들을 사칭하여 신도들에게 사기를 치는 사례가 급증하고 있다• 120만 유튜브 구독자를 보유한 마이크 슈미츠 신부도 AI 딥페이크 사기의 피해자가 되어 직접 경고 영상을 제작했다• 보안 전문가들은 틱톡과 릴스에서 AI로 생성된 가짜 목사 영상이 수천만 조회수를 기록하며 확산 중이라고 경고했다• 일부 딥페이크 목사 계정은 실제 정치적 메시지를 담은 영상으로 여론 조작에 활용되고 있다• 전문가들은 AI 챗봇과 종교의 결합이 정신건강 문제를 야기할 수 있다고 우려했다기사 요약AI 딥페이크 기술이 종교 지도자들을 사칭하는 새로운 형태의 사기에 악용되고 있다. 유명 카톨릭 팟캐스터 마이크 슈미츠 신부는 자신을 사칭한 AI 영상들이 신도들에게 기부금을 요구하는 사기에 사용되고 있다며 직접 경고 영상을 제작했다. 앨라배마, 뉴욕, 플로리다 등 미국 전역의 목사들이 AI 사칭 피해를 호소하고 있으며, 필리핀의 대형 교회도 비슷한 피해를 보고했다. 사이버 보안 전문가 레이첼 토백은 "소셜미디어에서 목사 복장을 한 채 열정적으로 설교하는 AI 생성 영상을 본 적 있을 것"이라며 이 문제의 심각성을 지적했다.왜 중요한가이 사건은 AI 딥페이크 기술의 악용이 단순한 유명인 사칭을 넘어 종교적 권위를 이용한 사기로 확대되고 있음을 보여준다. 종교 지도자들은 온라인을 통해 신도들과의 연결을 확대해왔지만, 그 과정에서 축적된 음성 및 영상 데이터가 오히려 딥페이크 제작의 재료가 되었다. 특히 우려되는 점은 가짜 목사 영상이 단순 사기를 넘어 정치적 메시지를 담아 여론 조작에 활용되고 있다는 것이다. 1,100만 조회수를 기록한 한 틱톡 영상에서 AI 목사는 "억만장자들이 우리가 두려워해야 할 유일한 소수자"라고 외치며, 대부분의 시청자들이 이를 실제 영상으로 오인했다.AI 기술을 종교 활동에 적극 도입하는 교회들도 늘고 있지만, 전문가들은 AI 챗봇이 사용자의 믿고 싶은 것을 강화하는 경향이 있어 정신건강 문제를 악화시킬 수 있다고 경고한다. 비영리단체 CivAI의 루카스 한센은 "신이 AI를 통해 자신에게 말을 건다고 믿는 사람들이 이미 나타나고 있다"고 지적했다.핵심 인용"사람들이 구별하지 못한다는 게 문제입니다. 정말 큰 문제예요." - 마이크 슈미츠 신부"교회에서 높은 위치에 있는 사람이 특정 신념을 말할 때, 우리는 인플루언서와는 다른 의미와 가치, 권위를 부여합니다." - 레이첼 토백, SocialProof Security CEO
691 조회
0 추천
2026.01.06 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입