AI 뉴스

유튜브 딥페이크 도구, 생체인식 프라이버시 우려 촉발

페이지 정보

작성자 윤호초이
작성일 2025.12.03 17:39
471 조회
0 추천
0 비추천

본문

52d6b2055e06df6b9c865e7e29a70b5c_1764751107_8648.png
 

YouTube는 수백만 명의 크리에이터를 대상으로 AI 딥페이크 감지 도구를 확대 적용했으며, 크리에이터들에게 정부 발급 신분증과 생체 인식 얼굴 영상을 제출하도록 요구해 AI가 생성한 콘텐츠에서 본인 이미지의 무단 사용 여부를 식별하게 했습니다[cnbc +1].

전문가들은 Google의 개인정보 처리방침 문구가 회사가 크리에이터의 생체 정보를 AI 모델 학습에 사용할 수 있도록 허용할 수도 있다고 경고했으나, YouTube는 CNBC에 해당 방식으로 사용한 적이 없으며 도구의 문구를 검토 중이지만 기본 정책은 유지하고 있다고 밝혔습니다[cnbc].

인물 유사성 보호업체인 Vermillio와 Loti는 고객들에게 해당 프로그램 등록을 자제하라고 권고했으며, 경영진은 AI 시대에 크리에이터들이 가장 중요한 자산이 될 수 있는 자신의 이미지 통제권을 잃을 위험이 있다고 주의했습니다[cnbc].

댓글 0
전체 1,366 / 14 페이지
• OpenAI가 'AI 안전 준비 총괄(Head of Preparedness)' 직책 신설• 정신건강 위협, 사이버보안 무기화 등 AI의 심각한 위험성 대응 목표• 자기개선 AI 시스템에 대한 안전장치 마련도 포함• 챗봇 관련 청소년 자살 사건 등 잇따라... "늦은 감" 지적도OpenAI가 AI의 위험성을 전담하는 '안전 준비 총괄(Head of Preparedness)' 직책을 신설하고 인력 채용에 나섰다. 쉽게 말해, AI가 심각하게 잘못될 수 있는 모든 경우의 수를 고민하는 것이 주요 업무다.샘 올트먼은 X(구 트위터)에 올린 글에서 AI 모델의 급격한 발전이 "실질적인 과제들"을 야기하고 있다고 인정하며 해당 직책을 공개했다. 그는 특히 사람들의 정신건강에 미치는 영향과 AI 기반 사이버보안 무기의 위험성을 명시적으로 언급했다.채용 공고에 따르면, 해당 직책의 담당자는 다음과 같은 역할을 수행하게 된다:"심각한 피해의 새로운 위험을 초래하는 최첨단 역량을 추적하고 대비합니다. 일관성 있고 엄밀하며 운영적으로 확장 가능한 안전 파이프라인을 구성하는 역량 평가, 위협 모델, 완화 조치를 구축하고 조율하는 직접 책임자가 됩니다."올트먼은 이 직책의 담당자가 앞으로 회사의 '준비 프레임워크' 실행, '생물학적 역량' 출시를 위한 AI 모델 보안, 나아가 자기개선 시스템에 대한 안전장치 설정까지 책임지게 될 것이라고 밝혔다. 그는 또한 이 직무가 "스트레스가 많은 일"이 될 것이라고 덧붙였는데, 이는 다소 절제된 표현으로 보인다.챗봇이 청소년 자살에 연루된 여러 건의 세간의 이목을 끄는 사건들이 있은 후, 이제야 이러한 모델들이 야기할 수 있는 잠재적인 정신건강 위험에 집중하는 인력을 두는 것은 다소 늦은 감이 있다. AI로 인한 정신질환 문제가 커지고 있는데, 챗봇이 사람들의 망상을 부추기고, 음모론을 조장하며, 섭식장애를 숨기도록 돕는 사례가 늘고 있기 때문이다.
325 조회
0 추천
2025.12.29 등록
네이버클라우드가 텍스트·이미지·음성을 단일 모델에서 통합 학습하는 국내 첫 네이티브 옴니모달 AI 모델 ‘하이퍼클로바X SEED 8B Omni’와 추론형 모델 ‘32B Think’를 과학기술정보통신부의 독자 AI 프로젝트 첫 성과로 29일 오픈소스 공개했다.32B Think 모델은 올해 수능 문제 풀이에서 국어·수학·영어·한국사 전 과목 1등급을 달성하고 영어·한국사 만점을 기록했으며, 글로벌 AI 평가 벤치마크에서 주요 해외 모델과 유사한 성능을 보였다.네이버클라우드는 기존 인터넷 문서 중심 학습을 넘어 현실 세계 맥락 데이터 확보에 집중하며, 검색·커머스·공공·산업 등 다양한 분야에서 활용 가능한 AI 에이전트를 단계적으로 확장할 계획이다.
331 조회
0 추천
2025.12.29 등록
카카오는 정부 주도 GPU 확보 사업에서 연내 목표치의 4배를 초과하는 255노드(GPU 2040장)를 경기 안산 데이터센터에 조기 구축 완료했다고 29일 밝혔다.지난 8월 최종 사업자로 선정된 카카오는 AI 3대 강국을 위한 핵심 인프라로 엔비디아 B200 GPU 총 2424장을 확보해 5년간 위탁 운영하며 국내 AI 연구·개발을 지원할 계획이다.카카오는 자체 데이터센터의 전력·냉각 시스템과 공급사와의 긴밀한 협력으로 조기 구축에 성공했으며, 내년 1월부터 산·학·연 과제에 베타서비스를 제공할 예정이다.
339 조회
0 추천
2025.12.29 등록
구글이오픈소스모델인'젬마3(Gemma3)'의내부작동원리를분석할수있는도구인'젬마스코프2(GemmaScope2)'를출시하며AI의'블랙박스'현상을규명하기위한연구결과를공개했습니다.이도구모음은인공지능이탈옥이나환각증상을보이거나아첨하는태도를취할때내부의어떤기능이활성화되고네트워크를통해어떻게전달되는지를실시간으로추적하여AI의안전성과정렬상태를정밀하게검사할수있도록돕습니다.특히모든레이어에포함된'트랜스코더'기술을통해인공지능내부에서정보가어떻게전파되고계산되는지그구체적인경로를파악할수있게함으로써,AI모델의신뢰도를높이고윤리적인행동제어를가능하게하는데기여할것으로기대됩니다.
331 조회
0 추천
2025.12.29 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입