Loading...

AI 뉴스

한국, 딥페이크 용의자 중 거의 절반이 10대로 밝혀져

페이지 정보

작성자 xtalfi
작성일 2025.11.17 16:02
825 조회
0 추천
0 비추천

본문

AFP__20250321__37FW8HU__v1__MidRes__SkoreaLifestyle.jpg

(퍼플렉시티가 정리한 기사)


한국 경찰은 일요일 10대와 청년층이 사이버 성폭력의 급격한 증가를 주도하고 있으며, 지난 1년간 체포된 3,557명의 용의자 중 거의 절반이 미성년자라고 밝혔다. 이번 발표는 접근 가능한 인공지능 도구가 광범위한 디지털 학대를 가능하게 하면서 증가하는 위기를 강조한다.​

2024년 11월부터 2025년 10월까지 당국은 3,411건의 사이버 성폭력 사건을 적발했으며, 이는 전년도 2,406건에서 35퍼센트 증가한 수치다. 딥페이크 범죄—AI를 사용하여 얼굴을 음란한 이미지나 영상에 합성하는 것—는 1,553건으로 전체 사건의 35.2퍼센트를 차지하며 가장 큰 범주를 나타냈다. 아동 성착취물은 34.3퍼센트를 차지했고, 불법 촬영은 19.4퍼센트를 차지했다.​

용의자의 연령 분석은 우려스러운 패턴을 드러낸다: 10대가 전체 체포자의 47.6퍼센트인 1,761명을 차지했고, 20대가 33.2퍼센트인 1,228명으로 그 뒤를 이었다. 딥페이크 범죄로 범위를 좁히면, 가해자의 90퍼센트 이상이 10대와 20대였으며, 10대만으로 61.8퍼센트를 차지했다.​


법적 변화가 집행을 촉진하다

체포 급증은 2024년 10월에 제정된 법률 개혁에 따른 것으로, 이는 한국의 딥페이크 관련 법을 확대했습니다. 개정안은 유포 의도 입증 요건을 삭제하여, 이러한 콘텐츠의 소지 및 시청을 최대 3년의 징역형으로 처벌할 수 있게 했습니다. 딥페이크 제작 및 유포에 대한 최대 형량은 5년에서 7년으로 증가했습니다.​

경찰청 사이버수사국을 이끄는 박우현은 성명에서 "사이버 성범죄는 점점 더 은밀해지고 기술적으로 진보하고 있다"고 말했습니다. "이것들은 피해자의 존엄성을 파괴하는 심각한 범죄이며, 우리는 이를 근절하기 위해 가능한 모든 노력을 계속할 것입니다."​

최근 두 사건은 문제의 규모를 보여줍니다. 15세 소년이 여성 유명인을 대상으로 590개의 딥페이크 영상을 제작하고 800명 이상의 사용자가 있는 3개의 메시징 채널을 운영했습니다. 다른 사건에서는 17세 주동자와 다른 세 명의 청소년이 소셜 미디어를 통해 19명의 피해자를 유인했는데, 그들의 음란 영상이 이미 존재한다고 거짓 주장한 후 피해자들에게 실제 음란 콘텐츠를 제작하도록 압박했습니다.​


강화된 단속 발표

경찰은 1년간의 단속 기간 동안 잠복 수사와 딥페이크 탐지 소프트웨어를 배치하여 이전 기간 대비 47.8%의 검거 증가에 기여했다. 검거된 사람 중 221명이 정식으로 체포되었다.​

당국은 36,135개의 유해 영상에 대한 삭제 또는 차단을 요청했으며, 28,000명 이상의 피해자를 디지털 성범죄 피해자 지원센터에 연계했다. 경찰은 불법 콘텐츠의 제작자, 유포자 및 소비자를 대상으로 2026년 10월까지 진행되는 또 다른 집중 단속을 발표했다. 경찰청은 교육부와 함께 예방 교육을 개발하고 있으며, 특히 주요 유포 경로로 확인된 메신저 앱 텔레그램을 비롯한 온라인 플랫폼과의 강력한 협력을 추진하고 있다.

댓글 0
전체 1,366 / 69 페이지
Google은 BleepingComputer에 따르면, 첫 해 동안 광고 없이 운영했던 AI Mode 답변 엔진에 스폰서 광고를 표시하기 시작했습니다.광고는 AI가 생성한 답변 하단에 “sponsored” 라벨과 함께 표시되며, 이는 사용자에게 더 매력적인 AI 경험을 제공하기 위해 광고를 피했던 Google의 이전 전략에서 전환된 것입니다.이러한 움직임은 Google이 ChatGPT와 같은 광고 없는 AI 검색 대안과의 경쟁에 직면하면서도, 2023년에 2,378억 6천만 달러의 수익을 창출한 지배적인 광고 사업을 보호하기 위한 것입니다.
697 조회
0 추천
2025.11.24 등록
정부가 24일 4년 만에 과학기술관계장관회의를 재개하고 인공지능 대전환을 위한 범부처 전략을 점검했다. 김민석 국무총리가 주재한 이날 첫 회의에서는 ‘AI 민생 10대 프로젝트’를 비롯해 국방·제조·과학기술 등 분야별 AI 전략과 UAE 국빈 방문 성과, 중소기업 지원 방안 등 10개 안건이 논의됐다.AI 혁신 성과 확산에 정부 총력김 총리는 모두발언에서 “AI 대전환 등 변화의 파도에 대응하기 위해 과학기술부총리를 신설했고 과학기술관계장관회의도 다시 시작하게 됐다”며 “‘모두를 위한 AI’라는 비전 아래 혁신의 성과가 골고루 확산되도록 힘쓸 것”이라고 밝혔다. 그는 “AI는 우리 경제의 혁신을 촉진할 새로운 성장 엔진이자 국가 대전환의 강력한 동인”이라며 “오픈AI, 엔비디아 등 글로벌 선도 기업과 전략적 파트너십을 구축하고, 내년 예산안에는 AI 3대 강국 전환의 마중물이 될 10조원 규모의 예산을 담았다”고 강조했다.의장을 맡은 배경훈 부총리 겸 과학기술정보통신부 장관은 “부처 간 칸막이를 없애고 ‘원 팀’으로 협업하는 것이 중요하다”며 “과학기술관계장관회의가 연구개발, AI 기술 확보와 사업화를 위해 건설적이고 신속하게 논의할 수 있는 장이 될 수 있도록 노력하겠다”고 말했다.민생부터 국방까지 AI 전면 적용정부는 이날 회의에서 국민이 AI 혜택을 직접 체감할 수 있는 ‘AI 민생 10대 프로젝트’를 발표했다. 농산물 가격을 AI로 분석해 최적 구매처를 추천하는 플랫폼, 소상공인을 위한 AI 창업·경영 컨설턴트, AI 국세정보 상담사, 보이스피싱 대응 시스템 등이 포함됐으며, 정부는 2026년부터 2개 년간 총 460억원을 지원할 계획이다.국방 분야에서는 무기체계 지능화, AI 전투참모, 스마트 군수지원체계 등 7대 프로젝트를 추진하고, 제조업에서는 2030년까지 500개의 AI 팩토리를 구축하는 선도사업이 진행된다. 중소기업 AI 육성을 위해서는 2030년까지 13조5000억원 규모의 ‘넥스트 유니콘 프로젝트’를 추진한다.이날 회의에는 배경훈 부총리를 비롯해 기획재정·교육·외교·국방·행정안전·문화체육관광·산업통상·보건복지·기후환경에너지·고용노동·중소벤처기업부 장관과 금융위원회·개인정보보호위원회 위원장 등 20명이 참석했다. 과학기술관계장관회의는 노무현 정부 때 처음 신설됐으나 이명박 정부에서 폐지됐다가 2018년 문재인 정부 때 복원됐으며, 2021년 말 마지막 회의 이후 윤석열 정부에서는 열리지 않았다. 정부는 앞으로 매달 회의를 열어 과학기술·AI 정책을 자유 토의 방식으로 논의할 예정이다.
712 조회
0 추천
2025.11.24 등록
카카오뱅크가 24일 인공지능(AI)을 활용해 대화만으로 송금할 수 있는 ‘AI 이체’ 서비스를 출시하며 국내 금융권에서 처음으로 핵심 금융 기능에 생성형 AI를 접목시켰다. 고객이 “엄마에게 10만원 보내줘”라고 말하거나 입력하면 AI가 계좌 정보와 금액을 인식해 송금 절차를 자동으로 처리하는 방식이다.기존에는 은행명, 계좌번호, 이체 금액 등을 단계별로 입력해야 했던 송금 절차가 한 문장으로 단축됐다. 최근 이체 내역이 있는 대상은 이름만으로, 별명을 설정한 경우에는 ‘엄마’, ‘마미’ 등 유사한 표현만으로도 송금이 가능하다. 카카오뱅크 입출금계좌 고객이라면 누구나 이용 가능하며, 1회·1일 최대 200만원까지 송금할 수 있다.보안 강화와 착오송금 방지 절차 마련카카오뱅크는 서비스 출시에 앞서 금융보안원과 모의해킹 기반의 ‘AI 서비스모델 보안 점검’을 합동으로 실시하는 등 내·외부 취약점 검증을 완료했다고 밝혔다. 착오송금을 방지하기 위해 고객의 요청이 불분명하면 재질문을 통해 정보를 명확히 하고, 수취인 검증 등 일반 이체와 동일한 인증 절차를 거쳐야만 최종 이체가 실행된다. 이체 실행 전 최종 단계에서는 주요 정보에 대한 고객 확인 및 인증 과정을 거쳐 안전하게 이용할 수 있다.AI 금융 서비스 확대 행보카카오뱅크는 5월 국내 금융권 최초로 Azure OpenAI 기반 ‘AI 검색’ 서비스를 출시한 이후 대화형 AI 서비스를 지속 확대하고 있다. 현재 약 170만명의 고객이 AI 기반 서비스를 이용 중이다. 카카오뱅크는 12월 중 모임통장에 AI를 적용한 ‘AI 모임총무’ 서비스도 선보일 예정이다. 회비 정리 등 총무 업무를 자동화하는 기능으로, 향후 다른 핵심 금융 상품으로도 AI 적용을 확대할 방침이다.카카오뱅크 관계자는 “은행명이나 계좌번호를 직접 입력하지 않아도 대화만으로 이체를 끝낼 수 있도록 서비스를 설계했다”며 “앞으로도 AI 기술 혁신을 통해 차별화된 금융 경험을 제공하겠다”고 밝혔다.
700 조회
0 추천
2025.11.24 등록
우리은행은 24일 생성형 인공지능 기술을 활용한 ‘AI청약상담원’ 서비스를 선보였다고 밝혔다. 이 서비스는 지난 1월 금융위원회로부터 혁신금융서비스로 지정받아 금융권에서 처음으로 생성형 AI를 청약 상담에 적용한다.24시간 맞춤형 청약 상담 지원AI청약상담원은 챗GPT를 기반으로 24시간 주택청약 상담을 제공한다. 우리원뱅킹 앱의 AI챗봇 메뉴에서 이용할 수 있으며, 로그인과 서비스 이용 동의가 필요하다.이용자가 “내 청약통장으로 지금 청약 순위가 어떻게 되는지 알려줘”라고 질문하면, AI상담원은 보유 청약 계좌의 납입액과 납입회차, 가구 소득, 거주지 정보 등을 자동으로 분석해 예상 청약 가점과 순위, 공급 유형 및 우선 공급 가능 여부까지 한 번에 안내한다. 수십 페이지에 달하는 입주자 모집공고문을 AI가 대신 읽고 핵심 정보를 쉽게 풀어 제공하는 것이 특징이다.RAG 기술로 정확성 강화해당 서비스는 검색증강생성(RAG) 기술을 적용해 청약 전문지식을 반영한 정확한 답변을 생성하도록 설계됐다. 개인정보 필터링과 외부 공격에 대한 방어 체계를 마련해 보안 수준을 강화했으며, 지난 10월 금융보안원 보안대책 평가를 최종 통과했다.우리은행은 ‘AI예적금상담원’과 ‘AI대출상담원’에 이어 이번 AI청약상담원 출시로 AI뱅커 서비스 영역을 지속적으로 확대하고 있다. 우리은행 관계자는 “우리은행이 청약의 모든 궁금증을 해결할 수 있는 대표 채널로 인식될 수 있도록 정확하고 체계적인 청약 상담을 제공하는 것이 목표”라며 “AI 기술을 통해 업계를 선도하는 상담 경험을 만들겠다”고 밝혔다.
745 조회
0 추천
2025.11.24 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입