Loading...

AI 뉴스

한국, 딥페이크 용의자 중 거의 절반이 10대로 밝혀져

페이지 정보

작성자 xtalfi
작성일 2025.11.17 16:02
949 조회
0 추천
0 비추천

본문

AFP__20250321__37FW8HU__v1__MidRes__SkoreaLifestyle.jpg

(퍼플렉시티가 정리한 기사)


한국 경찰은 일요일 10대와 청년층이 사이버 성폭력의 급격한 증가를 주도하고 있으며, 지난 1년간 체포된 3,557명의 용의자 중 거의 절반이 미성년자라고 밝혔다. 이번 발표는 접근 가능한 인공지능 도구가 광범위한 디지털 학대를 가능하게 하면서 증가하는 위기를 강조한다.​

2024년 11월부터 2025년 10월까지 당국은 3,411건의 사이버 성폭력 사건을 적발했으며, 이는 전년도 2,406건에서 35퍼센트 증가한 수치다. 딥페이크 범죄—AI를 사용하여 얼굴을 음란한 이미지나 영상에 합성하는 것—는 1,553건으로 전체 사건의 35.2퍼센트를 차지하며 가장 큰 범주를 나타냈다. 아동 성착취물은 34.3퍼센트를 차지했고, 불법 촬영은 19.4퍼센트를 차지했다.​

용의자의 연령 분석은 우려스러운 패턴을 드러낸다: 10대가 전체 체포자의 47.6퍼센트인 1,761명을 차지했고, 20대가 33.2퍼센트인 1,228명으로 그 뒤를 이었다. 딥페이크 범죄로 범위를 좁히면, 가해자의 90퍼센트 이상이 10대와 20대였으며, 10대만으로 61.8퍼센트를 차지했다.​


법적 변화가 집행을 촉진하다

체포 급증은 2024년 10월에 제정된 법률 개혁에 따른 것으로, 이는 한국의 딥페이크 관련 법을 확대했습니다. 개정안은 유포 의도 입증 요건을 삭제하여, 이러한 콘텐츠의 소지 및 시청을 최대 3년의 징역형으로 처벌할 수 있게 했습니다. 딥페이크 제작 및 유포에 대한 최대 형량은 5년에서 7년으로 증가했습니다.​

경찰청 사이버수사국을 이끄는 박우현은 성명에서 "사이버 성범죄는 점점 더 은밀해지고 기술적으로 진보하고 있다"고 말했습니다. "이것들은 피해자의 존엄성을 파괴하는 심각한 범죄이며, 우리는 이를 근절하기 위해 가능한 모든 노력을 계속할 것입니다."​

최근 두 사건은 문제의 규모를 보여줍니다. 15세 소년이 여성 유명인을 대상으로 590개의 딥페이크 영상을 제작하고 800명 이상의 사용자가 있는 3개의 메시징 채널을 운영했습니다. 다른 사건에서는 17세 주동자와 다른 세 명의 청소년이 소셜 미디어를 통해 19명의 피해자를 유인했는데, 그들의 음란 영상이 이미 존재한다고 거짓 주장한 후 피해자들에게 실제 음란 콘텐츠를 제작하도록 압박했습니다.​


강화된 단속 발표

경찰은 1년간의 단속 기간 동안 잠복 수사와 딥페이크 탐지 소프트웨어를 배치하여 이전 기간 대비 47.8%의 검거 증가에 기여했다. 검거된 사람 중 221명이 정식으로 체포되었다.​

당국은 36,135개의 유해 영상에 대한 삭제 또는 차단을 요청했으며, 28,000명 이상의 피해자를 디지털 성범죄 피해자 지원센터에 연계했다. 경찰은 불법 콘텐츠의 제작자, 유포자 및 소비자를 대상으로 2026년 10월까지 진행되는 또 다른 집중 단속을 발표했다. 경찰청은 교육부와 함께 예방 교육을 개발하고 있으며, 특히 주요 유포 경로로 확인된 메신저 앱 텔레그램을 비롯한 온라인 플랫폼과의 강력한 협력을 추진하고 있다.

댓글 0
전체 1,366 / 41 페이지
2025년 타임지가 선정한 세계에서 가장 영향력 있는 인공지능 분야 100인에 포함된 밀라그로스 미셀리 박사가 AI 산업의 어두운 이면을 강도 높게 비판하고 나섰다. 아르헨티나 출신의 사회학자이자 컴퓨터공학 박사인 미셀리는 최근 부에노스아이레스에서 열린 공개 강연에서 AI 기술 확산 뒤편에 창의성·노동·자원이라는 세 가지 차원의 착취 구조가 존재한다고 지적했다고 현지 매체 암비토가 7일(현지시간) 보도했다.감춰진 노동력과 무단 활용되는 창작물미셀리 박사가 지적한 첫 번째 문제는 AI 모델 훈련 과정에서 무단으로 사용되는 수많은 창작물이다. 그는 “AI는 창조하지 않는다. 단지 인간의 창작물을 대규모로 추출하고 혼합해 낮은 품질의 결과물을 만들어낼 뿐”이라며 “생성형 도구는 공익이 아닌 소수 기업의 상업적 이익을 극대화하도록 설계된 모델”이라고 비판했다.두 번째는 대규모 데이터 노동의 비가시성 문제다. 이미지 분류, 폭력 콘텐츠 관리, 텍스트 라벨링, 데이터 클리닝 등을 수행하는 대규모 인간 노동이 의도적으로 감춰지고 있으며, 대부분의 인력이 플랫폼 기반의 극도로 취약한 노동 조건에 처해 있다고 그는 지적했다. 독일 바이젠바움 연구소에서 ‘데이터 워커스 인콰이어리’ 프로젝트를 이끄는 미셀리는 전 세계 데이터 노동자들의 증언을 통해 이러한 착취 실태를 밝혀왔다.소수 기업의 권력 집중 경고미셀리 박사는 세 번째 착취로 막대한 환경 비용을 들었다. AI 데이터 센터 운영에 필요한 엄청난 전력과 물 소비가 환경 부담을 가중시킨다는 것이다.그는 특히 기술 자체가 아닌 소수 글로벌 기업이 데이터·인프라·노동력을 장악하면서 발생하는 권력 집중에 주목했다. “이 기업들은 사실상 무엇이 진실인지 결정할 수 있는 권력을 갖게 된다”며 “기술은 언제나 정치적이다. 환경적·사회적 비용을 보지 않고 기술을 숭배하는 것은 오히려 공동체와 지구에 해를 끼치는 일”이라고 강조했다. 현재 독일에서 활동 중인 미셀리는 기술 발전에만 집중된 AI 논의 속에서 소외된 인간 윤리 문제를 중심에 세운 인물로 평가받는다.
518 조회
0 추천
2025.12.09 등록
한국산업기술진흥협회는 8일 국내 AI 스타트업의 3년 생존율이 56.2%에 그쳐 AI 일반기업(72.7%)과 전산업 평균(68.8%)보다 현저히 낮다고 발표했다.2023년 기준 AI 스타트업의 연구개발비 중 정부 재원 비중은 22.9%로 전산업 평균의 4배에 달하며, 평균 R&D비는 5억9000만원으로 절대적 규모가 낮다.산기협은 AI 스타트업의 생존이 국가경쟁력과 직결된다며 과감한 R&D 지원과 생태계 정비를 통한 정부의 적극적 지원이 필요하다고 강조했다.
511 조회
0 추천
2025.12.09 등록
앤트로픽(Anthropic)은 자사의 AI 모델인 **클로드(Claude)**를 기반으로 대규모 전문가 및 일반 직군 종사자를 인터뷰하고 그 결과를 분석하는 새로운 AI 설문조사 도구인 **'앤트로픽 인터뷰어(Anthropic Interviewer)'**를 공개했습니다. 이 도구는 연구자들이 수백 건의 인터뷰를 진행해야 하는 복잡한 연구를 AI를 활용하여 대규모로 수행할 수 있도록 지원합니다. 이를 통해 기존의 정량적 설문조사나 단순 로그 분석의 한계를 넘어, AI가 마치 사람처럼 심층적인 질문과 대화를 통해 AI가 사람들의 삶과 업무에 미치는 영향을 구체적으로 분석하는 것이 가능해졌습니다.총 1,250명을 대상으로 한 인터뷰 결과, AI 활용에 대한 인식은 직군별로 상이하게 나타났습니다. 일반 직군 종사자들은 86%가 AI가 시간을 절약해 준다고 답했으나, 69%는 직장 내 AI 사용에 대한 사회적 낙인을 경험했다고 밝혀 인식 개선이 주요 과제임을 시사했습니다. **크리에이티브 직군(작가, 디자이너)**은 AI 활용 만족도가 매우 높았지만, 경제적 불안감이 가장 심한 집단으로, AI가 창작 시장을 잠식할 것이라는 위기감을 호소했습니다. 반면, 과학자들은 AI를 문헌 조사나 디버깅 등 보조적인 업무에 적극 활용하면서도, 가설 생성이나 실험 설계 등 핵심 연구에는 신뢰성 문제를 이유로 AI 의존을 꺼리는 경향을 보였습니다.앤트로픽은 이번 프로젝트의 목적이 단순히 AI의 성능을 확인하는 것을 넘어, AI 시스템 개발 과정에서 사람들의 실제 경험과 요구를 반영하기 위함이라고 밝혔습니다. 특히, AI가 사용자들의 직업과 정체성에 미치는 영향과 장기적인 불안감을 구체적으로 파악하여, AI 결과물이 실제 업무나 일상에서 어떻게 활용되고 있는지를 심층적으로 이해하려 했습니다. 이러한 방대한 인터뷰 결과를 바탕으로, 앤트로픽은 AI가 기술적 완성도를 높이는 동시에 사회적 수용성을 확보하고 사용자 중심의 가치를 창출할 수 있는 방향으로 시스템을 개선해 나갈 계획입니다.
508 조회
0 추천
2025.12.09 등록
코넬 대학교 연구진은 AI 챗봇이 짧은 대화를 통해 유권자의 선호도를 최대 25% 포인트까지 변화시킬 수 있다는 것을 발견했으며, 이러한 효과는 2024-2025년 선거를 앞둔 미국, 캐나다, 폴란드, 영국의 수만 명의 참가자를 대상으로 한 연구들에서 다양하게 나타났다.챗봇의 설득력은 심리적 조작보다는 사실 집약적 논거를 신속하게 전개하는 것에서 비롯되며, 정보가 풍부한 모델은 설득력을 최대 51%까지 증가시켰지만, 팩트체커들은 AI가 생성한 주장의 약 19%가 주로 부정확하다는 것을 발견했다.태도 변화의 36%에서 42%가 한 달 후에도 지속되어, 특히 가장 설득력 있는 모델이 가장 많은 허위 정보를 생성했기 때문에 접전 선거에 AI가 영향을 미칠 가능성에 대한 우려가 제기되고 있다.
535 조회
0 추천
2025.12.05 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입