로그인
회원가입
계정찾기
AI Services

AI 뉴스

이탈리아, 엄격한 규정의 AI 법안 유럽 최초 통과

xtalfi
2025.09.18 17:40
217
0
0
목록
d1e26f8834943a29617209477c16d170QNjv.png

(퍼플렉시티가 정리한 기사)

이탈리아 의회는 수요일에 획기적인 인공지능 입법을 통과시켜, 이탈리아가 유럽연합 회원국 중 최초로 EU의 AI Act에 부합하는 포괄적인 AI 규제를 시행하는 국가가 되었습니다. 조르자 멜로니 총리 정부는 인간 중심적이고 투명하며 안전한 AI 사용의 기본 원칙을 확립하는 동시에 혁신, 사이버보안 및 개인정보 보호를 강조하는 이 광범위한 입법을 주도했습니다.


이 법은 만 14세 미만 아동의 AI 접근에 엄격한 요구 사항을 부과하며, 어떠한 AI 시스템 사용에도 부모의 동의를 의무화합니다. 이 조항은 미성년자가 AI 기술에 노출되어 발생할 수 있는 아동 발달과 개인정보에 대한 잠재적 영향을 우려하는 목소리에 대응하기 위한 것입니다.


형사 처벌, 인공지능 남용 겨냥


이 법안은 특히 딥페이크를 포함한 AI 생성 콘텐츠의 불법 유포에 대해 엄격한 형사 처벌을 도입합니다. 범죄자는 그로 인해 피해가 발생할 경우 1년에서 5년까지의 징역형에 처해질 수 있습니다. AI를 이용한 사기, 신원 도용, 시장 조작 또는 자금 세탁은 가중 처벌 사유로 간주되어 형량이 최대 3분의 1까지 늘어날 수 있습니다.


“이 법은 혁신을 공공의 이익이라는 테두리 안으로 다시 불러들이며, AI가 성장과 권리, 시민의 완전한 보호를 향해 나아가도록 이끕니다.“라고 디지털 전환 담당 차관인 알레시오 부티가 말했습니다.


정부 감독 구조


정부는 이탈리아 디지털 기관과 국가 사이버보안 기관을 AI 개발 및 구현을 감독하는 주요 국가 당국으로 지정했습니다. 이탈리아 중앙은행과 시장 규제 기관 Consob을 포함한 기존의 금융 감독 기관들은 각자의 영역 내에서 감독 권한을 유지합니다.


이 법은 의료, 고용, 공공 행정, 사법, 교육, 스포츠 등 여러 분야를 아우르는 규정을 도입하여 AI의 의사결정 과정에 대한 추적 가능성과 인간의 감독을 요구합니다.


투자 및 혁신 지원


이탈리아는 인공지능, 사이버 보안, 양자 기술 및 통신에 관련된 중소기업과 대기업에 대한 지분 투자를 위해 국가가 지원하는 벤처 캐피탈 펀드에서 최대 10억 유로를 배정했습니다. 그러나 비평가들은 이 금액이 미국과 중국과 같은 경쟁국들이 투자하는 규모에 비해 미미하다고 주장합니다.


이 법안에는 업종별 규칙이 포함되어 있으며, AI가 진단 및 치료를 지원하는 경우에도 의료 전문인이 궁극적인 의사 결정을 내려야 한다는 요구사항 등이 명시되어 있습니다. 또한, 작업장에서 AI 기술이 도입될 경우 고용주는 근로자에게 반드시 이를 알려야 합니다.

댓글 0
목록
전체 380 / 4 페이지
단 250개의 문서만으로도 AI 모델을 오염시킬 수 있다는 것이 밝혀져
단 250개의 문서만으로도 AI 모델을 오염시킬 수 있다는 것이 밝혀져
(퍼플렉시티가 정리한 기사)Anthropic의 새로운 연구는 인공지능 시스템의 놀라운 취약점을 밝혀냈습니다: 신중하게 제작된 악의적인 문서 250개만으로도 크기에 관계없이 대규모 언어 모델을 손상시킬 수 있으며, 이는 AI 보안에 대한 근본적인 가정에 도전하고 고객 서비스 챗봇부터 엔터프라이즈 소프트웨어까지 모든 것을 구동하는 시스템의 안전성에 대한 긴급한 질문을 제기합니다.10월 8일 영국 AI 보안 연구소 및 앨런 튜링 연구소와의 공동 연구로 발표된 이 연구는 지금까지 진행된 가장 큰 규모의 데이터 중독 조사를 나타내며, 이미 보안 문제로 고심하고 있는 업계에 충격적인 소식을 전달합니다. 연구 결과에 따르면 130억 개의 매개변수를 가진 모델—6억 개 매개변수를 가진 더 작은 모델보다 20배 이상 많은 데이터로 훈련된—도 동일한 소수의 중독된 문서에 의해 손상될 수 있음을 보여줍니다.모델 규모 전반에 걸친 지속적인 위협이전 연구에서는 공격자가 학습 데이터의 일정 비율을 제어해야 한다고 제안한 것과 달리, Anthropic의 연구 결과에 따르면 데이터 오염 공격은 “모델 크기와 관계없이 거의 일정한 수의 문서가 필요하다”고 나타났다. 연구진은 ““와 같은 트리거 문구를 사용해 모델이 활성화되었을 때 의미 없는 텍스트를 생성하도록 백도어를 성공적으로 만들었으며, 이를 통해 공격자가 AI 시스템을 조작해 해로운 결과물을 만들어낼 수 있음을 보여줬다.Anthropic는 연구 논문에서 “우리의 결과는 공격자가 학습 데이터의 일정 비율을 제어해야 한다는 일반적인 가정을 뒤집는다. 오히려 소량의 정해진 데이터만 필요할 수 있다”고 밝혔다. 그 영향은 매우 크며, 대부분의 대형 언어 모델이 공개된 인터넷 데이터를 대량으로 학습하기 때문에, “말 그대로 누구나 모델의 학습 데이터에 포함될 수 있는 콘텐츠를 만들 수 있다”고 설명했다.토론토대학교 Citizen Lab의 선임 연구원 John Scott-Railton은 해당 위협의 확장성을 강조하며 다음과 같이 말했다: “LLM 학습 데이터 세트 내에서는, 희석이 오염에 대한 해결책이 아니다. 사이버보안 전문가라면 직관적으로 알 수 있을 것이다: 공격은 대량 확장될 수 있지만 방어책은 대부분 그렇지 않다”.산업 영향 및 시장 우려사항이 연구는 인공지능에 대한 열기로 주요 지수들이 신기록을 달성하며 AI 주식이 전례 없는 고점에 계속 도달하고 있는 가운데 나타났다. 그러나 증가하는 보안 취약점이 잠재적 시장 과대평가에 대한 이미 가열된 논쟁에 복잡성을 더하고 있다. JPMorgan Chase CEO인 제이미 다이먼은 최근 “AI는 실재한다”면서도 현재의 많은 투자들이 “아마도” 낭비될 수 있다고 경고하며, 앞으로 6개월에서 2년 내에 상당한 주가 하락에 대한 우려를 표명했다.특히 S&P 500 기업의 72%가 올해 규제 서류에서 AI를 “중대한 위험”으로 공시했다는 점에서 이 시점은 특별히 의미가 있다. 한편, OpenAI와 Anthropic은 훈련 데이터에 대한 저작권 주장과 관련된 수십억 달러 규모의 잠재적 소송을 해결하기 위해 투자자 자금을 사용하는 방안을 모색하고 있는 것으로 알려졌다.악의적 행위자들을 부추길 수 있는 연구 결과를 공개했음에도 불구하고, Anthropic은 “이러한 결과를 공개하는 것의 이익이 이러한 우려를 능가한다”고 믿으며, 취약점을 이해하는 것이 더 나은 방어 체계를 개발하는 데 중요하다고 주장했다. 회사는 공격자들이 실제로 독성 데이터를 훈련 세트에 삽입하는 데 여전히 상당한 어려움에 직면하고 있다고 언급했지만, 이 연구는 AI 업계 전반에 걸친 개선된 보안 조치의 긴급한 필요성을 부각시킨다고 했다.
22
0
10.11
앤트 그룹, 1조 파라미터 AI 모델 링-1T 공개
앤트 그룹, 1조 파라미터 AI 모델 링-1T 공개
(퍼플렉시티가 정리한 기사)중국 핀테크 대기업 앤트 그룹(Ant Group)이 1조 개의 매개변수를 가진 오픈소스 대규모 언어 모델 Ling-1T를 공개했으며, 이 모델은 수학, 코딩, 추론 과제에서 DeepSeek, OpenAI 및 기타 주요 AI 개발사들의 경쟁 모델을 능가한다고 회사 측은 주장했다. 2025년 10월 9일 발표된 이번 공개는 단 두 달 만에 앤트가 두 번째로 공개하는 1조 매개변수 모델로, 대규모 AI 시스템 개발 분야에서 중국의 경쟁이 격화되고 있음을 보여준다.Ling-1T, AI 성능에서 새로운 기준을 세우다Ling-1T는 효율적인 추론 능력을 유지하면서 여러 복잡한 추론 벤치마크에서 최첨단 성능을 달성했습니다. 2025년 미국 수학 경시대회 초청 시험(AIME)에서 이 모델은 문제당 평균 4,000개 이상의 출력 토큰 비용으로 70.42%의 정확도를 기록했으며, Google의 Gemini-2.5-Pro와 동등한 성능을 보이면서 DeepSeek, OpenAI, Moonshot의 경쟁 모델들을 능가했습니다.독립적인 평가자들의 종합적인 테스트에 따르면, Ling-1T는 대규모 다중작업 언어 이해(MMLU) 벤치마크에서 91.76%의 정확도를 달성하여 약 90%의 GPT-5, 89.1%의 Claude 4.5 Sonnet, 89.0%의 DeepSeek V3.1을 능가했습니다. 이 모델은 특히 코딩 및 소프트웨어 엔지니어링 작업에서 강력한 능력을 보여주었으며, 1조 파라미터 모델 중 LiveCodeBench 평가에서 선두 성능을 보였습니다.전략적 오픈소스 접근 방식이 독점 모델에 도전하다이번 출시는 Ant Group이 9월에 출시한 Ring-1T-preview에 이어진 것으로, 회사는 이를 세계 최초의 오픈소스 1조 파라미터 사고 모델이라고 주장했습니다. Ant Group의 최고기술책임자(CTO) He Zhengyu는 다음과 같이 밝혔습니다: “Ant Group에서 우리는 인공일반지능(AGI)이 공공재가 되어야 하며, 인류의 지능적 미래를 위한 공유된 이정표가 되어야 한다고 믿습니다”.Ling-1T는 1/32 활성화 비율을 가진 Mixture-of-Experts 아키텍처를 사용하여 작동하며, 이는 총 1조 개의 파라미터를 포함하고 있음에도 불구하고 토큰당 약 500억 개의 파라미터만 활성화됨을 의미합니다. 이러한 설계는 계산 비용의 비례적 증가 없이 정교한 추론 능력을 가능하게 하여, 대규모 AI 배포의 핵심 과제를 해결합니다.모델 패밀리 확장에는 세 가지 주요 시리즈가 포함됩니다: 비사고 모델인 Ling 시리즈, 사고 모델인 Ring 시리즈, 그리고 멀티모달 Ming 시리즈입니다. 이러한 포괄적인 접근 방식은 Ant Group이 오픈소스 개발에 대한 헌신을 유지하면서 다양한 AI 애플리케이션에서 경쟁할 수 있는 위치를 확보하게 하며, 잠재적으로 글로벌 AI 연구와 채택을 가속화할 수 있습니다.
21
0
10.11
DeepSeek 대항마 Reflection AI, 20억 달러 조달
DeepSeek 대항마 Reflection AI, 20억 달러 조달
(퍼플렉시티가 정리한 기사)전 구글 딥마인드 연구원들이 설립한 1년 된 스타트업 리플렉션 AI(Reflection AI)는 목요일 20억 달러의 투자금을 조달해 기업 가치가 80억 달러에 이르렀다고 발표했다. 이는 리플렉션 AI가 중국의 오픈소스 인공지능 강자 딥시크(DeepSeek)에 대응하는 미국의 해답으로 자리매김함을 시사한다. 이번 투자 라운드는 불과 7개월 전 회사 가치가 5억 4,500만 달러였던 것에 비해 무려 15배나 증가한 수치다.이번 투자 라운드는 엔비디아이 8억 달러라는 대규모 투자를 주도했으며, 세쿼이아 캐피탈, 라이트스피드 벤처 파트너스, 전 구글 CEO 에릭 슈미트, 도널드 트럼프 주니어와 연계된 벤처 기업 1789 캐피탈 등도 참여했다. 이번 투자 유치는 2025년 3분기에 인공지능 기업들이 전 세계 벤처 투자 자금의 46%를 차지하며 총 970억 달러에 이르렀던 시점에 이루어진 것이다.코딩 에이전트에서 국가 AI 전략까지미샤 라스킨과 이오아니스 안토노글루가 2024년 3월에 설립한 Reflection AI는 처음에는 자율 코딩 에이전트에 집중했으나, 2024년 1월 DeepSeek가 시장을 뒤흔든 이후 더 광범위한 첨단 AI 개발로 방향을 전환했습니다. 딥마인드의 Gemini 프로젝트에서 보상 모델링을 이끈 라스킨과 2016년 세계 바둑 챔피언을 이긴 전설적인 AlphaGo 시스템의 공동 창작자인 안토노글루는 세계 최고 AI 연구소에서 수십 년의 경력을 쌓은 전문가입니다.라스킨은 TechCrunch와의 인터뷰에서 “DeepSeek와 Qwen, 그리고 모든 모델들이 우리의 경각심을 일깨워줬습니다. 우리가 아무것도 하지 않으면, 결국 세계적 지능의 표준이 다른 누군가에 의해 만들어질 것입니다”라고 말했습니다. 대표는 경쟁 구도를 냉전 시대에 비유하며 “현대판 스푸트니크 순간”이라고 표현했습니다.이 회사의 60명 규모 팀은 딥마인드와 오픈AI에서 영입한 AI 연구원과 엔지니어로 구성되어 있으며, “대규모 LLM과 강화 학습 플랫폼을 구축하여 첨단 규모에서 거대한 Mixture-of-Experts 모델을 학습할 수 있다”고 설명했습니다. Reflection AI는 “수십조 개의 토큰”으로 학습된 첫 첨단 언어 모델을 내년에 공개할 계획입니다.정치적 및 산업계 지원이번 자금 지원 발표는 트럼프 행정부 관계자들과 업계 리더들로부터 즉각적인 찬사를 받았습니다. 백악관 AI 및 암호화폐 책임자인 데이비드 색스는 소셜 미디어에 다음과 같이 게시했습니다: “더 많은 미국의 오픈 소스 AI 모델을 보게 되어 기쁩니다. 글로벌 시장의 의미 있는 부분은 오픈 소스가 제공하는 비용, 맞춤화 및 제어를 선호할 것입니다”.Hugging Face의 CEO인 클렘 들랑게는 이 개발을 “미국 오픈 소스 AI를 위한 좋은 소식”이라고 평가하면서도 “도전 과제는 오픈 AI 모델과 데이터셋의 공유 속도가 빠르다는 것을 보여주는 것”이라고 언급했습니다. 이러한 지원은 중국의 오픈 소스 AI 개발 지배력에 대한 우려가 커지는 것을 반영하며, 특히 DeepSeek의 획기적인 모델들이 훨씬 낮은 개발 비용으로 경쟁력 있는 성능을 입증한 이후 더욱 그러합니다.Reflection AI의 접근 방식은 공개 사용을 위한 모델 가중치를 공개하면서도 데이터셋과 훈련 인프라는 독점적으로 유지함으로써 개방성과 상업적 실행 가능성의 균형을 맞춥니다. 회사는 자사 모델을 기반으로 제품을 구축하는 대기업과 “주권 AI” 시스템을 개발하는 정부로부터 수익을 기대하고 있습니다. 라스킨에 따르면, 기업이 엔터프라이즈 규모에 도달하면 “소유권을 가질 수 있는 것을 원합니다. 자체 인프라에서 실행할 수 있습니다. 비용을 통제할 수 있습니다”.
22
0
10.11
EA, 배틀필드 6에서 AI 생성 콘텐츠 사용하지 않겠다고 약속
EA, 배틀필드 6에서 AI 생성 콘텐츠 사용하지 않겠다고 약속
(퍼플렉시티가 정리한 기사)Electronic Arts가 2025년 10월 10일 오늘 Battlefield 6를 출시함에 따라, 이 게임 거대 기업은 명확한 약속을 했습니다: 회사의 광범위한 AI 기술 수용과 새로운 사모펀드 소유주들의 압박에도 불구하고, 플레이어들은 이 매우 기대되는 밀리터리 슈팅 게임에서 생성형 AI로 제작된 콘텐츠를 전혀 접하지 않을 것입니다.EA, AI 생성 게임 콘텐츠에 대한 선을 긋다스웨덴 DICE와 Criterion Games의 총괄 매니저인 Rebecka Coutaz는 BBC Newsbeat와의 인터뷰에서 생성형 AI가 “매우 매혹적”이긴 하지만, Battlefield 6에는 플레이어가 게임 내에서 접하게 될 AI 생성 자산이 전혀 포함되어 있지 않다고 확인했습니다. 이러한 입장은 EA가 Jared Kushner의 Affinity Partners를 포함한 사우디 주도 컨소시엄에 의한 550억 달러 규모의 인수를 받은 후 AI 기반 비용 절감에 크게 투자하면서 강도 높은 조사를 받고 있는 가운데 나온 것입니다.Coutaz는 BBC에 “AI로 마법을 깨뜨릴 수 있다면 우리가 더 혁신적이고 창의적이 되는 데 도움이 될 것”이라고 말했지만, 현재로서는 이 기술을 개발자들의 일상 업무 흐름에 통합할 실질적인 방법이 없다고 강조했습니다. 회사는 준비 개발 단계에서 생성형 AI를 사용하여 “창의적일 수 있는 시간과 공간을 더 많이 확보”하고 있지만, 모든 최종 콘텐츠는 사람이 제작한 것입니다.Battlefield 6의 또 다른 개발자인 Fasahat Salim도 이러한 입장에 동의하며, 생성형 AI를 “두려워할 것이 아니다”라고 설명하면서도 팀들이 여전히 이 기술을 향후 개발 파이프라인에 생산적으로 통합하는 방법을 결정하고 있다고 인정했습니다.AI 공개에 대한 업계의 견해 차이EA의 접근 방식은 AI 생성 콘텐츠를 둘러싼 여러 논란에 직면한 경쟁사 Activision의 Call of Duty 처리 방식과 극명하게 대조됩니다. 여기에는 Black Ops 6의 악명 높은 손가락이 6개인 좀비 산타 번들도 포함됩니다. Steam은 현재 Black Ops 6와 곧 출시될 Black Ops 7 모두에 “AI 생성 콘텐츠 공개” 고지를 표시하도록 요구하고 있지만, Battlefield 6의 Steam 페이지에는 그러한 경고가 전혀 없습니다.Treyarch의 어소시에이트 크리에이티브 디렉터인 Miles Leslie는 최근 Call of Duty에 AI 생성 콘텐츠가 “우연히” 등장했다고 인정하면서, 모든 최종 게임 콘텐츠는 “인간이 만들고 손댄 것”이어야 한다고 주장했습니다. 그러나 Black Ops 7은 11월 출시 시 AI 공개 요구 사항을 유지할 것으로 예상됩니다.게임 업계는 AI 사용의 폭발적인 성장을 목격했으며, 2025년에 출시된 Steam 게임의 거의 20%가 생성형 AI 사용을 공개했습니다. 이는 2024년 대비 700% 증가한 수치입니다. 이러한 급증은 개발자들이 비용 절감과 제작 일정 단축에 대한 압박이 커지면서 발생했습니다.역사적인 인수 속에서 압박이 가중되다EA의 AI 입장은 역사상 최대 규모의 차입 매수를 진행하면서 즉각적인 시험대에 오르고 있습니다. 사우디 공공투자펀드, 실버 레이크, 그리고 쿠슈너의 어피니티 파트너스가 200억 달러의 부채로 이번 거래에 자금을 지원하고 있으며, EA는 이를 상환해야 하기 때문에 추가 해고 및 AI 도입을 포함한 공격적인 비용 절감 조치를 취할 수밖에 없는 상황입니다.파이낸셜 타임스 보도에 따르면 EA의 새로운 소유주들은 특히 향후 몇 년간 AI 기반 비용 절감을 통해 수익을 크게 늘릴 수 있을 것으로 기대하고 있습니다. 회사는 민영화를 준비하면서 2024년과 2025년에 이미 약 1,000개의 일자리를 없앴습니다.배틀필드 6는 오늘 PlayStation 5, Xbox Series X|S, PC 플랫폼을 통해 전 세계적으로 출시되며, 애널리스트들은 첫 주에 최대 500만 장이 판매될 것으로 예상하고 있습니다. 이 게임은 2021년 배틀필드 2042의 문제가 많았던 출시 이후 프랜차이즈의 명성을 회복하려는 EA의 중요한 시험대가 됩니다. 초기 리뷰는 대체로 긍정적이며, 비평가들은 클래스 기반 게임플레이로의 복귀와 향상된 기술적 안정성을 칭찬하고 있습니다.
21
0
10.11
회원가입
아이디/비밀번호 찾기