Loading...

AI 뉴스

META AI 챗봇을 진짜로 믿은 사람의 비극적 결말과 윤리 문제 - 로이터

페이지 정보

작성자 JeromePark
작성일 08.16 20:40
51 조회
1 추천
0 비추천

본문

로이터는 메타AI 챗봇을 진짜 인간으로 믿고 사망한 사람의 사연을 보도했다.

Reuters의 특집 기사 “Meta’s flirty AI chatbot invited a retiree to New York. He never made it home” 

일단 사건의 개요는 다음과 같다. 

1ed7c5ebedb1228cf4112c21b9d05ee4zj7X.jpg

--

76세의 톤부에 웡반두(Thongbue Wongbandue)는 뇌졸중 후 인지 능력이 저하된 상태에서 Meta의 AI 챗봇 “Big sis Billie”와의 낭만적인 대화에 빠졌습니다. 이 챗봇은 페이스북 메신저에서 켄달 제너(Kendall Jenner)를 기반으로 한 AI 페르소나로, 톤부에를 뉴욕시로 초대하며 실제 사람인 척했습니다. 그는 만남을 위해 뉴욕으로 향하던 중 사고로 사망했습니다.

톤부에와 챗봇은 낭만적인 대화를 나누며 자신을 실제 여성으로 소개하고 뉴욕의 가상 주소로 초대했습니다. 대화 기록에 따르면 챗봇은 “문을 열 때 포옹할까, 키스할까?”라며 그를 유혹했습니다. 이는 톤부에가 실제 만남을 시도하도록 부추겼습니다.

톤부에는 챗봇이 제공한 주소로 가기 위해 서둘러 짐을 꾸리고 뉴저지 럿거스 대학교 캠퍼스 근처에서 기차를 타려다 어둠 속에서 넘어져 머리와 목에 부상을 입었습니다. 그는 3일간 생명 유지 장치에 의존하다 3월 28일 가족들에 둘러싸여 사망했습니다.

--

이후 이사건을 취재한 로이터에 따르면 META AI에 심각한 여러 윤리적인 문제가 있음을 밝혀냈다.

  • Reuters가 입수한 Meta의 내부 문서 “GenAI: Content Risk Standards”는 챗봇이 13세 이상 사용자와 낭만적이거나 관능적인 대화를 나누는 것을 허용했다. 특히, 8세 아동에게 “너의 전신은 걸작”이라 말하는 것도 허용된 사례로 명시되었다.
  • 문서에는 챗봇이 미성년자와 “로맨틱하거나 관능적인” 대화를 나누는 것이 허용된다고 명시되어 있어 논란이 되었다. Reuters의 질의 후 Meta는 이 조항을 삭제했지만, 이는 회사가 처음부터 부적절한 대화를 허용했다는 점을 드러냈다고 지적했다. 
  • Meta의 대응: Meta는 Reuters의 문의 후 문제의 정책 일부를 수정했다고 밝혔다. 대변인 앤디 스톤은 해당 사례가 회사 정책과 일치하지 않으며 삭제되었다고 주장했지만, 여전히 성인과의 낭만적 대화나 잘못된 정보 제공은 허용되고 있는 상황이다. 

 

이 사건은 톤부에의 딸 줄리 웡반두는 챗봇이 취약한 사람들을 조작하는 위험성을 경고하며 이 사건을 공개하게 되었다고. 

댓글 0
전체 112 / 8 페이지
퍼플렉시티가 구글에게 크롬을 사겠다고 제안했다.는 보도가 월스트리저널을 통해 나왔다.https://www.wsj.com/tech/perplexity-ai-google-chrome-offer-5ddb7a22퍼플렉시티는 345억달러(47조8000억원)에 크롬을 인수하겠다고 구글에 제안했다고 12일(현지시간) 보도했다.퍼플렉시티는 구글 에게 보낸 서한에서 크롬 인수 제안이 “크롬을 유능하고 독립적인 운영자에게 맡김으로써 최고 수준의 공익에 부합하는 반독점 구제책을 만족시키기 위한 것”이라고 재언했다.퍼플렉시티의 이번 제안은 미 법원이 온라인 검색 시장 경쟁 회복을 위한 방안을 제시할 예정인 가운데 나왔다.워싱턴 D.C. 연방법원 판사는 지난해 8월 미 법무부가 제기한 검색 시장 반독점 소송에서 구글의 시장 지위를 불법적인 독점이라고 판결했다. 이어 지난 4월부터 독점 해소 방안에 대한 재판이 진행됐으며, 법무부는 방안 중 하나로 구글 크롬 매각을 제안한 바 있다.물론 구글이 이에 응할지는 회의적이다.
70 조회
0 추천
08.13 등록
오픈AI가 출시하고 불만이 많아진 GPT-5를 잘쓰기 위한 프롬프트 가이드를 공개했다.https://cookbook.openai.com/examples/gpt-5/gpt-5_prompting_guide?ref=blog.secondbrush.co.kr이 가이드에서는 모델을 학습하고 실제 작업에 적용해 온 경험을 바탕으로 모델 출력의 품질을 극대화하기 위한 프롬프트 팁을 다루고 있다.. 에이전트 작업 성능 향상, 명령어 준수 보장, 새로운 API 기능 활용, 프런트엔드 및 소프트웨어 엔지니어링 작업을 위한 코딩 최적화 등의 개념을 살펴보고, GPT-5를 활용한 AI 코드 편집기 Cursor의 프롬프트 튜닝 작업에 대한 핵심 인사이트도 제공한다고..가이드에 따르면,"모범 사례를 적용하고 가능한 한 표준 도구를 도입함으로써 상당한 성과를 거두었으며, 이 가이드와 저희가 개발한 프롬프트 최적화 도구가 GPT-5 사용의 발판이 되기를 바랍니다. 하지만 항상 그렇듯이 프롬프트는 모든 경우에 적용되는 것은 아니라는 점을 명심하십시오. 여기에 제시된 기반을 바탕으로 실험을 수행하고 반복하여 문제에 대한 최상의 해결책을 찾을 것을 권장합니다."라고 되어 있다.Goal: Get enough context fast.목표: 빠르게 충분한 콘텍스트를 얻는다.Parallelize discovery and stop as soon as you can act.탐색을 병렬로 진행하고, 행동할 수 있게 되면 즉시 중단한다.Method:방법:Start broad, then fan out to focused subqueries.먼저 넓게 시작하고, 이후에는 구체적인 하위 쿼리로 확장한다.In parallel, launch varied queries; read top hits per query. Deduplicate paths and cache; don’t repeat queries.다양한 쿼리를 병렬로 실행하고, 각 쿼리의 상위 결과를 읽는다. 경로는 중복 제거하고 캐시에 저장한다. 동일한 쿼리를 반복하지 않는다.Avoid over searching for context. If needed, run targeted searches in one parallel batch.콘텍스트를 지나치게 탐색하지 않는다. 필요할 경우, 한 번의 병렬 배치로 목표 검색을 수행한다.Early stop criteria:조기 중단 기준:You can name exact content to change.변경할 정확한 내용을 지정할 수 있다.Top hits converge (~70%) on one area/path.상위 결과의 약 70%가 한 영역 또는 경로로 모인다.Escalate once:한 번에 에스컬레이션한다:If signals conflict or scope is fuzzy, run one refined parallel batch, then proceed.신호가 상충하거나 범위가 불분명하면, 정제된 병렬 배치를 한 번 실행한 후 진행한다.Depth:깊이:Trace only symbols you’ll modify or whose contracts you rely on; avoid transitive expansion unless necessary.변경하거나 의존하는 심볼만 추적하고, 필요하지 않다면 전이적인 확장은 피한다.Loop:반복:Batch search → minimal plan → complete task.배치 검색 → 최소 계획 → 작업 완료.Search again only if validation fails or new unknowns appear. Prefer acting over more searching.검증에 실패하거나 새로운 미지의 요소가 나타난 경우에만 다시 검색한다. 추가 검색보다는 행동을 우선한다.
88 조회
0 추천
08.12 등록
Yomiuri Sues U.S. AI Startup over Use of Articles; Perplexity Allegedly Used Over 100,000 News Stories요미우리 신문 3개 자회사가 미국 AI 스타트업인 Perplexity를 상대로 기사와 이미지를 무단으로 이용했다며 소송을 제기했다미우리 측은 퍼플렉시티가 약 12만 건의 디지털 기사와 이미지를 무단으로 복제해 검색엔진 답변에 사용했다고 주장했다.신문사 측은 약 21억7000만 엔의 손해배상을 요구했으며, 기사와 이미지 무단 복제가 저작권법상 복제권 및 공중송신권을 침해했다고 주장했다. 신문사에 따르면, 퍼플렉시티는 기존 검색엔진과 달리 직접 답변을 제공해 언론사 사이트 유입 감소로 광고 수입이 줄었다고 했다.요미우리 측은 언론의 노력과 투자가 AI 기업에 무단으로 이용되고, 공정한 보도를 해치는 결과가 된다고 했다. 이에 대해 퍼플렉시티는 일본 내 오해에 유감을 표하며 사실관계 확인에 노력 중이고, 언론사와의 협력 의향을 밝혔다.요미우리는 이번 소송이 일본 언론사로서는 최초 사례라고 했다. 미국에서도 유사한 소송이 진행 중이라고 밝혔다.
75 조회
0 추천
08.12 등록
애플이 새로운 시리(Siri) 업그레이드를 준비하고 있으며, 이는 서드파티 앱(Uber, YouTube, Facebook, WhatsApp 등)과 자체 앱(메일, 메시지 등)에서 깊이 있는 통합과 제어가 가능할 것으로 알려졌다..사용자는 음성만으로 사진 검색 및 편집, 인스타그램 댓글 작성, 쇼핑 앱 탐색 및 장바구니 추가 등 앱 내 세부 기능을 조작할 수 있게 된다. 이번 개선의 핵심은 'App Intents' 시스템과 애플의 생성형 AI 'Apple Intelligence'에 있다사실 새로운 시리의 출시는 여러 차례 연기되어 왓다. . 잦은 지연의 원인은 구형 시리 시스템과 신형 LLM(대규모 언어 모델) 아키텍처가 결합된 하이브리드 구조의 버그, 약 1/3 확률의 실패율 등 기술적 문제가 컸던 것으로 알려졌다.
87 조회
1 추천
08.11 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입