핀터레스트, AI 생성 콘텐츠 범람에 사용자 불만 폭주

• 핀터레스트에 AI 생성 콘텐츠(일명 'AI 슬롭')가 급증하며 사용자들의 피드가 저품질 콘텐츠로 가득 차고 있다
• 플랫폼의 '영감 발견' 기능이 AI로 생성된 가짜 레시피, 인테리어 이미지, 사기성 광고로 인해 본래 기능을 상실하고 있다
• 전문가들은 이를 기업의 과도한 수익 추구로 사용자 경험이 저하되는 '엔시티피케이션(enshittification)' 현상으로 진단한다
• 핀터레스트는 AI 생성 콘텐츠 라벨 도입과 맞춤 설정 기능을 제공하고 있으나, 사용자들은 여전히 불만족스러워하고 있다

캘리포니아에 거주하는 케이틀린 존스는 5년간 매주 핀터레스트에서 아들을 위한 레시피를 찾아왔다. 지난 9월, 그녀는 크리미한 치킨 브로콜리 슬로우쿠커 레시피를 발견했다. 황금빛 체다치즈와 파슬리가 뿌려진 사진이 매력적이었다. 재료를 확인하고 장을 본 뒤 요리를 시작하려던 순간, 레시피에서 이상한 문구를 발견했다. 닭고기를 슬로우쿠커에 "로깅(logging)"하라는 지시였다.

의아해진 존스는 해당 레시피 블로그의 소개 페이지를 클릭했다. 완벽하게 보이는 여성이 앞치마를 두르고 황금빛 조명 아래 미소 짓고 있었다. 그녀는 즉시 알아챘다. 그 여성은 AI가 생성한 이미지였다.

"안녕하세요, 저는 수잔 손입니다!" 페이지에는 이렇게 적혀 있었다. "저는 주방이 모든 것의 중심인 가정에서 자랐습니다." 함께 게시된 이미지는 완벽했지만 어딘가 이상했고, 자기소개는 모호하고 일반적이었다.

존스는 "평소처럼 급하게 장을 보느라 이런 문제가 있을 거라고는 생각도 못 했다"며 "지금 생각하면 바보 같지만"이라고 말했다. 궁지에 몰린 그녀는 의심스러운 요리를 그대로 만들었지만, 결과는 좋지 않았다. 물기 많고 싱거운 치킨은 불쾌한 맛만 남겼다.

화를 참을 수 없었던 그녀는 레딧의 r/Pinterest 커뮤니티에 글을 올렸다. 이곳은 불만족스러운 사용자들의 광장이 되어 있었다. "핀터레스트가 사람들이 사랑했던 모든 것을 잃어가고 있다. 진정한 핀과 진정한 사람들 말이다"라고 그녀는 썼다. 이후 그녀는 앱 사용을 완전히 중단했다고 밝혔다.

'AI 슬롭(AI slop)'이란 동영상, 책, 미디엄 게시물 등 인터넷을 가득 채우는 저품질의 대량 생산 AI 콘텐츠를 일컫는 용어다. 핀터레스트 사용자들은 이 플랫폼이 그런 콘텐츠로 넘쳐나고 있다고 말한다.

코넬 공대 보안·신뢰·안전 이니셔티브 책임자인 알렉시오스 만차를리스는 최근 발표한 AI 슬롭 분류 연구에서 이를 "우리에게 강제로 먹이는 먹기 싫은 죽"이라고 표현했다. 구글 검색에서 단 하나의 결과도 나오지 않는 '수잔'은 빙산의 일각에 불과하다.

만차를리스는 와이어드에 "모든 플랫폼이 이것을 새로운 표준의 일부로 결정했다"며 "전반적으로 생산되는 콘텐츠의 막대한 부분을 차지하고 있다"고 말했다.

핀터레스트는 2010년 출시되어 "아이디어를 찾기 위한 시각적 발견 엔진"으로 마케팅됐다. 수년간 광고 없이 운영되며 창작자들의 충성스러운 커뮤니티를 구축했고, 현재 5억 명 이상의 활성 사용자로 성장했다. 그러나 일부 불만족스러운 사용자들에 따르면, 최근 피드가 전혀 다른 세상을 반영하기 시작했다.

핀터레스트의 피드는 대부분 이미지로 구성되어 있어 동영상 중심 사이트보다 AI 슬롭에 더 취약하다고 만차를리스는 설명한다. 사실적인 이미지는 보통 동영상보다 모델이 생성하기 쉽기 때문이다. 또한 이 플랫폼은 사용자를 외부 사이트로 유도하는데, 이런 외부 클릭은 콘텐츠 팜이 팔로워보다 더 쉽게 수익화할 수 있다.

광고의 급증도 부분적인 원인일 수 있다. 핀터레스트는 스스로를 "AI 기반 쇼핑 어시스턴트"로 리브랜딩했다. 이를 위해 2022년 말부터 피드에 더 많은 타겟 광고를 쏟아붓기 시작했으며, 당시 빌 레디 CEO는 투자자들에게 이것이 사용자에게 "훌륭한 콘텐츠"가 될 수 있다고 말했다. 와이어드가 시크릿 모드 브라우저의 새 핀터레스트 계정에서 "발레 플랫 슈즈"를 검색했을 때, 처음 표시된 73개 핀 중 40% 이상이 광고였다.

지난해 핀터레스트는 광고주를 위한 생성형 AI 도구도 출시했다. 회사는 4월 블로그에서 합성 콘텐츠가 사용자들의 "영감을 발견하고 실행하는" 능력을 향상시킨다고 밝혔다.

AI 슬롭은 최근 몇 년간 모든 소셜 미디어 사이트에 확산되었다. 그러나 핀터레스트 사용자들은 이 콘텐츠가 실제 영감을 거래하는 마켓플레이스로서의 사이트 기능을 배반한다고 말한다.

대학생 소피아 스왓링은 "플랫폼이 한때 그랬던 것과 정반대가 됐다. 사이트 전체의 전제를 떠받치는 콘텐츠보다 소비주의, 광고 수익, 비인간적 슬롭을 뻔뻔하게 우선시하고 있다"고 말했다. 뉴욕 주 시골에서 자란 그녀는 자신의 취미를 공유하는 비슷한 생각을 가진 창작자들을 찾기 어려웠다. 핀터레스트는 그녀에게 생명줄이었다.

스왓링은 "탐욕과 착취가 점점 더 두드러지더니 이제 사용자 경험이 완전히 훼손되는 지경에 이르렀다"고 덧붙였다.

핀터레스트 사용자들이 제기하는 문제는 캐나다 활동가이자 저널리스트, SF 작가인 코리 닥터로우가 '엔시티피케이션(enshittification)'이라고 부르는 범주에 해당한다. 이는 사람들이 의존하는 인터넷 플랫폼이 사용자 경험을 희생하며 끊임없는 수익 추구로 인해 점진적으로 쇠락하는 현상을 말한다.

핀터레스트의 사용자 수가 증가하고 있을지 모르지만, 그들이 슬롭을 좋아한다는 뜻은 아니라고 닥터로우는 말한다. 새로운 사용자들은 대안이 없다고 느낄 수 있고, 기존 사용자들은 수년간 공유하고 저장한 핀과 보드에 대한 애정이 슬롭에 대한 혐오보다 클 수 있다고 그는 설명한다.

닥터로우는 와이어드에 "기업들은 사람들의 디지털 흔적이 '강력한 힘'이라는 것을 알고 있어 처벌 없이 행동할 수 있다"며 "바로 그것이 엔시티피케이션이 존재하는 곳이다"라고 말했다.

핀터레스트가 AI에 기대면 성과가 가속화될 것으로 기대했다면, 그렇게 되지 않았다. 회사 주가는 11월 3분기 실적과 매출 전망이 애널리스트 기대에 미치지 못하면서 20% 급락했다.

와이어드가 핀터레스트에서 AI 생성 이미지로 보이는 핀을 클릭하자 AI의 지나치게 매끄러운 특징을 가진 사진과 함께 모호한 조언을 담은 일반적인 리스티클 블로그로 연결됐다. 배너 광고와 팝업도 가득했다.

텍사스 오스틴에 사는 60세의 장기 핀터레스트 사용자 재닛 카츠는 "끝없는 윈도우 쇼핑 같지만 가게도 없고, 문도 없고, 간판도 없다. 그저 정말 멋져 보이는 창문만 있다"고 말했다. 올해 거실을 리모델링하면서 그녀는 가구 치수가 맞지 않는 이미지를 계속 발견했다. 물리 법칙을 무시하는 의자, 두 다리로 아슬아슬하게 균형을 잡는 커피 테이블이 그것이었다.

카츠는 "인테리어판 언캐니 밸리다. 진짜처럼 보이지만 뭔가 제대로 된 게 아니다"라고 말했다.

와이어드가 핀터레스트에서 "발레 플랫 슈즈" 검색어로 25개 광고를 클릭해 본 결과, 비슷한 패턴의 전자상거래 사이트로 연결됐다. 대폭 할인된 의류, 실제 주소 없음, 종종 합성된 듯한 매끈한 부티크 주인 사진과 창업 스토리가 함께 게시되어 있었다. "저는 예술, 장인 정신, 전통에 대한 사랑이 가득한 가정에서 자랐습니다"라고 한 사이트는 선언한다. 거의 동일한 두 사이트에서는 은퇴한 부부가 뉴욕시에서 "잊을 수 없는 26년" 후에 문을 닫는다고 발표했다.

이 부티크들은 '고스트 스토어'로 알려진 현상의 여러 특징을 가지고 있다. 이는 폐점으로 인해 고품질 제품을 대폭 할인 판매한다고 주장하는 가짜 웹사이트를 만드는 온라인 사기다.

케임브리지 대학교 AI 비즈니스 프로그램 공동 창립자이자 생성형 AI 전문가인 헨리 아이더는 와이어드에 "이런 종류의 캠페인을 둘러싼 전체 생산 수단이 근본적으로 변했다"며 "더 현실적이고, 덜 비싸고, 더 접근하기 쉬워졌다. 이 모든 것이 합쳐져 합성 스팸으로 플랫폼을 포화시키는 매력적인 패키지가 됐다"고 말했다.

해당 웹사이트들은 와이어드의 논평 요청에 응하지 않았다. 와이어드가 이 사이트들을 핀터레스트와 공유하자, 핀터레스트는 기만적이거나 신뢰할 수 없거나 독창적이지 않은 웹사이트로 연결되는 핀을 금지하는 정책 위반으로 15개를 비활성화했다.

핀터레스트 대변인은 와이어드에 "많은 사람들이 핀터레스트에서 생성형 AI 콘텐츠를 즐기지만, 일부는 덜 보고 싶어한다는 것을 알고 있다"며 사용자가 AI 생성 콘텐츠를 제한할 수 있는 도구를 언급했다. 그들은 핀터레스트가 "생성형 AI든 아니든 스팸을 포함한 유해한 광고와 콘텐츠를 금지한다"고 덧붙였다.

AI 생성 콘텐츠의 유입은 일부 사용자들로 하여금 인간이 만든 콘텐츠가 상승하는 조류 속에 사라지고 있는 것은 아닌지 편집증적으로 의심하게 만들었다.

r/Pinterest에서 흔한 불만은 알 수 없는 이유로 노출이 급격히 떨어졌다는 사용자들의 것인데, 그들은 AI가 자신들을 묻어버리고 있다고 의심한다. 전자상거래 사기를 조사하는 유튜브 채널도 운영하는 소프트웨어 엔지니어 모레노 디즈다레비치는 같은 불만을 공유하는 소규모 사업체들과 함께 일해왔다.

그의 고객 중 한 명인 주얼리 제작자이자 전업주부는 더 이상 핀에 댓글이나 좋아요를 받지 못하며 월간 조회수가 5,000건 미만이다. 디즈다레비치에 따르면 그녀는 인스타그램이나 틱톡에 게시할 때 훨씬 더 성공적인데, 거기에는 "아직 좀 더 인간적인 연결"이 있어 그녀에게 우위를 제공하기 때문이다.

4월, 사용자 불만을 인용하며 핀터레스트는 콘텐츠가 "AI로 수정됨"일 때 공개하는 "Gen AI 라벨"을 도입했다. 그리고 10월에는 사용자가 AI 생성 콘텐츠를 얼마나 볼지 맞춤 설정할 수 있는 도구를 출시했다.

그러나 이 라벨은 사용자가 핀을 클릭해야만 나타나며 피드 자체에는 표시되지 않고, 광고에도 적용되지 않는다. 와이어드는 그렇게 라벨이 지정되지 않은 여러 AI 생성 핀을 발견했다.

AI 생성 사용자 콘텐츠와 광고의 바다는 기술 기업들에게 역설을 만들었다고 아이더는 말한다. "당신이 팔고 있는 시선이 실제로 시선인지 도대체 어떻게 증명하느냐?"고 그는 묻는다.

기업들은 인간이 만든 콘텐츠를 검증하는 도구로 이동할 수 있다고 아이더는 말한다. 예를 들어 프랑스 음악 스트리밍 서비스 디저(Deezer)는 9월에 이러한 업로드가 현재 일일 제출물의 28%, 하루 3만 곡에 해당한다고 공개한 후 완전히 AI 생성된 트랙을 알고리즘 추천에서 제거하겠다고 약속했다.

그러나 존스에게 핀터레스트의 변화는 이미 완료된 것처럼 느껴진다. 한때 진정한 영감의 장소였던 곳이 그녀의 말로는 "우울한" 곳이 되어버렸다.