뉴스에 왜곡 만드는 AI 이미지 업스케일링 -출처 Gizmodo

제목 AI 이미지 업스케일은 실제 사실을 보여주지 않는다 

최근 소셜미디어에서는 도널드 트럼프 대통령의 건강 악화설과 관련된 AI 이미지 업스케일 사진이 확산되었다. AI로 이미지를 '보정'하면 진짜 모습을 확인할 수 있을 것처럼 보이지만, 실제로는 원본에 없던 내용이 추가되어 잘못된 정보를 만들어 낸 것이다.

예를 들어, 트럼프의 이마에 이상한 덩어리가 보인다는 의혹이 돌았으나, 이는 AI가 어두운 그림자나 주름을 임의로 해석해서 만들어낸 가짜 정보였다. 사람들은 이 이미지를 보고 '뇌수술 흔적'이라거나 구체적 진단을 내리기도 했지만, 모두 사실이 아니다

이처럼 AI 이미지 보정이나 업스케일 도구는 실제 정보를 알려주기보다는, 픽셀의 패턴을 임의로 채워서 그럴듯하게 보이게 만들 뿐이다. 그래서 이미지를 검사하는 또 다른 AI(Grok 등)도 진위를 제대로 판별하지 못하는 사례가 많았다

2022년 오스카 시상식에서 윌 스미스가 크리스 록을 뺨 때린 영상을 AI로 보정했더니, 록의 얼굴에 이상한 보호구가 있다고 오해하는 등 새로운 음모론을 낳았다. 이는 원본 이미지의 그림자나 주름을 AI가 과도하게 강조해 실제로 없는 내용을 덧입힌 결과였다.

AI 업스케일 도구는 게임이나 픽션 장면 등을 선명하게 만드는 데는 활용 가치가 있지만, 역사적 영상이나 뉴스 이미지를 보정하여 '진실'을 밝히려는 시도에는 한계가 명확하다. 가짜 정보가 주로 퍼질 수 있으므로, 현실을 판단할 때 AI 보정 이미지를 신뢰해서는 안 된다.

https://gizmodo.com/ai-zoom-enhance-does-not-work-2000651736