알고리즘이 취약 계층을 배제하여 정보 격차를 악화시킨다는 연구 결과

(퍼플렉시티가 정리한 기사)

PNAS Nexus에 발표된 새로운 연구에 따르면, 소셜 네트워크에서 영향력 있는 사람들을 식별하도록 설계된 알고리즘이 특정 집단을 뒤처지게 만드는 정보 격차를 의도치 않게 만들 수 있다고 합니다. 이 연구는 이러한 알고리즘이 메시지 도달 범위를 극대화하는 데는 뛰어나지만, 취약한 인구 집단을 중요한 정보 수신에서 체계적으로 배제함으로써 기존의 사회적 불평등을 악화시킬 수 있다고 밝혔습니다.

표준 알고리즘은 정보 격차를 만든다

Vedran Sekara가 이끄는 연구팀은 마을의 가구 연결망, 정치 블로거 네트워크, 페이스북 친구 관계, 과학 협력 관계를 포함한 다양한 실제 소셜 네트워크에서 영향력 극대화 알고리즘을 테스트했습니다. 독립 캐스케이드 모델을 사용한 결과, 확산만을 극대화하는 데 집중하는 알고리즘은 특정 외부 집단이 중요한 메시지를 지속적으로 놓치게 되는 정보 격차를 만든다는 것을 발견했습니다.​

이 연구는 이렇게 간과된 개인들을 "취약 노드"로 식별합니다. 이들은 알고리즘이 영향력 있는 네트워크 구성원을 통해 최대한 많은 사람들에게 도달하는 것을 우선시할 때 체계적으로 배제되는 사람들입니다. 이 발견은 공평한 정보 배포가 필수적인 공중 보건 캠페인, 사회 서비스 지원 활동, 긴급 통신에 중요한 시사점을 제공합니다.

더 공정한 알고리즘이 가능성을 보여주다

이러한 불평등을 해결하기 위해 연구자들은 정보 확산과 공정성을 모두 극대화하도록 설계된 다목적 알고리즘을 개발했습니다. 이 접근법은 표준 방법이 일반적으로 간과하는 네트워크 노드에 정보가 도달하도록 보장하려고 시도합니다. 보다 공정한 타겟팅 방법은 거의 동일한 전체 도달 범위를 유지하면서 취약한 노드를 6%에서 10% 줄이는 결과를 가져왔습니다.​

이 연구는 디지털 플랫폼 전반에 걸친 알고리즘 편향에 대한 인식이 높아지는 가운데 이루어졌습니다. 이동성 데이터에 대한 Sekara의 광범위한 연구는 유사한 패턴을 드러냈으며, 알고리즘이 종종 부유하고 교육받은 인구를 선호하는 반면 여성, 노인, 어린이를 과소 대표하는 것으로 나타났습니다. Sekara의 이전 연구에 따르면, 일부 데이터셋에서 이동성 데이터의 절반은 가장 부유한 20%의 인구에서 나오는 반면, 가장 가난한 20%에서는 단 5%만 발생합니다.​

알고리즘이 사회를 통해 정보가 확산되는 방식을 점점 더 형성함에 따라, 이 연구는 효율성과 함께 공정성을 우선시하는 것이 도달 범위를 크게 손상시키지 않으면서 디지털 불평등을 줄이는 데 도움이 될 수 있음을 시사합니다.