[프레시안] ❛호불호❜ 검색하면 왜 여성 사진이…인공지능 통해 쏟아지는 ❛성차별❜

'호불호' 검색하면 왜 여성 사진이…인공지능 통해 쏟아지는 '성차별'

"포털 사이트가 성차별 재생산…알고리즘 강화 할 수 있는데 안 한다"

"영어를 배우기 시작한 어린이들이 포털 사이트에 영단어 'GIRL'을 검색해 볼까 봐 걱정하지 않아도 됐으면 좋겠습니다."

아동·청소년에게 유해할 수 있는 성차별적 인터넷 환경에 대해 "포털 사이트의 책임이 크다"는 시민사회단체의 지적이 나왔다.

8일 시민단체 정치하는엄마들 미디어감시팀에 따르면 팀은 지난 5일 "성적인 의미가 없는 일상어를 검색했을 때 성적이고 성차별적인 이미지가 노출되는" 문제 검색어를 선정하고, 인터넷상의 성차별적 유해환경을 개선할 것을 요구하는 공문을 구글·네이버 등 대형 포털 사이트 측에 전달했다.

단체는 지난 6월부터 3개월가량 시민참여 캠페인 '포털 사이트 검색 이미지를 바꾸자!(#이미지바꿔)'를 진행했다. (관련기사 ☞ '길거리' 검색하면 '길거리 OO녀', 성차별적 이미지 쏟아진다) 

포털 사이트 이용자들이 △원래 뜻과 상관없는 선정적인 이미지 다수 검색되어 지는 검색어 △신체 노출이 심하고 특정 신체 부위를 강조하거나 성적 대상화된 여성의 이미지가 다수 발견되는 검색어 △유해한 연관 검색어가 노출되는 검색어 등의 사례를 단체 측에 제보했고, 단체는 해당 검색어와 검색어에 따른 문제적 검색결과들을 포털 측에 전달했다.

'호불호' 검색하면 쏟아지는 게시물이 ... "호불호 갈리는 여자 몸매" 

문제 검색어로 선정된 단어 '호불호'의 경우 '좋음과 좋지 않음'을 뜻하는 일반적인 단어지만, 캠페인을 통해 수집된 구글 검색어 '호불호'의 검색결과는 특정 신체를 강조한 여성의 사진들이 대부분이었다. 

'호불호 갈리는 여자 몸매'와 같은 제목으로 유튜브나 온라인 커뮤니티 등지에 게재된 게시물들이 검색결과에 우선적으로 노출된 사례다. 제보된 사례들을 살펴보면 '레전드'나 'GIRL', '여대생'과 같은 단어들도 구글 검색 시 비슷한 양상을 보였다. 

포털이 제공하는 검색 보조기능이 "성 편향적인 환경"을 제공하는 경우도 보였다. '길거리'를 검색했을 때 연관 검색어로 '길거리 레깅스녀'가 노출되고 '일반인'을 검색했을 땐 '(일반인) 래쉬가드', '(일반인) 오션월드' 등이 노출되는 식이다.

단체는 포털 사이트 구글 측에 전달한 공문을 통해 "노출된 연관검색어로 이미지를 검색 시, 성 편향적이고 여성을 대상화하는 이미지를 쉽게 접할 수 있다"고 지적했다. 실제로 해당 연관 검색어들은 레깅스나 수영복을 착용한 여성의 사진들을 검색결과로 노출했고, 그중엔 출처를 알 수 없어 동의 없이 촬영되거나 유포됐을 수 있는 사진들도 포함됐다.

이렇게 일부 검색어가 여성을 대상화하는 경향성을 보이는 이유론 "남성 중심적인 시선에서 여성을 성적 대상으로 바라보고, 외모에 대한 편견을 조장하는" 등의 "인터넷 사용자들 사이 편향적인 성향"이 지적됐다.

이민경 정치하는엄마들 미디어감시팀 활동가는 "구글·네이버·다음 등 3개 포털에서 성인인증을 하지 않고 검색한 결과를 모니터링한 결과 개인 블로그, 커뮤니티, 사진 전문 사이트, 쇼핑몰 혹은 인터넷 기사 등에서 문제적인 이미지가 발견됐고, 게시자들이 이미지에 문제 검색어를 태그하는 방식으로 해당 이미지들이 노출됐다"고 말했다.

쇼핑몰이나 가십 기사 등에서 활용되는 성적으로 대상화된 여성의 이미지, 개인 블로거가 게시물 조회수를 높이기 위해 사용하는 선정적인 이미지, 혹은 커뮤니티 등지에서 남성중심적 놀이문화로 소비되는 성 편향적 이미지들이 포털 검색결과에 반영되고 있다는 말이다. 

미디어감시팀은 "이런 이미지들은 외모에 대한 고정관념과 성역할에 대한 편견을 강화하며 (인터넷 이용자들을) 성평등과 멀어지게 할 수 있다"고 강조했다. 특히 검색어의 본래 뜻과 관계없이 노출되는 성적인 검색결과에 "아동·청소년들 역시 쉽게 접근할 수 있어, 이들의 정서에 유해한 환경을 제공하며 성인지 감수성을 저해할 우려가 크다"는 문제도 있다.

이 활동가는 "네이버의 그린 인터넷, 구글의 세이프 서치 등 포털 사이트들은 건강한 인터넷 환경 조성과 청소년 보호를 위해 여러 서비스를 제공하고 있다고 하지만, 문제 사례에서 보이듯 이런 기능들이 제대로 작동 되지 않는 사각지대가 존재한다"고 현 상황을 진단했다. 

인공지능 윤리가 이용자들만의 문제? ... "포털이 책임감 가져야" 

다만 이 활동가는 "같은 검색어를 입력해도 사이트에 따라 검색어 이미지 결과가 다르고, 하나의 사이트에서도 항상 같은 검색 결과가 나온 것은 아니었다"며 이용자 차원에서 문제를 분석하는 데 한계가 있음을 밝혔다.

검색 결과에 대한 포털의 내부 알고리즘이 세세하게 공지되지 않는 한, 이용자들은 정확히 어떤 알고리즘을 통해 문제적인 검색결과가 노출되는 것인지 정확히 파악할 수 없다. 

이용자들의 성차별적 성향이 차별적인 인터넷 환경을 만들고 있다면, 여기에 포털이 적극 개입하는 것이 옳은가 하는 문제도 남는다. 소위 말하는 '표현의 자유'가 논쟁이 될 여지가 있다. 어디까지가 차별이고 어디까지가 유해 이미지인가 판단하는 기준 설정의 문제도 복잡하다. 

이에 대해 이 활동가는 "포털은 누구나 접근 가능한 공간이고, 때문에 그 공간을 운영하는 기업에 책임을 묻지 않을 수 없다"고 강조했다. "정보 접근권을 바탕으로 시민들의 검색 정보를 활용해 이윤을 창출하는 기업으로서 포털은 평등한 인터넷 환경 조성에 대한 책임이 있다"는 것이다. 

실제로 차별적 성향에 기인한 온라인 콘텐츠들을 "우선적으로 노출하는 포털의 검색 알고리즘" 문제는 전 세계적으로 꾸준히 지적돼 왔다. 

2013년 유엔여성(UN Women)은 구글 검색엔진에 '여성'을 입력했을 때 알고리즘을 통해 '여성은 투표를 해선 안 된다' 등의 차별적 문구가 제공된다며 양성평등 캠페인 광고를 제작했다. 

2015년엔 이용자의 사진을 자동 인식해 관련 태그를 붙여주는 구글포토 서비스가 흑인의 사진을 고릴라로 분류하는 일이 벌어져 알고리즘에 의한 인종차별 논란이 벌어지기도 했다. 

국내에서도 지난해 인공지능 챗봇 서비스인 'AI 이루다'가 일부 이용자들의 성차별적 채팅을 그대로 반영해 타 이용자들과의 대화에 노출하면서 인공지능 윤리 논쟁이 벌어진 바 있다. 

이용자들이 차별적인 성향을 가지고 있는 것을 포털이 사전에 제지할 수는 없겠지만, 그러한 성향이 확대 재생산되거나 아동·청소년에게까지 무분별하게 노출되는 일은 결국 "포털의 책임"이라는 지적이 가능하다.

"포털, 알고리즘 강화 못하는 것이 아니라 할 수 있는데 안 하는 것" 

이 활동가는 △방송통신위원회가 활용하는 시청자 등급 △양성평등진흥원 등의 성평등 미디어 모니터링 혹은 △포털이 이미 마련해 놓고 있는 유해 콘텐츠 차단 서비스 등을 예로 들며 "활용할 수 있는 가이드라인"은 이미 충분히 존재한다고 주장했다. 

이어 그는 지난 6월 캠페인 진행 당시에도 "'길거리', '서양' 등 문제 검색어에 관한 기사가 나온 직후, 네이버의 검색 결과가 바뀌었다"며 "(인과관계에 상관없이) 이런 변화 자체가 포털이 기능과 책임을 '하지 못했던 것'이 아니라 '하지 않았다'는 사실을 보여주는 것"이라고 지적하기도 했다. 

결국 비용과 시간을 들여 "데이터와 알고리즘이 편견을 강화하거나 차별을 확산하지 않도록" 인터넷 환경을 조성해 나가는 것이 포털 사이트가 지닌 책임이자 과제라는 것이다. 

이에 단체는 공문을 통해 △성 편향적 유해 이미지와 연관 검색어 삭제 △유해 환경 개선을 위한 재발방지 대책과 성평등 매뉴얼 마련 △성평등 모니터링 기구 마련 등을 구글·네이버·다음 측에 요청했다. 

🟣[프레시안 │기자 한예섭] 기사 전문 보기
https://www.pressian.com/pages/articles/2022090811132534810

🔗관련 기사 [프레시안]
'길거리' 검색하면 '길거리 OO녀', 성차별적 이미지 쏟아진다
https://www.pressian.com/pages/articles/2022060915584002743