불신 커지는 인공지능(AI) 알고리즘
유튜브에서 '여자'를 검색하면 나오는 자동완성 검색어 목록. 혐오와 불건전성을 유발하는 키워드가 최상단에 노출되어 있다. 사진 유튜브 캡쳐

서혜진(31)씨는 요즘 유행하는 머플러를 알아보기 위해 유튜브에 ‘여자’를 친 순간 깜짝 놀랐다. 자동완성 검색어로 ‘여자 x 닦는 모습’ ‘여자 xx 닦는 모습’ 같은 문구들이 그대로 노출된 것이다. 해당 자동완성 검색어는 ‘여자친구’나 ‘여자아이들’ 등 인기가 많은 아이돌그룹 이름보다도 먼저 검색됐다.

그뿐 아니었다. 서씨가 “설마”하며 자동완성 검색어를 클릭한 순간 황당한 영상 수백 개가 눈 앞에 떴다. 여성 나체가 그대로 드러난 영상부터 해당 키워드가 아닌 다른 음란 키워드가 제목으로 등장하는 영상까지 꼬리에 꼬리를 물었다. 서씨는 “청소년 이용자가 가장 많다는 플랫폼이 이렇게 허술하게 작동할 줄은 몰랐다”고 했다.

사용자가 수천만 명에 달하는 온라인 플랫폼들의 혐오 및 음란물 정화 기능이 제대로 작동하지 않고 있다. 평범한 단어를 입력만해도 음란성이 짙은 키워드가 자동완성 검색어로 따라 붙고, 미성년자마저 해당 검색어를 클릭해 음란ㆍ혐오물을 볼 수 있는 데도 플랫폼 운영자나 정부는 수수방관하고 있다.

황당한 자동완성 검색기능은 유튜브뿐만 아니라 페이스북 등 사회관계망서비스(SNS)도 마찬가지다. 페이스북에서 검색창에 ‘여자’를 입력하기만 해도 ‘여자 젖꼭지’ ‘여자 알몸사진’ 등이 가장 먼저 자동완성 검색어로 등장한다. ‘노래’를 입력하면 ‘노래방 도우미’가, ‘ㅅ’만 입력해도 ‘ㅅㅅ하는 동영상’ 등이 펼쳐진다.

문제는 이런 자동완성 검색 기능이 성인 인증이 안 된 계정에도 적용되고 영상 역시 접근 가능하다는 점이다. 2017년 유튜브에서 겨울왕국 캐릭터 엘사를 성적 대상화한 영상을 아동들이 볼 수 있어 국내뿐만 아니라 해외에서도 비판을 받은 적이 있다. 당시 유튜브에서는 ‘elsa(엘사)’라는 검색어만 입력하면 노출이 심한 수영복을 입은 여성이나 만화 캐릭터들이 배설물을 먹고 이상한 행동을 하는 장면이 담긴 영상 등이 등장해 논란이 일었다.

자동완성 검색어 문제는 대체로 해외에 본사를 두고 있는 플랫폼에서 발생하고 있다. 네이버 및 다음 등 국내 사업자는 공동 가이드라인을 제정해 자동완성 검색어에 대응하고 있으나, 해외 플랫폼은 자동완성 검색어에 손을 대지 않는다. 해외 플랫폼 사업자들은 “한국 실정에 맞게 한글로 된 검색어를 일일이 심의하기란 쉽지 않은 데다, 인공지능(AI) 알고리즘이 조회수, 추천수 등을 기반으로 객관적으로 자동완성 검색어를 노출하고 있다”고 설명하고 있다.

하지만 사업자들의 설명과 달리 일부 혐오ㆍ음란 자동완성 검색어와 실제 조회수, 검색량과는 차이가 있어 의구심은 커진다. 가령 ‘여자’라는 문구의 유튜브 자동완성 검색어 중 최상단에 노출된 ‘여자 x 닦는 모습’을 제목으로 한 영상의 조회수는 21만건에 불과했다. 영상을 올린 계정의 구독자 역시 1,200명뿐이었다. 오히려 하위 자동완성 검색어의 영상 중에는 조회수가 100만건을 넘는 것도 있었다. IT업계 관계자들은 “사업자들이 알고리즘을 공개하지 않아 생기는 문제”라고 지적했다.

전문가들은 자극적인 키워드로 조회수를 높여 수익을 창출하는 플랫폼의 ‘꼼수’를 막을 가이드라인이 필요하다고 지적한다. 최진봉 성공회대 신문방송학과 교수는 “유튜브 등은 ‘영업 비밀’을 핑계로 자동완성 검색어 알고리즘 등을 비밀에 부쳐 클릭 수를 높여 수익을 창출하고 있다”며 “여론, 소비자 의식에 유튜브와 SNS가 상당한 영향력을 끼치는 만큼 세밀한 정화 기능 마련에 적극 참여해야 한다”고 말했다. 방송통신위원회 관계자는 “올해 1분기 내로 민간협의회를 구성해 구체적 해법을 도출하려 한다”고 말했다.

김영훈 기자 huni@hankookilbo.com

공감은 비로그인 상태에서도 가능합니다

web_cdn 저작권자 © 한국일보 무단전재 및 재배포 금지

사회 최신기사