혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 1월 11일 출시 24일 만에 서비스를 중단했다. 연합뉴스
“인공지능(AI) 연구실은 공과대에 있는데 공과대 상당수는 남성이죠. 데이터를 모으기 어려우니 주변에서 모으는데, 그러면 남성 데이터가 80%씩이나 들어가요.”
“예전에 기업에서 AI 서비스 개발일을 했거든요. 그때 귀엽고 여성스러운 목소리로만 개발하더라고요. 여성 개발자라면 내지 않을 기획안들이 나오기도 하고요.”
AI 연구 현장에서 뛰고 있는 여성 연구원들의 이런 목소리는 20대 여대생으로 설정된 AI 챗봇 ‘이루다’가 왜 출시 24일 만에 서비스를 중단할 수밖에 없는지, 단적으로 보여준다.
13일 대전 카이스트에서 열린 'AI 분야 양성평등 정책 확산 토론회'는 바로 이 '이루다 사태'를 다뤘다.
최문정 카이스트 과학기술정책대학원 교수는 '이루다 사태'의 가장 큰 원인으로 AI 연구자 중 여성 인력이 너무 적다는 점을 꼽았다. 최 교수는 “국내 AI 대학원생 중 여성 비율이 20% 정도인데, 사다리가 위로 올라갈수록 여성 비율은 절반씩 떨어지고 있다”고 지적했다.
최 교수가 국가과학기술지식정보서비스(NTIS)에 등록된 AI 과제 1,280개에 참여한 연구원 중 여성 비율을 따져보니 20.5%였다. 하지만 '연구책임자'급으로 올라가면 여성 비율은 10.4%로 줄어든다. 이를 '예산 10억 원 이상의 대형 과제의 연구책임자'로 한정하면 여성 비율이 5.1%로 또 반토막났다. 2019년 AI 산업 사업체 271곳 중 대표가 여성인 비율도 5.5%에 불과했다.
최 교수는 AI 분야 대학원생과 교수, AI 산업 전문인력 19명을 대상으로 한 표적집단 인터뷰도 진행했다. 그 결과 △AI 연구 분야는 상대적으로 자유롭고 수평적이지만 △대학원으로 진학할수록 여성 비율이 급격히 줄고 △이에 따라 수집되는 데이터의 성별 편향이 있다는 대답이 많았다.
AI 분야 연구자 158명을 대상으로 한 설문조사 중 일부. 카이스트 제공
데이터의 편향성 문제는 AI 연구자들도 인식하고 있는 것으로 나타났다. AI 분야 대학원생과 교수 등 158명을 대상으로 한 설문조사에서도 'AI 기술 개발에 있어 데이터의 편향성 문제가 중요하다'는 응답이 90.5%에 이르렀고, '공정한 알고리즘 개발이 중요하다'는 얘기에도 88%의 응답자가 공감을 나타냈다. 또 응답자의 절반에 가까운 44% 정도는 "AI 개발과정에서 데이터의 편향성 문제를 해결하려고 기술적으로 노력해본 적이 있다"고 응답하기도 했다.
최 교수는 AI 연구자들도 데이터 편향성 문제를 인식하고 있기에 이를 국가적 차원에서 지원해줄 방안을 모색해야 한다고 제안했다. 또 "몇몇 연구실의 경우 아예 여학생을 뽑지 않는 경우도 있었다"며 "AI 분야 성별 다양성을 위해서라도 연구실에 여성이 아예 없거나 비율이 심각하게 낮은 곳에 대해서는 적극적인 개선 조치가 필요하다"고 말했다.
또 AI 윤리 교육의 실효성도 높이자고 제안했다. 최 교수는 "단순 동영상 강의 대신 윤리준칙과 가이드라인을 만든 뒤 6개월마다 한 번씩 동영상 수업을 듣고 퀴즈를 풀어야만 업무를 할 수 있도록 한 대기업 사례를 참고해야 한다"고 말했다.
기사 URL이 복사되었습니다.
댓글0