[AI시대의 윤리학: ①권력자 AI]
'AI채용 선도기업' 제네시스랩 이영복 대표 인터뷰
편집자주
인공지능(AI) 발전 속도가 무섭도록 빠릅니다. 그러나 이렇게 눈부시게 발전하는 AI를 ‘어떻게 쓸지’를 두고 아직 사회적 합의와 공감대가 형성되지 않았습니다. 인간의 운명과 목숨이 걸린 일에 AI를 활용할 수 있을까요? AI 전성시대에 인간이 마주한 딜레마, 그 해결의 실마리를 함께 고민하기 위해 AI 면접 업계를 주도하는 이영복 제네시스랩 대표와, AI 기술 통제를 강조하는 장여경 정보인권연구소 상임이사의 얘기를 각각 들어봅니다.
이영복 제네시스랩 대표
2017년 만들어진 제네시스랩은 인공지능(AI) 채용 업계를 선도하는 기업 중 한 곳이다. LG유플러스·현대자동차 등 100개 이상의 대기업과 공공기관을 고객사로 두고 있을뿐 아니라, 육군 간부 채용에도 관여한다. 현재까지 15만여 명 이상의 입사지원자가 제네시스랩의 AI면접 솔루션 (뷰인터HR)에 응시했을 정도로, AI 면접 분야에서는 상당한 경험을 누적했다.
기존 채용의 문제점 중 하나는 사람의 에러(오류)였어요. 스펙으로부터 오는 후광효과나 편견, 그리고 고향·학연·지연으로부터 오는 불공정 이슈들이 있었죠."
이영복 제네시스랩 대표는 3일 한국일보에서 진행된 인터뷰 내내 면접의 '공정성'을 강조했다. 애초 AI는 공정성에 어필하며 채용시장에 진입했다. 취업준비생들은 '노이로제'(신경증)에 걸릴 만큼 기존 채용 절차가 공정한지에 의문을 품고 있었다. 어느 면접관과 어느 시간대에 면접을 보느냐에 따라 유불리가 갈리는 문제도 있었다. 공복 상태의 판사가 더 엄한 형량을 선고한다는 '배고픈 판사 효과'(Hungry Judge Effect)란 연구 결과가 있을 정도로, 인간의 판단은 그때 그때 기분이나 당일 컨디션에 좌우될 개연성이 높다.
AI 면접이 파고든 지점은 바로 이 객관성이었다. 실제 제네시스랩의 주요 고객사 중 한 곳인 육군은 스펙 위주의 평가나 면접관 주관 개입을 피하기 위해 AI 면접을 도입했다고 한다. 이 대표는 "AI 면접을 하면, 스펙 등 배경지식이 없는 상황에서 완벽한 블라인드 테스트가 가능하다"며 "사람 면접관이 했을 때보다 공정성과 객관성을 담보할 수 있다"고 강조했다.
다음은 이 대표와 주고받은 일문일답.
-면접 AI의 원리는 무엇인가요?
"AI로 하여금 인사 분야 베테랑들의 통찰력를 배우게 하는 방식이죠. 주요 대기업에서 20~30년 근무하며 면접 경험이 풍부한 전문가들을 섭외, 데이터 라벨링(정보를 AI가 학습할 수 있도록 가공하는 것)을 진행했습니다. 전문가가 면접 영상을 보며 항목별로 평가하도록 한 뒤, 100점이 나온 데이터, 99점이 나온 데이터 등을 AI가 직접 분류할 수 있도록 딥러닝(심화기계학습)시켰죠.
세부 평가 항목은 경영학에서 전통적으로 쓰이는 행동사건면접(BEI) 기법를 적용했습니다. ①회사에서 이미 좋은 평가를 받는 고성과자를 상대로 면접을 진행해 그들의 행동지표를 추출한 뒤 ②그 행동지표 여부를 추론할 수 있는 면접 질문을 구성하고 ③이 질문으로 지원자를 평가하는 방식입니다. 데이터 라벨링은 산업 채용 분야 심리학 교수 100명이 진행했습니다. 이와 별도로 안면인식기술을 활용한 비언어적 요소도 평가하는데 △신뢰감 있게 말하기 △자신감 있게 말하기 △침착하게 말하기 등 10개 항목입니다."
-AI가 사람을 평가하면 성별, 계층을 차별하는 편향성이 나타날 수 있다는 지적도 있어요.
"편향성을 없애려고 학습 과정에 여성 임원 등을 고르게 참여시키고 있습니다. 또 공정성 분야에서 유명한 이우진 동국대 인공지능학과 교수와 공정성 확인 작업을 하고 있죠. 특히 저희는 과학기술정보통신부와 정보통신산업협회(TTA)가 진행한 사업을 통해 업계 최초로 '신뢰할 수 있는 인공지능' 검증을 받았습니다.
그동안 편향성 문제가 발생했던 AI는 대개 품질 관리에서 실패한 면이 있었어요. 제네시스랩은 엄격한 품질 관리를 위해 데이터 라벨링 과정에서 △시차를 두고 반복된 동일 영상에 대해 다른 평가를 내린 면접관 데이터 △다른 면접관들과 지나치게 다른 평가를 내린 면접관 데이터를 제거합니다. 개발 뒤에도 무작위로 선정한 100여 개의 영상 면접에 대해 △고객사 면접관의 평가 결과와 △AI의 평가 결과를 비교하는 '유의성 검증'을 실시하죠. 또 AI는 평가 과정에서 역량의 불확실성이 발견되면 '모르겠다'고 솔직히 알려주게 설계됐어요. 이 경우, 결과를 고객사 인사팀에 알려 사람이 다시 판단하도록 합니다."
-AI 윤리는 투명성과 설명가능성이 중요한데요, 이 원칙을 어떤 방식으로 지키고 있나요"
"자체적으로 '모든 과정이 공개돼야 하고, 제3자가 추적할 수 있어야 하며, 피드백을 줄 수 있어야 된다'는 윤리 기준을 세우고 회사를 운영하고 있습니다. 소스코드나 알고리즘 등 영업비밀을 제외한 거의 모든 과정이 고객사들에게 공개됩니다. 원한다면 AI 설계나 평가에도 참여할 수 있죠.
다만 고객사를 제외한 외부에까지 자료가 공개되는 것은 아닙니다. 외부 공개를 꺼리는 고객사들이 많아 독자적으로 결정할 수 없는 부분이기도 하죠. 그래도 최근에는 면접 지원자들을 위해 더 많은 정보를 블로그 등에 공개하는 방안을 고객사 서너 곳과 논의하고 있습니다."
-면접 AI는 사람의 얼굴이라는 민감정보를 수집합니다. 이런 개인정보는 어떤 식으로 수집·관리되나요?
"취업준비생들이 AI 면접을 미리 체험해 볼 수 있는 약식 형태의 AI 면접 프로그램이 있습니다. 이용자들에게 무료 쿠폰을 주는 대신 연구 목적 이용 동의를 받아 AI 개발에 사용합니다. 실제 면접에서 수집된 정보도 AI 재학습에 사용됩니다. 물론 모두 개인정보제공 동의를 받고 있죠. 면접 절차를 진행하기 위해선 동의를 해야만 하는 구조입니다."
-하지만 면접을 하려면 싫어도 동의를 할 수밖에 없는 구조잖아요? 사실상 '강요된 동의'라는 지적도 가능할 텐데요.
"현행법상 필요한 동의는 모두 받았다는 점을 강조하고 싶습니다. 동의 절차를 지켰는지, 수집된 정보를 위법하게 다루지 않았는지가 중요하죠. 개인정보라는 이유로 무조건 데이터를 못 쓰게 해버리면 AI는 존재할 수 없어요. 기술 발전을 못 하면 저희같은 기업은 도태할 수밖에 없습니다.
개인정보보호에 대한 법이 강화되고 있는 만큼 저희도 더 점검하고 준비해야 합니다. 덧붙이면 제네시스랩은 AI만 볼 수 있고 인간은 볼 수 없도록 얼굴을 '모자이크 처리'해 관리하는 방법을 연구하고 있습니다."
-일부 공공기관이 AI 면접으로 최종 합격 여부까지 결정해 논란이 된 적 있었습니다. 미국에서는 AI에 의해 해고당한 교사 사례도 있습니다. AI 권한이 커진다는 비판은 어떻게 보시나요?
"저희 AI는 면접 결과를 고객사에게 전달할 뿐 합격·불합격을 정하진 않습니다. 원하는 인재상이나 면접 질문도 고객사가 최종 선택합니다. 어느 정도의 권한을 AI에 줄지는 결국 고객사가 판단할 몫이죠. 개인적으로는 AI면접을 서류전형에 함께 배치하면 스펙만으로 '서류 광탈'하게 되는 문제가 없어지니 더 공정한 채용이 가능하다고 생각합니다.
물론 기술적으로 AI는 고성과자, 저성과자, 퇴사자에 대한 예측을 유의미하게 할 수 있어요. 3년 전부터 제네시스랩 AI 면접을 진행한 모 대기업 사례를 보면, 실제 인사평가의 결과가 AI 면접 때의 예측과 들어맞는 결과를 확인하기도 했죠."
-AI 회사 입장에서 최근 AI 관련 규제 움직임은 어떻게 보시나요?
"규제기관이 AI 개발의 사정을 얼마나 이해할지, 갑자기 줄기가 잘라져 더 이상 성장하지 못하게 되는 것은 아닐지 불안한 것도 사실입니다. 하지만 기술적으로 부실한 기업이 그대로 시장에 진입하면서 사회적 논란을 일으키고 AI에 대한 인식을 왜곡시키는 경우를 많이 봤어요. 차라리 모두 검증을 받는 게 맞다고 생각합니다. 특히 채용은 사람의 운명이 직결돼 있는 분야니까요. 콘텐츠를 만드는 AI나 챗봇과는 다르죠. 단순하게 '믿어 달라'고 할 게 아니라 정부기관과 맞춰 가면서 검증해야 합니다.
다만 정부기관이나 공공기관의 검증을 통과했을 땐 전폭적인 지원을 해줬으면 좋겠습니다. AI 역시 국가적으로 중요한 산업이에요. 지원 없이 규제에만 집중한다면, 일본처럼 AI 기업이 성장하지 못하는 환경이 될 겁니다."
▶AI 면접관 앞에 선 인간... 알고리즘은 운명을 가르는 ‘권력자’
https://www.hankookilbo.com/News/Read/A2023041117060004881
▶'김치~' 미소론 어림 없어... AI 면접관은 조커의 웃음을 원한다
https://www.hankookilbo.com/News/Read/A2023041410060000321
▶"아직 설익은 AI, 약자인 취준생을 베타테스트 하고 있다"
https://www.hankookilbo.com/News/Read/A2023041214200000795
▶피고인 척 보면 미래 범죄 예측... AI가 판사되면 세상은 나아질까?
https://www.hankookilbo.com/News/Read/A2023041305390003045
글 싣는 순서
①운명을 좌우하는 ‘권력자 AI’
②인생을 지배하는 ‘절대자 AI’
③인간과 공존하는 ‘동반자 AI’
기사 URL이 복사되었습니다.
댓글0