현 국내 AI 면접 시스템
데이터 성편향 나타나
남성 52:여성 48
100여개 기업 등 사용 중
인권위도 AI 여성 차별 우려
아마존 AI 채용 프로그램
여성 차별 문제로 폐기

노트북으로 기업의 AI 면접에 응시하는 모습. ⓒ마이다스아이티 제공
노트북으로 기업의 AI 면접에 응시하는 모습. ⓒ마이다스아이티 제공

취업준비생 A씨는 얼마 전 인공지능(AI) 면접을 치렀다. 면접용 정장을 갖춰 입고 메이크업과 머리 손질도 기존 면접 때와 똑같이 준비했다. 카메라가 달린 노트북 앞에 앉아 마이크가 내장된 이어폰을 끼고 안면 등록을 한 후 AI가 던지는 질문에 답했다. 당황스러웠던 것은 상황극. ‘상사가 개인비용을 회사공금으로 처리했다고 자랑스럽게 말한다. 상사에게 어떻게 이야기 하겠는가’ 답변하라는 것이었다. A씨는 자신이 여성이라서 손해 보는 점은 없을지 걱정스럽다고 했다. 최적의 대답이 남성 중심 데이터를 통해 만들어졌을 것이라는 우려에서다.
AI 면접이 국내에서도 새로운 채용 트렌드로 떠오르고 있다. LG U+, SK브로드밴드 등 100여개 기업과 한국자산관리공사(캠코) 등 공공기관이 AI면접으로 인적성 검사를 대체하거나 최종 면접 전에 활용하고 있다. 현재 국내에서 널리 쓰이는 AI 면접 시스템은 마이다스아이티의 ‘인에어(inAIR)’. 지난해 3월 출시해 AI 면접 시장을 독점하고 있다. SKC&C도 ‘에이브릴’이란 이름의 AI면접 시스템을 내놨지만 아직 SK하이닉스 등 계열사 중심으로 활용중이다.
하지만 세계 최대 전자상거래업체인 아마존이 AI 채용시스템의 여성 차별 문제로 이를 폐기한 사례가 있어 국내에서도 이에 대한 우려가 나타나고 있다. 아마존이 2014년 개발한 취업 희망자 이력서 평가알고리즘은 ‘여성 체스 클럽 캡틴’이라는 이력이나 여자대학 졸업 등 ‘여성’이 들어가면 경력을 평가 절하하는 것으로 판명돼 지난해 10월 폐기됐다. 이런 결과를 빚은 것은 해당 프로그램이 기술산업에서 남성이 지배적이었던 지난 10년간의 이력서 패턴을 학습했기 때문으로 분석됐다.

지원자가 실제 응시했을 때 볼 수 있는 AI 면접 영상 ⓒ마이다스아이티 제공
지원자가 실제 응시했을 때 볼 수 있는 AI 면접 영상 ⓒ마이다스아이티 제공

이는 한국에서도 마찬가지다. 기업내 여성 인력에 대한 과거 데이터가 부족해 여성이 배제될 가능성이 크다는 것이다. 국가인권위원회는 지난 1월 발표한 ‘4차 산업 혁명시대 정보인권보호를 위한 실태조사’ 보고서에서 아마존 등 국외 기업들의 AI 채용 시스템이 여성에게 차별적이었던 사례를 소개하며 국내에서도 같은 문제가 발생할 수 있다고 우려했다. 인권위 김민섭 사무관은 “AI가 기존 데이터를 학습했기 때문에 여성 차별 문제가 발생한 것”이라며 “선제적 대응이 필요하다”고 지적했다.
실제로 마이다스아이티의 데이터도 남성에게 치우치는 현상이 나타났다. 이 회사 관계자는 “2월 말 현재 AI 면접을 위해 입력되는 데이터는 남성 대 여성이 52:48로 남성이 조금 높았다”고 밝혔다. 이러한 결과가 나온 이유 역시 현재 기업에서 남녀 분포가 다르기 때문으로 보인다. 마이다스아이티의 AI면접을 위한 데이터는 이 시스템을 사용하는 회사에서 고성과를 낸 3년 차 정도의 직원들이 먼저 AI 면접을 치러 이들의 성향 데이터를 입력해 만들어진다. 이 데이터만으로는 남성에 치우친 데이터가 나올 수 있어 추가로 성별·나이·학력 등 인구통계학적 정보를 투입해 남녀 데이터 비율을 50:50으로 맞추려 하지만, 통계에서 일부 오차가 발생하기 때문에 전체적으로 여성이 데이터 면에서 4% 정도 낮게 입력된다. 실제로 AI 면접을 도입한 JW중외제약 관계자는 “AI 면접을 인적성 검사 대체용으로 활용하고, 합격과 불합격을 가르는 기준으로 사용하지 않기 때문에 여성 차별 문제는 없는 것으로 파악된다”고 말했다.
그러나 평가의 기반이 되는 데이터의 성편향은 여전히 우려를 부른다. 세계경제포럼(WEF)은 지난해 12월 7일 “남성을 많이 채용해왔던 회사의 AI는 데이터가 부족해 여성 지원자를 입사자 범주에 포함시키지 않을 가능성이 크다. 이는 채용에서 여성에게 불리하게 작용할 것”이라고 지적했다. 미국 매사추세츠공과대학의 과학 전문지 MIT 테크놀로지 리뷰는 최근 “AI가 성별 등에 따라 사람을 차별하는 사례가 발생하고 있다”며 “인공지능 개발 분야에 여성이 많지 않아 다양성이 확보되지 못하는 것이 원인 중 하나”라고 지적했다. 

저작권자 © 여성신문 무단전재 및 재배포 금지