By WILL KNIGHT, WIRED US

많은 구직자가 고용주의 전망 외에도 인공지능 알고리즘에도 크게 감탄해야 할 것이다. 고용주가 영상으로 몇 가지 면접 질문을 하고 기계로 평가하는 방식으로 입사 지원자를 검토하기 때문이다.

1월 12일(현지 시각), 알고리즘 평가를 기반으로 입사 지원자를 면밀히 검토하는 소프트웨어 업계의 선두 기업인 하이어뷰(HireVue)가 자사의 소프트웨어 중, 논란이 되는 한 가지 기능을 제공하지 않는다고 발표했다. 바로 영상 속 인물의 표정을 분석해, 특정 집단의 지원자를 배제한다는 문제 때문이다.

하이어뷰의 소프트웨어로 평가받은 입사지원자는 웹캠 앞에 앉아 면접 질문에 답변한다. 그리고, 입사지원자의 행동과 억양, 발언 등을 인물의 특정한 특성과 자격을 평가하는 알고리즘에 제공한다.

하이어뷰는 지난해, 자사의 소프트웨어 알고리즘 감사에서 편견을 지니고 있지 않다는 결과가 나왔다고 주장했다. 그러나 비영리단체 전자새인정보센터(Electronic Privacy Information Center)는 2019년, 연방통신위원회(FTC)에 하이어뷰를 제소했다.
 
하이어뷰 CEO 케빈 파커(Kevin Parker)는 소프트웨어를 사용한 영상 속 인물 표정 분석이 평가 과정에 포함된 것을 둘러싼 대중의 분노를 이해한다고 밝혔다. 그는 “고객을 위한 가치를 추가한 것이었지, 우려할 가치가 있는 부분이 아니다”라고 주장했다.

하이어뷰의 알고리즘 감사는 외부 기관인 오닐 위험 컨설팅 & 알고리즘 감사(O’Neil Risk Consulting and Algorithmic Auditing, 이하 ‘ORCAA’)가 실시했다. ORCAA는 이번 문제와 관련된 질문에 답변하지 않았다.

AI 채용을 연구한 적이 있는 브루킹즈 연구소(Brookings Institution) 펠로우 알렉스 엥글러(Alex Engler)은 영상이나 음성, 혹은 글자 등 무엇을 기반으로 하든 AI로 타인의 역량을 판단하는 것은 신뢰성이 없다고 말한다. 그는 대중이 이를 AI를 이용한 평가의 신뢰성을 면밀히 검토할 수 없다는 점도 문제라고 지적한다.

그는 “분명히 머신러닝이 도움이 될 부분이 존재한다. 그러나 직업 경력에 따라 결과가 달라질 수도 있는 자동화된 면접은 최악이다. 현대 인공지능은 이러한 변수를 고려할 수 없다”라고 설명했다.
하이어뷰는 GE와 유니레버, 델타, 힐튼을 포함한 기업 100여 곳에서 입사 지원자 평가 인공지능 기술을 사용한다고 말한다. 소프트웨어는 입사지원자에게 녹화 중인 영상에 몇 가지 질문의 답변을 말하도록 요구한다. 입사지원자가 답변하면, 소프트웨어는 사용하는 언어와 발언, 심지어 표정을 포함한 다양한 특성을 분석한다. 그리고, ‘의존성’과 ‘정서 지능’, ‘인지 능력’과 같은 특성은 물론이고 입사지원자의 직무 적합성을 평가한다.

파커는 하이어뷰가 지난해에만 600만 개가 넘는 입사 지원 영상 검토에 도움을 주었다고 밝혔다. 그러나 하이어뷰 소프트웨어 이용 형태에는 면접자를 위해 자동화된 평가를 하는 대신 입사 지원자의 답변을 자막으로 제공하기만 하는 과정도 가끔 포함됐다. 또한, 그는 하이어뷰가 고르지 않은 인터넷 연결 상태 때문에 불이익을 받지 않고 자동으로 입사 지원자를 인간 면접관에게 호출하도록 소프트웨어를 개발했다고 말했다.

AI 전문가들은 기존 입사 지원 데이터로 알고리즘을 훈련한다면, 채용 과정에서 기존의 편견을 계속 반복할 수 있다고 경고한다. 하이어뷰의 수석 데이터 과학자인 린지 줄로가(Lindsey Zuloaga)는 하이어뷰가 훈련 데이터에서 각종 정보를 수집하고, 편견 징조를 찾으면서 성별, 인종, 연령을 기준으로 한 편견을 검토한다고 주장한다.

그러나 줄로가는 시스템이 소득이나 학력을 기준으로 편견을 지니고 있는지 혹은 말을 더듬는 것과 같은 일부 요인이 평가에 영향을 줄 수 있는지 알기 어렵다는 사실을 인정한다.

에픽(EPIC)의 수석 고문 존 데이비슨(John Davisson)은 “알고리즘이 여러 기준에 따른 편견을 지니고 있거나 평가에 영향을 줄 요인이 있을 가능성을 고려하지 못한 것이 놀랍다. 채용 소프트웨어는 하이어뷰가 내세워 홍보하는 핵심 기능이기 때문이다. 생체 데이터 수집에 대한 우려는 물론이고, 심리적 특성과 정서 지능, 사회적 태도 등도 평가한다는 사실도 입사 지원자 평가 소프트웨어를 둘러싼 우려를 낳는 근원이다”라고 말했다.

안면 분석을 이용한 정서 지능 혹은 개인의 특성 평가는 논란의 대상이다. 일부 전문가는 강조되는 과학 영역인 안면 인식 기술의 결함을 부각하는 부분이라고 경고한다.

감정 분석을 연구하는 노스이스턴대학교 교수 리사 펠드만 배럿(Lisa Feldman Barrett)은 인간의 얼굴 자체에는 감정이나 특성이 드러나지 않는다고 말한다. 그는 “상대가 단순히 미소 짓는 표정만 보고, 상대에 대해 말할 수 없다. 상대의 특성 중 말할 수 있는 부분은 치아의 개수 정도가 될 것이다. 안면 분석으로 심리적 요인을 판단한 후, 안면 데이터만을 근거로 누군가의 평가 결과를 말하는 것은 매우 잘못된 생각이다”라고 말했다.

에픽은 FTC에 보낸 항소문을 통해 하이어뷰가 공정함을 보장하지 못하며, 알고리즘을 사용하는 것이 신중한 검토를 할 수 없다며 비난했다. 또한, 안면 인식 기술을 사용하지 않는다고 주장하며 하이어뷰가 고객사에 제공하는 기술에 대해 오인하도록 만든다고 덧붙여 전했다. 데이비슨은 FTC가 아직 이에 대한 행동을 취하지 않았다고 말했다.

그러나 그는 자동화된 발언 분석에 여전히 문제가 있을 수 있다고 우려를 표하며, 기업에서 알고리즘 감사 결과를 공개하는 것이 중요하다고 주장했다. 또한, 하이어뷰의 기술은 여전히 면밀한 검토가 필요한 상황이라고 덧붙였다.

그는 “특히 데이터 수집과 편견, 불투명함 등을 둘러싼 문제가 발생할 가능성이 오디오 기반 검토 시스템에서도 발생할 것을 우려한다”라고 말했다.

일부 규제 기관이 인공지능 채용에 주목한다. 뉴욕시의회에 제출된 법안은 고용주가 인공지능으로 채용 평가를 할 때, 입사 지원자에게 이를 알리고 매년 채용 알고리즘을 평가하도록 규정하며 채용 소프트웨어 사용을 규제할 것을 제안한다.

일리노이즈주법에는 입사지원자의 동의가 있어야 영상 분석을 할 수 있다는 규정이 명시됐다. 메릴랜드주는 안면 분석 사용을 금지했다. 2018년, 언론에 보도된 바에 따르면, 아마존은 편견이 반영된 결과가 나올 것을 우려해 입사 지원자의 이력서 평가 자동화 기술 사용을 중단했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Job Screening Service Halts Facial Analysis of Applicants