By Tom Simonite, WIRED US

1964년, 시민권법에서 채용 담당자가 성별이나 인종에 따라 차별하는 것을 금지했다. 이제 소프트웨어가 종종 채용 결정에 도움을 주며 관리자가 이력서를 검토하거나 영상 면접을 해석하는 데 도움을 준다.

일부 테크 전문가와 시민 단체는 알고리즘이 인간의 편견을 모방하거나 더 심각하게 과장할 수 있다는 증거를 인용하며, 우려를 표했다. 2018년, 로이터는 아마존이 과거 근무 경력에 따라 이력서를 분류하는 툴을 폐지한 사실을 보도했다. 아마존의 소프트웨어가 여성을 차별했기 때문이다.

뉴욕시의회에 제안된 법안은 채용 차별 법안을 알고리즘의 시대에 맞추어 개정할 방안을 모색한다. 해당 법안은 여러 기업이 소프트웨어로 채용 평가를 했다면, 이를 입사 지원자에게 공개하도록 한다. 채용 툴을 판매하는 여러 기업이 연간 감사를 통해 인간을 분류하는 기술이 차별하지 않는다는 사실을 확인해야 한다.

이번 법안은 모든 단계의 정부가 인생을 바꿀 결정을 하는 형태의 알고리즘과 소프트웨어에 법적 제한을 두도록 한다. 민주당이 백악관과 상원, 하원을 모두 장악하면 새로운 단계로 변화할 것이다.

미국 도시 10여 곳 이상이 정부의 안면 인식 기술 사용을 금지했으며, 뉴욕주는 최근 들어 공교육 현장에서 기술 사용을 2년간 일시적으로 중단했다. 일부 연방 국회의원은 채용 과정을 포함, 기업에서 안면 알고리즘과 자동화 결정 툴을 사용하는 것을 규제하는 법안을 제안했다. 2020년 12월, 상원 의원 10명이 평등고용위원회(Equal Employment Opportunity Commission, 이하 ‘EEOC’)에 AI 채용 툴의 편견 규제를 요청하며, 기술이 채용 부분에서 인종적 불균형을 악화해 소외 집단의 코로나19 경제적 회복을 해칠 수 있다는 우려를 이야기했다. 또, 지난해에는 일리노이즈주에서 입사 지원자 평가에 영상 분석을 이용하기 전, 합의를 요청하는 법률의 효력이 발생했다. 채용 과정에서의 안면 분석 기술 이용을 제한하는 메릴랜드주의 법률과 비슷하다.
 

국회의원은 새로운 알고리즘, AI 툴 관련 규정 시행보다는 규제를 더 많이 논의한다. 2019년, 샌프란시스코는 안면 인식 기술을 금지하고 불과 몇 개월 후, 의도치 않게 샌프란시스코에서 아이폰을 불법으로 만든다는 이유로 조례를 개정했다.

뉴욕시의회 의원 로리 컴보(Laurie Cumbo)가 발의한 뉴욕시 법안은 여러 기업이 입사 지원자를 검토하거나 기술 사용 공개 보상과 같은 조건을 결정하는 데 자동화된 채용 결정 툴을 이용할 것을 요구한다. 이러한 소프트웨어 공급사는 매년 자사 제품의 편견 감사를 시행하고, 고객에게 결과를 알려야 한다.
해당 법안 발의는 일부 기이한 동맹의 저항과 운영 방식을 둘러싼 해결되지 않은 질문을 직면한다. 신뢰도 및 이력 확인 기업 업계 대표 기관인 고객 데이터 업계 협회(Consumer Data Industry Association, 이하 ‘CDIA’)의 공공 정책 부문 수석 부사장 에릭 엘만(Eric Ellman)은 뉴욕시 법안이 고용주 대신 입사 지원자 이력 확인을 하는 기업의 새로운 부담을 대체하며, 채용 과정의 공정성이 줄어들 것이라고 말한다. 그는 이처럼 입사 지원자 확인이 관리자가 특정 인구 집단의 입사 지원자 채용을 꺼리던 성향을 극복하는 데 도움을 줄 수 있다고 주장한다.

일부 시민 단체와 AI 전문가도 이유는 다르지만, 뉴욕시 법안을 반대한다. 감시 기술 감독 프로젝트(Surveillance Technology Oversight Project, 이하 ‘STOP’) 창립자 앨버트 폭스 칸(Albert Fox Cahn)은 흑인 인권단체인 전미 흑인 지위 향상 협회(National Association for the Advancement of Colored People, 이하 ‘NAACP’)와 뉴욕대학교 AI 나우 연구소 등 12개 단체에서 서한을 조직했다. 칸은 채용 기술 규제를 원하지만, 뉴욕시 법안 발의가 무한대로 차별 행위를 하는 소프트웨어가 공정한 감사를 통과한 것을 확인할 수 있다고 말한다.

칸은 더 광범위한 문제를 다루는 기술을 어떤 법률로든 정의하고, 공급사가 자사 기술 감사 방법을 결정하도록 두지 않는다. 또한, 개인이 법률 시행 목적으로 소송을 제기할 수 있다. 칸은 “그동안 우리가 우려한 차별 문제에 있어, 의미 있는 법률 집행이 이루어진 것을 본 적이 없다”라고 말했다.

다른 이들도 우려를 표하면서도 뉴욕시 법안 발의를 지지한다. 뉴욕대학교 책임 AI 센터 총괄 줄리아 스토야노비치(Julia Stoyanovich)는 “뉴욕시 법안이 추진되기를 바란다. 그리고, 추후 개정되기를 바란다”라고 말했다.

칸과 마찬가지로 스토야노비치 총괄도 뉴욕시 법안의 감사 요구사항이 제대로 정의되지 않은 점을 우려한다. 그는 퀸즈 퍼블릭 라이브러리(Queens Public Library)에서 채용 기술 관련 공공 회의를 주최했을 때, 자동화 툴이 널리 사용된다는 사실에 많은 시민이 놀랐다는 부분적인 이유와 함께 뉴욕시 법안이 통과될 가치가 있다고 말한다. 그는 “뉴욕시 법안을 찬성하는 이유는 기계와 인간에게 평가를 받은 사실을 대중에게 공개할 것을 강요하기 때문이다. 이는 대중이 채용 기술 사용 관련 대화에 참여하도록 할 것이다”라고 밝혔다.

새로운 법률로 규제가 될 채용 툴을 개발한 뉴욕 스타트업 두 곳은 뉴욕시의 법안을 환영한다는 의사를 밝혔다. 이력서 및 다른 데이터 소스를 기반으로 유망한 입사 지원자를 강조하려 하는 스타트업 하이어드스코어(HiredScore) 창업자와 머신러닝의 도움과 함께 인지 심리학을 바탕으로 온라인 평가를 제공하는 업체 ‘파이메트릭스(Pymetrics)’의 창업자 모두 지난 11월에 열린 시의회 기술위원회의 가상 청문회에서 뉴욕시 법안을 지지했다.

파이메트릭스의 공동 창립자 겸 CEO인 프리다 폴리(Frida Polli)는 파이메트릭스의 기술이 이력서 등 기존 방식보다 더 공정한 신호로 입사 지원자 평가 자료를 제공한다고 홍보한다. 또, 그는 이력서와 같은 기존의 검토 방식이 입사 지원자를 특혜 배경이 적은 지원자에게 불이익을 줄 수 있다는 점도 언급했다. 최근, 파이메트릭스는 노스이스턴대학교 연구진을 통해 자사 기술을 공정하게 감사했다. 또, 법안의 감사 요구사항이 더 까다로워질 수 있지만, 실질적으로 시행할 방법이 불확실하다는 점을 인정했다. 또, 기록을 얻는 것이 더 낫다는 점도 이야기했다. 폴리는 “뉴욕시 법안은 어느 정도 적절하지만 강력한 편이다”라고 말했다.

뉴욕시의회 기술위원회 회장 로버트 홀든(Robert Holden)은 자금이 부족한 시 정부의 채용 소프트웨어 검증 정의 능력에 우려를 표했다. 또한, 시의회 사업을 위해 평소보다 더 많은 업계의 참여를 독려한 뉴욕시에 발의된 법률에 해당하는 소프트웨어를 둔 기업 대표와 청문회를 했다. 일각에서는 홀든 회장이 업계가 자기 규제 신뢰를 얻도록 보장했다. 홀든 회장은 지금까지 투명성이 필요한 것을 알게 됐다고 말한다. 그는 “현재 거의 서부의 황무지 마냥 아무 것도 없는 상태이다. 어느 정도 투명성을 제공해야 한다”라고 말했다.

또, 홀든 회장은 의회에서 최종 투표가 시작되기 전 뉴욕시 법안이 어느 정도 협상과 재작성이 필요할 것이며, 시장 집무실 관계자의 반대에 직면할 수도 있다고 말한다. 만약 법안이 통과된다면, 2022년 1월부터 시행될 것이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
New York City Proposes Regulating Algorithms Used in Hiring