로빈 포코니(Robin Pocornie)는 법원에 램프를 챙겨갔다. 특별한 램프가 아닌 이케아에서 판매하는 기본형 플로어 램프이다. 그러나 석사 과정을 밟고 있는 학생인 포코니에게 램프는 대학 시험 감독 소프트웨어가 피부 색상을 기준으로 자신을 차별했다고 믿게 된 사실을 설명하는 데 도움이 될 유용한 가구이다.
2022년 10월, 포코니는 램프를 들고 차별 소송을 집중적으로 다루는 법원인 네덜란드 인권 연구소(Netherlands Institute of Human Rights)에 섰다. 포코니가 재판일 기준 2년 전, 코로나 시기에 처음 원격 제어 소프트웨어를 직면했을 당시 암스테르담 자유대학교는 온라인 시험을 의무로 채택했다. 학교 측은 부정행위를 방지하고자 테크 기업 프록토리오(Proctorio)의 소프트웨어를 구매하여 시험 응시자의 신원을 검증할 안면 인식 기술을 사용했다. 하지만 흑인인 포코니가 얼굴을 스캔하려 했을 때, 프록토리오의 시험 감독 소프트웨어는 계속 포코니를 인식하지 못하고, “확인된 얼굴 없음”이라는 알림 메시지만 띄웠다. 바로 포코니가 이케아 램프를 찾게 된 이유이다.
2020년 9월, 처음 시험 감독 소프트웨어를 이용한 온라인 시험을 치렀을 당시 다른 학생 9명도 포코니와 같은 일을 겪었다. 포코니가 프록토리오의 소프트웨어로 얼굴을 스캔할 수 있는 유일한 방법은 램프를 불편할 정도로 얼굴에 가까이 대고 비추는 것이다. 포코니는 대낮에 램프의 흰 조명으로 자신의 모습을 비춰야 했다. 포코니는 자신이 만화작가라고 상상하며, 밝은 조명을 비춘 책상에 바짝 붙어 앉았다. 얼굴에 조명을 강하게 비춘 채로 집중하려 하는 일은 불편한 일이었으나 온라인 시험을 응시하는 내내 조명을 계속 켜두었다. 포코니는 “시험 도중 램프를 끄면, 부정행위로 간주돼 시험에 응시하지 못할 수도 있다는 점을 걱정했다”라고 말했다.
포코니는 구글을 통해 비슷한 경험을 겪은 다른 흑인 학생의 사례를 접했다. 모두 램프나 플래시 조명을 이용하거나 창문 가까이 앉아 시험 감독 소프트웨어가 얼굴을 제대로 인식하도록 했다. 전 세계 유색인종 학생은 복잡한 조명 설정 조건 아래에서 온라인 시험에 응시할 수밖에 없었다.
포코니의 시험은 끝났다. 하지만 포코니는 대학의 시험 감독 소프트웨어 사용 행위에 맞서기로 결심했다. 포코니는 학교 측의 시험 감독 소프트웨어가 차별적이라고 주장하며, 네덜란드 인권 법원에 학교를 제소했다. 온라인 시험 감독 소프트웨어는 코로나19 봉쇄 기간에 이미 오래 존재하여 주류가 되었다. 포코니는 안면 감지 소프트웨어를 사용하는 모든 대학이 시험 감독 소프트웨어 사용이 피부색이 어두운 학생을 차별하는 방식이라고 판단해야 한다고 주장한다.
포코니는 “교육이 모두의 요구에 따라 제공되지 않는다면, 효과가 없는 것이다”라고 말했다.
암스테르담 자유대학교와 포코니 모두 와이어드의 문의에 답변을 거부했다.
미국과 네덜란드에서 부정행위 방지 소프트웨어 사용에 맞선 법적 대응이 있었으나 대부분 인종이 아닌 프라이버시를 중점적으로 다루었다. 2022년 8월, 오하이오주 클리브랜드에서는 원격 시험 도중 프록토리오의 소프트웨어가 학생의 방을 스캔하는 행위는 위헌이라는 판결이 선고되었다. 2020년, 프록토리오의 소프트웨어와 관련하여 네덜란드에서 진행된 또 다른 소송은 프록토리오의 시험 감독 소프트웨어가 유럽연합의 프라이버시 법률을 위반했다고 주장했으나 법원은 이를 인정하지 않았다. 포코니의 사건이 다른 이유는 소프트웨어에 이른바 차별적 요소가 내재된 점을 지적하기 때문이다. 자발적 운영 단체인 인종차별 및 기술 센터(Racism and Technology Center) 공동 창립자이자 포코니의 사건 제소를 도운 나오미 애플맨(Naomi Appelman)은 “시험 감독 시스템이 백인 학생보다 흑인 학생에게 제 기능을 시행하지 못하는 오류가 있다면, 차별이라고 느낄 수 있다"라고 말했다.
[사진=Freepik]
포코니의 사건은 지금도 재판 진행 중이다. 2022년 12월, 네덜란드 인권 연구소는 암스테르담 자유대학교가 사용한 시험 감독 소프트웨어가 차별이라는 점을 강력하게 의심하는 내부 판결을 발표하고, 대학 측에 10주간의 항소를 인정했다. 아직 대학 측은 공식 항소 의사를 밝히지 않았으나 포코니의 데이터는 안면 감지 기술이 아닌 안정적이지 않은 인터넷 연결 상태 때문에 문제가 있음을 시사한다고 주장했다. 포코니의 데이터는 포코니가 시험 응시 웹페이지 접속 후 소프트웨어를 여러 차례 재시작한 사실이 기록되었다. 판결은 2023년 말 발표될 것으로 보인다.
프록토리오의 소프트웨어와 같은 부정행위 방지 소프트웨어 개발사는 코로나 시대에 성장세를 기록했다. 시험 장소가 강의실이 아닌 학생의 집으로 바뀌었기 때문이다. 디지털 모니터링은 시험 감독관의 눈에서 벗어난 학생이 부정행위를 할 기회를 없애고, 학교와 대학 모두 정상적으로 학사일정과 사업을 유지하도록 도울 의도로 등장했다. 그러나 코로나19가 끝난 이후 학생이 직접 강의실에 출석하여 강의를 듣지만, 시험 감독 소프트웨어는 계속 사용된다. 학생 감시 문제를 집중 조사하는 미국 비영리단체 프런티어전자재단의 제이슨 켈리(Jason Kelly)는 2022년 12월, 학생 프라이버시 사건을 검토하면서 “부정행위 감시 소프트웨어가 사라질 것이라고 생각하지 않는다”라고 말했다.
미국에서는 아마야 로스(Amaya Ross)라는 학생이 오하이오주에 있는 자신의 학교가 지금도 부정행위 방지 소프트웨어를 사용한다고 밝혔다. 그러나 매번 로그인할 때마다 코로나19 시기의 경험이 항상 반복될 것을 우려한다. 흑인인 로스는 2021년, 부정행위 방지 소프트웨어를 처음 접했을 당시 시험에 응시할 수 없었다고 밝혔다. 2021년 당시 20살이었던 로스는 “부정행위 방지 소프트웨어가 ‘얼굴을 인식할 수 없다’라는 경고 메시지를 계속 띄웠다”라고 밝혔다. 로스는 3~4차례 얼굴을 인식할 수 없다는 메시지를 본 뒤 주변에 있는 램프와 창문 블라인드를 이용하여 자신의 얼굴이 더 밝게 보이도록 했다. 심지어 천장 조명 바로 아래에 서서 부정행위 방지 소프트웨어의 안면 인식을 통과하려 했다.
결국, 로스는 책상 주변 선반의 LED 조명의 균형을 맞추고 조명이 얼굴에 직접 향하도록 하여 안면 인식이 가능하다는 사실을 발견했으며, 이후 과학 시험에 응시할 수 있었다. 조명이 시야를 방해해도 조명을 이용한 채로 시험에 응시할 수밖에 없었다. 로스는 자신의 경험을 야간 운전 도중 반대편에서 헤드라이트 조명 전체를 켠 차량이 가까이 다가오는 상황에 비유했다. 이어, “시험이 끝날 때까지 조명을 켤 수밖에 없다”라고 말했다.
로스는 자신의 학교가 사용하는 부정행위 방지 소프트웨어 개발사 공개를 거부했다. (프록토리오는 자사 소프트웨어 비판론자 최소 한 명을 제소했다.) 그러나 로스의 어머니인 재니스 와이엇 로스(Janice Wyatt-Ross)가 딸이 경험한 부정행위 방지 소프트웨어의 안면 인식 문제를 트위터에 게재했다. 이후 로스가 재학 중인 학교의 부정행위 방지 소프트웨어 개발사 관계자가 로스에게 연락하여 흰 벽 앞에서 시험에 응시하지 말라는 조언을 했다. 이제 로스는 알록달록한 색상의 벽걸이 장식 앞에서 시험에 응시하며, 지금까지는 안면 인식 통과 효과가 있는 듯하다. 로스가 흑인이나 피부색이 어두운 다른 친구 몇 명에게 부정행위 방지 소프트웨어의 안면 인식 오류를 이야기하자 대부분 비슷한 일을 겪었다고 답변했다. 로스는 “그러나 백인 친구에게 부정행위 방지 소프트웨어 이야기를 꺼냈을 때, ‘어두운 공간에서 시험에 응시할 수 있다’라며 소프트웨어 사용을 반기는 반응이 돌아왔다”라고 말했다.
모질라 재단 연구 펠로 데보라 라지(Deborah Raji)에 따르면, 일반적으로 안면 인식 및 감지 기술은 해당 기술 개발사가 다양한 데이터세트로 훈련받지 않은 상황에서 피부색이 어두운 이들을 인식하지 못한다. 라지는 2019년, 안면 인식 소프트웨어의 상용화 목적 배포 감사 보고서를 공동 발행했다. 해당 감사 보고서는 백인 남성보다 피부색이 어두운 여성의 얼굴 인식 정확도가 30% 더 낮다는 사실을 발견했다. 라지는 “2019년 이전 안면 인식 분야에서 주류로 사용한 상당수 데이터 세트의 90% 이상은 피부가 밝은 인물의 사진을 포함했다. 또, 70%는 남성의 사진으로 구성되었다”라며, 이후 안면 인식 기술 훈련 데이터 세트의 다양성이 개선되었으나 여전히 인종에 따른 안면 인식 정확도 차이라는 문제는 해결되지 않았다고 덧붙여 전했다.
라지는 “다양한 인구 집단 전체에 걸쳐 받아들일 만한 수준의 안면 인식 정확도 확보가 가능하다면, 시험 감독과 같이 위험성이 높은 상황에 안면 인식 기술을 배치하는 일이 말이 되지 않는다”라고 지적했다. 특히, 학생이 안면 인식 기술 사용 선택을 제외하거나 항의할 방법이 없는 상황에서는 안면 인식 기술 사용이 적절하지 않다.
포코니는 1년 넘게 프록토리오 사용과 관련된 우려 사항을 진지하게 받아들일 학교 관계자를 찾은 뒤 이번 사건이 암스테르담 자유대학교가 학생의 차별성 소프트웨어와 관련된 항의 과정을 마련하는 계기가 되기를 바란다.
포코니는 자신이 제소한 사건은 다른 학생이 같은 문제를 겪거나 이케아 램프 조명을 이용해야만 시험에 응시하는 불편함이 반복되지 않도록 할 계기가 되기를 바란다. 포코니는 프록토리오의 소프트웨어가 성적에 영향을 미쳤다고 생각하지만, 재시험을 원하지는 않는다. 하루종일 두 학교의 석사 과정 강좌를 수강하고 있어, 여러 강좌에서 받은 성적을 비교할 수 있었기 때문이다. (포코니가 수강한 강의 중 하나만 코로나 시대에 부정행위 방지 소프트웨어를 이용했으며, 나머지 강의는 과제물로 시험을 대체했다.) 포코니는 온라인 시험 감독의 스트레스는 암스테르담 자유대학교에서 받은 성적이 마스트리히트대학교에서 받은 성적보다 더 낮다는 의미라고 말한다. 포코니는 프라이버시를 위해 정확한 성적 차이 공유를 거부했다.
포코니는 “부정행위 방지 소프트웨어가 시험 평가에 영향을 미친다고 생각한다. 하지만 그 이면에는 분명히 불편함도 분명히 존재하며, 중요하게 고려해야 한다고 생각한다”라고 말했다.
** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Freepik]](/news/photo/202304/4695_6162_5122.jpg)
뉴스레터 신청