By MATT BURGESS, WIRED UK

인체는 데이터 금광과 같은 존재이다. 사고방식부터 느끼는 방법까지 승승장구하는 생체 측정 업계에 진출한 여러 기업이 일반 대중의 모든 활동을 추적한다. 그러나 대다수 사례에서 사용자는 추적 사실을 알지 못한다.

그러나 생체 측정 산업은 유럽의 주요 데이터 보호 전문가와 충돌한 상태이다. 유럽연합의 독립 데이터 기관 역할을 하는 유럽 데이터 보호 감독청(European Data Protection Supervisor)과 유럽 여러 국가가 같은 원칙으로 개인정보보호 규정(GDPR)을 도입하도록 도운 유럽 데이터 보호 위원회(European Data Protection Board) 모두 인공지능(AI)이 인간을 인식하지 못하도록 전면적인 금지를 시행할 것을 촉구했다.

2021년 6월 말, 유럽 데이터 보호 감독청의 안드레이 옐리니크(Andrea Jelinek) 청장과 유럽 데이터 보호 위원회의 보치에치 비보로스키(Wojciech Wiewiórowski) 회장이 작성한 합동 연설문에는 “대중적으로 접근할 수 있는 공간에 원격 생체 정보 인식 기능을 배치하는 것은 공공장소에서의 익명성 보장이 끝났다는 사실을 의미한다”라고 작성했다. AI는 안면 인식과 보행 인식, 지문, DNA, 음성, 키보드 입력 깊이와 시간 등 각종 생체 정보를 공공장소에서 사용해서는 안 된다고 주장한다. 개인의 민족과 성별, 정치적 혹은 성적 취향 등도 AI로 예측해서는 안 된다고 말한다.

그러나 AI의 생체 정보 인식은 유럽연합의 AI 규제 발의안과 반대된다. 2021년 4월에 공개된 AI 규제 발의에는 ‘원격 생체 측정 인식’은 매우 위험한 행위라고 명시됐다. 즉, 생체 측정 인식 자체는 가능하지만, 다른 AI 사용 행위보다 더 엄격한 규제를 받는다는 의미이다. 유럽연합 회원국 전역의 정치인은 몇 년간 AI 규정을 논의할 것이며, 생체 측정 감시는 이미 오래전부터 가장 큰 논란이 되는 문제 중 하나가 되었다. 유럽연합의 AI 규제 발의안이 통과한다면, 각종 규제가 지난 수십 년간 유럽연합 회원국 시민 수억 명을 감시하는 방식을 정의할 것이다. 현재 AI의 감시 방식 정의 관련 논쟁이 시작됐다.

안면 인식 기술은 지난 몇 년간 논란이 되었으나 실제 생체 측정 인증 호황은 인체의 다른 부분을 통한 정보 수집을 목표로 했다. 유럽연합 회원국 27곳 전역에 걸쳐 여러 기업이 생체 측정 기술 개발 및 구축에 나섰으며, 간혹 개인의 성별과 민족을 예측하고, 감정을 인식하는 것을 목표로 한다. AI로 개인의 성별, 민족, 감정 등을 예측하는 행위는 과학적으로나 윤리적으로 의문스럽다. AI 기반 생체 측정 기술은 자칫하면 개인 프라이버시를 침해하거나 자동으로 특정 집단을 차별할 수 있다.

바르셀로나에 본사를 둔 안면 인식 솔루션 기업 헤르타 시큐리티(Herta Security)와 네덜란드 소프트웨어 기업 비전랩스(VisionLabs)를 예시로 살펴보자. 두 기업 모두 다양한 사용 목적으로 안면 인식 기술을 개발했으며, 법률 집행 기관과 유통 업계, 대중교통 산업 등이 활용할 수 있다고 주장한다. 헤르타 시큐리티는 서류를 통해 독일과 스페인, 우루과이, 콜롬비아 경찰, 경기장, 쇼핑센터, 매리어트(Marriott)와 홀리데이 인(Holiday Inn), 공항, 카지노 등 여러 법률 집행 기관과 시설을 고객사로 두고 있다고 주장한다.

비판 세력은 헤르타 시큐리티와 비전랩스 모두 양사의 시스템 일부가 민감한 특성을 추적하는 데 악용될 수 있다고 주장한다. 디지털 권리 옹호 단체인 유럽 디지털 권리(European Digital Rights) 소속 생체 정보 정책 보좌관인 엘라 자쿠보스카(Ella Jakubowska)는 “개인의 신원 확인 목적으로 사용되는 시스템을 포함한 각종 시스템은 논리를 강조하는 만큼 매우 큰 피해를 줄 수도 있는 계급화와 범주화 등에 의존한다. 유럽 디지털 권리는 유럽 전역의 생체 감시 행위 금지 운동을 벌이고 있다.

헤르타 시큐리티는 자체 개발한 안면 분석 툴인 바이오마케팅(BioMarketing)을 상점과 광고 기업이 고객을 이해하고, 고객 개개인의 연령과 성별부터 안경 착용 여부, 표정 등 모든 것을 추출할 수 있다고 홍보한다. 헤르타 시큐리티는 바이오마케팅이 타깃 광고나 기업의 고객 정체 파악 등에 도움이 된다고 말한다. 또, 바이오마케팅이 민족에 따라 개인을 분류할 수 있다는 주장도 펼친다. GDPR 규정은 인종이나 출신 민족 등을 드러내는 개인 데이터를 민감 정보로 간주하므로 사용 방식을 엄격하게 통제한다.

자쿠보와는 2020년, 바이오마케팅을 이용한 민족 판단 문제를 두고 헤르타 시큐리티 CEO와 충돌했으며, 이후 헤르타 시큐리티가 민족 정보 식별을 마케팅 수단 주장이 사라졌다고 밝혔다. 다만, 여전히 민족 정보 인식 여부가 바이오마케팅에서 사라진 것이 맞는지는 확실하지 않다. 여러 외부 기관이 주관하여 작성한 헤르타 시큐리티 문서에는 지금도 민족 정보를 바이오마케팅에서 찾아볼 수 있는 특성 중 하나라고 언급한다. 2013년에 발행된 헤르타 시큐리티의 문서에는 민족 정보 감지 능력이 추가되기 전, 바이오마케팅이 인종을 감지할 수 있다고 명시했다. 유럽연합에 50만 유로가 넘는 자금 지원을 받고, 유럽연합에 훌륭하다는 평가를 받은 헤르타 시큐리티는 와이어드의 문의에 답변하지 않았다.
 
비전랩스는 자체 개발한 ‘민족 척도’가 개인의 민족 혹은 인종을 판단할 목적을 지닌 민족 예측 척도라고 주장했다. 비전랩스 자체 웹사이트는 민족 척도로 인도인과 아시아인, 흑인, 백인을 구분할 수 있다고 주장한다. 또, ‘미소 척도’ 툴이 입의 교합 상태를 예측하고, 분노나 역겨움, 두려움, 행복함, 놀람, 슬픔, 무표정 등 개인의 표정을 인식할 수 있다는 사실도 덧붙여 전했다. 성별과 연령, 머무른 시간 등에 집중한다면, 유통 업계가 고객 정보를 파악하는 데 이용할 수도 있다.

다수 AI 전문가와 윤리 전문가 모두 생체 측정 기능을 사용해 성별이나 감정을 분석하는 행위를 경고했다. 감정 예측과 비교에 사용된 AI가 정확하지 않으면서 매우 잘못된 거짓말 탐지 시험에 사용된 사실을 경고했다. 2021년 7월 초, 시민 자유 단체 175곳과 사회 운동가가 생체 측정 감시 기술 금지를 촉구하는 서한에 서명했다.

자쿠보와는 생체 측정 기술을 사용하는 행위가 유럽연합의 인권 기준과 공존할 수 없다고 지적한다. 그는 “개인의 성별을 추측하는 기계를 보유하고 삶에 영향을 미칠 수 있는 판단을 하는 기계를 보유한다는 생각은 매우 심각하게 우려스럽다. 생체 측정 기술은 인체와 행동을 데이터 요소로 취급하면서 종종 많은 사람이 알지 못하는 원격 생체 측정 데이터베이스에 떠밀어 넣는 수많은 방식 중, 빙산의 일각에 불과하다”라고 말했다.

비전랩스 대변인은 “안면 인식 기술 채택과 그에 따른 표준은 여전히 걸음마 단계에 머무르고 있다. 생체 측정 기술은 개인의 안전 보호 관련 논쟁이 이어지도록 유도하며, GDPR 규정상 생체 측정 기술 사용 행위가 금지되지 않았다”라고 설명했다.

그러나 생체 측정 관련 사업은 대규모 사업이며, 생체 측정 애플리케이션은 마케팅 부문을 넘어서 훨씬 더 널리 활용되는 상황이다. 생체 측정 기술은 아이폰 페이스아이디와 각종 지문 인식 기술 등 안면 인식 기술과 신원 검증부터 안면 근육 움직임을 기반으로 진행하는 각종 실험 시스템까지 폭넓게 활용된다. 또, 개인의 외모와 혈관 패턴, 움직임, DNA, 홍채 인식, 귀 특징을 기반으로 한 신원 확인, 손가락 기하학적 구조, 손 인식 등 다양한 요소도 생체 측정 기술 활용 범위에 포함된다. 한마디로 말하자면, 생체 측정 기술이 개인을 구성하는 요소를 측정하고 수치로 나타낼 수 있다는 의미이다.

생체 측정 정보를 활용하는 기술은 삶의 편리함을 더해주면서 사기 발생 위험을 줄일 수도 있다. 반대로 매우 큰 악영향을 미치면서 차별 문제를 일으킬 수도 있다. 갈수록 은행 카드에 지문 인식 스캐너가 채택되며, 공항은 안면 인식 기술과 생체 측정 기술을 사용하면서 개인을 확인한다. 또, 그리스 경찰은 실시간 안면 인식 기술을 사용하며, 영국 경찰은 개인이 매우 불안하거나 분노한 상태인지 감지할 수 있는 AI를 실험 중인 것으로 알려졌다.

2020년 중반, 전 세계 생체 측정 산업이 686억~828억 달러 상당의 가치를 지닌 시장으로 성장할 것으로 추산됐다. 현재 240억~360억 달러를 기록한 것보다 훨씬 높은 수준이다. 중국과 미국이 전 세계 생체 측정 기술 개발 분야에서 선두를 차지한 가운데, 유럽 시장도 빠른 속도로 성장하고 있다. 2000년대에 유럽연합의 3가지 연구 프로그램으로 196가지 생체 측정 연구에 총 1억 2,000만 유로가 넘는 자금을 지원했다. 주요 방위산업체와 보안 기업, 소규모 스타트업 등이 생체 측정 기술 개발을 진행 중이다.

유럽연합 집행기관이 발의한 AI 규제안은 모든 생체 측정 식별 시스템을 고도로 위험한 기술로 간주한다. 그러나 생체 측정 기술을 활용한 접근 방식이 대중의 안전을 유지할 것인지는 더 지켜보아야 한다. AI 규제안은 고도로 높은 위험성을 지닌 기술이 각종 복잡한 절차를 거친 뒤, 현실 세계 활용이 이루어질 수 있다고 주장한다. AI 규제안에는 고품질 데이터 세트 사용과 생체 측정 데이터 세트 사용이 어떤 방식으로 이루어지는지 규제 기관과 대중 모두에게 알려야 한다는 사실이 포함됐다. 또한, 위험 평가를 완료해, ‘높은 강도와 보안, 정확도’를 지닌 사실을 확인해야 한다.

생체 측정 산업을 대표하는 유럽연합 생체 측정 연합(European Association for Biometrics)은 “유럽연합의 기본적인 권리 존중을 지지한다. 공공장소에서 채택하는 것을 비롯한 특정 생체 측정 애플리케이션이 인간의 기본 권리를 위험에 빠뜨리면서 익명성 보장 권한을 포기하지 않는 상황에서 공공장소에서 자유롭게 이동하지 못하는 등 근본적인 권리와 자유 행사를 불가능하게 만든다면, 생체 측정 기술을 사용해서는 안 된다”라고 주장한다. 이어, 생체 측정 기술을 사용할 수 있는 상황과 사용할 수 없는 상황을 다룬 정확한 지침 및 규제를 추가할 필요성을 언급했다.

여러 규제 당국이 생체 측정 기술 사용 전면 금지 여부를 포함, 생체 측정 기술 관련 각종 규제 법률을 논의하는 와중에 생체 측정 기술은 일상생활을 훨씬 넘어선 곳에서 악영향을 미치고 있다. 비판 세력은 생체 측정 기술 성장세에 투명성이 없어, 누가 언제, 어디서, 어떤 방식으로 사용하는지 알 방법이 없다고 말한다.

유럽의 생체 측정 기술 사용 관행을 조사하는 조사 기관인 민주주의 무결성(Democratic Integrity) 총괄인 알렉산드라 파달(Alexandra Pardal)은 “생체 측정 기술을 사용하는 기업의 정체와 생체 측정 정보 등 상당수 개인 정보 수집이나 처리, 보관, 공유, 보호 조건 등과 관련된 정보를 거의 알지 못한다. 대중이 알고 있는 사실은 경찰과 공공 기관, 민간 기업, 개인이 대중의 생체 측정 정보를 수집하고 활용한다는 사실이다”라고 설명했다.

생체 측정 기술의 투명성 부재 문제는 유럽연합의 생체 측정 기술 자금 지원에 적용된다. 2016년 9월부터 2019년 8월까지 유럽연합의 혁신 펀드인 호라이즌 2020(Horizon 2020)은 대중의 생체 측정 정보를 사용해 개인의 ‘미세한 표정’ 식별 및 분석을 통해 거짓말을 구분한다는 목표를 지닌 프로젝트인 아이보더컨트롤(iBorderCtrl)을 지원했다. 같은 목표를 지닌 기업과 연구 기관 13곳이 아이보더컨트롤에 참석했으며, 이름을 통해 알 수 있다시피 유럽연합 국경에서 사용할 생체 측정 데이터 개발을 진행했다.

아이보더컨트롤은 프로젝트 일부가 ‘미래에 사용할 후보 시스템 성공’이라는 결과로 이어졌다고 설명하지만, 언론 보도를 통해 아이보더컨트롤을 통해 개발된 AI는 거짓말을 탐지하지 못한 사실이 확인됐다. 그러나 실제 상당수 연구가 비밀리에 진행된다. 독일 파이럿 정당(Pirate Party Germany) 소속 의원이자 유럽연합 의회 소속 의원인 패트릭 브라이어(Patrick Breyer)는 유럽연합 집행위원회를 제소했다. 아이보더컨트롤 관련 윤리적, 법적 고려사항을 다룬 문서를 공개하지 않았기 때문이다. 법원은 향후 몇 개월 뒤, 브라이어 의원의 소송 판결을 내릴 예정이다.

생체 측정 감시를 반대하는 브라이어 의원은 유럽연합이 유럽연합의 데이터 보호 및 차별 관련 태도에 모순되는 연구에 자금을 지원하지 않을 것이라고 밝혔다. 브라이어 의원은 “유럽연합이 대중에게 피해를 줄 수 있는 기술 개발에 도움을 준다는 사실은 매우 큰 파문이다”라고 주장하며, 중국 신장지구에서 위구르족을 상대로 시험 도입된 감정 감지 시스템을 문제 사례로 지목했다.

또, 브라이어 의원은 생체 측정 기술 관련 법안이 도입될 시점에 생체 측정 기술 자체가 보편적인 기술이 될 것을 우려한다. 그는 “생체 측정 기술이 개발된 후, 여러 기업이 생체 측정 기술을 민간 시장에 판매하는 행위를 막을 방법이 없다”라며, “생체 측정 관련 모든 기술은 우리가 가는 곳과 하는 행동을 모두 따라다니는 데다가 개인마다 다른 특성을 보이는 행동까지 보고하는 등 만연한 감시 시스템을 제작할 위험성이 있다”라고 덧붙여 전했다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Europe makes the case to ban biometric surveillance