By MORGAN MEAKER, WIRED US

올림픽 개막식 전날 밤에도 파리는 과도한 보안 조처를 적용한 도시의 모습이었다. 파리 곳곳에는 진입금지봉 4,000여 개가 설치되었다. 방탄조끼를 착용한 수많은 경찰 인력이 아름다운 모습의 자갈이 있는 길거리를 순찰했다. 센강은 주변을 지나는 이들의 신원을 확인하고, 개인 QR 코드를 부여하는 등 인근 출입을 통제했다. 2015년 테러 공격 이후 계속 배치된 카키색 군복을 착용한 군인은 운하 일대의 빵집에 긴 줄을 형성한 채로 배치되어 베레모를 착용한 동시에 흉부에 장총을 착용했다.

제럴드 다르마냉(Gérald Darmanin) 프랑스 내무부 장관은 올림픽 개막식에 앞서 일주일 동안 보안 강화 조처가 과도한 조처가 아닌 자발적 감시라며, 조처의 정당성을 부여했다. 다르마냉 장관은 2024년 7월 23일(현지 시각), 취재진에게 “프랑스는 오늘날 올림픽 대회 개최국 중 가장 심각한 보안 문제를 직면했다”라고 말했다. 현지 주간지 르 저널 두 디만셰(Le Journal du Dimanche)와의 인터뷰에서는 이슬람 극단주의 세력 257명과 극좌파 181명, 극우 세력 95명 등 위험할 수도 있는 인물이 올림픽 기간 근로자나 자원봉사자로 지원한 사실을 발견했다고 밝혔다. 7월 24일(현지 시각), 프랑스 뉴스 방송사 BMF에는 러시아 시민권자가 올림픽 기간 안정성 저하 행위를 대규모로 음모한 혐의로 체포되었다고 밝혔다.

파리 시민 사이에서는 도로 봉쇄와 경고 없이 종료된 자전거 도로 운영 문제를 두고 불평을 늘어놓는 반면, 인권단체는 받아들일 수 없는 수준의 기본권 위험성을 맹비난했다. 역대 올림픽 개최 상황만 보면, 보안 강화 조처 자체는 전혀 이례적인 일이 아니다. 탈이상주의 보안 조처 관련 불만은 올림픽의 전통처럼 자리 잡았다. 과거 올림픽은 ‘락다운 런던(Lockdown London)’, ‘포트리스 도쿄(Fortress Tokyo)’, ‘리우데자네이루 무기 대회’ 등과 같은 표현으로 칭하기도 했다. 이번 파리올림픽은 눈에 보인 조처가 가장 큰 논란 중 일부 문제점으로 드러났다. 파리의 보안 조처는 새로운 유형의 AI(인공지능) 기술을 갖추어 보안 수준을 강화했다. 파리시는 논란을 낳은 알고리즘으로 대중교통 정거장의 CCTV 영상을 체계적으로 운영하여 위협을 찾는다. 파리시는 AI 감시 카메라 시스템을 2024년 3월, 디페쉬 모드(Depeche Mode) 콘서트에서 처음 시범 도입했다.
 
비판 세력과 지지자 모두 알고리즘의 CCTV 영상 감시로 인간 운영자가 물리적으로 보기에는 감시 영상이 너무 많은 미래 보안 시스템을 엿볼 수 있다고 생각한다. AI 감시를 반대하는 사회 운동 단체인 라 퀀드라투 두 넷(La Quadrature du Net) 회원 노미에 레바인(Noémie Levain)은 “감시 소프트웨어는 경찰의 순찰 범위를 확장한다. 경찰의 눈을 몇 배로 늘리는 셈이다”라고 말했다.

포르트 드 팡탱(Porte de Pantin)역 입구 근처 천장에 고정된 감시 카메라는 발견하지 못하고 지나치기 쉬운 회색 금속 박스에 감싼 모습이다. 쓰레기통 위 벽에는 작은 표지판이 표시되었다. 표지판은 누구나 길을 멈추고 표지판 경고를 읽는 이들에게 영상 감시 분석 실험이 진행된다는 사실을 알린다. 파리 메트로 운영사인 RATP는 승객의 모습을 담은 CCTV 이미지를 실시간으로 자동 분석하는 데 이용할 가능성이 높다. 영상 감시 분석 안내 표지판 내용은 표지판을 보지 못한 이들은 재빨리 지나치게 된다. 표지판에는 실험은 2025년 3월까지 진행된다는 안내 사항도 작성되었다.

포르트 드 팡탱역은 15개국의 올림픽 경기 관람객이 음식과 음료를 즐기도록 마련된 올림픽 국가관이 밀집한 라 빌레뜨 공원과 매우 가까운 곳이다. 프랑스 내무부 산하 기관인 파리 지방 행정 구역은 포르트 드 팡탱역은 올림픽 기간 CCTV 알고리즘이 불특정 다수를 감시하는 지하철역과 기차역 46곳 중 한 곳이라고 발표했다. 파리시는 대중교통 네트워크를 제외한 공간에도 AI 감시를 적용할 계획과 관련한 와이어드의 문의에 답변하지 않았다. 2023년 3월 발효된 법률에는 알고리즘이 총 8가지 상황에서는 알고리즘이 실시간으로 CCTV 영상을 볼 수 있다는 규정이 명시되었다. 법률이 알고리즘을 이용한 CCTV 감시를 허용하는 상황은 대중이 급격히 증가한 상황, 비정상적으로 대규모 인원이 모인 상황, 폐기된 물체나 무기, 길거리에 쓰러진 사람이 있을 때이다.

올림픽 기간 알고리즘 공급 계약을 체결한 프랑스 기업 네 곳 중 한 곳인 윈틱스(Wintics) 공동 창립자 마티아스 후리어(Matthias Houllier)는 “윈틱스를 포함한 알고리즘 공급사는 CCTV 카메라가 강력한 감시 수단으로 획기적인 변화를 맞이하도록 한다”라며, “감시 카메라 수천 대를 배치한 상태에서 경찰이 모든 카메라가 포착한 상황에 대응하기 어렵다”라고 말했다.

윈틱스는 2020년, 파리시의 첫 번째 공개 계약사로 선정되어 파리시 사이클리스트 수 데이터를 수집하여 파리 교통 당국이 자전거 도로를 추가 설치하도록 도움을 주었다. 윈틱스는 자사 알고리즘을 기존 교통 카메라 200대와 연결하여 지금도 운영 중인 시스템이 혼잡한 도로에서 사이클리스트를 확인한 뒤 사이클리스트 수를 센다. 프랑스에서 2024 파리올림픽 보안 향상에 도움을 둘 알고리즘 개발사를 추가로 선정하고자 한다고 공식 발표하자 후리어는 자연스러운 진화 과정이라고 생각했다. 그는 “CCTV 카메라를 보는 알고리즘 기술은 똑같다. 공공장소에서 익명의 형태를 분석한다”라고 말했다.

윈틱스는 오픈소스와 합성 데이터로 알고리즘을 훈련한 뒤 혼잡한 도로를 오가는 시민 수나 쓰러진 사람 수를 세는 등 다른 작업을 수행하면서 사전 지정된 한계치를 넘어설 때 운영 기업에 경고 신호를 보내도록 변경되었다.

후리어는 “알고리즘을 적용하는 것이 전부이다. 의사 결정을 자동화하는 부분은 전혀 없다”라고 말했다. 윈틱슨느 내무부 관료에게 윈틱스의 소프트웨어, 시스템이 적용되고자 하는 바를 결정하는 방식 등을 설명했다. 그는 “운영사의 관심을 끄는 생각이다. 따라서 재차 확인하고, 어떤 일이 발생했는지 판단해야 한다”라고 말했다.

후리어는 윈틱스의 알고리즘이 논란이 되는 안면 인식 시스템을 2022 카타르 월드컵 등 과거 국제 대회에 동원된 기술을 대체할 프라이버시 친화적 대체 기술이라고 주장한다. 후리어는 “알고리즘이 CCTV 영상을 찾아서 분석하는 과정은 개인의 자유를 해치지 않는 선에서 안전한 행사 개최를 보장할 방법이다. 지금은 형태만 보고, 안면 인식 기술이나 차량 번호판 인식, 기타 행동 분석 기술은 볼 수 없다”라고 말했다.

그러나 프라이버시 운동가는 알고리즘을 이용한 CCTV 카메라 감시 기술은 개인의 자유를 보호한다는 주장을 거부한다. 파리 20구에서 노미에 레바인은 라 퀀드라투 두 넷이 다른 파리 시민에게 알고리즘 감시의 파리 장악 경고 및 독재주의적 공공장소 촬영 거부를 촉구하고자 설계된 분산 계획을 위한 시위 포스터 6,000장을 받았다. 레바인은 알고리즘이 개인 데이터를 처리하지 않는다는 주장에는 동의하지 않는다. 레바인은 “시민의 이미지를 촬영하여 보유했다면, 시민의 개인 데이터와 생체 데이터인 시민의 모든 데이터를 분석하게 된다. 안면 인식 기술과 같은 기술이다. 같은 원칙을 적용한다”라고 주장했다.

레바인은 AI 감시 시스템이 올림픽 폐막 후에도 파리에 오랫동안 남을 것을 우려한다. 레바인은 AI 감시 시스템에 동원된 알고리즘이 경찰과 보안 서비스가 파리 내 더 넓은 범위에서 감시를 시행할 수 있다고 본다. 레바인은 “감시 기술은 경찰의 선입견을 재생성할 것이다. 알고리즘이 차별을 한다는 사실을 알고 있다. 또, 알고리즘의 차별은 항상 같은 영역에서 발생한다는 사실을 알고 있다. 항상 같은 이들을 대상으로 차별한다. 게다가 CCTV 영상을 분석하는 알고리즘은 모든 감시 기술과 마찬가지로 차별 행위에 일조한다”라고 지적했다.

도시 중심부에서는 자동차 운전자가 보안 차단봉이 도로 교통을 차단한 것에 분노한 것처럼 레바인도 올림픽 개최 기간에는 프랑스 남부 지역으로 이동하는 파리 시민 여러 명 중 한 명이다. 그러나 레바인은 폐막 후 파리로 돌아갔을 때 파리시가 감시 기술을 반길 것을 우려한다. 레바인은 “올림픽은 변명이다. 정부와 알고리즘 개발 기업, 경찰 모두 올림픽 후 감시 기술을 사용할 계획을 생각 중이다”라고 주장했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
At the Olympics, AI Is Watching You