By TOM SIMONITE, WRIED US

미 의회의 양당 의원이 정부의 인공지능(AI) 기술 개발 추가 지원이 필요하다는 사실에 동의했다. 트럼프 행정부는 AI 제도를 위한 연구 자금 지원을 재구성했다. 2021년 6월, 조 바이든 대통령의 과학 전문 보좌관인 에릭 랜더(Eric Lander)는 AI와 관련, “미국의 경제적 번영은 기술 분야 주요 기업의 기관 투자에 따라 결정될 것”이라고 말했다.

그와 동시에 미국 정부의 일부 부처는 알고리즘에 제한을 두어, 차별이나 부당함, 쓰레기 배출을 막기 위한 노력을 펼친다. 백악관과 양당 국회의원, 그리고 국방부와 국립 표준 기술 연구소(NIST) 등 여러 연방 기관 모두 AI의 잠재적인 단점을 강력히 제한하기 위한 법안이나 제도를 추진하기 위한 노력을 펼친다.

바이든 행정부의 과학기술 정책 부처는 현재 알고리즘 탓에 발생하는 차별의 위험성을 다루기 위한 작업을 진행하고 있다. 2021년 1월에 통과된 국방수권법은 백악관의 AI 연구 협력을 포함한 여러 AI 프로젝트를 대상으로 한 새로운 지원책을 도입했다. 그러나 국방성에 인수한 AI 기술을 윤리적 차원에서 평가할 것과 NIST에 AI의 신뢰성 유지 확인을 위한 표준을 개발할 것도 함께 요구했다.

지난 3주간 미국 정부의 예산 지출과 관리 내역을 감사하는 미 의회 감시기구인 회계감사원(GAO)은 연방 정부 법률 집행 기관이 범죄 수사에 사용하는 알고리즘의 사용 사례와 잠재적인 오류를 제대로 감시하지 않는다고 경고하는 내용을 담은 보고서 두 편을 발행했다. 그중 한 편은 안면 인식 기술을, 다른 한 편은 얼굴과 지문, DNA 분석에 사용하는 포렌식 알고리즘의 문제를 지적했다. 보고서 두 편 모두 알고리즘이 지닌 잠재적 문제 조사를 요구하는 국회의원의 요청에 따라 작성됐다. GAO의 세 번째 보고서는 정부 프로젝트의 책임감 있는 AI 사용 관련 지침을 설명한다.

조지타운대학교 산하 보안·신흥 기술 연구 센터(CSET) 전략 총괄인 헬렌 토너(Helen Toner)는 적극적으로 펼쳐지는 AI의 활동이 미 의회가 AI 기술에 대한 내용을 깊이 인식한 사례 연구를 제공한다고 말한다.
 
2010년대 중반, AI가 이세돌 9단과의 대국에서 승리를 거둔 사례부터 스마트스피커의 주방과 침실 안으로 진출한 사례까지 수많은 AI 연구원과 테크 기업이 AI의 능력과 활용 사례를 급속도로 늘린 것만큼 AI 문제에 크게 주목한 국회의원은 거의 없었다. AI는 미국 혁신의 상징이 됨과 동시에 기술 문제를 중점적으로 다루는 일부 국회의원 사이에서 화두가 되었다. 토너 총괄은 이제 국회의원의 AI 문제 논의가 이전보다 더 균형이 잡혔으며, 기업과 같은 차원에서 이루어진다고 말한다. 그는 “현실 세계에서 AI를 사용하면서 정책과 정부의 대응이 필요한 문제가 등장한다”라고 언급했다.

2021년 여름, GAO의 첫 번째 AI 보고서에서 다룬 주제인 안면 인식 기술은 많은 국회의원과 연방 기관 소속 관료가 특별히 중점적으로 다룬 사안이다. 미국 도시 20여 곳이 지방 정부의 안면 인식 기술 사용을 금지하면서 주로 안면 인식 정확도 관련 우려를 언급했다. 수많은 연구를 통해 피부색이 어두울수록 안면 인식 정확도가 낮다는 사실이 입증됐기 때문이다.
 
안면 인식 기술의 문제를 다룬 GAO 보고서는 하원 감사위원회장과 하원 법사위원회장을 포함한 민주당 소속 상, 하원 의원 6명의 요청에 따라 작성됐다. 해당 보고서를 통해 법률 집행기관 관료가 사용할 수 있도록 안면 인식 기술을 배포한 연방 기관 20곳을 확인했다. 일부 기관은 1월 6일 발생한 국회의사당 폭동 사태나 2020년, 미니애폴리스 경찰의 조지 플로이드(George Floyd) 살인 사건을 계기로 발생한 시위 도중 범죄 용의자를 찾는 데 안면 인식 기술을 동원했다.

연방 기관 14곳이 연방 정부가 아닌 외부 기관을 통해 안면 인식 기술을 공급받지만, 그중 13곳은 소속 관료가 사용하는 안면 인식 기술을 추적하지 않는 것으로 드러났다. GAO는 차별이나 프라이버시 침해 위험성이 발생하지 않도록 여러 연방 기관에 안면 인식 시스템을 더 면밀히 관찰하라는 조언을 했다.

GAO는 정부의 안면 인식 기술 사용을 제한하기 위한 초당적 법안 통과 가능성을 높였다. 7월 13일(현지 시각), GAO 보고서 내용 논의를 위해 열린 하원 범죄 및 테러, 국토안보 소위원회 청문회 현장에서 텍사스주의 민주당 소속 하원 의원이자 소위원회 의장인 셸라 잭슨 리(Sheila Jackson Lee) 의원은 GAO 보고서가 규제의 필요성을 강조한다고 본다는 사실을 밝혔다. 애리조나주의 공화당 소속 하원 의원인 앤디 빅스(Andy Biggs) 의원도 잭슨 리 의원의 발언에 동의했다. 그는 "안면 인식 기술이 문제를 일으키면서 일관성을 지니지 않다는 점에 크게 우려한다. 안면 인식 기술에 적용할 의미 있는 규제와 감시 방안 모색을 논의한다면, 국회에서 여러 공통점을 발견하리라 생각한다"라고 말했다.

GAO는 포렌식 알고리즘의 문제를 다룬 두 번째 보고서와 함께 법률 집행 기관의 AI 사용 현황을 더 깊이 분석했다. 두 번째 보고서는 하원 감시위원회 의장과 하원 과학·우주·기술 위원회 의장을 비롯한 양당의 일부 하원의원의 요청에 따라 작성됐다. GAO는 안면 인식 기술과 잠재적으로 존재하는 지문 인식 분석 기술, 분해되거나 혼합된 샘플 DNA 프로파일링 등이 수사 담당관에게 도움이 될 수 있다고 밝혔다. 다만, 보고서를 통해 국회의원에게 포렌식 알고리즘을 훈련하고 제대로 사용하기 위한 새로운 기준을 지원해, 오류를 피하면서 형사 정의의 투명성을 확대할 것을 제안했다.

포렌식 알고리즘 보고서를 요청한 의원 중 한 명인 캘리포니아주의 민주당 하원 의원인 마크 타카노(Mark Takano) 의원은 포렌식 알고리즘이 실수를 일으키는 경향을 설명한다고 주장한다. 타카노 의원은 “데이터 입력부터 알고리즘 설계와 알고리즘 테스트까지 모든 것이 현실 세계에서 사람에 따라 다른 결과를 제시할 수도 있다”라고 말했다. 2021년 4월, 타카노 의원은 NIST에 포렌식 알고리즘 표준 작성 및 테스트를 요구하면서 범죄 예방팀의 증거 입증을 위한 알고리즘 소스코드 접근을 막는 업계 비밀을 금지할 목적으로 작성된 법안 초안을 다시 발의했다.

연방 기관의 책임감 있는 AI 사용 지침을 구체적으로 다룬 GAO의 세 번째 보고서는 정부 AI 프로젝트의 빠른 성장세를 예측하고자 기관이 자체적으로 착수하면서 작성되었다.

GAO 수석 데이터 과학자인 타카 아리가(Taka Ariga) 박사는 세 번째 보고서는 정부 기관과 민간 부문의 AI 공급사에 받아들일 수 있는 AI 시스템 및 AI 시스템 제작에 사용하는 데이터 관련 테스트와 보안, 프라이버시 표준을 설명하기 위한 목적을 지녔다고 밝혔다. 향수 정부 AI 프로젝트 감사는 GAO의 보고서 범위를 활용할 전망이다. 이와 관련, 아리가 박사는 “현재 GAO는 AI 프로젝트의 책임성에 질문을 던지고자 한다. 더 나은 능력을 지닌 AI 시스템을 마주하게 된다면, 책임감 문제를 다루기 더 어려워질 것이기 때문이다”라고 말했다.

다수 국회의원, 그리고 아리가 박사를 비롯한 여러 관료가 최근 들어 펼친 여러 노력에도 불구하고 일부 정책 전문가는 미국 연방 기관과 의회가 AI의 시대에 적응하기 위해 더 큰돈을 투자해야 할 필요가 있다고 주장한다.

CSET는 최근 공개한 보고서를 통해 끔찍하지만, 실제 발생할 법한 AI 사고 개요를 설명해, 많은 국회의원이 AI 안전 연구 및 표준을 위해 더 시급하게 노력하도록 유도한다. CSET가 가정한 재앙과도 같은 끔찍한 사례에는 흑인 환자 오진 비율이 더 높은 피부암 진단 앱이나 불필요한 사망이라는 결과 촉발 운전자가 산불이 발생할 수 있는 길로 운전하도록 지도를 제작하는 앱 문제 등이 포함됐다.

최근, 브루킹스 연구소의 관리 연구 총괄인 대럴 웨스트(Darrell West)는 국회의원에게 AI와 같은 독자적인 신기술 연구를 제공하기 위해 1996년에 폐쇄된 기술 평가국(Office of Technology Assessment) 부활을 촉구했다.

미 의회는 알고리즘이 촉발한 문제 퇴치에 더 적극적으로 나서는 데 도움을 줄 수 있다고 주장한 타카노 의원 등 다수 양당 의원이 지난 몇 년간 기술 평가국 부활을 시도했다. 타카노 의원은 “국회의원이 AI가 민주주의 기관이나 정의 체계, 정치적 안정성 등에 문제를 일으킬 상황을 예측하는 데 도움을 주기 위해 기술 평가국 혹은 그에 준하는 기관이 필요하다”라고 주장했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
As the Use of AI Spreads, Congress Looks to Rein It In