By Will Knight, WIRED US

2024년 9월 18일(현지 시각), 국제연합기구(UN)가 세계 최초로 인공지능(AI) 모니터링과 관리 기관을 감독하는 국제기구 설립을 제안하는 내용의 보고서를 발행했다.

UN 사무총장의 고위급 AI 자문 기구가 생성한 해당 보고서는 기후변화에 관한 정부 합의체(Intergovernmental Panel on Climate Change, IPCC)와 비슷한 기구를 설립하여 AI와 그 위험성을 다루는 최신 정보를 수집할 것을 권고한다.

보고서는 AI 관련 새로운 정책 대화를 통해 회원국 193개국의 AI 관련 위험성 논의와 대응 합의를 촉구한다. 더 나아가 UN이 주로 남반구에 밀집된 빈곤국이 AI의 이점을 누리고, AI 관리 작업에 기여할 권한을 부여할 조처를 시행하는 방안도 제안했다. 이와 관련한 제안 사항 중에는 빈곤국의 프로젝트를 지원할 AI 펀드 마련, AI 표준 및 데이터 공유 체계 확립, 여러 국가의 AI 관리 교육 등 자원 생성 등이 포함되었다. 보고서에 언급된 일부 제안 사항은 국가 간 디지털, 데이터 격차를 다루고자 이미 발표된 ‘세계 디지털 협약(Global Digital Compact)’으로 더 수월하게 실현할 수 있다. 보고서는 최종적으로 UN 내부의 기존 AI 협력 노력을 전담하는 AI 사무국을 개설하여 보고서의 목표를 충족할 것을 제안하기도 했다.

백악관과 미국 국무부 권고사항에 따라 UN 자문 기구에서 근무한 경력이 있는 프린스턴 고등연구소(Institute for Advanced Study) 교수인 아론드라 넬슨(Alondra Nelson) 교수는 “AI가 제안하는 기회는 물론이고 피해와 위험성에도 동의하는 국제 공동체를 형성할 수 있다”라고 말했다.

대규모 언어 모델과 AI 챗봇이 지난 몇 년간 놀라운 능력을 입증하여 경제적 생산성 혁명이라는 바람을 촉진했다. 그러나 일부 전문가는 AI 개발이 지나치게 빠른 속도로 이루어진다면, 인간이 통제할 수 없는 수준이 될 수 있다고 경고했다. 챗GPT가 출시되고 얼마 지나지 않은 시점에 복수 과학자와 기업가가 AI 개발을 6개월간 잠정 중단하여 AI의 위험 요소를 다룰 것을 촉구하는 서한에 서명했다.

생성형 AI 열풍으로 비교적 즉시 확산된 우려 사항 중에는 AI의 거짓 정보 자동 생성, 딥페이크 영상 및 오디오 생성, 근로자 대규모 실직, 업계 단위에서 알고리즘이 사회적 편견을 악화할 가능성 등이 있다. 넬슨 교수는 “AI의 위험성이 시급하다는 인식이 존재하여 많은 이들이 협력할 필요성을 느낀다”라고 전했다.

국제사회의 AI 문제 공동 대응을 제안하는 UN 보고서 내용은 세계 각국의 정치인이 AI 위험성을 완화하기 위한 규제에 큰 관심을 보이는 현실을 반영한다. 반대로 미국, 중국 등 주요 강대국이 거대한 경제, 과학, 군사 이점을 약속하는 AI 기술 분야를 이끌고자 충돌하는 상황과 자국의 AI 사용, 통제 전망을 위한 위험성을 감수하는 행보도 이어졌다.
 
2024년 3월, 미국은 UN 회원국의 안전성, 보안, 신뢰성을 갖춘 AI 개발 채택을 촉구하는 내용의 해결안을 도입했다. 2024년 7월, 중국은 AI 개발 협력과 널리 활용 가능한 기술 개발을 강조하는 내용의 자체 해결안을 도입했다. 모든 회원국이 미국과 중국의 해결안에 서명했다.

워싱턴 DC 소재 국책연구소 브루킹스연구소(Brookings Institute) 소속 연구원인 조슈아 멜처(Joshua Meltzer) 연구원은 “AI는 미중 경쟁 영역에 해당한다. 따라서 양국이 AI와 관련하여 합의할 사항이 많다”라고 말했다. 이어, AI, 프라이버시 및 개인 데이터 관련 보호 통합을 위한 규범과 가치관이 핵심 차이점이라고 덧붙였다.

부유한 선진국 간 AI 견해 차이는 이미 시장 균열 원인이 되었다. 유럽연합은 데이터 사용 통제 규정을 포함한 포괄적인 AI 규제를 도입했다. 유럽연합의 규제는 미국의 일부 기업이 자세 제품에 활용하는 데이터 범위가 제한되는 결과로 이어졌다.

미국 정부가 채택한 AI 개발 개입 접근 방식 때문에 캘리포니아주는 자체 AI 법을 도입했다. 초기 규제는 엄격한 의무 요구 때문에 미국 기업의 비판 대상이 되었다. 정부가 기업 활동 보고서 제출을 요구하는 규정이 그 예시에 해당한다. 결국, 규제 수위가 완화되었다.

멜처 연구원은 UN이 세계적 협력만으로는 관리할 수 없을 정도로 AI 개발 속도가 빠르다고 본다. 그는 “AI 관리 측면에서 UN이 담당해야 할 중요한 역할이 존재한다는 사실은 분명하다. 그러나 국가별로 직접 진행하는 AI 관리 작업과 함께 일종의 구조 분배가 필요하다. 급속도로 진화하는 기술을 얻게 되지만, UN이 이를 제대로 관리할 수 없다는 사실도 분명하다”라고 말했다.

UN 보고서는 인권의 중요성을 강조하면서 회원국 간의 보편적 인식을 확립하고자 한다. 국제 AI 관리를 연구한 적이 있는 크리스 러셀(Chris Russell) 옥스퍼드대학교 교수는 “인권 측면에서 분석 작업을 제공한다는 점이 매우 매력적이다. UN의 AI 관리 감독 기구가 설립된다면, 국제법의 강력한 근거와 폭넓은 책임을 부여하고, AI의 피해 사례가 실제로 발생하는 만큼 피해를 다루는 데도 집중할 수 있을 것이다”라고 말했다.

이어 각국 정부의 중복 작업을 훌륭하게 다루고, 규제 관점에서 AI를 평가할 수 있을 것이라고 덧붙였다. 미국 정부와 영국 정부가 AI 모델의 잘못된 행동을 조사하는 별도의 기구를 설립한 사례를 예시로 언급할 수 있다. UN 차원의 AI 관리 노력은 불필요한 추가 중복 작업을 피할 수도 있다. 러셀 교수는 “국제적 노력과 AI 관리 협력은 여러모로 합리적인 선택이다”라고 언급했다.

각국 정부가 AI를 전략적 이점을 얻을 방법으로 보지만, 과학계에서는 AI의 문제를 우려한다. 최근, 서양과 중국의 유력 학계 단체는 오스트리아 빈에서 AI 컨퍼런스가 개최된 후 AI 안전을 위한 추가 협력을 촉구하는 합동 성명을 발행했다.

넬슨 교수는 정부 지도자가 중요한 AI 문제를 두고 협력할 수 있다고 확신한다. 그러나 UN과 회원국의 협력 청사진 선택에 달려있다고 덧붙였다. 넬슨 교수는 “AI 문제에 협력하기 위한 계획 구축이 까다로운 문제가 될 것이다”라는 견해를 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The United Nations Wants to Treat AI With the Same Urgency as Climate Change