By KHARI JOHNSON, WIRED US

미국 정부는 인공지능(AI)을 규제할 새로운 기관을 설립하고, 기업이 오픈AI의 GPT-4와 같은 언어 모델 개발 작업을 원한다면, 라이선스를 발급하는 식으로 개발 작업을 제한해야 한다. 바로 리처드 블루먼솔(Richard Blumenthal) 민주당 상원의원과 조쉬 하울리(Josh Hawley) 공화당 의원이 권고한 사항이다. 두 의원은 9월 8일(현지 시각), 미래 AI 관련 법률의 청사진 역할과 미 의회의 다른 법안에 영향을 줄 수 있는 법안을 발의했다.

두 의원이 발의한 법안은 안면 인식 기능 등 기타 위험성이 높은 AI 적용 사례는 정부의 라이선스가 필요하다고 주장한다. 기업의 AI 개발 및 배포를 위한 라이선스 발급 조건은 AI 배포 전 피해를 줄 수 있는 부분을 대상으로 한 테스트 진행, 출시 후 문제 발생 상황 공개, 독자적으로 운영하는 외부 관을 통한 AI 모델 감사 허용 등이다.

해당 법안은 기업을 대상으로 AI 모델 개발 시 사용한 훈련 데이터 상세 정보 공개를 요구하면서 AI 때문에 피해를 본 사용자는 기업을 제소할 수 있다는 조건도 제안한다.

블루먼솔 의원과 하울리 의원의 발의안은 미 의회에서 AI 규제 방식을 깊이 논의할 시점보다 며칠 혹은 몇 주 전 영향력을 발휘할 수 있다. 두 의원은 2023년 9월 중으로 AI 시스템이 인간에게 피해를 주는 문제를 일으키거나 권리를 침해할 때 의미 있는 방식으로 기업과 정부가 책임을 지도록 할 방법을 주제로 한 소위원회 청문회를 감독할 계획을 세웠다. 브래드 스미스(Brad Smith) 마이크로소프트 사장과 윌리엄 달리(William Dally) 엔비디어 수석 과학자가 청문회에서 증언하였다.

다음 날 찰스 E. 슈머(Chuck Schumer) 뉴욕주 상원의원이 AI 규제 방식을 논의할 일련의 회의를 최초로 주관했다. 슈머 의원은 앞서 AI 규제 문제를 “지금까지 다룬 문제 중 가장 어려운 문제”라고 언급했다. 마크 저커버그, 일론 머스크, 구글과 마이크로소프트, 엔비디아 CEO 등 AI에 관심을 보이는 테크 업계 주요 기업 경영진이 20명이 넘는 회의 참석자 명단 중 절반을 차지했다. 다른 AI 알고리즘 때문에 피해를 볼 확률이 높은 이들의 대표단과 미국 작가 조합, 미국 노동총동맹(AFL-CIO), 캘리포니아대하굑 버클리캠퍼스 연구원 데브 라지(Deb Raji), 휴메인 인텔리전스(Humane Intelligence) CEO이자 전직 트위터 윤리적 AI 연구 책임자 러먼 쵸드후리(Rumman Chowdhury) 등 과거 AI의 인권 침해 방지를 연구한 연구원도 회의 참석자 명단에 포함됐다.
 
과거, IBM에서 AI 윤리 연구를 이끈 경험이 있는 메릴랜드대학교 박사학 후보생인 안나 렌하트(Anna Lenhart)는 상원의회의 법안을 두고 수년간 AI 전문가 여러 명이 미 의회에 출석하여 AI 규제 방법을 설명한 뒤 전달된 환영할 만한 소식이라고 평가했다.

렌하트는 “기업의 AI 시스템 개발, 배포를 제한할 법안 발의 소식은 새로이 지켜볼 만한 일이다. 그리고 일련의 심층 분석 포럼이나 위원회가 2년여간 AI 규제 관련 문제를 다루고, 이번 회의 참석자 명단에 이름을 올린 이들과 같은 AI 분야 전문가 여러 명이 AI 규제를 주제로 이야기하는 것을 하루빨리 보고 싶다”라고 말했다.

그러나 신설된 AI 감독 기구가 자율주행 차량부터 보건 복지, 주택 문제까지 다양한 영역에 사용되는 기술 감독에 필요한 포괄적인 기술적, 법적 지식을 다룰 방법은 확신하지 못한다. 렌하트는 “다양한 영역에서 사용하는 AI를 살펴볼 때 정부의 라이선스 발급 관련 문제를 발견할 수 있다”라고 언급했다.

라이선스를 이용하여 강력한 AI 시스템을 개발할 수 있는 기업 제한 방식은 업계와 의회 모두 지지한 방안이다. 오픈AI CEO 샘 알트만은 2023년 5월 상원 의회 청문회 증언 도중 AI 개발자를 대상으로 한 라이선스 발급을 제시했다. 오픈AI가 AI 개발 부문에서 선두 지위를 유지하는 데 도움이 된다고 주장할 수 있는 규제 해결책이기도 하다. 2023년 8월, 린지 그레이엄(Lindsay Graham) 상원 의원과 엘리자베스 워런(Elizabeth Warren) 상원 의원도 테크 기업을 대상으로 정부 AI 라이선스 확보를 요구하는 법안을 발의했다. 그러나 해당 법안은 특정 규모의 디지털 플랫폼에만 적용된다.

렌하트는 정부의 AI 개발 라이선스 개발을 회의적으로 보는 AI 전문가나 정책 전문가가 아니다. 2023년 5월, 규제가 혁신 저하를 일으킬 수 있다는 우려를 제기한 진보 성향의 공공 운동 단체인 아메리칸 포 프로스페리티(Americans for Prosperity)와 자본인 영향력이 풍부한 기업과의 관계에 따라 업계를 차지하게 될 가능성을 경고한 디지털 권리 비영리 단체 프런티어전자재단(Electronic Frontier Foundation) 모두 AI 라이선스 발급을 통한 규제 방안을 비판했다. 그에 따라 2023년 9월 공개된 규정은 AI 감독 기구 관계자를 대상으로 한 강력한 이해관계 대립을 권고했다.

블루먼솔 의원과 하울리 의원이 발의한 법안은 몇 가지 질문의 답변을 찾지 못한 채로 남긴다. 우선, AI 감독을 신설 연방 기관이나 기존 연방 기관 내부 관계자 중 누가 담당할 것인지 확실하지 않다. 두 의원 모두 특정 사용 사례를 위험성이 높은 사례로 볼 수 있는 정의와 개발 시 라이선스가 필요한 AI 시스템을 판단하는 데 이용할 범위를 구체적으로 밝히지 않았다.

환경 비영리 단체 프렌즈 오브 어스(Friends of the Earth) 기후 거짓정보 프로그램 책임자 마이클 쿠(Michael Khoo)는 AI 시스템 개발 및 배포 시 정부 라이선스를 요구하는 법안이 바람직한 첫걸음인 듯하지만, 제대로 된 평가를 위해서는 상세한 조건이 필요하다고 지적했다. 프렌즈 오브 어스는 슈머 의원에게 서한을 보낸 환경 및 기술 책임 단체 연합 소속 단체 중 한 곳이기도 하다. 또, 미 의회 내부로 전송된 어느 한 모바일 게시판은 국회의원에게 에너지 소모량이 높은 AI 프로젝트로 기후 변화를 악화하는 일을 막을 것을 촉구하였다.

쿠도 AI 시스템 관련 상세 문서와 악영향을 미친 사례 공개를 촉구하는 법안 내용에는 동의한다. 그러나 의회가 테크 업계를 해로운 존재로 보도록 정의해서는 안 된다고 지적했다. 또, 많은 국회의원이 기업을 대상으로 알고리즘 훈련과 AI 시스템 배포 시 소요한 에너지양 공개를 요구하고, AI 모델의 영향을 더 중요하게 생각할 때는 거짓 정보 유포 속도가 빨라질 위험성을 고려하기를 원한다.

법안은 미 의회가 지금까지 연방 정부가 보인 태도보다 AI 규제에 더 엄격하게 접근하는 방향을 고려한다는 점을 보여준다. 연방 정부는 자발적 위험 관리 기준 시행과 준수 의무 사항이 아닌 AI 권리장전을 발표했다. 2023년 7월, 백악관은 구글, 마이크로소프트, 오픈AI를 포함한 주요 AI 기업 8곳의 경영진과 함께 자발적 AI 규제 합의를 체결했다. AI 기업 협약 브리핑 당시 백악관 AI 특별 보좌관인 벤 부차난(Ben Buchanan)은 AI의 피해에서 사회의 안전성을 유지하려면, 법안이 필요하다고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Senators Want ChatGPT-Level AI to Require a Government License