By WILL KNIGHT, WIRED US

2023년 5월, 미국 상원 의회 청문회는 오픈AI CEO 샘 알트만(Sam Altman)의 발언대로 검증되지 않은 인공지능(AI)이 인간의 일자리 위협, 거짓 정보 유포를 비롯해 전체적으로 매우 심각한 문제를 일으킬 수 있다는 위험성을 제시했다. 알트만과 청문회에 참석한 다수 의원은 미국에는 AI 개발을 감독할 새로운 연방 기관이 필요하다는 주장에 동의했다. 그러나 청문회에서는 그 누구도 생산성을 높이면서 미국이 새로운 기술 혁명을 이끌 가능성을 열어줄 수 있는 기술 처벌을 원하지 않는다는 사실도 볼 수 있었다.

AI의 위험성을 우려한 상원 의원은 전투기 조종사이자 조지메이슨대학교 공학 및 로봇학 교수인 미시 커밍스(Missy Cummings) 교수와의 대화를 고려할 수도 있다. 커밍스 교수는 차량과 비행기 등 안전성이 중요한 시스템의 AI, 자동화 기술 사용을 연구하는 인물이자 2023년 초, 테슬라 오토파일럿과 자율주행차를 포함한 자동차 기술 감독 기구인 미국 고속도로교통안전국(National Highway Traffic Safety Administration, 이하 NHTSA)에서의 임기를 끝내고 학계로 돌아온 인물이다. 커밍스 교수의 전망은 미래에 위험성을 동반한 채로 지나치게 과장된 새로운 알고리즘의 장점에 무게를 싣고자 하는 정치인과 정책 입안자에게 도움이 될 수 있을 것이다.

커밍스 교수는 필자에게 NHTSA 임기를 마칠 때 다수 차량 제조사가 구축할 자동화 시스템을 몹시 우려했다고 밝혔다. 커밍스 교수는 “자율주행 차량 기능 측면에서 매우 심각한 문제가 있다. 자율주행 차량은 실제 많은 이들이 생각하는 수준의 기능 지원에 가까워지지도 않았다”라고 말했다.

필자는 챗GPT 및 그와 비슷한 AI 챗봇이 AI의 강점과 관련하여 흥미와 우려를 동시에 자극하는 상황과 평행한 문제가 있다는 점에서 흥미롭다고 생각했다. 자동화 기술은 오랫동안 존재했으나 대규모 언어 모델과 같이 본질적으로 예측과 감시가 어려운 데다가 과거의 여러 공학적 사고가 필요한 머신러닝 알고리즘에 의존한다.
 
필자는 챗GPT와 테슬라의 오토파일럿, 그 외 자율주행 프로젝트 등이 말도 안 될 정도로 대대적인 과장 광고 수준을 향상한 점도 좋아한다. 교통수단 혁명이라는 자신감이 넘치는 전망은 자동차 제조사와 스타트업, 혁신가가 지금도 여러 가지 미해결 문제를 지닌 기술 개발, 구축에 큰돈을 투자하는 결과로 이어졌다. 2010년대 중반에는 자율주행 차량을 허용하는 규제 환경이 펼쳐졌다. 정부 관료는 종종 미국 기업이 수십억 달러에 이르는 가치를 달성하도록 약속할 수 있는 자율주행 기술 개발에 제동을 거는 것을 달갑지 않게 생각했다.

자율주행 기술 개발 분야에 거액을 투자한 뒤에도 자율주행 차량에는 지금도 여러 문제점이 존재하며, 일부 자동차 제조사는 대규모 자동차 프로젝트를 중단했다. 반면, 커밍스 교수가 언급한 바와 같이 대중은 종종 자율주행 기술이 대대적으로 홍보한 기술이 실제로 얼마나 실현 가능한지 확실히 알지 못한다.

한 가지 측면에서 정부 기관과 국회의원이 재빨리 생성형 AI와 대규모 언어 모델 규제를 제시한 것이 고무적이다. 현재 AI 관련 충격은 대규모 언어 모델과 챗GPT를 비롯한 AI 챗봇을 중심으로 발생했다. 대규모 언어 모델과 AI 챗봇은 사용자의 질문 답변 제시 능력과 문제 해결 능력이 놀라울 정도로 뛰어나지만, 사실을 조작하는 등 심각한 단점도 있다.

챗GPT 개발사인 오픈AI CEO 샘 알트만은 청문회에 출석해 오픈AI를 비롯한 AI 개발 기업의 첨단 AI 연구, 개발 작업 진행 허용 여부를 통제할 라이선스 시스템을 촉구했다. 그는 “개인적으로 가장 우려하는 최악의 상황은 AI 연구와 AI, 테크 업계가 전 세계에 심각한 피해를 주는 것”이라고 말했다.

커밍스 교수는 NHTSA 재임 시절을 설명하며, 주요 AI, 테크 기업이 규제 기관이 나아갈 방향과 관련하여 지나친 영향력을 지니게 될 때의 위험성이 크다고 경고했다. 커밍스 교수는 “NHTSA 소속이었을 당시 대부분 시장 이동을 원하지 않기 때문에 지나치게 신중한 기술 사용이 필요하다는 말을 한 차례 이상 들었다. 이는 규제가 제대로 작동하고 있다는 가장 좋은 신호일 것이다. 시장이 움직인다면, 규제가 제대로 시행될 것이다”라고 말했다.

이어, 정치인과 규제 기관이 AI 개발 속도를 높일 필요성과 AI에 더 익숙해지면서 AI 기술 작동 방식을 이해할 필요성이 절실하다는 점도 지적했다. 이와 관련하여 정치인과 규제 기관 관계자가 AI 관련 사건을 조사하도록 교육할 방안을 모색 중이며, 조지메이슨대학교에서 AI를 더 자세히 이해하고자 하는 정치인과 규제 기관 관료를 위한 강좌도 제공하려 준비 중이라고 밝혔다.

덕망이 있는 일부 AI 전문가는 가장 최근 개발된 AI 시스템이 지나치게 영리하면서 피해를 줄 의도를 지니게 된다면, 사무직 종사자의 일자리 대체와 거짓 정보 생성은 물론이고 인류의 존립 위험을 제기할 수 있다고 확신한다. 재차 설명하자면, 커밍스 교수는 AI가 제기할 위험성보다는 인간이 완벽한 역량을 갖추지 않은 기술을 맹신할 것을 더 우려한다.

커밍스 교수는 현재 생성형 AI 열풍에 따라 발생할 수 있는 여파 중 한 가지 예시로 “인간은 어디서나 생성형 툴을 이용하여 코드를 작성하기 시작할 것이다. 문제가 있는 코드를 제거하기만 하는 컴퓨터 과학자에게는 전혀 다른 직무가 등장할 것이다. 평생 직업 보장이 가능할 것이다”라고 언급했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Politicians Need to Learn How AI Works—Fast