By Will Knight, WIRED US

일론 머스크가 챗GPT를 비롯한 여러 인공지능(AI) 프로그램을 트럼프가 당선 시 규제를 시행할 대상으로 지정했다. 머스크는 현재 출시된 AI 모델의 각성 수준이 너무 심각하면서 정치적 문제인 것이 옳다고 거듭 경고했다.

머스크는 리야드에서 사우디아라비아 정부의 지원으로 열린 행사인 미래투자계획(Future Investment Initiative)에서 “상당수 AI가 샌프란시스코 베이 어어리어에서 훈련되어 그 주변 인물의 철학을 받아들인다. 따라서 AI를 훈련하는 인물이 각성 상태의 허무주의자라면, AI에 그 철학이 그대로 주입될 것이라고 생각한다”라고 말했다.

일론 머스크 자체도 양극화 문제를 일으키는 인물이지만, AI 시스템에 정치적 편견이 존재한다는 주장은 옳은 발언이다. 하지만 문제는 일방에만 편향되지 않았다. 머스크의 AI 시스템 문제 인식 형성 시도는 트럼프와의 관계 때문에 머스크 개인의 이익을 추가로 추구하는 데 도움이 될 수 있다. 머스크는 오픈AI, 구글, 메타 등 미국 정부의 규제 목표 대상이 된다면, 반사이익을 누릴 수 있는 AI 업계 경쟁사인 xAI를 운영한다.

조지메이슨대학교 연구 펠로 매트 미텔스티트(Matt Mittelsteadt)는 “머스크와 트럼프 유세운동단의 관계가 매우 가깝다는 사실은 분명하다. 머스크의 발언은 무엇이든 영향력이 클 것이다”라며, “최고 수준의 영향력을 발위한다면, 머스크는 트럼프 행정부에서 주요 관직을 차지할 것이다. 또한, 자신의 이익에 부합하는 일부 정책을 집행할 수도 있다”라고 설명했다.

과거, 머스크는 각성 상태인 바이러스에 감염되었다며, 오픈AI와 구글을 모두 비난했다. 2024년 2월, 구글 제미나이(Gemini) 챗봇이 흑백 나치, 바이킹족 사진을 포함하여 적절하지 않은 역사적 사진을 생성했을 당시 머스크는 제미나이의 문제를 구글의 AI를 이용한 말도 안 되는 각성 AI 유포 전망을 입증하는 사례로 보았다.

머스크가 테크 기업 규제를 지지하지 않는다는 사실은 분명하다. 그러나 캘리포니아주의 AI 법안 발의를 지지하여 기업이 거부권 행사가 가능한 AI 모델에 답변하도록 했다.

트럼프 행정부는 첫 집권 당시에도 행정명령을 시행하는 테크 업계 대기업의 과거 인식된 편견을 규제 대상으로 지정했다. 당시, 트위터, 구글, 페이스북 등에 정치적 이유의 정보 검열 책임감을 지도록 할 방안을 모색했다. 정부의 테크 업계 규제 압박은 결과적으로 페이스북이 전용 뉴스 섹션 지정 계획을 폐지하는 등 그 영향이 물리적으로 느껴졌다.
 
미텔스티트 연구원은 트럼프가 부통령 후보로 임명한 JD 밴스도 테크 업계 대기업 규제를 논의한 적이 있으며, 구글을 세계에서 가장 위험한 기업으로 칭했다.

미텔스티트 연구원은 트럼프의 대기업 처벌 방식이 다양할 것이라고 덧붙였다. 이어, 트럼프 정부가 아마존 웹 서비스와의 중요한 연방 계약 체결을 취소한 방법을 예시로 언급했다. 트럼프 전 대통령의 워싱턴포스트와 워싱턴포스트 소유자인 제프 베이조스(Bezos)를 향한 견해가 계약 취소의 주된 사유로 지목됐다.

AI의 정치적 선입견의 증거를 찾는 일은 어렵지 않다. 180도 다른 효과를 불러와도 마찬가지이다.

2023년, 워싱턴대학교와 카네기멜론대학교, 시안교통대학교의 연구원으로 구성된 합동 연구팀은 다양한 언어 모델의 정치적 성향 범위를 확인한 연구 논문을 발표했다. 연구 논문은 편견이 혐오 발언이나 거짓 정보 감지 시스템의 성능에 미치는 영향을 보여주었다.

홍콩과학기술대학교 연구팀은 별도의 연구로 일부 오픈소스 AI 모델이 이민, 생식 권리, 기후변화 등 일부 문제를 두고 양극화된 견해를 지닌 사실을 확인했다. 해당 연구에 참여한 대학원생인 방예진 연구원은 대다수 모델이 진보적이면서 미국 중심적 사고를 지녔으나 같은 모델이 주제에 따라 진보적이거나 보수적인 편견을 드러낼 수 있다고 설명했다.

AI 모델이 정치적 편견을 드러내는 이유는 모든 관점을 반영할 수밖에 없는 광범위한 인터넷 데이터로 훈련받기 때문이다. 사용자 대부분 사용 중인 AI 툴의 편견을 전혀 인지하지 못할 수도 있다. AI 모델이 해롭거나 편견을 지닌 특정 콘텐츠를 생서하는 일을 제하하는 보호 대책을 통합하였기 때문이다. 그러나 AI 모델의 편견은 아주 미묘한 방식으로 드러나며, 결과물 생성 제한 사항을 받는 모델 추가 훈련으로 편향적인 문제를 더 드러낼 수도 있다. 방 연구원은 “개발자는 AI 모델이 분열을 일으키는 주제에서 다양한 관점을 드러내 균형을 갖춘 관점에 따라 답변하도록 확인할 수 있다”라고 전했다.

대규모 언어 모델의 사회적 편견 차이를 발견한 ‘해로운 래빗홀 프레임워크(Toxicity Rabbit Hole Framework)’를 개발한 로체스터공과대학교 컴퓨터 사이언티스트 아쉬퀴 쿠다부크쉬(Ashique KhudaBukhsh)는 AI 시스템을 사용하는 일이 더 만연해진다면, 더 심각한 문제가 발생할 수도 있다고 지적한다. 쿠다부크쉬는 “차세대 대규모 언어 모델이 편견을 포함한 AI가 생성한 콘텐츠로 훈련받는 일이 증가하는 악순환을 우려한다”라고 말했다.

대규모 언어 모델의 독일 정치 관련 편견을 분석한 카를루스에공과대학교 박사후 연구원인 루카 라텐버거(Luca Rettenberger)는 “대규모 언어 모델의 편견이 이미 문제를 일으키고 있으며, 앞으로는 더 심각해질 것을 확신한다”라고 경고했다.

라텐버거 연구원은 정치 단체가 상대에 맞서 특정 견해를 널리 퍼뜨릴 의도로 대규모 언어 모델에 영향력을 행사할 방법을 찾는 데 혈안이 될 수 있다고 전했다. 그는 “야망이 넘쳐나면서 악의적인 의도를 지닌 이기 대규모 언어 모델이 특정 방향으로 향하도록 조작할 수 있다. 훈련 데이터 조작이 실제 위험 요소라고 생각한다”라고 말했다.

이미 AI 모델의 편견 균형 전환 노력이 일부 이루어졌다. 2024년 3월, 어느 한 프로그래머는 챗GPT와 같은 AI 툴에서 본 미묘한 편견을 강조할 의도로 우익 사상이 더 강한 챗봇을 개발했다. 머스크는 xAI의 AI 챗봇인 그록(Grok)이 최대한 사실을 말하고, 다른 AI 툴보다 편견 수준을 줄이도록 개발할 것이라고 약속했다. 그러나 실질적으로 그록은 까다로운 정치적 질문의 답을 피했다. (트럼프의 충실한 지지자이자 이민자 반대 세력인 머스크가 주장하는 편견이 적은 관점은 우익 성향에 더 편중된 결과물 생성으로 해석할 수 있다.)

2024년 미국 대통령 선거로 민주당과 공화당 간의 불협화음을 치유하기 어려울 것이다. 만약, 트럼프가 당선된다면, 각성 AI 반대 논의가 더 커질 것이다.

머스크는 AI의 편향성 문제를 두고 종말론적인 관점을 제시하며, 구글 제미나이가 성전환 수술을 받은 전직 운동선수 케이틀린 제너(Caitlyn Jenner)의 성별을 잘못 분류하는 것보다 핵 전쟁을 더 선호한다는 발언을 한 문제를 지적했다. 이에, 그는 “제미나이와 같은 생각을 지닌 AI 챗봇을 설계한다면, 그 누구의 성별도 잘못 분류하지 않는 일을 모든 인류가 전멸하도록 하기 가장 좋은 방법이라는 결론을 내릴 수 있다. 따라서 미래에는 성별 분류 오류의 수익성이 전혀 없을 것이다”라고 주장했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Elon Musk’s Criticism of ‘Woke AI’ Suggests ChatGPT Could Be a Trump Administration Target