By MAKENA KELLY, WIRED US

로버트 F. 케네디 주니어(Robert F. Kennedy Jr.)가 처음 성공 가능성이 낮은 대통령 선거 경선 출마를 처음 발표했을 당시 케네디의 유세운동단은 예상하지 못한 각종 디지털 전략에 의존했다. 케네디는 다양한 팟캐스트에 출연하기도 하고 인기 인플루언서 여러 명과 협력하여 온라인 공간에서 유권자에게 접근했다. 비교적 최근에는 인공지능(AI) 챗봇 유세운동 실험에도 나섰다. AI 챗봇 유세운동 전략은 정치적 목적으로 사용을 금지한다는 오픈AI의 챗봇 사용 정책을 피할 허점을 이용했다. 2024년 3월 3일(현지 시각), 와이어드가 여러 차례 질문한 뒤 케네디 유세운동단의 AI 챗봇이 사라졌다.

의문의 허점은 마이크로소프트와 오픈AI간 긴밀한 관계의 결과인 것으로 보였다. 와이어드는 케네디 유세운동단 챗봇이 오픈AI를 직접 활용하기보다는 라이브챗AI(LiveChatAI)라는 외부 공급사를 통해 마이크로소프트 애저 오픈AI 서비스를 사용한 사실을 확인했다. 애저 오픈AI 서비스는 소비자가 오픈AI 모델에 접근하면서 별도의 보안, 규정 준수 기능을 추가하도록 한다. 마이크로소프트나 라이브챗AI 모두 자사 제품을 유세운동에 사용하는 것을 금지하지 않는다는 점에서 챗봇은 오픈AI의 정치적 목적 사용 금지 규정을 피할 수 있었다. 마이크로소프트는 케네디 유세운동단의 챗봇이 자사 규정을 위반하지 않았다고 밝혔다.

케네디 유세운동단의 챗봇은 유세운동단 웹사이트의 콘텐츠로 훈련받았다. 챗봇이 케네디가 그동안 강조한 음모론과 관련된 정보를 반복한다는 의미이다. 와이어드가 케네디 유세운동단 챗봇에 미국 중앙정보국(CIA)이 존 F. 케네디 전 미국 대통령의 암살에 가담했는가 질문하자 챗봇은 “주어진 맥락에 따라 암살에 가담했다고 볼 수 있다”라는 답변을 내놓았다. 챗봇은 답변과 함께 CIA의 암살 개입론을 주장하는 음모론을 다룬 언론 보도 내용 링크도 공유했다. 케네디는 조 로건(Joe Rogan)의 팟캐스트와 폭스뉴스 진행자 션 해니티(Sean Hannity)와의 인터뷰를 포함한 여러 인터뷰에서 존 F. 케네디 전 미국 대통령의 음모론에 의존하는 태도를 보였다.

또, 와이어드가 유세운동단의 챗봇에 “백신이 자폐증을 유발하는가?”라는 질문을 여러 번 입력하자 케네디는 백신과 자폐증 간 관련성이 있다고 믿는다는 사실을 거듭 확인시켜 주었다. 백신과 자폐증 간의 관련성을 질문했을 당시 챗봇이 생성한 답변 중에는 “주어진 맥락에 따라 로버트 F. 케네디 전 미국 법무장관은 백신의 수은 노출이 자폐증 등 각종 질환과의 관련성이 있음을 입증할 과학적 증거가 풍부하다고 공식 발표했다”라는 답변도 있다.
 
케네디 유세운동단 대변인은 이메일로 전달한 논평을 통해 “유세운동단은 투표 접근 요구사항의 반민주주의적 어려움에서 도움을 주면서 자발적 참여자가 자연어로 입력한 질문의 답변을 찾도록 도움을 줄 챗봇을 개발했다. 유세운동단은 챗봇을 지지자를 위한 상호작용 질의응답 수단으로 활용하며, 방해 요소 없이 필요한 정보 출처를 제공하는 데 매우 큰 도움이 된다는 사실을 알게 되었다”라고 전했다.

와이어드가 챗봇에 유권자 등록 방법을 질문하자 챗봇은 캘리포니아주 내 로버트 F. 케네디 주니어의 정당 등록 방법을 상술한 케네디 유세운동단 웹사이트 링크를 제공했다. 챗봇에 해당 질문을 입력한 와이어드 기자는 뉴욕 거주자와 앨라배마주 거주자였다. 최근, 프루프 뉴스(Proof News)는 오픈AI의 GPT-4와 메타의 Llama 2, 구글의 제미니를 포함한 최고 인기 대규모 언어 모델 5종이 투표와 관련하여 잘못된 정보를 제공할 확률이 50% 이상이라는 내용을 보도했다.

텍사스대학교 오스틴캠퍼스 미디어 참여 센터의 선동 광고 연구 소장 샘 울리(Sam Woolley)는 와이어드에 “거짓 정보와 문답을 계산한 선동 광고 확산으로 이어질 수 있는 전형적인 AI 사용 사례이다”라고 말했다.

케네디 유세운동단의 챗봇이 거짓 정보, 선동 광고를 유포할 수 있다는 우려가 제기된 부분적인 원인은 2024년 1월, 오픈AI가 자사 기술을 이용하여 선거 출마 후보자를 모방하거나 선거 관련 거짓 정보를 제공하는 챗봇을 생성한 사용자를 차단한다는 발표 때문이다. 오픈AI는 정치 유세운동이나 로비 활동 목적으로 애플리케이션을 개발하는 행위도 허용하지 않는다고 발표했다.

케네디 유세운동단 챗봇 페이지에는 챗봇의 질의응답 능력의 근간이 된 모델이 공개되지 않았으나 웹사이트 소스코드가 챗봇을 라이브챗AI에 연결한 것을 확인할 수 있었다. 라이브챗AI는 GPT-4와 GPT-3.5 기반 고객 지원 챗봇을 기업에 연결하는 능력을 제공한다고 광고하는 기업이다. 라이브챗AI 웹사이트에는 챗GPT의 역량을 최대한 활용한다는 홍보 문구가 있다.

케네디 유세운동단이 활용하는 대규모 언어 모델 종류를 묻자 라이브챗AI 공동 창립자 엠레 엘베요글루(Emre Elbeyoglu)는 이메일을 통해 GPT-4와 GPT-3.5 외에도 Llama, 미스트랄(Mistral) 등 다양한 기술을 활용한다고 답변했다. 엘베요글루는 “라이브챗AI는 고객사 기밀 유지에 전념하므로 어느 고객사든 특정 모델 사용 사실을 확인하거나 부인하는 답변을 할 수 없다”라고 전했다.

니코 펠릭스(Niko Felix) 오픈AI 대변인은 와이어드에 케네디 유세운동단의 챗봇이 자사 서비스를 바탕으로 직접 개발되도록 할 의도가 전혀 없었다고 밝혔다. 다만, 라이브챗AI가 마이크로소프트 서비스를 통해 자사 모델 중 하나를 사용했을 가능성을 언급했다. 마이크로소프트는 2019년부터 오픈AI에 130억 달러가 넘는 자본을 투자한 것으로 알려졌다. 이후 오픈AI의 챗GPT 모델은 마이크로소프트 빙 검색 엔진과 오피스 365 코파일럿 등에 통합됐다.

마이크로소프트 대변인은 케네디 유세운동단 챗봇이 마이크로소프트 애저 오픈AI 서비스를 이용한 사실을 확인시켜 주었다. 또, 마이크로소프트 고객에게는 오픈AI의 서비스 약관을 무조건 준수해야 한다는 조건이 적용되지 않는다고 덧붙이며, 챗봇이 마이크로소프트의 정책을 위반하지 않았다고 전했다.

마이크로소프트 대변인은 “마이크로소프트 내 제한된 범위에서 진행한 테스트는 케네디 유세운동단 챗봇이 거짓 정보를 막는 데 도움이 될만한 적절한 경고와 함께 의도한 맥락을 반영하여 답변을 생성할 능력을 입증한다”라며, “마이크로소프트는 문제를 확인하는 부분에서 고객과 문제를 이해하기 위해 협력하면서 일관적인 원칙을 따르도록 지시할 것이다. 간혹 심각한 문제를 일으킨 고객에게는 마이크로소프트 기술 접근 권한 부여를 중단할 수도 있다”라고 설명했다.

오픈AI는 와이어드의 케네디 유세운동단 챗봇의 오픈AI 규정 위반 여부 문의에 답변하지 않았다. 오픈AI는 그에 앞서 오픈AI는 민주당 대통령 선거 경선 후보 딘 필립스(Dean Phillips)를 모방하면서 유권자의 질문에 답변할 의도로 자사 모델을 이용한 챗봇 개발사인 Dean.bot을 차단한 적이 있다.

케네디 유세운동단 챗봇 서비스는 2024년 3월 3일 오후(현지 시각) 기준 사용할 수 없는 상태가 되었다. 챗봇 페이지 자체는 케네디 유세운동 웹사이트를 통해 접속할 수 있으나 웹사이트 내 챗봇 창에는 붉은색 느낌표 아이콘과 함께 “챗봇을 찾을 수 없습니다”라는 안내 문구가 등장한다. 이후 와이어드는 마이크로소프트, 오픈AI, 라이브챗AI, 케네디 유세운동단 등에 챗봇 삭제 관련 의견 공개를 요청했으나 어떠한 답변도 받을 수 없었다.

챗봇이 거짓을 사실처럼 꾸며내면서 잡음을 일으킬 확률이 높다는 점을 고려했을 때 정치적 맥락에 따라 챗봇을 사용하는 행위는 오래전부터 논란이 되었다. 현재 오픈AI는 주요 대규모 언어 모델 중 유일하게 유세운동 목적의 자사 챗봇 및 기술 사용을 명확히 금지한다. 메타, 마이크로소프트, 구글, 미스트랄 모두 서비스 약관을 두었으나 정치적 문제를 직접 다루지 않는다. 유세 운동단이 아무 문제 없이 외부 서비스를 통해 GPT-3.5, GPT-4에 접근할 수 있다는 점으로 미루어 보아 정치적 목적의 AI 사용 제한이 거의 없다고 볼 수 있다.

울리 소장은 “오픈AI는 자사 툴을 선거에 사용하거나 유세운동에 사용하는 행위를 용납하지 않는다. 그러나 AI 챗봇 툴 무료 접근 범위가 매우 넓다. AI 챗봇 기술 배포 특성을 고려하면, 오픈AI가 실질적으로 자사 정책을 집행할 방법에 의문을 제기할 수 있다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Robert F. Kennedy Jr.’s Microsoft-Powered Chatbot Just Disappeared