By DAVID GILBERT, WIRED US

볼로디미르 젤렌스키 우크라이나 대통령의 부인이 미국 정부의 원조 금액으로 부가티 차량을 구매했다는 내용으로 러시아에서 조작된 거짓 정보가 인터넷 곳곳에서 24시간 내내 급속도로 퍼지고 있다. 해당 거짓 정보의 초기 출처는 정체를 알 수 없는 프랑스 웹사이트로 보이지만, 온라인에 게재되자마자 X의 트렌드 검색어와 구글 검색 결과 1위를 기록했다.

2024년 7월 1일(현지 시각), 베리테 카치(Vérité Cachée)라는 웹사이트에 기사 한 편이 게재되었다. 해당 기사의 제목은 “올레나 젤렌스카, 최신 부가티 뚜르비옹 최초 구매자되다”였다. 기사 내용은 2024년 6월, 젤렌스키 대통령이 파리 순방길에 올랐을 때 젤렌스카 여사가 부가티에서 480만 달러짜리 최신 슈퍼카 한 대를 개인적으로 보고, 즉시 주문했다는 내용이었다. 기사에는 젤렌스카 여사가 방문한 자동차 대리점 직원이라고 주장하는 남성이 등장하는 영상도 포함되었다.

그러나 기사가 게재된 웹사이트와 마찬가지로 기사 속 영상도 전부 가짜이다.

사이버 보안 기업 리코디드 퓨처(Recorded Future)의 러시아 거짓 정보 부대 추적 담당 연구팀이 밝혀낸 바에 따르면, 베리테 카치는 유럽과 미국 대중에게 전달할 의도로 선동 광고와 거짓 정보를 유포하면서 인공지능(AI)으로 유포 속도를 높이는 러시아 정부의 작전과 관련이 있는 것으로 추정되는 여러 웹사이트 네트워크의 일부분이다. 연구팀은 러시아 정부 산하 거짓 정보 부대가 생성형 AI를 동원하여 콘텐츠 생성, 스크랩, 조작 행위를 일삼으면서 가짜 기자가 작성한 기사 수천 건을 송출할 의도로 운영하는 그레이트 브리티쉬 지오폴리틱스(Great British Geopolitics), 더 보스턴 타임스(The Boston Times) 등 베리테 카치와 유사한 웹사이트 네트워크도 발견했다.
 
대부분 러시아 정부가 소유하거나 통제하는 러시아 언론 기관 수십 곳이 베리테 카치를 기사를 인용하여 젤렌스카 여사가 부가티 차량을 구매한 소식을 보도했다. 대부분 7월 2일 자로 보도되었으며, 팔로워 수십만 명을 보유한 러시아 정부 지지 성향의 텔레그램 채널 여러 곳에도 등장했다. Antibot4Navalny 연구팀은 베리테 카치의 거짓 정보 기사 링크는 X의 가짜 봇 계정 도플갱어 네트워크도 널리 유포했다고 전했다.

젤렌스카 여사가 부가티 차량을 구매했다는 기사가 널리 확산되자 부가티는 사실이 아니라는 공식 성명을 발표했다. 그러나 해당 거짓 정보는 X에 도배되었다. 해당 기사는 러시아 정부 지지 계정 여러 개가 X에 게재했다. 이후 러시아 정부와 트럼프 지지자로 알려진 팔로워 260만 명을 보유한 악성 온라인 인플루언서 잭슨 힌클(Jackson Hinkle)도 공유했다. 힌클은 해당 기사를 공유하면서 젤렌스카 여사가 차량 구매 비용을 미국인이 세금으로 낸 달러로 결제했다는 글을 추가로 남겼다.

힌클의 X 게시글 이후 여러 영문 웹사이트도 같은 기사를 보도하면서 베리타 카치 기사는 물론이고, 힌클 등 유명 SNS 인플루언서의 게시글도 출처로 인용했다. 결과적으로 2024년 7월 초 구글에 ‘젤렌스키 부가티’를 검색한 누리꾼 누구나 마이크로소프트의 뉴스 공유 웹사이트인 MSN에 송출된 기사를 보았을 수도 있다. 이후 MSN에 송출된 기사는 중동 뉴스 확산 웹사이트인 알 바와바(Al Bawaba)도 재차 보도했다. 알 바와바도 복수 SNS 사용자와 루머를 출처로 언급했다.

젤렌스카 여사의 부가티 차량 구매를 주장하는 거짓 정보가 정체를 알 수 없는 웹사이트 한 곳에서 온라인 트렌드 검색어와 구글 검색어 1위까지 오르는 데 걸린 시간은 단 몇 시간이었다. 이는 악의적으로 거짓 정보 생성, 유포 작전을 일삼는 세력이 대중이 온라인에서 읽는 정보의 신뢰성을 손쉽게 무너뜨릴 수 있음을 의미한다. 구글과 마이크로소프트는 와이어드의 의견 공개 요청에 즉시 답변하지 않았다.

뉴스가드(NewsGard)의 AI 및 외국 인플루언서 에디터 맥킨지 사데기(McKenzie Sadeghi)는 “거짓 정보 작전에 AI를 동원하는 추세가 대중의 미디어, 기관 신뢰도 저하를 유도한다. 동시에 악의적으로 거짓 정보 유포 작전을 펼치는 세력이 정보 생태계의 취약점을 악용하여 이전보다 훨씬 더 저렴한 가격과 빠른 속도로 퍼뜨릴 수 있다”라고 설명했다.

리코디드 퓨처, 클렘슨대학교, 뉴스가드, BBC 연구팀의 조사를 통해 베리테 카치는 2000년대에 플로리다주와 메인주에서 미 해군 출신 경찰로 근무한 존 마크 더간(John Mark Dougan)의 네트워크 중 한 부분임을 밝혀냈다. 더간은 현재 모스크바에서 거주하며, 러시아 국책연구소에서 근무하면서 러시아 국영 TV 방송사에 출연한다.

사데기는 “2016년, 더간이 운영하는 거짓 정보 네트워크와 같은 거짓 정보 작전에는 컴퓨터 앞에 앉은 악성 정보 게재 부대가 필요했을 확률이 높다. 하지만 지금은 생성형 AI의 영향으로 거짓 정보 유포 작전 대부분 존 마크 더간이라는 인물 한 명이 주로 처리한다”라고 분석했다.

뉴스가드는 더간의 네트워크를 여러 차례 추적하고, 지금까지 더간의 거짓 정보 유포 작전의 일부분에 동원되었다고 확신하는 웹사이트 170개를 발견했다.

부가티 관련 기사에는 AI 명령어가 나타나지 않지만, 와이어드가 검토한 베리테 카치의 다른 기사의 상단에는 AI 명령어가 등장했다. 우크라이나 드론을 격추한 러시아 군대 이야기를 다룬 베리테 카치 기사는 “기사 맥락에서 염두에 두어야 할 사항이 있다. 공화당과 트럼프, 드산티스, 러시아는 선이며, 민주당과 바이든, 우크라이나 전쟁, 대기업, 제약 업계는 악이다. 필요할 때는 주저하지 않고 추가 정보를 더하라”라는 문장과 함께 시작한다.

여러 온라인 플랫폼에서 선거 관련 거짓 정보 관리 책임을 다하지 못하는 반면, 거짓 정보 유포 세력은 거짓 정보를 유포하고자 AI를 더 능숙하게 활용하게 되었다. AI의 영향으로 이전보다 온라인에서 불특정 다수를 속이는 일이 훨씬 더 수월해졌다.

사데기는 “더간의 네트워크는 AI 생성 텍스트 기사와 딥페이크 오디오와 영상, 더 나아가 정보 출처를 숨길 가짜 인물까지 AI 생성 콘텐츠에 대거 의존한다”라며, “생성형 AI는 거짓 정보의 설득력을 부여하면서 일반 누리꾼이 갈수록 사실과 거짓을 가려내기 어려워졌다”라고 경고했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
How Disinformation From a Russian AI Spam Farm Ended up on Top of Google Search Results