By ODANGA MADUNG, WIRED US

2021년 5월 18일, 케냐 트위터 타임라인에 ‘#무정부주의판결(#AnarchistJudges)’이라는 교묘한 피해를 주는 해시태그가 등장했다. 일부 익명 봇이 유포에 앞장서고, 일련의 가짜 계정이 리트윗한 것으로 보이는 해당 해시태그와 관련해 심각한 수준으로 대거 등장한 트윗은 2021년 헌법 개정안을 무력화한 고등법원 판결의 완벽함과 무결성에 의문을 제기한다. 판결 내용과 관련된 수많은 거짓 정보가 주장하는 내용에는 마약 거래와 뇌물, 정치적 협력 문제 등이 포함됐다. # AnarchistJudges는 순식간에 케냐의 탑 트렌드 주제 중 하나가 되었다.

이처럼 악의적이면서 조직화된 거짓 정보 공격은 케냐에서 급격히 증가하는 추세이다. 필자는 모질라재단의 동료 브라이언 오비로(Brian Obilo)와 함께 새로운 조사 결과를 발표했다. 거짓 정보 유포 캠페인에 참여한 수많은 인플루언서와의 인터뷰를 통해 거짓 정보가 케냐에서 정치적 목적으로 고용된 SNS 인플루언서 사이에서 성장세를 보이는 음지의 업계임을 입증할 증거를 검토했다. 시민사회 단체와 기자 단체 소속 구성원 다수가 입막음을 해 명예를 실추시키면서 활동을 멈출 방안을 찾느라 혈안인 거짓 정보 공격을 당하는 사례가 증가했다.

케냐의 뉴스 유포에 큰 영향을 미치면서 자체 트렌드 알고리즘 악용 문제를 지닌 트위터는 지금까지 거짓 정보 유포 작전의 중심이 되었다. 거짓 정보 확산에 개입한 상당수 계정과 개인, 정치적 이념 모두 금전적 대가를 받고 거짓 정보를 유포한다는 사실을 밝히지 않는다. 심지어 검증된 일부 계정도 거짓 정보 확산 캠페인에 가담한다.
 
트윈트(Twint)와 스프링클(Sprinklr), 트린디나리아(Trendinalia) 등 스크래핑 툴과 소프트웨어 기업의 도움을 받아 5월 1일부터 6월 30일까지 발생한 거짓 정보 공격을 추적했다. 추적 과정은 거짓 정보 유포 세력이 트위터에서 이용한 특정 해시태그 도표화 및 분석 작업을 통해 진행했다. 특히, 거짓 정보 유포 작전을 살펴보기 위해 ‘브리지 구축 계획(BBI)’라는 이름으로 널리 알려졌으며, 추진 당시 케냐 내 분노 여론을 형성한 케냐 헌법 개정안에 초점을 맞추었다. 그 범위에는 케냐 사회운동가와 사법 관료를 겨냥한 악성 콘텐츠를 게재한 특정 계정 도표화 작업이 포함됐다. 관련 트위터 게시글의 메타데이터에 기록된 시간대를 통해 같은 시간대에 이루어진 두 가지 이상의 활동이 분명하게 드러났다. 매우 짧은 시간에 거짓 정보 유포 활동이 폭발적으로 증가했다.

연구 과정에서 총 2만 3,606개의 트위터 게시글과 리트윗 게시글이 해시태그 11개와 총 3,742개 계정을 통해 확산된 사실을 확인했다. 흥미롭게도 연구로 확인한 거짓 정보 유포 활동은 시민과 유명한 사회운동가를 직접 공격한 것으로 드러났다. 또한, 거짓 정보 유포 운동에 가담한 세력은 헌법 개정안을 공개적으로 반대한 윌리엄 루토(William Ruto) 부통령에게서 뒷돈을 받은 악의적인 세력이라는 주장과 함께 시민 사회 단체와 사회운동가의 명예를 실추시킬 방안도 모색했다.

제대로 협력이 이루어진 공격은 왓츠앱 그룹을 통해 활동을 개시해, 감지를 피한다. 연구 과정에서 대화한 다수 거짓 정보 유포 단체는 관리자가 게재할 내용과 해시태그, 리트윗 등 활동에 참여할 트위터 게시글, 공격 대상, 동시 작업을 통한 트렌드 주제 포함 방법 등을 지시한다는 사실을 밝혔다. 보복 우려 때문에 익명을 요구한 어느 한 인플루언서는 “주요 목표는 트위터 트렌드 주제 선정이다. 개인적으로 거짓 정보 유포 작전 개시 활동이 공격 대상이 없다면, 어떻게 이루어질 것인지 확실하지 않다”라고 말했다.

거짓 정보 유포 활동을 통해 돈을 벌어들일 수 있다. 연구 과정에 참여한 일부 인플루언서는 거짓 정보 유포 작전에 참여하면 일일 10~15달러를 벌 수 있다고 밝혔다. 또, 간혹 매달 250달러를 버는 이들도 있다. 케냐 시민 다수의 일일 소득이 1달러임을 고려하면 큰돈을 손에 쥐는 것이다.

연구 분석을 통해 거짓 정보 유포 작전의 가장 주된 피해 세력이 케냐 기자와 판사, 사회운동가라는 사실을 확인했다. 상당수 공격이 안티-BBB(anti-BBB) 운동 세력인 린다 카티바(Linda Katiba)의 캠페인 관련 유명 구성원을 겨냥한 것을 대표적인 예시로 언급할 수 있다. 공격 세력은 카티바나 카티바의 아버지의 유사한 점을 이용해 카티바 부녀를 사칭하고는 루토 부통령에게서 뒷돈을 받고 활동을 펼치는 듯한 의심스러운 행동을 한다. 카티바는 자신을 겨냥한 공격이 명예훼손이며, “조국을 사랑하는 마음에서 활동한 애국주의자라는 지위를 지키는 데 막대한 시간을 보내야 했다”라고 주장했다. 다른 여러 사회운동가는 자기 검열 행위를 펼쳐야 했다.

필자의 조사에 대한 대응으로 트위터는 트위터 플랫폼 조작과 스팸 정책을 위반한 케냐 계정 100개를 삭제했다. 트위터 대변인은 메일로 보낸 공식 성명에 “일부 계정은 진실되지 않은 행위에 의존해 팔로워를 확보하거나 리트윗한다. (리트윗 게시글에는 정치적 주제를 다룬 게시글만 있는 것이 아니다.) 그러나 #AnarchistJudges 등 연구에 언급된 해시태그 상당수가 정당하다는 사실을 확인했다”라고 작성했다.

5월 14일, 케냐 고등법원은 BBI를 반대했으며, 8월 20일 자 판결로 원심판결을 유지했다. 법원은 BBI가 위헌이라는 점을 판결 근거로 제시했다. 법원 판결은 이미 심각한 케냐 사법부와 그 행정 관료 간의 관계를 악화하면서 사법 기관의 독립성과 판결 정확성에 의문을 제기하려 모색하는 거짓 정보 공격이 여러 차례 이어졌다.

원심판결이 유지된 후로 거짓 정보 유포 공격은 눈에 띌 정도로 가시적으로 바뀌었다. 갈수록 미국 우익 세력의 트위터가 선호하는 신문 편집 카툰 캐리커처와 밈을 동원하면서 판사의 이미지를 이용한 특정 템플릿을 반복하여 유포했다. 콘텐츠 만족도 상승과 더 수월한 공유 방안을 모색하면서 최우선으로 변경한 전략을 시사하는 듯하다.

트위터 트렌드 수집 기관인 트렌디나리아를 통해 수집한 자료를 기준으로 거짓 정보 유포 세력이 이용한 해시태그 11개 중 8개가 케냐에서 트렌드 주제가 될 정도로 언급량이 증가한 사실을 확인할 수 있었다. 조사에 응한 이들의 설명에 따르면, 계정을 빌려 거짓 정보 캠페인이 트렌드 주제에 선정되도록 하기 위한 금전 지급 작전을 펼치는 검증된 사용자의 활동으로 일부 성과를 얻는다.

케냐 정치계 인사의 거짓 정보 유포 활동 수요는 매우 높다. 5월과 6월에만 인위적인 정치 해시태그가 총 31건 등장한 사실을 확인할 수 있었다. 케냐 시민이 매일 최소 1건씩 정치 관련 거짓 정보를 다룬다는 의미이다.

거짓 정보 유포 작전이 실제 대중의 여론을 좌우했다는 증거가 거의 없다는 사실이 흥미롭다. 그러나 트위터 사용자와 사용자의 정보 환경과의 상호작용에 영향을 미친다는 사실이 드러났다. 궁극적인 목표는 사용자를 장악해 그 누구도 진실과 거짓을 구분할 수 없는 환경을 조성하는 것이다.

거짓 정보 유포 문제는 케냐에서만 발생하는 독특한 문제가 아니다. 2021년 초 우간다 선거를 포함해 아프리카 대륙 전역에 정치계 인사가 트렌드 선정과 참여 메커니즘, 정치적 주장 통제 목적의 계정 생성과 같은 트위터의 기능을 악용해 거짓 정보로 대화의 혼란을 유발하면서 반대 세력의 주장에는 괴롭힘을 가한다. 어떤 행위가 이루어질까?

결국 트위터 콘텐츠 관리팀이 각국의 자체 트렌드 주제 섹션에 더 집중해 알고리즘이 잠재적 피해 검토 과정을 거치지 않은 콘텐츠 선정 및 강조 문제를 유지하지 않도록 할 수 있었다.

SNS 사회운동 단체인 슬리핑 자이언츠(Sleeping Giants)는 트위터가 트렌드를 아예 삭제하거나 선거와 같은 중요한 시기에 계정을 비활성화하는 등 트렌드 선정 대상에서 제외되도록 할 것을 요구받은 것으로 알려졌다. 논란의 여지는 있지만, 트위터는 문제를 해결하면서 이익을 취할 수 있었다. 트위터는 기업 고객을 대상으로 한 트렌드 주제 섹션에서 ‘프로모션 트렌드’와 ‘프로모션 트윗’ 내 피드 해시태그 광고를 판매할 수 있다. 트위터는 거짓 정보 유포라는 유해한 활동으로 수익을 확보하면서 스스로 직접적인 혼란에 몰아넣었다. 트위터 거짓 정보 유포 행위는 “트렌드 콘텐츠 옆에 광고를 두고 콘텐츠로 돈을 벌어들일 수만 있다면, 플랫폼에 혐오를 유포해도 괜찮다”라는 전체 메시지를 보낸다.

2022년, 논란의 여지가 있는 선거를 앞둔 케냐에서 거짓 정보 유포 활동 수요가 증가할 것이다. 일부 정당과 정치계 관료는 거짓 협력 작전을 찾는 데 혈안이 될 것이며, 그중 다수는 개인과 케냐 기관을 악의적으로 겨냥할 것이다. 연구로 강조한 거짓 정보 유포 활동이 곧 이루어질 것이며, 트위터는 거짓 정보 작전에 주목해야 한다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
In Kenya, Influencers Are Hired to Spread Disinformation