/ By Paris Martineau, WIRED US
 

페이스북은 지난 금요일(12.20. 현지시간) 900여 개 이상의 페이스북, 인스타그램 계정을 삭제했다. 이 계정들은 약 5500만 명의 이용자들을 속여 트럼프 대통령에게 우호적인 메시지를 퍼트렸다. 계정 운영자들은 트위터와 유튜브를 비롯해 인터넷에 정치적 양극화를 초래하는 우파 위주의 콘텐츠를 확산시켰다. 콘텐츠를 널리 배포하기 위해 가짜 사회관계망서비스 계정과 인공지능으로 만든 합성사진들이 사용됐으며 이 사진들은 가짜 계정 프로필에 게재됐다.

소셜 네트워크에 인공지능으로 만들어진 합성 사진들이 ‘대량으로’ 유포된 사례는 이번에 처음으로 적발된 것이다. 이는 인공지능을 통한 합성 사진 제작 기술이 놀랍게 발전했다는 사실을 상징한다. 합성 사진의 영향에 대한 보고서에 따르면, 허위정보 조사기관인 그라피카(Graphika)와 디에프알랩(DFRLab)의 연구자들은 이 사건이 인공지능을 활용한 합성사진 기술이 가짜 소셜 미디어 캠페인을 지원하는데 사용된 첫 번째 경우라고 언급했다.

사진들은 디지털 뉴스 매체 ‘더 뷰티 오브 라이프(BL)’와 관련된 페이스북 계정 610개, 페이스북 페이지 156개, 인스타그램 계정 72개의 신빙성을 높이기 위해 사용됐다. 페이스북에서 페이지가 삭제되기 전까지 디지털 뉴스 매체 ‘더 뷰티 오브 라이프(BL)’는 “순수한 산속의 샘처럼 모든 독자의 심장을 촉촉이 적시겠습니다”는 문구로 자신을 소개했다.

페이스북은 수사 과정에서 BL을 에폭 미디어 그룹과 연결지었다. 에폭 미디어 그룹은 보수언론단체로 중국의 영적 집단인 파룬궁과 연계되어 있고 트럼프 대통령에게 전폭적인 지지를 보낸 전력이 있다.  

표면적으로 미국 기반의 미디어 조직인 BL의 페이스북 페이지들은 베트남과 미국에서 운영됐다. 페이스북은 페이지 운영자들이 페이지 접속량을 늘리고 페이스북의 탐지를 피하고자 가짜 계정을 대대적으로 사용했다고 밝혔다.

그라피카와 디에프알랩 연구자들의 보고서에 따르면, BL이 운영하는 여러 사회관계망서비스 가짜 계정들은 트럼프 대통령을 옹호하는 80여 페이스북 그룹, 페이지를 관리하는 데 사용됐다. 이 페이지들의 관리자 역할을 한 계정들은 베트남에서 생성되었고 대다수가 가짜였다. 페이지 이름은 “아메리카는 트럼프 대통령이 필요하다,” “미국 대통령으로 트럼프를,” “트럼프와 펜스를 지지한다” 등이었다. 

그라피카와 디에프알랩 연구자들의 보고서에 따르면 가짜 계정은 페이스북 그룹 관리자 역할을 했고 페이스북 그룹 회원 수를 늘렸다. 허위 계정 운영자는 페이스북 페이지에 게재된 게시물에 ‘좋아요’를 눌렀고 BL에서 많은 콘텐츠를 가져와 자신의 계정에 올렸다. 또한 "이 과정을 거쳐 대규모 인공 콘텐츠를 양산하는 공장 체제가 만들어졌고 공장 용도는 BL과 에폭 미디어 그룹 콘텐츠를 확산시키는 것"이었다.
 

많은 허위 계정들은 실제로 존재하지 않는 사람들의 사진을 프로필에 올려놓았다. 현존하는 사람과 유사한 사진을 만들어내기 위해 사람 얼굴 사진으로 훈련받은 신경망(neural network)을 사용했다고 연구자들은 설명했다.

그라피카와 디에프알랩의 연구자들은 BL이 사용한 프로필 사진에서 18개의 얼굴 이미지를 발견했으며 이 사진들은 생성적 대립쌍 네트워크(GAN, generative adversarial networks)를 통해 만들어졌을 가능성이 있다고 말했다.

이 기술은 그런대로 괜찮은 가짜 얼굴을 만들 수 있지만, 연구자들은 가짜 얼굴이 만들어지는 몇 가지 명백한 단서들을 가지고 있다. 가짜 얼굴은 주로 시각 패턴을 모방하는 것으로 작동하지만 인체 해부학을 이해하지 못하고 안경이나 귀걸이 같은 대칭적 특징과 배경을 구현하는 데 어려움을 겪는다.

그라피카 보고서에 나왔던 위 이미지는 BL 그룹 중 특정 그룹의 관리자인 "알폰조 마시아스(Alfonzo Macias)"의 프로필 사진에서 가져왔다. 보고서는 "안경의 비대칭성과 잘 정의되지 않은 배경에도 주목하라"며 "저자들은 이 이미지를 나폴리 페데리코 2세 대학의 전문가들과 확인했는데 그들은 이 이미지가 GAN으로 생성되었을 확률이 99.9%인 것으로 평가했다"고 했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다.

<원문 기사 및 링크>

Facebook Removes Accounts With AI-Generated Profile Photos