인공지능(AI) 기반 이미지 생성 프로그램의 접근성이 향상되자 디지털로 사진 속 인물의 옷을 벗기는 기능을 지원하는 웹사이트 접근도 훨씬 더 수월해졌다. 그중 하나는 딥페이크 기술을 이용하여 인물의 옷을 벗기는 앱 사용법을 엿볼 방법을 제공하는 변경 기능도 있다. 게시글 두 건은 사진 속 피사체 나체 이미지를 원하는 사용자가 게재한 사진으로 밝혀졌다.
딥페이크 나체 사진 피드가 의도된 피해자의 모습을 보여준다는 충격적인 사실도 확인할 수 있었다. 와이어드는 아동임이 확실한 소녀 사진도 발견했다. 여자 친구나 낯선 이임을 알리는 자막이 추가된 성인 여성 사진도 있다. 문제가 된 웹사이트의 홈페이지는 로그인하지 않은 채로 접속한 방문자가 생성한 가짜 나체 사진을 게재하지 않았다.
딥페이크 나체 사진을 생성하여 저장하고자 한다면, 암호화폐 지갑을 이용해 웹사이트에 로그인할 수 있다. 현재 딥페이크 나체 사진 가격은 공개되지 않았다. 하지만 2022년, 관련 유튜브 페이지에 게재된 영상을 기준으로 보았을 때 해당 웹사이트는 사용자가 딥페이크 나체 사진을 생성할 크레딧을 5달러부터 책정하여 판매한다는 점을 알 수 있다. 와이어드는 유튜브 페이지와 연결된 NFT 마켓플레이스 오픈씨(OpenSea) 관련 서브레딧 게시글에서 해당 웹사이트 정보를 얻을 수 있었다. 와이어드가 유튜브에 연락하자 유튜브는 해당 채널 지원이 종료된 상태라고 답변했다. 레딧은 관련 게시글을 올린 사용자를 금지했다고 전했다.
와이어드는 문제 웹사이트의 게시물 사진에 등장하는 여성과 소녀를 보호하고자 지금도 온라인 접속이 가능한 상태인 웹사이트 이름을 직접 언급하지 않는다. 웹사이트 IP 주소는 2022년 2월부터 활성화되었으며, 인터넷 보안 및 인프라 공급사인 클라우드페어(Cloudflare) 소속인 것으로 확인됐다. 클라우드페어에 문제 웹사이트와의 개입을 문의하자 재키 더튼(Jackie Dutton) 클라우드페어 대변인은 사이트의 IP 주소는 클라우드페어가 제공했으나 문제 웹사이트 콘텐츠 호스팅은 클라우드페어가 제공한 것이 아니라는 차이점을 확인했다.
와이어드는 법률 집행 기관에 아동 학대 사건을 신고하도록 돕는 기관인 국립 실종학대아동센터(National Center for Missing & Exploited Children)에 웹사이트 존재 사실을 알렸다.
오픈AI(OpenAI), 스테이빌리티 AI(Stability AI) 등 AI 기업은 자사 이미지 생성 프로그램이 상업적, 예술적 목적으로 사용되며, 유해 콘텐츠 생성은 방지할 보호 대책이 있다고 주장한다. 그러나 오픈소스 AI 이미지 생성 기술은 현재 비교적 강력한 기술이며, 포르노 생성은 가장 인기가 높은 사용 사례 중 하나이다. 이미지 생성 기술 접근성이 더 향상될 것으로 보이는 가운데, 주로 여성을 겨냥하여 생성되는 당사자 동의 없는 딥페이크 나체 이미지는 매우 심각한 수준으로 더 널리 확산되었다. 2024년 3월 초, 와이어드는 플로리다주 중학생 두 명이 당사자 동의 없이 동급생의 나체 사진을 AI로 생성하여 공유한 혐의로 체포된 소식을 보도했다. 플로리다주 사건은 딥페이크 누드 이미지 생성 용의자가 최초로 체포된 사례이다.
당사자 동의 없는 노골적 이미지 생성 문제를 연구한 적이 있는 마리 앤 프랭크스(Mary Anne Franks) 조지워싱턴대학교 법학대학원 교수는 와이어드가 발견한 딥페이크 누드 웹사이트가 암울한 현실을 강조한다고 설명했다. 바로 당사자 동의 없는 성인 여성의 AI 나체 사진 관련 사건과 현재 알려진 청소년 AI 나체 사진 관련 사건이 이전보다 훨씬 더 증가한 사실이다. 이미 알려진 사건은 극소수이다. 이미 지역사회에 AI 나체 이미지가 공유되었으며, 누군가가 AI 나체 사진 관련 소식을 듣고 경각심을 제기했기 때문이다.
프랭크스 교수는 “딥페이크 나체 사진 생성 기능을 이용할 수 있는 웹사이트가 추적할 수 없는 수준으로 증가하고, 피해자는 누군가가 신고하고 사실을 알리기 전까지 피해 사실을 알지 못할 수도 있다”라고 설명했다.
[사진=Freepik]
당사자 동의 없이 생성한 사진
와이어드가 조사한 웹사이트에는 다른 웹페이지 두 곳에 사용자가 제출한 사진을 담은 게시물이 게재됐다. 사용자가 제출한 사진 중 하나는 ‘홈(Home)’ 피드로, 나머지 하나는 ‘익스플로어(Explore)’ 피드로 분류되었다. 일부 사진은 18세 미만임이 확실한 미성년자 사진이었다.
와이어드가 본 미성년자 사진 하나는 머리에 꽃을 꽂은 소녀가 나무에 기댄 채로 서있는 사진이었다. 다른 사진은 중학교 혹은 고등학교 교실을 배경으로 한 사진이었다. 동급생이 촬영한 것처럼 보이는 교실을 배경으로 한 사진에는 ‘포르노’라는 자막이 추가되었다.
웹사이트에서는 중학생으로 보이는 소녀 여러 명의 모습을 담은 사진도 있다. 해당 사진은 학교 체육관으로 보이는 곳에서 미소를 지으면서 포즈를 취한 여학생 두 명과 함께 촬영한 어느 한 소년의 셀카였다. 사진 속 소년의 이미지는 스냅챗 렌즈(Snapchat lens)로 흐리게 보였다. 소년의 눈은 얼굴보다 훨씬 더 크게 보였다.
웹사이트에 게재된 사진 자막은 친구, 동급생, 연인의 사진임을 암시했다. 젊은 여성이 거울을 보면서 셀카를 촬영하는 모습과 함께 ‘내 여자 친구’라는 자막이 추가된 사진도 있다.
웹사이트 사진 중 다수는 틱톡 등 여러 SNS에서 인기를 얻은 인플루언서의 사진이었다. 일상생활을 공유한 누리꾼의 인스타그램 스크린샷 사진도 찾을 수 있었다. 생일 초를 올린 디저트를 앞에 두고 미소를 짓는 젊은 여성 사진도 있었다.
간혹 낯선 이가 촬영한 것으로 보이는 사진도 있었다. 사진 촬영을 위해 자세를 취하지 않은 성인 여성이나 소녀의 모습을 담은 사진도 있었다. 이와 같은 사진은 관광지 사진으로 확인된 주변 행인이 촬영한 것으로 나타났다.
와이어드가 본 사진 중 여성과 소녀의 얼굴을 자르고, 가슴이나 가랑이 부분만 보여주는 사진도 있었다.
매우 높은 사진 조회 수
와이어드가 8일간 웹사이트를 조사한 뒤 홈 피드에 게재된 새로운 여성 사진 5개와 익스플로어 페이지에 새로 게재된 사진 3개를 발견했다. 웹사이트에 게재된 통계는 누적 조회 수 수백 건을 기록한 대다수 사진을 보여주었다. 웹사이트에 제출된 사진 모두 홈이나 익스플로어 피드에 게재되는지 확실하지 않다. 혹은 사진 조회 수 통계 기준도 확실하지 않다. 홈 피드의 모든 게시물의 조회 수는 최소 수십 건이다.
유명인과 인스타그램 팔로워를 대거 보유한 인플루언서의 사진은 웹사이트의 ‘최고 조회 수’ 사진 상단에 등장한다. 웹사이트에서 조회 수 1위를 기록한 사진 중에는 누적 조회 수 6만 6,000건 이상인 배우 제나 오르테가(Jenna Ortega) 사진과 조회 수 2만 7,000건을 돌파한 싱어송라이터 테일러 스위프트의 사진과 조회 수 2만 6,000건을 기록한 말레이시아 인플루언서 겸 DJ 사진 등이었다.
스위프트와 오르테가 모두 이전에도 딥페이크 나체 사진 생성 대상이 된 적이 있다. 2024년 1월, 스위프트의 가짜 나체 사진이 X(구 트위터)에서 유포되자 딥페이크의 여파와 피해자를 위한 법적 보호 범위 확대 논의가 재개되었다. 2024년 3월, NBC는 메타가 7개월간 딥페이크 누드 생성 앱 광고를 게재한 사실을 보도했다. 메타가 광고한 앱은 제나 오르테가의 16세 시절 사진을 이용하여 사진 속 인물 옷 벗기기 기능을 제공한다는 점을 과시했다.
미국에는 당사자 동의 없는 가짜 나체 사진 유포 행위를 처벌할 연방법이 없다. 일부 주에서는 주 정부 차원의 당사자 동의 없는 딥페이크 나체 사진 처벌 법률을 집행했다. 그러나 국립 실종학대아동센터 학대아동부 책임자 제니퍼 뉴만(Jennifer Newman)은 미성년자의 AI 나체 사진은 현행법상 아동 성 착취물에 해당한다고 지적했다.
뉴만은 “실제 피해자 사진과 실제 아동 사진을 구분할 수 없다. 따라서 AI로 생성한 아동 나체 사진을 아동 성 착취물로 분류한다. 국립 실종학대아동센터는 신고 과정에서 AI 나체 사진을 다루고, 법률 집행 기관에 관련 사건을 보고할 것이다”라고 말했다.
뉴만은 2023년, 국립 실종학대아동센터에 신고된 생성형 AI 기술과 관련된 사건이 약 4,700건이라고 밝혔다.
한심한 녀석들
와이어드가 조사한 웹사이트에서 딥페이크 나체 사진 생성 후 저장하고자 하는 사용자는 코인베이스나 메타마스크(Metamask), 월렛커넥트(WalletConnect) 암호화폐 지갑을 이용하여 로그인하라는 요청을 받는다. 맥키나 오터슈테트(McKenna Otterstedt) 코인베이스 대변인은 코인베이스 내부에서 웹사이트와 코인베이스 지갑 통합 문제를 조사 중이라고 밝혔다. 월렛커넥트와 블록체인 소프트웨어 기업 콘센시스(ConsenSys)가 소유한 메타마스크 측은 와이어드의 의견 공개 요청에 답변하지 않았다.
2022년 11월, 딥페이크 누드 웹사이트와 연결된 유튜브 채널은 사용자라고 주장하는 이가 비자나 마스터카드로 딥페이크 나체 사진 생성 크레딧을 구매할 수 있다고 홍보하는 영상을 게재했다. 비자와 마스터카드 모두 와이어드의 의견 공개 요청에 답변하지 않았다.
오픈씨 웹사이트에는 편집과 딥페이크 기술이 적용되지 않은 인스타그램, 틱톡 여성 인플루언서 사진 NFT 30개가 등록됐다. 오늘날 가치 기준 280달러 상당의 이더리움 토큰으로 결제하여 여성 인플루언서 NFT를 구매한 뒤 NFT 소유자는 딥페이크 누드 웹사이트 안내 기준 당시 개발 초기 단계였던 해당 웹사이트 접근 권한을 얻었다. NFT 등록 페이지에는 사용자 프라이버시가 최우선순위라고 명시되었다.
여성 인플루언서 NFT는 여성의 인식된 특성을 언급하는 태그와 함께 분류되었다. 분류 태그 중에는 가습 크기, 국가, ‘귀여움’, ‘순수함’, ‘모성애’ 등과 같은 태그를 포함한 특성도 있었다. (여성 인플루언서 사진에 등록된 국가 태그 중 대다수는 말레이시아나 대만이었다.)
이후 딥페이크 나체 웹사이트 계정이 등록한 NFT 중 거래된 NFT는 없다. 오픈씨는 와이어드가 문제를 알리자 90분 이내로 문제가 된 NFT와 계정을 모두 삭제했다. NFT 속 여성 중 와이어드의 연락에 답변한 이는 없었다.
딥페이크 나체 웹사이트 소유자나 운영자 수, 제작자 정보 등은 분명하지 않다. 현재 삭제된 오픈씨 계정은 구글 이미지에 ‘너드’를 검색했을 때 등장하는 이미지와 같은 이미지였다. 해당 계정 소개에는 크리에이터가 이 세상의 엉망진창인 요소를 드러내며, 불쾌하면서도 한심한 이들과 공유한다는 내용이 작성되었다.
문제의 NFT를 게재한 오픈씨 계정과 연결된 X 계정에도 같은 프로필 소개가 작성되었으며, 지금은 비활성화 상태로 전환된 ‘화이트햇, 블랙햇 해킹(Whitehat, Blackhat Hacking)’, ‘스캠 및 자본 창출’ 등과 관련된 블로그와 연결되었다. 해당 X 계정 소유자가 블로그 생성 및 운영에 기여한 인물 세 명 중 한 명이자 ’ 69 Fucker’라는 가명으로 활동한 이와 같은 인물인 것으로 확인됐다.
해당 웹사이트는 50세 미만인 동아시아계 남성 사진을 프로필 사진으로 사용하는 사용자 한 명만이 레딧에서 홍보하였다. 그러나 2022년 3월 자로 기록된 해당 웹사이트 아카이브에는 “성적 욕구를 주체하지 못하며, 역량이 뛰어난 9명이 제작했다”라는 기록이 남아있다. 대다수 프로필 이미지는 저작권이 없는 공개 사진이었으며, 직책은 모두 농담처럼 작성했다. 제작자로 언급된 이들 중 3명의 직책은 ‘성적 욕구가 넘치는 감독’, ‘무서운 스토커’, ‘가슴에 집착하는 감독’ 등이었다.
웹사이트와 관련된 이메일은 와이어드가 보낸 문의에 회신하지 않았다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Freepik]](/news/photo/202404/5500_7101_1024.jpg)
뉴스레터 신청