By Vittoria Elliott, WIRED US

딥페이크 포르노 대상 국가 법안이 미 의회에서 통과를 추진하는 데 어려움이 있지만, 미국 전역의 여러 주에서 딥페이크 포르노 처벌 법안 제정을 자체적으로 추진 중이다. 현재 39개 주에서 당사자 동의 없는 딥페이크 불법 음란물 제작을 막고, 제작자와 공유자를 처벌하고자 마련된 여러 법률이 도입되었다.

2024년 초반, 알렉산드리아 오카시오코르테스(Alexandria Ocasio-Cortez) 민주당 의원이 당사자 동의 없는 딥페이크 불법 음란물 제작 피해를 겪은 뒤 디파이언스법(Disrupt Explicit Forged Images and Non-Consensual Edits Act, Defiance Act)을 발의했다. 디파이언스법이 통과된다면, 딥페이크 음란물 포르노 피해자는 딥페이크 콘텐츠 제작 과정에서 당사자 동의가 없었다는 사실을 입증할 시 제작자와 유포자를 상대로 소송을 제기할 수 있다. 2024년 6월, 테드 크루즈(Ted Cruz) 공화당 의원은 테이크잇다운법(Take It Down Act)을 발의했다. 해당 법안은 온라인 플랫폼에 리벤지 포르노와 당사자 동의 없이 제작, 유포가 이루어진 딥페이크 포르노 모두 삭제 요구를 하는 것을 골자로 한다.

딥페이크 포르노 제작, 유포 행위 처벌 관련 법적 조처 다수 양당의 지지가 있었으나 연방 법안은 하원 의회와 상원 의회를 통과한 뒤 법률 제정 서명이 완료되는 데 몇 년이 걸릴 수 있다. 그러나 주 정부 법안과 지역 정치인 모두 더 빠른 속도로 법률 제정을 추진할 수 있다. 실제로 미국 여러 지역에서는 주 정부 차원의 신속한 딥페이크 불법 음란물 처벌 관련 법률 도입 노력을 펼치고 있다.

2024년 8월, 샌프란시스코시의 데이비드 치우(David Chiu) 변호사 사무실은 사용자가 인공지능(AI) 포르노를 생성하도록 일조하는 웹사이트 중 방문자 수가 가장 많은 웹사이트 16곳을 고발했다고 발표했다. 치우 변호사는 사무실의 공식 성명을 통해 “생성형 AI는 매우 유망한 기술이다. 하지만 각종 신기술 도입과 함께 의도치 않은 여파와 신기술을 악용할 기회를 노리는 범죄자가 등장하기도 한다. 딥페이크로 당사자 동의 없는 불법 음란물을 제작하는 등의 범죄 행위에 기술이 악용되는 일은 혁신이 아닌 성범죄임을 분명하게 말한다”라고 전했다.

위의 소송은 갈수록 심각해지는 당사자 동의 없는 딥페이크 포르노 제작 문제를 막고자 최근 발표된 노력의 일환이다.
 
당사자 동의 없는 딥페이크 생성, 유포 관련 법안을 추적한 뒤 와이어드에 조사 결과를 공유한 비영리단체 퍼블릭시티즌(Public Citizen)의 관리 책임자 이라나 벨러(Ilana Beller)는 “딥페이크 음란물 제작 문제는 유명인의 피해 사례만 존재하는 범죄라는 잘못된 인식이 존재한다. 실제로 평범한 개인도 피해를 본 사례가 많다”라고 말했다.

퍼블릭시티즌의 데이터에 따르면, 23개 주에서 당사자 동의 없는 딥페이크 콘텐츠 관련 법률이 통과됐다. 벨러는 “딥페이크 음란물 제작, 유포와 같은 문제는 고질적으로 발생하는 문제이다. 따라서 여러 주 정부의 의원이 이를 문제로 보고 있다. 또, 현재 AI 기술 발전 속도 때문에 의회에서는 신속한 AI 법안 통과에 관심을 보이고 있다고 생각한다”라고 설명했다.

2023년, 와이어드는 딥페이크 포르노가 갈수록 증가하는 추세이며, 연구원은 딥페이크 영상 90%가 포르노이면서 그중 절대다수는 여성 피해자의 동의 없이 생성된 영상이라는 조사 결과를 공개했다. 당사자 동의 없는 딥페이크 법안을 추적한 컬럼비아대학교 연구원인 카일리 윌리엄스(Kaylee Williams) 연구원은 딥페이크 포르노 문제가 만연한 현실이지만, 국회의원은 정치적 딥페이크 콘텐츠 제작 문제에 더 집중한다고 본다.

윌리엄스 연구원은 “매우 개인적인 이미지 문제를 다루는 것보다는 선거구 무결성을 보호하는 데 더 큰 관심이 있다”라고 주장했다.

미시간주의 당사자 동의 없는 딥페이크 콘텐츠 법안을 공동 지지한 미시간주 공화당 하원의원인 매튜 비어레인(Matthew Bierlein) 의원은 정치 딥페이크 관련 문제를 조사하다가 처음 딥페이크 음란물 문제를 다루게 되었다고 밝혔다. 비어레인 의원은 “미시간주는 딥페이크 콘텐츠임을 공개적으로 명시하지 않는다면, 정치 딥페이크를 선거자금법 위반 행위로 규정하고자 한다”라고 말했다. 비어레인 의원은 정치 딥페이크 문제를 다룬 뒤 페넬로페 체르노글루(Penelope Tsernoglou) 민주당 하원의원과 합력하여 당사자 동의 없는 딥페이크 법안 여러 건을 발의하는 데 도움을 주었다.

2024년 1월, 테일러 스위프트의 동의 없이 제작된 딥페이크 포르노가 널리 확산되면서 여러 언론에서 일제히 보도했다. 비어레인 의원은 “테일러 스위프트 딥페이크 포르노 문제가 널리 알려진 때를 딥페이크 포르노 관련 법안 도입 추진 적기라고 판단했다”라고 전했다. 이어, 미시간주가 미국 중서부 지역의 딥페이크 법안을 이끌 위치에 있다고 생각했다. 미시간주 의회에는 인근 지역과 달리 충분한 임금을 받는 의회 정직원이 상주하기 때문이다. (대다수 주 정부 의회 직원의 임금이 적은 편이다.) 비어레인 의원은 “딥페이크 포르노 문제가 단순히 미시간주만의 문제가 아닌 심각한 문제임을 파악했다. 문제를 제대로 잡는다면, 오하이오주도 미시간주의 선례를 따르고, 인디애나주, 일리노이주 등 다른 지역도 비슷한 법안 도입을 추진하여 법률 집행이 수월해질 것이다”라고 설명했다.

그러나 당사자 동의 없는 딥페이크 불법 음란물 제작자와 공유자 처벌 수위, 보호 대상 범위는 지역마다 다르다. 윌리엄스 연구원은 “미국의 딥페이크 포르노 처벌 법률 기준은 지역마다 일관성이 없다. 딥페이크 포르노 피해자는 유명인이라는 잘못도니 인식이 미국 전역의 주 정부의 비슷한 법안 통과 원인이 되었다고 본다. 현재 딥페이크 불법 음란물 관련 법안이 대거 발의된 상태이다”라고 말했다.

일부 주 정부는 딥페이크 불법 음란물 제작, 유포 가해자 모두를 상대로 한 민, 형사 소송을 인정한다. 반대로 제작자를 상대로 한 소송만 가능한 주도 있다. 최근, 미시시피주에서는 미성년자의 딥페이크 불법 음란물 피해 사례에 초점을 맞추는 법안이 발효되었다. 지난 년간 미국 전역에서는 동급생의 얼굴을 합성한 당사자 동의 없는 딥페이크 불법 음란물 생성, 유포 범죄를 둘러싼 논쟁이 잇따라 제기되었다. 딥페이크 생성 피해자 중 여학생 비율이 유독 높았다. 성인의 피해 사례에 초점을 맞춘 법안도 있다. 이와 관련, 국회의원은 기존의 리벤지 포르노 금지법을 개정한다.

윌리엄스 연구원이 윤리적으로 잘못되었다는 본질의 포괄적인 동의가 이루어진 미성년자를 대상으로 한 당사자 동의 없는 딥페이크 불법 음란물에 초점을 맞춘 법률과 달리 성인의 당사자 동의 없는 딥페이크 음란물 제작 피해 문제의 ‘윤리성’ 관련 법안은 비교적 약한 편이다. 다수 법률과 법안은 대다수 사례에서 딥페이크 제작 의도, 당사자 동의 없는 딥페이크 제작 및 공유 의도가 피해를 줄 의도임을 직접 입증해야 한다는 요건을 명시한다.

프라이버시, 사이버보안 전문 변호사인 사라 조드카(Sara Jodka) 변호사는 주 정부 차원에서 별도로 발의된 법안의 일관성이 부족한 문제는 유독 다루기 까다롭다. 조드카 변호사는 “특정 IP 주소 사용자를 확인할 수 없다면, 딥페이크 제작 의도는 고사하고 제작자 정체를 입증할 수 있을까?”라는 질문을 던졌다.

윌리엄스 연구원은 유명인이나 공인을 겨냥한 당사자 동의 없는 딥페이크 불법 음란물 제작 사건의 제작자 다수가 자신의 의도가 피해를 준다는 사실을 인지하지 못한다는 점에 주목했다. 이에, “제작자는 피해를 호소하는 이를 존경하거나 애정하여 ‘팬심에서 제작한 것’이라고 주장한다”라고 언급했다.

조드카 변호사는 주 정부 차원의 딥페이크 불법 음란물 대응 법안 도입의 시작은 긍정적이지만, 실제 문제를 다룰 권력은 제한될 확률이 높으며, 연방법은 책임감 있는 사법권 집행을 강행하도록 여러 주 정부 기관의 수사와 기소를 인정할 확률이 높다.

비어레인 의원은 여러 주 정부 소속 하원의원이 연방 정부의 문제 해결을 기다리는 데 동의하지 않는다고 전했다. 비어레인 의원은 당사자 동의 없는 딥페이크가 성 착취 스캠에 악용될 수 있다고 설명했다. 실제로 미국 연방수사국(FBI)이 증가하는 사례라고 밝힌 문제이기도 하다. 2023년, 미시간주에서 사기꾼에게 개인의 민감한 이미지를 포함한 실물 사진을 온라인이 공개한다는 협박을 받아 10대 청소년이 스스로 목숨을 끊은 일이 발생했다. 비어레인 의원은 해당 사례를 언급하며, “연방 차원의 법률 도입 속도는 매우 느리다. 만약, 하원 의원들이 연방 차원의 대응을 기다린다면, 실제 법률 도입까지 훨씬 더 긴 시간을 기다려야 할 수도 있다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The US Needs Deepfake Porn Laws. These States Are Leading the Way