미국 의회의 통신품위법 제230조 관련 청문회가 개인 콘텐츠 중재 관련 암울한 대가를 교환하는 교착상태에 빠졌다. 콘텐츠 중재 문제에 여전히 신중한 이유는 무엇인가? 통신품위법 제230조를 폐지하려는 이유는 무엇인가? 여러 가지 새로운 법안은 국회의원이 미묘한 차이가 있는 부분까지 조금 더 자세히 다루었다는 사실을 시사한다.
12월 1일(현지 시각), 하원 에너지 상무 위원회(House Energy and Commerce Committee)는 알고리즘 추천 콘텐츠에 대한 테크 기업의 법적 책임 면제를 없애려는 몇 가지 발의안을 논의했다. 현재 통신품위법 제230조는 일반적으로 사용자가 생성한 콘텐츠 문제로 온라인 플랫폼이 피소되는 일이 없도록 막는다. 새로운 발의안은 여러 가지 방식으로 통신품위법 제230조를 개정해, 알고리즘이 포함될 때 법적 책임 면제를 부여하지 않는다.
콘텐츠 중재 자체는 짜고 치는 고스톱과 같다 할 수 있다. 페이스북 내부고발자인 프란시스 하우겐(Frances Haugen)의 증언 덕분에 의회도 참여도 최대화를 위해 설계된 순위 알고리즘 사용이 페이스북이나 인스타그램, 유튜브와 같은 대규모 소셜 플랫폼이 지닌 여러 문제의 근본이라는 사실을 이해하게 되었다. 품질보다는 참여도에 최적화된 시스템은 도용인과 악성 사용자, 오해, 지나친 당파적 분노 유발 영향력이 훨씬 더 빨리 도달하도록 한 요소이다.
통신품위법 제230조 개정안의 목표는 플랫폼에 사업 모델을 변경해야 하는 이유를 부여한다. 하우겐이 2021년 10월, 상원 의회 청문회에서 설명한 바와 같이 통신품위법 제230조를 개정해 페이스북이 의도한 순위 결정의 여파에 책임을 지도록 하고자 한다면, 참여도 기반 순위 자체를 제거해야 할 것이다.
통신품위법 제230조를 이용해 플랫폼의 참여도 설계를 중단해야 하는 이유는 무엇인가? 그 부분적인 이유는 의회가 지닌 몇 안 되는 큰 변화를 일으킬 기반 요소 중 하나이기 때문이다. 사용자 콘텐츠를 게재하는 테크 플랫폼은 통신품위법 제230조를 적극적으로 지지하며, 법적 보호가 사라지는 것을 몹시도 싫어할 것이다. 통신품위법 제230조 개정안은 사용자 콘텐츠 게재 기업의 행동 변화라는 결과를 얻고자 하는 매력적인 수단이 될 것이다. 법적 면제를 얻게 돼 매우 좋다. 법적 면제와 관련, 어떠한 변화라도 발생하면 매우 고통스러울 것이다.
[사진=Pixabay]
뉴저지주 민주당 의원인 톰 맬리나우스키(Tom Malinowski) 의원은 필자에게 “법적 책임은 테크 플랫폼의 문제를 끝낼 수단이다. 목적은 알고리즘 변경 시 혜택을 주는 것이다”라며, “이번 개정안의 전제 조건은 법적 책임 때문에 발생한 혜택이 없으면, 테크 플랫폼이 자체적으로 변화를 도모하지 않을 것이라는 점이다. 그러나 법적 책임과 함께 충분한 압박을 가한다면, 테크 플랫폼은 문제 개선 방법을 알고 있으면서 변화하는 모습을 보일 것이다”라고 말했다.
법적 책임과 함께 온라인 플랫폼 기업의 문제 개선을 위한 통신품위법 제230조 개정 시도에는 개념적으로 멋진 부분이 있다. 통신품위법이 강조하는 논리는 인터넷 사용자가 온라인상의 발언과 행동에 책임을 져야 한다는 점이다. 콘텐츠를 게재하는 플랫폼만 책임을 지는 것이 아니다. 그러나 1996년, 통신품위법이 통과했을 당시 사용자의 참여도를 최대화하도록 제작된 맞춤형 추천 시스템이 증가한 추세는 아니었다. 온라인 플랫폼이 중립적 수단 대신 홍보할 요소를 직접 결정하는 수준에 이르기까지 단순히 플랫폼과 플랫폼의 자동화 시스템이 사용자에게 보여주기로 선택한 요소에 법적 책임을 지도록 하면 된다는 단순한 문제인 것처럼 보였다.
그러나 실제로 알고리즘적 확대에 법적 책임을 추가하는 문제는 그저 멋진 수단처럼 보였다. 한 가지 예시로 철학적인 요소까지 포함해, 모든 종류의 명확한 의문 사항이 있었다.
버클리 인간 호환 AI 센터 객원 학자이자 추천 알고리즘을 연구하는 학자인 조너선 스트레이(Jonathan Stray)는 “원칙상 법적 책임을 져야 한다는 점에 동의한다. 그러나 온라인 플랫폼의 법적 책임 문제와 관련된 절차를 설명할 정확한 용어를 찾지 못한 듯하다. 확장은 무엇이고, 강화는 무엇인가? 또, 맞춤화는 무엇이고, 추천은 무엇인가?”라고 말했다.
일례로, 뉴저지주 프랭크 펄론(Frank Pallone) 민주당 의원의 ‘악성 알고리즘에 대한 정의법(Justice Against Malicious Algorithms Act)’은 플랫폼이 사용자를 위한 맞춤형 추천을 제공한다는 사실을 알았거나 알았어야 할 때, 법적 책임 면제권을 박탈한다. 그런데, ‘맞춤형’이라는 요소가 성립하는 조건은 무엇인가? 해당 법에 따르면, 개인의 특수한 정보를 이용해 특정 콘텐츠의 인기를 다른 콘텐츠보다 강화한다. 나쁜 정의는 아니다. 다만, 표면적으로 모든 사용자에게 정확히 똑같은 콘텐츠를 제공하지 않는 플랫폼은 통신품위법 제230조 적용 대상이 아니다. 팔로우한 다른 사용자의 콘텐츠를 보여주더라도 한 사용자의 특성만 특별히 나타내는 정보를 이용한다는 점에서 논란의 여지가 있다.
맬리나우스키의원이 발의한 ‘위험 알고리즘으로부터의 미국 시민 보호법(Protecting Americans From Dangerous Algorithms Act)’은 시민권이나 테러주의 관련 상태를 언급하는 주장에 대해 통신품위법 제230조 법적 책임 면제권을 박탈한다. 단, 그 조건은 플랫폼이 알고리즘이나 모델, 다른 연산 처리 작업을 이용해 전달하거나 보여주는 정보 순위 평가나 정렬, 홍보, 추천 강화 혹은 변경 행위가 이루어진 때이다. 그러나 분명하면서 이해할 수 있고, 합리적인 사용자에게 투명성을 지닌 알고리즘은 예외이다. 또한, 법률은 역차순 피드나 인기 기준 순위 평가, 사용자 검토를 포함해 법안에 부합한 몇 가지 사례를 나열한다.
맬리나우스키의원의 발의안은 한 가지 훌륭한 요소를 다룬다. 참여 기반 알고리즘의 한 가지 문제는 불투명성이다. 사용자는 개인 정보를 이용해 플랫폼이 사용자의 관심을 끌리라 예측한 콘텐츠를 맞춤형으로 제공하는 방법을 거의 이해하지 못한다. 그러나 스트레이는 좋은 알고리즘과 나쁜 알고리즘 구분이 쉽지 않다는 사실을 지적한다. 사용자 리뷰나 게시글 ‘좋아요’, ‘싫어요’ 투표 자체는 문제가 있다. 단순히 ‘좋아요’ 투표나 긍정적인 리뷰를 게재해 콘텐츠 목록 최상단에 오르는 것을 원하지 않을 수 있다. 스트레이는 참여 기반 알고리즘의 문제를 고칠 방안이 주어진 특정 콘텐츠의 통계적 오류 수치 계산과 실제 게시글 유포에 따른 순위 평가라고 설명한다. 스트레이가 필자에게 몇 분간 설명한 해결 방법이 분명하면서 투명성을 지녔는가? 스팸 필터와 같은 기본적인 요소를 사용하는 것은 어떤가?
스트레이는 “실제로 실질적인 시스템까지 제외할 정도로 간단한 배제 시스템의 의도는 정확하지 않다. 개인적으로 시스템의 의도가 정확하지 않다고 의심한다”라고 언급했다.
다시 말해, 알고리즘적 추천을 대상으로 통신품위법 제230조의 법적 책임 면제를 없애는 법안이 결국 적어도 SNS 플랫폼이 우려하는 한 직접 문제 콘텐츠를 제거하는 것과 똑같을 것이다. 통신품위법 제230조의 정의를 나타낸 서적 『인터넷을 생성하는 26가지 단어(The Twenty-Six Words That Created the Internet)』의 저자인 제프 코세프(Jeff Kosseff)는 인터넷 기업이 법적 보호가 없어도 후퇴할 법적 방어 수단이 많다고 주장한다. 그중 하나는 수정헌법 제1조이다.
코세프가 주장하는 바는 통신품위법 제230조 논의의 이상한 측면이라고 할 수 있다. 통신품위법 제230조 지지자와 비판론자 모두 법률 개정이 중요한 변화를 일으키지 않을 것이라고 주장한다. 통신품위법 제230조 폐지는 결국 기업이 자동으로 법적 책임을 지도록 하지 않기 때문이다. 단순히 법적 책임 면제 형태 상실을 의미한다. 단순히 사용자의 발언을 전달하기만 하는 플랫폼을 상대로 승리하기는 어려울 듯하다. 인과관계와 법적 책임을 둘러싼 각종 의문 사항이 있기 때문이다. 통신품위법 제230조 개정 지지 세력에게는 법적 책임 면제가 사라진 후 그 누구도 지나친 걱정을 해서는 안 된다고 말한다. 통신품위법 제230조 비판론자로 유명한 캐리 골드버그(Carrie Goldberg)가 12월 1일 청문회에서 증언한 바와 같이 법적 책임을 압도하는 테크 기업의 우려는 찾을 수 없을 것이다. 그리고, 두려움을 유발하는 세력은 법적 책임 적용 방식에 익숙하지 않다는 사실이 드러날 것이다. 반대로 통신품위법 제230조 지지 세력은 반대 주장을 펼친다. 만약, 원고가 통신품위법 제230조로 패소한 상황에서 이를 취소한다면, 기업의 자원 고갈 역할만 하는 사소한 소송이 될 것이다.
알고리즘에 특별히 중점을 둔 법안도 비슷하게 모호한 점이 있다. 청문회에서 증언한 또 다른 통신품위법 제230조 비판론자인 매리 앤 프랭크스(Mary Anne Franks)는 이메일을 통해 법안이 과잉 포용과 과소 포용 문제를 모두 담고 있다고 말했다. 반면, 페이스북과 인스타그램과 같은 SNS 플랫폼뿐만 아니라 사용자가 생성한 콘텐츠를 추천하는 모든 대규모 플랫폼 대상 통신품위법 제230조가 사실상 폐지되는 결과로 이어질 수 있다. (통신품위법 제230조는 소규모 플랫폼에 적용되지 않는다.) 그러나 통신품위법 제230조가 인정하는 법적 책임 면제로 현재 이익을 누리는 최악의 법률 위반 플랫폼에 영향을 미치지 않을 것이다. 더더티(The Dirty)나 쉬즈어홈레커(She’s a Homewrecker)와 같이 잔혹하면서 명예훼손 소지가 있는 사용자가 제출한 개인에 대한 근거 없는 소문을 다룬 게시글을 공유하는 플랫폼은 맞춤형 알고리즘이 없어도 수많은 피해를 일으킬 수 있다. 불법 총기 판매가 수월하게 성사되도록 하는 사이트도 마찬가지이다.
미 의회의 목표가 알고리즘을 변경한 기업에 혜택을 제공하는 것이라도 알고리즘을 직접 지정하는 것이 최선의 개선 방안은 아니다. 프랭크스는 더 간단하면서 광범위한 방안을 제시했다. 통신품위법 제230조를 불법 게시글이나 법을 어기는 행위에 의도적으로 무관심한 모습을 강화하는 기업에 적용하지 않는 것이다. 프랭크스의 동료인 다니엘 시트론(Danielle Citron)은 기업이 법적 책임 면제 이전에 특정한 유해 콘텐츠 유포를 막으려는 타당한 조처를 한다는 사실을 입증해야 한다고 주장한다. 만약, 플랫폼의 입증 책임을 규정한 법률이 제정되더라도 참여 기반 알고리즘은 사라지지 않을 것이다. 다만, 큰 변화가 이루어질 것이다. 예를 들어, 하우겐이 폭로한 페이스북 페이퍼(Facebook Papers)는 페이스북이 최근까지 사용자 수억 명이 거주하는 중동, 아프리카 지역에 콘텐츠 중재 인프라를 거의 두지 않거나 전혀 두지 않았다는 사실을 입증한다. 통신품위법 제230조는 해외 시장에 있더라도 주로 미국 기업을 보호한다. 그러나 아프가니스탄에서 게재한 명예훼손 혹은 특정 인물을 겨냥한 괴롭힘 성격을 지닌 인스타그램 게시글을 생각해보아라. 2020년까지 페이스북은 아프가니스탄에 혐오 발언 신고 형태를 완벽히 번역한 내용을 제공하지 않았으며, 아프가니스탄에서 게재된 문제성 콘텐츠를 무관심 표준에 따라 소송 대상이 될 수 있다. 페이스북은 갑자기 알고리즘이 법원에서 다룰 문제성 게시글을 선호하지 않는다는 사실을 확실히 확인하고자 훨씬 더 강력한 혜택을 지니기 시작했다.
의회가 상당수 SNS 플랫폼이 지닌 문제의 근본적 요소에 의문점을 설계하는 데 중점을 두기 시작한 것이 고무적이다. 아직 이상적인 해결책을 제시하지 못한 부분을 이해할 수 있다. 효과적인 알고리즘 제작은 복잡하다. 훌륭한 법률 제정도 마찬가지이다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Pixabay]](/news/photo/202112/3576_4686_5914.jpg)
뉴스레터 신청