By REECE ROGERS, WIRED US

개인 프로필 사진 역할을 한 셀카 원본에 신선한 요소가 없어 지루하다고 생각하는가? 아마도 렌사 AI(Lensa AI) 앱을 사용해, 천상계의 요정이나 근엄한 우주비행사처럼 보이는 다채로운 색상의 맞춤 제작된 만화 이미지를 생성하는 친구를 보았을 수도 있다. 렌사 AI 개발사인 프리즈마 랩스(Prisma Labs)는 2016년, 렌사 AI보다는 강렬함이 적지만 비슷한 앱으로 스마트폰 사진을 그림으로 변환하는 기능을 제공한 적이 있다.

렌사 AI의 ‘마법 아바타’ 기능 출시는 프리즈마 랩스가 전 세계에서 대대적인 성공을 거두는 계기가 되었다. 최근, 생성형 AI 기술이 급격히 발전한 덕분에 기존 앱보다 더 인상적이면서도 다양한 이미지를 생성하게 되었다. 소프트웨어 기업 센서타워(Sensor Tower)는 12월 1일부터 5일간 렌사 AI를 초기에 다운로드하는 사용자 수가 400만 명을 돌파할 것이라고 추산했다. 같은 시기 사용자가 렌사 AI에 지출한 비용은 800만 달러를 넘어섰다.

AI가 생성한 프로필 사진은 항상 디지털 프라이버시에 대한 의문으로 이어진다. 그러나 렌사 AI를 사용해도 좋을지 궁금하다면, 렌사 AI에 비용을 지출하고 앱에 셀카를 올리기 전 아래의 사항을 고려하기를 바란다.

프라이버시 정책은 항상 읽어보아라
렌사 AI를 본격적으로 사용하기 전 잠깐 시간을 투자해 프라이버시 정책과 사용 약관을 살펴보고 앱이 개인 데이터를 이용하여 어떤 활동을 하는지 파악해야 한다. 앨런 튜링 연구소(The Alan Turing Institute)의 윤리 및 책임감 혁신 연구소장 겸 런던 퀸매리대학교 교수인 데이비드 레슬리(David Leslie)는 “생체 데이터를 사용하는 때와 목적을 항상 인지해야 한다. 생체 데이터는 민감한 데이터이다. 따라서 데이터 사용 방식을 더 주의 깊게 살펴보아야 한다”라고 경고했다.

프리즈마 랩스 공동 창립자이자 CEO인 안드레이 우솔체프(Andrey Usoltsev)는 와이어드에 보낸 메일을 통해 프라이버시 정책 업데이트 작업 중이라고 주장했다. 우솔체프는 “렌사 AI는 스테이블 디퓨전(Stable Diffusion) 모델의 복사본을 사용해 각각의 사용 사례에서 게재한 사진의 얼굴을 인식하는 방법을 훈련한다. 즉, 개인 사용자마다 다른 모델을 생성한다는 의미이다. 사용자 사진은 아바타 생성 후 프리즈마 랩스의 서버에서 즉시 삭제한다”라고 설명했다.

독자적인 평가 없이 개인 데이터 사용 방법과 보관 방법을 정확히 알 수는 없지만, 우솔체프의 설명은 올바른 방향을 향한 과정이다. 그러나 사진 게재는 포괄적인 프라이버시 보호 방안 선언의 일부분임을 염두에 두어야 한다.
 
사진 업로드를 넘어선 보안 여파
생체 데이터 수집이 첫 번째 우려 사항일 수도 있다. 그러나 앱이 사용자 기기에서 추가 데이터를 자동으로 수집하는 방식을 파악하는 것도 중요하다. 렌사 AI는 외부 분석 툴과 로그 파일 정보, 기기 식별 툴, 등록된 사용자 정보를 이용해 사용자 데이터를 수집한다. 더 자세한 사항은 렌사 AI 프라이버시 정책 제3조에서 확인할 수 있다.

렌사 AI 프라이버시팀에 메일을 보내 데이터 수집 중단 요청을 할 수 있다. iOS 기기로 렌사 AI 앱을 사용한다면, 아이폰 프라이버시 설정에 접속해 데이터 수집 비활성화를 선택할 수 있다. 정확하게 말하자면, 렌사 AI 앱에만 적용되는 사항이 아니다. 스마트폰에 설치한 모든 앱이 사용자가 인식하는 것보다 더 많은 데이터를 수집할 수도 있다. 렌사 AI의 사용자 개인 데이터 처리 방식을 신뢰하더라도 추후 기업 인수 시 데이터 관리 방식이 바뀔 확률이 높다. 전자개인정보센터(Electronic Privacy Information Center)의 AI 및 인권 프로젝트 국장 벤 윈터스(Ben Winters)는 “특히, 말도 안 되는 이야기를 그럴듯하게 포장하는 데 능숙한 대기업에 인수된다면, 사용자 개인 정보 처리 방식이 바뀔 확률이 더 높다”라고 말했다.

아동 사진이나 나체 사진 게재는 금지
아동 사진이나 나체 사진을 입력해, 렌사 AI로 이미지를 생성하는 것은 사용 악관 위반 사항이다. 그러나 나체 사진을 게재하지 않더라도 여성 사용자는 지나치게 성적인 이미지를 결과물로 얻을 수 있다. 와이어드 기고가 올리비아 스노우(Olivia Snow)는 “렌사 AI는 나체 사진뿐만 아니라 매혹적인 자세나 풍만한 가슴과 같이 성적인 특성을 만화처럼 담은 이미지를 생성할 수 있다. 내가 직접 렌사 AI를 사용했을 때, 머리 부위만 나온 사진을 올렸는데도 몇 차례 나체 이미지를 결과물로 받아보았다”라고 작성했다. 게다가 렌사 AI는 스노우가 어린 시절 사진을 올렸을 때, 멋진 과거 회상 사진을 비인간적인 이미지로 변환했다. 우솔체프는 “렌사 AI의 기능은 미성년자도 사용하도록 설계되지 않았다. 따라서 아동 사진은 단 한 장도 사용하지 않는 것을 권한다”라고 전했다.

렌사 AI는 당사자 동의 없이 성인의 성적인 이미지를 생성하기도 한다. 레슬리 교수는 “개인의 존엄성 보호 시 충분한 문제 예측이 없을 때 발생할 수 있는 문제이다. 기술이 피해를 낳는다면, 그 여파에서 벗어나지 못한다”라고 지적했다.

이상하거나 불쾌한 이미지 생성 결과물 대비
생성형 AI와 상호작용할 때는 불쾌한 손가락 동작과 성적인 요소가 포함된 이미지 이외에도 인종차별주의나 남성우월주의 요소를 담은 결과물을 받아볼 수도 있다. 전자개인정보센터 EJW(Equal Justice Works) 펠로 그랜트 퍼거슨(Grant Fergusson)은 “인터넷에는 AI 이미지 생성 프로그램과 관련해 성적으로 노골적인 이미지나 인종차별주의적 캐리커처로 변환한 개인의 AI 초상화 등 불쾌한 주제를 논의하게 되는 이미지가 넘쳐난다”라고 말했다.

실제 예술가에게 미칠 광범위한 여파 고려하기
일부 예술가는 생성형 AI가 매력적인 결과물을 제공할 수 있다는 잠재적인 가능성을 적극적으로 환영한다. 그러나 많은 예술가가 생성형 AI가 낳을 수도 있는 파장에 주저하는 모습을 보인다. 레슬리 교수는 “이미지 생성 프로그램의 상용화는 장기적으로 예술가의 지속 가능성에 악영향을 미칠 것이다”라고 말했다.

비용 부담이 더 크지만, 가능하다면 소규모 예술가 집단에 신규 프로필 사진이나 스마트폰 월페이퍼, 초상화의 디지털 이미지 생성을 요청하는 방법을 고려할 수도 있다. 인스타그램과 트위터에는 생성형 AI가 절대로 제작할 수 없는 다양한 형태의 작품을 작업한 예술가가 많다. 또, 많은 예술가가 예술 작품 제작 수수료를 받고자 간절히 원한다. 예술가 위임료를 부담하고, 실제로 고유한 개인의 이미지를 얻을 수 있다. 또, 거주하는 지역의 예술 센터에 문의해, 지역 예술가를 지원할 수도 있다.

사용 후 앱 삭제
앞서 설명한 사항을 모두 고려하고도 생성형 AI가 제작한 마법의 아바타를 얻고자 하는 상황을 이야기해보자. 다채로운 색상의 이미지를 저장한 뒤 렌사 AI의 사진과 영상 편집 기능을 확인하기를 바란다. 렌사 AI를 자주 사용하고 싶은가? 아니면, 스마트폰에서 불필요한 공간을 차지하는 또 다른 앱에 불과한가? 윈터스 국장은 데이터 수집을 우려하는 모든 사용자를 향해 “설정을 제어하고, 앱 사용 후 삭제하라. 그리고 프라이버시 보호를 위해 주어진 모든 권리를 행사하라”라는 조언을 건넸다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
What You Should Know Before Using the Lensa AI App