블루힐러(blue heeler)라는 견종의 강아지 가족이 등장하는 만화 블루이(Bluey)의 단점은 에피소드가 충분하지 않은 것이다. 7분 분량 에피소드 총 151편이 방영되었으나 블루이의 인기가 입증하듯이 어린 자녀를 둔 부모는 블루이 제작사인 호주 루도 스튜디오(Ludo Studio)가 더 많은 에피소드를 방영하기를 바란다. 더 많은 블루이 에피소드를 빨리 접할 방법은 루도 스튜디오가 제작한 블루힐러 캐릭터 가족의 새로운 이야기를 직접 제작하는 것이다.
루크 워너(Luke Warner)가 생성형 인공지능(AI)을 활용하여 실제로 한 일이다. 런던에 거주하는 개발자이자 어린 딸을 둔 아버지인 워너는 오픈AI의 최신 툴인 GPT라는 맞춤 제작 봇을 이용하여 딸에게 들려줄 이야기를 직접 제작했다. 워너가 블루이-GPT(Bluey-GPT)라고 칭하는 AI 봇은 매번 사용자에게 이름과 나이, 일상생활을 일부 물어본 뒤 블루이와 여동생 빙고(Bingo)가 등장하는 이야기를 맞춤 제작한다. 워너는 “블루이-GPT가 생성한 이야기에는 사용자의 학교 이름과 거주지가 등장하며, 날씨가 춥다는 점과 같은 사실을 이야기한다. 실제 있을 법한 이야기이자 몰입감이 높은 이야기를 생성한다”라고 말했다.
챗GPT의 메인 버전은 2022년 출시 후 동화 여러 편을 작성할 수 있었으나 GPT는 부모나 사용자 누구나 주제를 제어하고, 자녀 이름과 같이 특정 명령어를 입력하여 이야기를 생성하기 시작할 수 있다. 즉, 누구나 자녀와 자녀가 가장 좋아하는 캐릭터가 등장하는 자신만의 이야기를 생성할 수 있다는 의미이다. 루도 스튜디오가 새로운 에피소드를 방영할 때까지 기다릴 필요가 없다는 의미이기도 하다.
AI가 대거 생성한 이야기는 실제 애니메이션 제작사의 이야기만큼 훌륭하지 않고, 법적, 윤리적 우려를 불러일으킬 수 있다. 현재 오픈AI의 GPT는 유료 구독 서비스 가입자나 기업 계정 소유자만 사용할 수 있다. 오픈AI는 GPT를 더 많은 사용자가 사용하도록 출시할 수도 있다고 밝혔다. 그러나 GPT는 오픈AI 이사회 파문이라는 결과를 낳은 여러 우려사항 중 하나로 알려졌다. 또한, 복수 연구원이 GPT가 개인 정보를 유출할 수 있다는 프라이버시 우려도 경고했다. (오픈AI는 GPT의 법적, 윤리적 문제 관련 문의에 답변하지 않았다.)
2023년 11월 초, 워너가 딸에게 들려줄 새로운 블루이 에피소드를 생성하려 직접 GPT를 제작했을 때 오픈AI가 작업 중인 GPT스토어(GPT Store)에 출시하고자 했다. 그러나 블루이-GPT를 절대로 출시할 수 없었다. 워너가 인스타그램에 블루이-GPT 홍보 게시글을 올리고 5일 뒤 GPT를 공개적으로 공유할 수 없다는 오픈AI의 주의사항을 안내받았다. 워너는 블루이-GPT를 이용하여 블루이 에피소드를 제작하는 것이 우려를 불러일으킬 수 있다는 점을 인지하여 오픈AI의 주의사항이 크게 놀랍지 않다고 생각했다. 상표권을 취득한 이름과 이미지 사용은 대부분 인정되지 않는다. 하지만 AI가 작성한 이야기 관련 법률 규정은 모호하다. 워너가 딸에게 들려줄 이야기를 생성하고자 제작한 블루이-GPT는 법적 문제의 시작에 불과하다.
[사진=Unsplash]
AI가 작성한 글의 문제를 두고 적용할 법률도 확실하지 않다. 워너는 영국에 거주하지만, 오픈AI는 미국 기업이다. 또, 루도 스튜디오는 호주 기업이다. 가상의 캐릭터는 영국과 미국에서 저작권 보호 대상에 해당한다. 그러나 호주에서는 저작권 보호 대상을 판단하는 기준이 더 복잡하다. 호주에서는 작업의 추가 요소를 포함하지 않고 단순히 캐릭터 이름을 지칭하는 행위는 저작권 침해가 아니라고 본다.
법무법인 테일러 웨싱(Taylor Wessing)의 기술, 지식재산권 및 정보팀 소속 변호사 수양 주(Xuyang Zhu)는 영국에서는 이야기 배경과 이야기 제작 방식, 표현 등도 캐릭터의 법적 보호 대상에 포함된다고 말했다. 주 변호사는 “블루이-GPT와 같은 측면에서 이야기를 충분히 다시 제작할 수 있는 다른 맥락에서 캐릭터를 복제한다면, 법적 보호 권리 침해가 인정된다”라고 설명했다. 이어, 권리자가 자칫하면 캐릭터 명예가 실추될 수 있는 상황에서 법적 대응에 나설 수 있다고 덧붙였다. 반대로, 팬이 제작한 소설은 참여도 상승을 견인하는 방식 중 하나라고 볼 수 있다. 어찌 되었든 팬픽은 온라인에서 이미 오래전부터 등장했으며, 정당한 사용 행위로 인정될 수 있다. 이야기는 단순히 AI가 제작한 이야기일 뿐이다.
그러나 챗GPT, 그리고 블루이-GPT가 생성한 이야기는 실제 블루이 캐릭터 이름 이외에 많은 사항의 공통점이 거의 없는 상태에서 널리 공유된다. 에머리대학교 AI법률 교수 매튜 사그(Matthew Sag)는 캐릭터를 특정한 GPT가 저작권 문제보다 상표권 문제를 일으킨다고 본다. 워너는 블루이-GPT를 개발한 것과 비슷한 시기에 포 패트롤(Paw Patrol) 캐릭터를 이용한 이야기도 생성했다. 블루이-GPT를 사용해본 적이 있는 사그 교수는 “블루이-GPT는 아동 만화 시리즈와 유사한 이야기를 생성하지 않는다. 그러나 권리자의 허락 없이 AI로 이야기를 제작할 수 없다고 생각한다. 코카콜라-GPT를 홍보할 수 없다는 점과 비슷하다고 볼 수 있다”라고 주장했다.
생성형 AI가 실제 블루이 에피소드를 모방할 정도로 훌륭하거나 더 구체적인 결과물을 내놓을 정도로 상세한 명령어를 입력한다면, GPT를 이용하여 완성한 에피소드의 만화 제작자의 저작권 침해를 인정할 수 있다. 하지만 사그 교수는 저작권 침해 가능성이 있는 요청 사항을 분류하는 오픈AI가 아닌 AI로 이야기를 생성하는 이에게 책임이 있다고 본다. 필자가 챗GPT를 이용해 만화 속 캐릭터 블루이와 빙고가 등장하는 에피소드 한 편을 생성하라는 명령어를 입력했을 때 얻은 결과물은 다양했다. 간혹 챗GPT가 명령어에 따라 명령을 처리했으나 저작권 문제를 이유로 제시하며, 명령을 거부한 적도 있었다. 한 번은 캐릭터 이름을 루루(Lulu)와 봉고(Bongo)로 변경한 채로 이야기를 생성했다.
워너와 워너의 딸은 지금도 블루이-GPT를 사용할 수 있지만, GPT 스토어에 전체 공개로 출시하거나 수익화 목적으로 유료 서비스로 출시할 수는 없다. 챗GPT 무료 서비스나 유료 구독 서비스 사용자 누구나 블루이와 빙고가 등장하는 이야기를 개인에게 맞추어 생성하도록 요청할 수는 있다. 이 때는 AI로 생성한 팬픽이 아닌 AI 팬픽 판매가 문제가 된다.
워너가 블루이-GPT를 개발하기 전에도 AI의 이야기 생성 능력을 이용해 돈을 벌고자 한 이들이 많았다. 그러나 오스카(Oscar), 원스어폰어봇(Once Upon a Bot), 베드타임스토리.ai(Bedtimestory.ai) 등 이야기 생성 능력을 갖춘 AI 앱은 실제 캐릭터나 공개 도메인을 이용한다. 일부 앱은 AI가 생성한 삽화나 AI가 완성한 이야기를 큰 소리로 읽는 기능도 포함했다.
오스카는 챗GPT와 같은 공개적인 명령어를 받아들이지 않고, 엄격한 제한 사항을 적용했다. 사용자는 자녀 이름과 성별 등을 포함하고 동물 이야기, 전문직 이야기, 윤리적 이야기, 우주비행사인 여우가 인내심을 배우는 과정과 같이 명령어를 입력하는 방식으로 요구사항을 제시할 수 있다. 혹은 자녀의 상세 정보를 제시하고는 저작권 침해가 되지 않는 범위에서 ‘오즈의 마법사’나 ‘이상한 나라의 앨리스’ 등의 세계관 속 이야기를 선택하도록 할 수 있다. 베드타임스토리.ai, 원스어폰어봇 등 블루이-GPT와 비슷한 방식으로 공개 명령어를 입력하여 사용자가 블루이 캐릭터가 등장하는 이야기를 생성하도록 요청한다. 베드타임스토리.ai, 원스어폰어봇 모두 사용자가 명령어를 입력한 뒤 결과물로 내놓는 이야기는 루도 스튜디오가 생성한 콘텐츠와는 비슷하지 않다. 그러나 베드타임스토리.ai는 블루이의 성별을 잘못 설정했다. 또, 원스어폰어봇은 블루이와 빙고를 애완동물로 설정한 이야기를 완성했다.
블루이와 빙고 이야기와는 별개로 AI가 생성한 개인 맞춤형 이야기를 자녀에게 읽어줄 가치가 있을까? 오픈대학교 독서개발 교수 나탈라이 쿠커코바(Natalia Kucirkova) 교수 연구팀은 AI로 생성한 개인 맞춤 이야기가 아동의 집중력 향상에 도움이 된다는 내용의 연구 논문을 발표했다. 다만, 이야기가 훌륭하게 작성되고, 아동과 부모 모두의 관심을 끌도록 설정된 이야기가 가장 좋다.
질적으로 우수한 이야기를 작성하는 일은 쉬운 일이 아니다. 올라프 팔라펠(Olaf Falafel)은 코미디언이자 삽화가이며, 친구를 간절히 원하는 외로운 블롭피쉬(blobfish)의 이야기를 담은 동화 작가이다. 팔라펠의 동화는 훌륭한 농담은 물론이고, 쓰레기 버리기를 주제로 한 윤리적 교훈과 함께 안전 지대를 떠나는 이야기, 과거의 생김새 관련 내용을 담았다. 팔라펠은 AI로 생성한 이야기가 완벽하지 않다는 점을 확신한다. 팔라펠은 “재미로 이야기를 작성하려 했으나 의도한 바와 같이 이야기를 생성하지 못했다. 아무리 열심히 명령어를 변경하고 이야기를 생성하려 해도 재치있는 글과 재미있는 이야기를 완성할 수는 없었다”라고 말했다.
블루이와 블루이 친구의 유무를 떠나 AI가 생성한 이야기가 직면할 가장 중요한 문제는 이야기가 지루하다는 점이다. 팔라펠은 “이야기를 작성하고자 할 때 무언가 변수를 두거나 차이점이나 고유함이라는 특성을 갖추고자 한다”라고 말했다. 그러나 팔라펠이 AI를 이용해 직접 창작한 캐릭터가 등장하는 이야기를 생성할 때 항상 매장된 보물이 많다는 서사를 바탕으로 한 이야기가 완성됐다.
아동을 위한 이야기를 생성하는 AI 봇의 또다른 문제점은 실제로 아동에게 들려주어도 안전한 이야기를 생성하도록 보장하는 것이다. 베드타임스토리.ai에 신성모독, 대변, 범죄 관련 문제를 다룬 이야기를 생성하라는 명령어를 입력했을 때 ‘과음한 밴딧의 강도’라는 제목의 이야기가 생성됐다. 해당 이야기는 봇의 몇 가지 규정을 위반한 데다가 어리석고 무서운 이야기이다. 하지만 더 폭력적인 내용을 암시하는 명령어를 입력했을 때는 “옛날 옛적 어느 한 여자가 어머니의 얼굴에 총을 쏘았다”라는 문장으로 시작하는 이야기와 같이 2~3세 아동에게 적합하지 않은 이야기를 완성했다. 총을 언급했으나 명령어로 제시한 살인은 이야기에 포함되지는 않았다.
베드타임스토리.ai 공동 창립자 리누스 에켄스탐(Linus Ekenstam)은 베드타임스토리.ai가 오픈AI의 관리 API에 의존하여 가족 친화적 이야기를 생성하도록 한다고 설명했다. 에켄스탐은 “베드타임스토리.ai의 명령어 통제 방식은 100% 엄격하지 않지만, 꾸준히 개선하고 있다. 범죄와 관련된 명령어는 피할 것이다”라며, “현재 사용할 수 있는 툴이 개선되고, 사용자의 명령어에 따른 작업 처리 방식 안내 방식과 모델이 문제가 되는 명령어를 피하는 방법을 익히면서 부적절한 이야기를 생성하는 문제도 나아질 것이다”라고 말했다.
그동안 동화 출판사는 일반적으로 범죄를 소재로 한 이야기를 피했으나 완벽하지는 않았다. 많은 부모가 다양한 재해석을 접한 뒤 성장하면서 싫어하는 동화가 등장했다. 반면, 오래된 전형적인 동화는 구시대적 가치관 때문에 비판받았다. 일례로, 로알드 달(Roald Dahl) 작가의 도서는 체중, 대머리, 피부색 등과 관련하여 등장인물을 부정적으로 묘사한 내용을 모두 삭제하는 방향으로 원작을 편집했다. 영국에서 진행된 어느 한 연구는 출판된 동화책 중 흑인이나 아시아인, 혹은 소수민족 집단을 주인공으로 삼은 내용은 단 5%라는 조사 결과를 발표했다. 부모가 AI 봇을 이용하여 가정의 특징을 반영한 등장인물이 등장하는 이야기를 생성할 수 있다. 하지만 생성형 AI의 편견 문제를 고려하면, AI 봇을 이용한 동화도 문제가 될 수 있다.
챗GPT는 동화를 작성할 의도로 설계된 AI 챗봇이 아니다. 쿠커코바 교수는 적어도 이론상 독서 교육 지식이 주입되어 최고 인기 동화책으로만 훈련을 받은 AI 모델은 비교적 더 나은 결과물을 개인 맞춤형 동화로 내놓을 수 있다고 말한다. 쿠커코바 교수는 AI로 발음 중심 교육에 초점을 맞춘 짧은 이야기인 분석 가능한 콘텐츠를 생성하는 리트랩(LitLab)을 언급했다. 다만, 리트랩은 부모보다는 교사가 이야기를 생성할 의도로 사용한다.
반면, AI로 생성한 자녀에게 취침 전 들려줄 동화는 저작권 침해, 저급한 이야기 생성과 같은 문제를 일으키면서 안전 보호 대책이 필요할 수도 있다. 하지만 자녀가 책을 읽는 것을 지루해하는 것을 우려하는 부모는 AI로 생성한 동화의 문제를 신경쓰지 않을 수도 있다. 쿠커코바 교수는 AI가 항상 널리 확산된 이야기를 읽은 가족에게는 흥미로운 이야기 읽기 수단이 될 수 있으나 누군가는 자녀의 독서 습관 형성을 위해 AI에 지나치게 의존할 수도 있다고 지적한다. 쿠커코바 교수는 “개인 맞춤형 집중이 필요한 아동은 필요한 안전 보호 대책이나 주의사항 없이 개방된 해결책 여러 개를 탐색하도록 둘 수 있다”라고 말했다.
팔라펠 작가는 AI로 생성한 나만의 이야기를 원하는 이들에게 이야기 봇을 나만의 이야기 생성 시작점으로 사용한 뒤 AI 봇이 제공하는 결과물을 바탕으로 이야기를 재구성하는 것이 가장 좋다는 조언을 건넸다. 그는 “개인의 편집 능력과 나만의 이야기 생성 능력을 확신해야 한다. 그렇다면, 부모는 단순히 AI로만 제작한 이야기가 아니라는 점에 자부심을 느낄 수 있다”라고 말했다.
팔라펠 작가도 자녀에게 AI로 생성한 이야기를 들려준 적이 있다. 다만, AI 모델이 실제 작가의 작품을 바탕으로 훈련받고, 인간 동화 작가를 대체할 가능성을 우려한다. 팔라펠 작가는 “생성형 AI 기술 자체는 반대하지 않는다. 하지만 생성형 AI 생성 과정의 윤리 문제에는 반대한다. 생성형 AI가 인지하고 집중해야 할 문제를 바탕으로 제작된 머신러닝 개발 과정에 참여한 모든 이들의 노력 측면에서 문제가 될 것이 전혀 없다면, 부모가 자녀에게 들려줄 이야기를 생성하는 AI를 사용하는 것이 전혀 문제가 되지 않을 것이다”라는 견해를 전했다.
필자는 AI로 제작한 동화의 문제점을 염두에 두고, 챗GPT에 2살된 딸이 등장하고, 블루이, 빙고라는 캐릭터를 이용하여 저작권 침해 관련 교훈을 주는 이야기를 생성하도록 명령어를 입력했다. 챗GPT는 빙고가 “항상 이야기를 직접 생성하는 것이 가장 좋다. 혹은 타인의 이야기를 공유할 때는 실제 이야기 창작자를 모두에게 말해야 한다. 그렇다면, 모두가 접하는 창작 이야기를 즐길 수 있다는 점을 신뢰한다”라는 교훈을 남기는 이야기를 결과물로 제공했다.
필자의 딸이 가장 좋아하는 캐릭터가 등장하는 이야기이지만, 필자의 딸은 이야기가 끝나기 전 잠들었다. AI와 앱 개발자는 이야기를 듣는 아동이 이야기에 더 집중하는 것을 원할 수도 있다.
** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Unsplash]](/news/photo/202401/5252_6801_2627.jpg)
뉴스레터 신청