By Kate Knibbs, WIRED US

2024년 핼러윈을 즐기고자 길거리로 나선 대중이 더블린 중심부 길거리에 줄을 서서 행진이 시작되기를 기다렸다. 모두 마이스피릿핼러윈(MySpiritHalloween.com)이라는 웹사이트에 송출된 인공지능(AI)이 생성한 핼러윈 행진 행사 홍보 글을 본 후 모인 이들이다. AI가 생성한 글에는 “황홀한 길거리 공연을 위해 장관을 이루는 공연이 펼쳐질 것”이라는 약속과 함께 상세한 이동 경로가 작성되었다.

그러나 행진은 이루어지지 않았다. 다만, 실제로 아무것도 없다는 사실이 밝혀질 때까지 행사를 관람하고자 분주하게 이동하면서 길거리를 가득 채운 수많은 군중이 장관을 이루었다. 이후 핼러윈 행진 소동은 널리 확산된 AI 저품질 콘텐츠가 현실 세계로 서서히 침투한 사례가 되었다.

생성형 AI 호황이 시작하자 여러 SEO 기업가가 온라인 광고와 관련 사업 마케팅으로 돈을 벌 목적으로 AI 생성 콘텐츠를 여러 웹사이트와 SNS 플랫폼에 주입하기 시작했다. 마이스피릿핼러윈닷컴 소우자인 나지르 알리(Nazir Ali)도 그중 한 명이다. 알리는 구글 미트를 통해 와이어드의 인터뷰에 응하여 자신의 관점에서 AI로 생성한 핼러윈 행진 안내 글과 관련한 이야기를 전했다. 알리는 모든 상황이 중대한 오해에서 시작되었다고 거듭 주장했다.

인터뷰 내용은 분량과 가독성을 위해 수정했다.

나지르 알리: 궁금한 것이 있으면, 편하게 질문해달라.

케이트 닙스(Kate Knibbs) 기자: 핼러윈 후 상황은 어떤가?
나지르 알리: 잘 지내고 있다. 하지만 매우 당혹스러웠다. 모두 마이핼러윈스프릿에 부정적인 논조로 소식을 보도하여 매우 실망스럽다. 많은 언론이 마이스피릿핼러윈을 사기꾼으로 칭하며, AI 생성 콘텐츠를 유포한 행위가 사기라고 주장한다. 하지만 마이스피릿핼러윈이 의도한 바가 아니었다.

상황을 자세히 설명해 줄 수 있는가?
마이스피릿핼러윈 직원은 콘텐츠 크리에이터이다. 나는 SEO 대행 기관인 마이스피릿핼러윈의 소유자이다. 마이스피릿핼러윈은 온라인 콘텐츠 작가 몇 명을 채용하여 미국, 영국, 그리고 가장 중요한 곳인 아일랜드까지 세계 각지의 핼러윈 행사 콘텐츠를 제작하는 데 도움을 주었다. 행사 장소가 변경되는 등 실수가 있었다면, 두바이 행사를 예시로 언급할 수 있다. 두바이 행사를 담당한 호텔 경영진이 마이스피릿핼러윈 관계자에게 문자를 보내 핼러윈 행사 일정이 추가된 적이 없다고 말하여 즉시 관련 콘텐츠를 삭제했다. 그러나 아무도 행사가 열리지 않는다는 내용을 보도하지 않았다. 마이스피릿핼러윈 관계자는 행사가 없는 사실을 인지하자마자 콘텐츠 내용을 변경했다. 행사가 취소되었다는 글도 올렸으나 때는 너무 늦었다.
 
이 모든 상황에 AI가 미친 영향을 알고 싶다.
자세히 설명하겠다. AI로 어떤 웹사이트에나 올릴 콘텐츠를 처음부터 끝까지 손쉽게 작성할 수 있다. 그러나 구글의 첫 번째 페이지에 콘텐츠가 노출되는 일은 쉽지 않다. 마이스피릿핼러윈의 웹사이트는 구글의 첫 번째 페이지에 등장한다. 심지어 첫 페이지의 최상단에 노출된다. 그렇다. AI가 개입되었다. 챗GPT에 마이스피릿핼러윈의 기사를 작성하도록 요청했으나 챗GPT의 작업물만을 콘텐츠로 제공하지 않았다. AI의 도움을 받고, 챗GPT의 도움을 받으면서도 마이스피릿핼러윈 직원도 자체적으로 최적화 작업을 진행했다.

인간 에디터가 있다는 말인가?
맞다. 콘텐츠 송출 작업은 인간이 처리한다. 확실하다. AI 콘텐츠만으로는 구글 웹페이지 순위 상위에 노출되는 콘텐츠를 완성할 수 없다. AI는 전체 작업의 10~20%에 참여한다. 마이스피릿핼러윈 인력의 작업 참여도는 80%이다. 매우 실망스럽고 당혹스러우며, 매우 아쉽다.

현재 웹사이트 몇 개를 보유했는가?
5가지이다. 실제로 한 가지 더 웹사이트를 더 보유한 사실을 알리고자 한다. 성 패트릭의 날을 잘 알고 있는가?

그렇다.
2024년 3월 17일(현지 시각) 성 패트릭의 날 행사를 소개하는 글을 송출했다. 구글 페이지 노출 순위 상위에도 이름을 올렸다. 사용자는 이에 도 반응하였다. 그 누구도 악의적이거나 AI 생성 콘텐츠 관련 문제를 발견한 사례는 없다. 진실성을 갖춘 콘텐츠를 찾고자 최선을 다한다. 아일랜드 누리꾼 단 한 명이라도 오해하게 되는 콘텐츠는 원하지 않는다. AI 핼러윈 콘텐츠는 실수였다. 또한, 사실을 알지 않는 상태이면서 마이핼러윈스프릿에 직접 문제를 문의할 의사가 없다면, 사기꾼이라고 비난해서도 안 된다. 바로 더블린에서 발생한 가짜 핼러윈 행진 소동과 관련하여 분명히 말하고자 하는 바이다.

이해했다.
더블린 핼러윈 행진 소동은 마이스피릿핼러윈의 실수이기도 하다.

당신의 이름이 나지르 알리임을 확인했다. 하지만 이름을 밝혀도 괜찮은가?
마이스피릿핼러윈 관계자 그 누구에게도 피해가 발생할 수 있을 때는 외부에 개인 정보를 일절 알리지 않는다. 많은 언론이 마이스피릿핼러윈의 AI 콘텐츠 때문에 더블린에서 발생한 소동을 보도하면서 마이스피릿핼러윈을 사기꾼으로 매도한다.

그렇다면, 파키스탄에 거주하면서 마이스피릿핼러윈을 운영한다는 사실을 밝혀도 괜찮겠는가? 그 전에 파키스탄에서 거주하는 것이 맞는지 궁금하다.
마이스피릿핼러윈은 콘텐츠 크리에이터 여러 명을 채용했으며, 그중 한 명이 파키스탄 출신이다. 다른 콘텐츠 크리에이터의 출신 국가는 다양하다. 그러나 국적을 자세히 밝힐 수는 없다. 만악, 내가 두바이 출신이라고 밝힌다면, 대중은 마이스피릿핼러윈의 기사가 송출될 때마다 기사 작성자의 국적을 따지며 기사와 관련한 문제를 비난할 것이다. 또, 일부 국가의 시민에게는 실제로 피해가 발생하기도 한다.

마이스피릿핼러윈이라는 사이트 운영 기간을 물어보아도 괜찮은가?
만약, 마이스피릿핼러윈의 콘텐츠가 구글 웹페이지에 처음 노출된 것이 3개월 전이라고 밝히면, 놀랄 것이다.

운영한 지 3개월 됐다는 말인가?
그렇다.

휴일 행사를 중점적으로 다루는 이유는 무엇인가?
많은 사용자의 관심을 끌어모으지만, 하루 동안 진행되기만 하기 때문이다. 하루 진행되는 행사로 수익을 창출할 수 있다. 

사업 모델을 자세히 설명해달라. 마이스피릿핼러윈의 수익 창출 구조는 어떤가?
구글 광고이다. 구글 광고와 관련 마케팅이 주요 수익 모델이다.

마이스피릿핼러윈의 운영 방식을 재고한 적이 있는가? AI 사용 방식을 바꿀 계획이 있는가?
마이스피릿핼러윈의 실수이다. 운영 방식을 한 번 더 꼼꼼하게 확인해야 한다. 두 번이 아닌 세 번이라도 반복하여 검증해야 한다. 많은 이들이 구글을 표준으로 고려하지 않는다는 점을 운영 과정에 추가하고자 한다. 구글은 검색 엔진일 뿐, 사용자는 아무것도 게재하지 않는다. 아무것도 믿지 않고 확인 작업을 반복해야 한다.

구글 때문에 지금 마이스피릿핼러윈의 게시글 순위가 하락한다고 생각하는가?
확실하다. 콘텐츠를 송출할 때부터 구글이 마이스피릿핼러윈의 게시글 순위를 낮출 것을 예상한다.

구글이 콘텐츠 노출 순위에 미치는 영향을 막고자 할 수 있는 일은 없는가?
없다. 기자가 제공하는 각종 거짓 정보 때문이다. 실제로 기자는 마이스피릿핼러윈의 의도를 알지 못하면서 마이스피릿핼러윈의 의도가 잘못된 것처럼 주장한다. 현재 마이스피릿핼러윈 관계자 모두 매우 낙담했다. 자세히 설명하고자 한다. 실제로 누리꾼을 속일 의도가 있었다면, 가짜 티켓을 판매하는 손쉬운 방식으로 돈을 벌었을 것이다. 그러나 웹사이트에서 티켓 정보는 일절 언급하지 않았다. 사기 의도가 있었다면, 가짜 티켓 판매라는 손쉬운 방법을 택했을 것이다. 하지만 마이스피릿핼러윈이 티켓을 언급한 적은 없다.

사기를 저지를 의도가 없다는 점을 확인하게 되어 다행이다.
만약, 사기 의도가 있었다면, 당연히 사기꾼이라는 비난을 받을 만하다. 하지만 마이스피릿핼러윈은 사기를 범한 적이 없다. 법률상 금지된 행위이기 때문이다.

SEO로 매출을 얼마나 올렸는가?
개인 차이가 있는 부분이다. 또한, 트래픽에 따라서도 차이가 크다.

대락적인 수치를 알려줄 수 있는가?
마이스피릿핼러윈은 기사 약 1,400건을 송출했다. 3개월 동안 1,400건을 송출하여 구글 페이지 노출 순위에 포함되는 것은 쉬운 일이 아니다. 바로 마이스피릿핼러윈의 실수가 있다는 점을 시사한다. 사기를 저질렀다는 뜻은 아니다. 다른 기사와 다른 웹사이트도 운영 중이지만, 그동안 사기로 문제가 된 적은 없다.

성 패트릭의 날을 다루는 웹사이트 이외에도 현재 운영 중인 웹사이트는 무엇인가?
동물을 주제로 한 웹사이트를 몇 개 더 운영 중이다. SEO와 관련한 정보를 다루어 SEO 전문가가 되는 법을 설명하는 틈새를 공략한 웹사이트도 있다. 그러나 이와 관련한 자세한 정보는 모두 공개하지 않을 것이다.

알겠다. 이 외에도 마이스피릿핼러윈에 관한 오해 중 바로잡고자 하는 부분이 있는가?
지금 당장 섣불리 판단해서는 안 된다는 말을 하고 싶다. 마이스피릿핼러윈 관계자에게 직접 연락하는 등 일정 절차를 따른 뒤 판단하기를 바란다. 이해가 가지 않는 부분은 직접 질문하기를 바란다. 대중의 질문에 대응하는 일이 어려울 수도 있다. 간혹 무례한 질문을 하는 이들도 있을 것이다. 하지만 마이스피릿핼러윈은 잘못된 행동을 하지 않는다. 사기꾼도 아니다. 바로 이것이 진실이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Guy Behind the Fake AI Halloween Parade Listing Says You’ve Got It All Wrong