By WILL KNIGHT, WIRED US

아이폰, 애플워치, 에어팟을 비롯하여 애플은 그동안 다수 경쟁사보다 한발 늦게 시장에 진출해도 성공한 적이 많다. 이제 애플은 애플 인텔리전스(Apple Intelligence)를 발표하면서 생성형 인공지능(AI)으로도 같은 역사를 발표하고자 한다. 애플 인텔리전스는 생성형 AI 기술이 애플이 제공하는 모든 기기와 애플리케이션에서 제공하도록 개발된 AI 시스템이다.

애플은 2024년 6월 10일(현지 시각), 세계 개발자 컨퍼런스(WWDC) 현장에서 전 세계가 목이 빠지도록 기다린 AI 전략을 공개했다. 애플 CEO 팀 쿡은 WWDC 현장에서 “애플은 이 순간을 위해 오랫동안 작업했다. 애플은 생성형 모델의 성능에 기쁨을 감출 수 없다”라고 말했다.

애플 인텔리전스 공개 소식에 환호할 수도 있으나 애플은 생성형 AI를 신중하게 다루어야 한다는 사실도 이해한 듯하다. 이미 생성형 AI가 데이터에 굶주린 상태인 데다가 오류를 범하는 경향이 있는 것으로 악명이 높기 때문이다. 애플은 애플 인텔리전스가 자사 앱에 새로운 기능을 적용했다는 점을 보여주었다. 능력이 향상된 시리, 복잡한 메일 답변을 생성하는 메일 앱, 웹 정보를 요약하는 사파리 등이 그 예시이다. 애플 인텔리전스가 선보일 사소하면서도 영리한 변화는 애플의 기존 앱의 영리함을 더하면서도 유해 콘텐츠 생성 위험성을 유발할 수도 있는 거짓을 사실처럼 생성하는 사례와 생성형 AI의 각종 함정을 최소화한다. 그와 동시에 사용자 프라이버시도 보호한다.

애플 인텔리전스는 개인 사용자 정보에 접근하여 사용자의 관심사, 습관, 일정 등을 더 자세히 파악하는 방식으로 모델의 유용함을 향상한다. 그러나 이와 같은 심층 분석 정보에는 보통 애플이 피하고자 한 프라이버시 보호 수준과 AI 기능의 유용함 간의 타협이 필요하다.

크레이그 페더리기(Craig Federighi) 애플 소프트웨어 엔지니어링 담당 수석 부사장은 WWDC 기조연설 현장에서 “애플은 AI가 진정한 유용함을 갖춘다는 의미가 사용자를 중심으로 기능을 실행해야 한다고 생각한다. 실제로 프라이버시를 깊이 생각해야 할 필요가 있는 부분이다”라고 말했다.
 
챗GPT를 비롯한 다수 생성형 AI 프로그램이 클라우드에서 실행되지만, 애플은 애플 인텔리전스가 주로 기기 자체에서 실행되는 AI 모델을 사용한다고 설명했다. 애플은 사용자의 질문이 주어진 뒤 클라우드에서 더 강력한 AI 모델을 활용하도록 전달해야 할 필요성을 판단하도록 개발했다. 또한, 개인 데이터를 기기 외부로 전송해야 할 때 안전하게 보관하는 기술인 프라이빗 클라우드 컴퓨트(Private Cloud Compute)도 개발했다.

애플은 프라이빗 클라우드 컴퓨트 기술을 설명하는 블로그 게시글을 통해 질문에서 사용하는 정보를 AI 모델 재훈련이나 기기 외 다른 공간에서 보관하는 일을 막도록 설계되었으며, 개발자나 애플 모두 민감한 정보에 접근하도록 허용하지 않는다고 설명했다. 또한, 애플 인텔리전스 시스템이 애플 실리콘을 사용하는 새로운 서버 하드웨어를 사용해 데이터를 저장 공간에 안전하게 저장하면서 단대단 암호화 기술을 적용하여 타인이 데이터를 엿볼 수 없도록 한다고 덧붙였다.

페더리기 부사장은 “프라이빗 클라우드 컴퓨트가 프라이버시와 AI 기능 사이에서 필요하면서도 중요한 난제를 해결했다고 생각한다. 클라우드 컴퓨팅은 보통 프라이버시 보장 측면에서 실제로 타협해야 할 사항이 발생한다. 기업이 사용자 데이터를 AI 기능 이외에 다른 목적으로 일절 사용하지 않는다고 약속해도 기업의 주장을 검증할 방법은 없다”라고 말했다.

존 지안드레아(John Giannandrea) 애플 머신러닝 및 AI 전략 수석 부사장은 브리핑 현장에서 데이터를 안전하게 보관하는 조건으로 애플 인텔리전스의 기능에서 조금도 부족한 부분이 발생해서는 안 된다고 강조했다. 애플은 별도의 블로그 게시글로 AXLearn이라는 프레임워크를 활용하여 자체 AI 모델을 개발했다고 밝혔다. AXLearn은 애플이 2023년 오픈소스로 공개한 프레임워크이다. 애플은 몇 가지 기법을 적용하여 모델 지연 문제는 줄이고, 효율성은 강화했다고 설명했다.

지안드레아 부사장은 애플이 엄선된 데이터를 사용한 것이 AI 모델의 거짓을 사실처럼 꾸며내는 문제를 줄이는 데 부분적인 영향을 미쳤다고 전했다. 그는 “애플은 AI 모델을 신중하게 훈련하는 데 막대한 에너지를 쏟아부었다. 따라서 애플은 책임을 다하면서 AI 기술을 적용했다고 확신한다”라고 말했다.

AI 훈련 접근 방식은 애플이 제공하는 모든 기술에 적용된다. 만약, 애플의 AI 훈련 접근 방식이 유망한 결과로 이어진다면, 애플 인텔리전스는 정보를 조작하거나 부적절한 콘텐츠를 제시할 확률이 낮다는 의미가 되어야 할 것이다. 애플은 블로그 게시글을 통해 애플 인텔리전스 테스트에 참여한 이들이 기기 자체에서 실행한 오픈AI, 마이크로소프트, 구글 AI 모델보다 애플의 AI 모델이 덜 해롭다고 평가했다고 전했다. 페더리기 부사장은 “10대 청소년에게 애플 AI 모델 평가를 요청하지 않았으며, AI 모델 평가자에게 AI 모델 전체를 처음부터 훈련하라고 지시한 적도 없다”라고 말했다.

애플과 오픈AI의 긴밀한 협력 관계라는 널리 예견된 전망도 챗GPT와의 접근을 최소화할 것이다. 시리와 애플의 신규 작성 보조 툴인 라이팅툴(Writing Tools)은 일부 까다로운 질문을 처리할 때만 챗GPT에 접근하며, 챗GPT에 접근할 때는 사용자의 허락을 구한다. 페더리기 부사장은 “질문을 처리하는 과정에서 챗GPT에 접근하기 전, 사용자에게 허락을 구할 것이다. 프라이버시 관점에서 사용자는 항상 사용 경험 전체를 관리할 수 있다. 또한, 애플의 프라이버시 보호 세계를 벗어나 다른 모델을 사용할 때의 경험은 전체적으로 투명성을 갖춘다”라고 주장했다.

한때 애플과 오픈AI의 협력 관계는 성사될 확률이 매우 낮은 것처럼 보였다. 오픈AI는 챗GPT의 영리함 덕분에 급속도로 성장했다. 하지만 법적 분쟁, 이사회 파문, 강력한 성능을 지원하지만 신뢰할 수 없는 기술 홍보로 논란이 반복되었다. 페더리기 부사장은 애플이 추후 제미나이도 자사 모델에 통합할 수 있다고 언급했으나 이와 관련한 추가 정보는 제공하지 않았다.

애플은 생성형 AI 개발 부문에서 다수 경쟁사보다 느리다는 점에서 조롱받았으며, 아직은 오픈AI의 챗GPT나 구글 제미나이와 대적할 만큼 강력한 기능을 공개하지 않았다. 하지만 애플은 기기 자체에서 실행하는 멀티모달 모델 상세 정보를 비롯하여 주목할 만한 AI 연구 결과를 몇 차례 게재했다.

애플은 2011년, 시리 출시 이후 한동안 AI를 활용한 개인 컴퓨팅 부문을 선도하는 듯했다. 시리는 대화를 비교적 더 안정적으로 인식하는 시점에 최근의 획기적인 AI 개발 성과를 최대한 활용하고, 제한된 음성 명령의 범위를 아이폰의 유용한 기능으로 전환할 방법을 모색했다.

아마존, 구글, 마이크로소프트 등 복수 기업이 애플을 따라 자체 음성 비서를 개발했으나 기본적으로 복잡하면서도 모호한 언어의 의미를 분석하는 데 어려움을 겪으면서 기본적인 활용도가 제한되었다. 챗GPT를 비롯한 프로그램의 성능을 지원하는 대규모 언어 모델은 기기의 언어 처리 능력의 중요한 발전을 제시한다. 애플을 포함한 다수 기업은 AI를 다방면으로 활용하여 자체 음성 비서 기능을 개선하고자 한다. 대규모 언어 모델은 시리를 비롯한 대규모 언어 모델의 복잡한 명령 이해도를 높이고, 비교적 세련된 대화를 이어가도록 할 수 있다. 또한, 어시스턴트에 즉시 코드를 작성하면서 소프트웨어를 활용할 방법을 제공할 수도 있다.

2010년, 애플에 인수된 시리 개발사 공동 창립자로 알려진 AI 기업가 톰 그루버(Tom Gruber)는 “애플은 프라이버시를 보호하면서 맥락을 인지하는 개인용 AI 개발을 약속했다”라고 말했다. 그루버는 애플이 프라이버시와 맥락 인지 능력, 개인 맞춤 경험을 모두 갖춘 AI 시스템을 공개한 사실에 만족한다.

다른 소식통은 애플 인텔리전스 공개가 과도한 실수를 범할 위험성 없이 경쟁사와 견줄 만한 AI 기능을 선보이고자 하는 노력을 보여준다고 말했다. 데이비드 요피(David Yoffie) 하버드대학교 경영대학원 교수는 “애플은 새로운 기능과 새로운 기능을 활용할 새로운 방식을 보여주는 능력이 뛰어나다”라며, “애플이 발표한 AI 관련 기능 모두 다수 경쟁사가 이미 선보인 역량을 따라잡는다는 점에서 특별히 놀라운 부분은 없다”라고 말했다.

요피 교수는 챗GPT 등 기존 생성형 AI 프로그램과 사용자가 데이터를 공유해야 한다는 점을 우려한다는 사실을 고려했을 때 애플이 데이터 프라이버시와 보안에 초점을 맞춘 사실이 놀랍지 않다고 전했다. 그는 “생성형 AI는 아이폰을 보완한다. 애플에는 생성형 AI를 공개하면서 안드로이드에 뒤처지지 않았다는 점을 입증하는 것이 중요하다. 실제로 애플은 WWDC에서 안드로이드에 밀리지 않는다는 사실을 입증했다고 생각한다”라고 전했다.

생성형 AI는 여전히 예측할 수 없다는 사실은 분명하다. 애플 인텔리전스는 일종의 테스트를 진행할 것이다. 하지만 전 세계 iOS, 맥OS 기기 사용자 수백만 명에게 출시된 후 생성하는 모든 결과에 책임을 질 방법은 없다. 애플은 WWDC에서 한 약속을 지키기 위해 그 누구도 다루지 못한 기능으로 가득한 AI를 선보일 필요가 있다. 애플은 경쟁사와는 다른 부분에서 행동할 필요가 있다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Apple’s Biggest AI Challenge? Making It Behave