By PARESH DAVE, WIRED US

2015년, 일론 머스크를 포함한 부유한 테크 업계 기업가 여러 명이 비영리 연구 재단 형태로 오픈AI를 창립했다. 창립 당시 오픈AI는 강력한 AI 개발 시 사회와 대중의 포함을 고려할 것이라고 말했다. 구글을 포함한 다수 테크 업계 대기업이 비밀리에 개발 작업을 하는 것과는 상반되는 약속이다. 오픈AI는 AI 개발 과정 공개라는 약속과 같은 맥락에서 창립 당시 미국 세금 당국에 보낸 보고서를 통해 시민사회 구성원 누구나 AI 관리 문서 사본과 재정 공개 보고서, 이해관계 충돌 규정 등을 다룬 문서 사본을 볼 수 있다고 밝혔다.

그러나 2023년 12월, 와이어드가 오픈AI 측에 문서 공개를 요청하자 오픈AI는 정책이 변경되었다는 주장과 함께 재무 보고서 내용 중 한정적인 범위의 문서만 공개했다. 오픈AI가 공개한 재무 보고서 내용 중 기업 운영 관련 내용 다수가 생략되었다.

오픈AI 대변인 니코 펠릭스(Niko Felix)는 “오픈AI는 요청에 따라 재무 보고서를 제공한다. 오픈AI의 관행은 업계 표준을 따른다. 이에 따라 2022년 이후 추가 내부 보고서를 공개하지 않는 조건도 추가로 적용됐다”라고 안내했다.

오픈AI가 오랫동안 고수한 투명성 약속을 폐기한 것은 최근, AI의 미래에 중요한 영향을 미친 기업의 실패와 가까운 파문을 밝히면서 외부인이 오픈AI 내부 취약점을 파악하는 데 도움이 될 만한 정보를 막는다. 2023년 11월, 오픈AI 이사회는 CEO 샘 알트만(Sam Altman)을 해임하며, 공식 성명을 통해 알트만을 신뢰할 수 없다는 이사회의 의견과 모든 인류에게 도움이 될 AI 개발이라는 임무가 위험에 처했음을 암시했다. 오픈AI의 직원과 투자자는 이사회에 즉시 알트만 복귀 압박과 함께 이사회 구성원 퇴출 압박을 가했다. 또한, 교체된 이사회는 오픈AI 위기를 점검하고, 구조 변경을 시행하여 이해관계자의 신뢰 회복에 나설 것이라고 다짐했다.

오픈AI의 이해관계 갈등 정책 전체는 새로운 이사회가 알트만과 AI 프로젝트를 추진하는 여러 스타트업과 원자로 제조기 개발사 개인 투자를 포함하여 알트만이 추구하는 바를 상대로 지닌 권력을 보여줄 수 있다. 언론 인터뷰에서 오픈AI 이사회 파문을 논의할 권한이 없으나 내부 사정에 정통한 어느 한 익명의 소식통은 알트만의 본업과 개인 프로젝트가 결합하여 이사회 구성원의 불신을 키우는 데 어느 정도 역할을 했다고 주장했다. 2019년, 알트만이 오픈AI를 이끌던 중 오픈AI는 알트만이 100만 달러가 넘는 자본을 투자한 스타트업 레인(Rain)의 5,100만 달러 규모의 AI 칩 구매 조건을 요약한 계약서에 서명했다. 이후 오픈AI는 계약 조건에 따라 레인의 AI 칩 구매를 추진하지 않았다. 펠릭스 대변인은 알트만이 이사회에 투자 내역을 투명하게 공개하고, 잠재적 갈등 관리 절차를 따랐다고 설명했다.

오픈AI의 관리 문서에 담긴 일부 긍정적 측면은 비정상적인 기업 구조를 실제로 변경했는가, 마이크로소프트 등 잠재적 후원 기업의 분노를 자극했는가를 밝힐 수 있다는 점이다. 2016년도 미국 국세청의 세금 면제 지위 신청을 통해 공개된 오픈AI가 창립 당시 마련한 자체 규정을 보면, 이사회 일부분이 알트만을 통제하면서 압박을 가하는 방법을 알 수 있다. 오픈AI가 국세청에 제출한 2022년도 보고서를 통해 내부 관리 문서 내용의 중대한 변경 사항이 없다는 점을 확인할 수 있다. 그러나 오픈AI는 알트만이 복귀한 뒤 마이크로소프트에 오픈AI의 비선출 이사회 자리를 주기로 했다. 이에, 사티아 나델라(Satya Nadella) 마이크로소프트 CEO는 알트만의 해임 관련 정보를 전혀 알지 못했다는 사실을 두고 공개적으로 불만을 늘어놓았다. 이 기사가 송출될 시점까지 오픈AI가 별도로 변경 사항을 추가하였는지는 공개된 바가 없다.
 
오픈AI가 미국 국세청에 제출한 문서로 약속한 바에 따른 와이어드의 문서 공개 요청은 오픈AI가 결정한 자문 내용을 따라야 한다. 오픈AI가 문서 공개 요청에 응하지 않은 점과 문서 보유 관련 신규 정책은 투명성을 바탕으로 설립된 프로젝트의 개방성 쇠퇴라는 기존 추세 확장을 의미한다. 오픈AI는 한때 자사 AI 개발 정보를 자세한 부분까지 널리 공개했으나 최근 들어 상세 정보와 오픈AI의 가장 유명한 AI 툴인 챗GPT 관련 데이터를 엄격하게 보호하기 시작했다. 펠릭스 대변인은 샌프란시스코에 본사를 둔 오픈AI가 미국 국세청, 캘리포니아주 법무장관의 요청 사항에 따라 모든 정보를 공개하며, 자사 연구 및 안전 작업 관련 정보도 주기적으로 공개한다고 전했다. 또한, 정보를 공개하는 동시에 챗GPT 등 자사 AI 툴 형태로 자사 연구를 자유롭게 사용하도록 한다는 점도 언급했다.

오픈AI가 정보 공개를 거부한 사례는 주로 영리 법인을 설립하여 대다수 AI 개발 작업을 진행하면서 외부 투자를 진행한 2019년부터 두드러지게 나타나기 시작했다. 마이크로소프트가 오픈AI에 맞설 프로젝트를 설립할 때 마이크로소프트의 오픈AI 대상 미래 거액 투자를 일시적으로 지연할 기회를 열게 되었다. 또한, 재무 정보를 숨길 기회가 형성되기도 했다. 오픈AI 공동 창립자였으나 추후 오픈AI의 경쟁사를 이끄는 기업가가 된 일론 머스크는 2023년 11월, 뉴욕타임스와의 인터뷰에서 오픈AI를 ‘최대한의 이윤을 추구하는 극도로 폐쇄적인 AI 기업’이라고 칭해야 한다고 주장했다.

비공개 상태로 통제한 정보
오픈AI의 초기 비영리 단체와 이사회는 궁극적으로 오픈AI의 활동과 기술을 계속 장악한다. 미국 내 모든 비영리 단체와 마찬가지로 요청이 발생할 때는 국세청에 제출한 연간 보고서 사본을 공개해야 한다. 또한, 미국 국세청에 제출한 문서를 통해 전년도의 내부 정책이나 그와 비슷한 내용의 추가 문서나 관리 구조 혹은 이해관계 충돌과 같은 관련 문서를 공개할 수 있는지도 시사해야 한다.

일부 유명한 비영리 단체는 재단 내부 구조, 이해관계 충돌 등을 파악할 수 있는 상세 문서도 공개한다. 일례로, 빌&멜린다 게이츠 재단(Bill & Melinda Gates Foundation)은 갈등과 근무 관계 관련 재단 내부 법률과 규정을 공개했다. 하지만 이는 표준 관행이 아니다.

국립 비영리 단체 위원회(National Council of Nonprofits) 최고 운영 및 커뮤니케이션 책임자 릭 코헨(Rick Cohen)은 “재단이 관리 문서나 내부 정책을 공개하는 것은 흔한 일이 아니다”라고 말했다.

그러나 오픈AI는 창립 년도부터 2022년까지 7년 연속 연간 미국 국세청 제출 문건을 통해 관리 구조와 내부 정책 등을 제출했으며, 요청에 따라 기타 문서도 제출했다고 밝혔다. 2022년까지 오픈AI의 초청을 받아 내부 문건을 자세히 확인한 이가 있는지는 확실하지 않다. 오픈AI는 이를 밝히지 않을 것이다.

2023년 12월, 오픈AI 커뮤니케이션 담당 인력의 관리 문서, 이해관계 충돌, 재무 문서 공개 요청 답변을 이틀간 기다린 뒤 와이어드는 12월 14일(현지 시각), 오픈AI 샌프란시스코 본사를 찾아 문서를 요청해야 했다. 오픈AI 본사 건물 안내원은 요청한 문서를 공개할 수 없다는 답변을 전하면서 안내를 끝내고는 다음 방문 일정 약속을 잡지 않았다. 오픈AI가 기존 정책 변경 사항을 반영한 채로 국세청에 제출한 2023년도 보고서는 2024년 말까지 확인할 수 없다.

미국 세법은 비영리단체 감독을 유도하고자 적어도 미국 국세청에 연간 보고서와 비영리 단체 공시 양식 제출, 공식 웹사이트에 공개되지 않은 정보는 요청 당일 사무실 공개 조사 요구에 응해야 한다는 의무 사항을 담은 규정을 마련했다. 오픈AI는 자사 웹사이트에 국세청에 제출한 보고서 정보를 공개하지 않았으나 지금도 와이어드가 직접 사무실에 방문하여 요청한 대로 문서를 공개하지 않은 상태이다. 미국 국세청 문건에는 정보 공개 규정 위반 시 1일당 벌금 20달러, 최대 1만 달러 부과 대상이 될 수 있다는 규정이 명시되었다. 그러나 미국 국세청은 실제로 정보 공개 위반 단체를 일절 기소하지 않았다. 펠릭스 대변인은 오픈AI의 보고서를 정부와 연구 기관 데이터베이스를 통해 온라인에서 볼 수 있다고 답변했다.

비영리단체가 국세청에 내부 문건을 누구나 접하도록 공개한다는 사실을 알려도 내부 구조와 이해관계 충돌 상세 정보를 담은 문서에 접근할 수 없다. 비영리단체 문제 전문가인 조지타운대학교 법학 교수 브라이언 갈(Brian Galle)은 “비영리 단체에 정보 공개를 요청 메일을 보낼 때 국세청과 해당 단체의 고문을 참조 대상에 추가하지 않으면, 어떠한 답도 받을 수 없다”라고 말했다.

이익 충돌
오픈AI가 와이어드의 요청에 따라 공유한 재무 보고서는 오픈AI의 계열사 재정 관리 결과를 제외한 정보만 담았다. 계열사 재정 정보는 영리 법인 부서가 챗GPT를 포함한 오픈AI의 여러 서비스 매출을 파악할 매우 중요한 정보이다. 오픈AI는 계열사 정보를 공개 대상에서 제외한 이유를 두고, 업계 기밀 보호를 언급했다. 2022년 정보를 담은 오픈AI의 공개 문서에는 매출 4만 4,000달러, 지출 비용 130만 달러로 기록됐다. 비영리 단체의 매출 정보만 따져보면 정확한 정보이다. 하지만 오픈AI 전체의 2023년도 매출은 총 수억 달러이며, 고성능 컴퓨터와 최고 수준의 연구원 채용 비용을 추가로 지출한 것으로 알려졌다.

오픈AI 영리 법인 투자자와 직원 모두 오픈AI가 현재 공개를 거부하는 일부 정보를 접했으나 내부 파일을 다루는 기밀 유지 조항에 서명했을 확률이 높다. 오픈AI 비영리 단체가 사실상 공개 지원을 받지 않는다는 점에서 일부 비영리 단체가 투명성 수준을 강화해도 누릴 이익이 없다는 점에서 여러 후원자나 수익 분배자가 더 큰 금전적 이익을 취할 수도 있다.

오픈AI는 정보 공개로 고객 충성도나 규제 기관의 신뢰를 얻을 수도 있다. 하지만 알트만은 오픈AI가 이사회 파문이 이어진 2주간 잃은 고객은 없으며, 전반적으로 정치계 지도자의 환영을 받았다고 밝혔다. 오픈AI는 자사 관리 방식의 이사회 검토를 진행 중이며, 그 결과를 공유하는 것만으로 충분하다고 판단할 수도 있다.

오픈AI 정책 번복과 후속 약속이 없다면, 갈수록 영향력이 커지는 오픈AI와 관련하여 장기간에 걸쳐 알트만을 비롯한 오픈AI 경영진의 언쟁을 다룰 방안을 개선하기 위한 신임 이사회의 이해 충돌 정책 변경 여부를 비롯하여 많은 정보가 절대로 공개되지 않을 것이다. 2022년, 오픈AI 본사를 직접 찾아가 정보 공개를 요청했다면, 요청한 정보를 바로 확인할 수도 있었을 것이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
OpenAI Quietly Scrapped a Promise to Disclose Key Documents to the Public