오픈AI 숨겨진 실태 밝힌 조사 보고서 나왔다

고도의 대화 AI인 챗GPT 개발로 알려진 오픈AI는 인공지능과 로봇 개발이 활발히 진행되는 가운데 AI를 오픈소스화하는 비영리 연구기관으로 2015년 설립됐다. 오픈AI는 로봇 악용을 방지하기 위한 비영리 단체로 시작했지만 영리기업에 의한 사업 주도로 전환하는 방침을 2024년 12월 발표하기도 하고 지난 5월에는 영리기업화를 포기하고 비영리 단체에 의한 관리를 유지한다고 발표하는 등 형태에 주목이 집중되고 있다. 비영리 기술 감시단체 2곳(The Midas Project, The Tech Oversight Project)이 공동 작성한 더오픈AI파일(The OpenAI Files)은 오픈AI 내부 구조에 관한 정보를 1년에 걸쳐 조사하고 수집한 결과를 보고하고 있다.

오픈AI는 비영리 단체지만 챗GPT는 유료 서비스를 전개해 다수 사용자를 확보하고 있다. 오픈AI는 오랫동안 비영리 조직 아래 영리 부문 자회사가 있는 형태였지만 AI 모델 개발은 비용이 많이 드는데 비영리 조직은 주주 이익 추구를 최우선으로 둘 수 없어 자금 조달에 한계가 있는 등 문제점이 있었기 때문에 샘 알트만 CEO 등은 오픈AI의 영리화를 목표로 하고 있었다. 하지만 실제로 영리기업이 주도하는 형태로 전환하는 방침을 공식 발표하자 공동창업자인 일론 머스크와 AI 개발 분야에서 경쟁하는 메타를 비롯해 오픈AI 전 직원과 노벨상 수상자, 법학교수, 시민사회단체로 구성된 그룹 등이 안전성 우려를 이유로 오픈AI의 영리기업화를 저지하도록 정부와 법원에 요청했다. 결과적으로 오픈AI는 영리기업화를 포기하고 비영리 단체에 의한 관리를 유지한다고 발표했다.

오픈AI는 영리기업이 아닌 비영리 단체라는 운영을 유지하게 됐지만 여전히 비영리 조직 아래 영리 부문 자회사가 있으며 시장 규모는 3,000억 달러를 넘어서고 있다. 비영리 기술 감시단체인 마이더스프로젝트(The Midas Project)와 테크오버사이트프로젝트(The Tech Oversight Project)는 오픈nAI는 인류에 대한 법적 의무를 포기하고 투자자에게 무제한 이익을 가져다주는 권리와 맞바꿔 영리기업으로 다시 태어나고 있다고 지적하며 오픈AI에서 진행되고 있는 조직 재편에 주목해 내부 조사를 실시했다.

내부 조사 보고서인 더오픈AI파일에서는 조직 재편, CEO, 투명성과 안전성, 이해상충 4개 항목에 대해 정리하고 있다.

먼저 조직 개편. 오픈AI라는 조직에서 비영리 단체와 영리 자회사 간의 관계에 대해서는 영리기업화 시도 외에도 이익 상한선 변경이 중요한 포인트다. 오픈AI는 2019년 투자자 이익을 투자수익률 최대 100배로 제한하는 규칙을 정했다. 이는 가령 인간 노동을 모두 자동화할 수 있는 AI 개발에 성공했을 경우 인류로부터 모든 이익을 빨아들여 AI에 투자한 사람만 부를 얻는 사태를 방지하기 위한 제한이다. 하지만 2023년 오픈AI가 규칙을 몰래 변경해 매년 이익 상한선을 20% 인상하는 걸 허용했다고 보도되거나 2025년에는 오픈AI가 이익 상한선이 없는 영리기업으로 이행하는 움직임을 보이는 등 당초 자세에서 크게 전환하고 있다고 감시단체는 지적하고 있다.

보고서에 따르면 오픈AI 설립 당시 사내 이메일에서 구글보다 먼저 범용인공지능(AGI)을 개발하는 게 최대 관심사가 되고 있었다고 한다. AGI가 개발될 때 AGI로부터 얻을 수 있는 막대한 부를 일반 대중에게 분배하기 위해 이익 상한선이 붙여졌다고 여겨진다. 따라서 이익 상한선이 철폐된 건 오픈AI 설립 당초보다 많은 기업이 AGI 시장에 참여하고 있어 단일 기업이 독점할 가능성이 낮아 제한이 필요 없기 때문일 가능성도 있다. 그래도 감시단체는 투자자가 오픈AI에 이익 상한선 철폐를 요구하는 격렬한 압력을 가하고 있는 걸 보면 이게 인류에게 얼마나 나쁜 거래가 될 수 있는지가 분명해질 것이라고 비판적인 의견을 밝혔다.

다음은 CEO. 오픈AI CEO인 샘 알트만의 리더십 실천, 오해를 불러일으키는 표현에 관해 감시단체는 우려를 표했다. 알트만이 처음 설립한 스타트업에서는 임원 직원이 기만적이고 혼란을 야기하는 행동을 이유로 알트만의 CEO 해임을 2차례 요청했다. 또 과거 대표를 맡았던 Y콤비네이터에서는 결근이 계속되고 사리사욕을 채우는 걸 우선시하고 있다고 비난받아 CEO 해임에 몰렸다.

감시단체는 알트만의 신뢰성과 성실함에 대해 과거 보도와 내부 문서를 조사해 알트만이 사실과 정반대 주장을 한 사례나 부정직하고 책략적인 행동을 취한 사례가 이사회에 제출된 것 등을 지적했다. 실제로 오픈AI에서도 전 직원 수십 명이 알트만의 부정직함에 환멸을 느끼고 직장을 그만뒀다고 보고되고 있으며 전 고위 직원인 다리오 아모데이와 일리야 수츠케버는 알트만의 행동을 학대라고 표현했다. 이를 종합해 감시단체는 알트만의 성실성과 그가 오픈AI 감독에 적합한 인물인지에 대해서는 의문이 생긴다고 밝혔다.

다음은 투명성과 안전성. 포춘 보도에 따르면 오픈AI는 2023년 새로 결성된 AI 안전성 연구팀에 컴퓨팅 리소스 20%를 투입한다고 약속했지만 실제로는 리소스가 할당되지 않았다고 한다. 안전팀은 반복적으로 컴퓨팅 리소스를 요청했지만 거부당했다는 실태가 2024년 보도됐다. 또 제품 납기에 맞추기 위해 AI 모델 안전성 평가를 급하게 실시하거나 안전 위험에 대해 규제 당국에 경고하는 걸 회사가 직원에게 금지했다고 전 직원이 주장하는 등 안전성과 투명성 의식이 극도로 저하되고 있다는 게 각 매체에서 보도되고 있다.

더 나아가 오픈AI는 조직 문화에도 우려가 지적되고 있다. 오픈AI는 직원에 대해 퇴직 후에도 회사를 비판할 경우 기득 주식을 모두 잃는다고 정해진 위협적인 비밀유지 계약서에 서명을 강요했다고 감시단체는 보고했다.

다음은 이해상충. 오픈AI 이사회 구성원에게는 잠재적인 이해상충이 있다고 여겨진다. 이사회 구성원 대부분이 오픈AI와 거래하는 기업이나 오픈AI의 업계 영향력으로부터 광범위하게 혜택을 받는 기업에 투자하거나 직접 경영하고 있다. 예를 들어 CEO인 알트만은 오픈AI와 제휴하고 있거나 제휴한다고 소문난 기업에 거액을 투자하고 있다. 그 밖에 이사회 의장인 브렛 테일러는 오픈AI 모델을 활용하는 AI 스타트업 기업을 경영하고 있고 구성원인 아데바요 오군레시는 300억 달러 규모 AI 인프라 펀드를 운영하는 등 가령 오픈AI가 완전히 비영리 조직으로 남아있어도 일부 구성원은 오픈AI가 성공하면 간접적으로 큰 이익을 얻을 수 있다.

가령 오픈AI가 이익 상한선이 있는 법인에서 이익 제한이 없는 공익법인으로 재편될 경우 수백억 달러 규모 신규 투자를 풀어내고 더 나아가 상업화로 향하게 해 이사회 구성원이 경영하거나 투자하는 사업에 상당히 큰 이익을 가져다줄 가능성이 있다. 이는 인류 전체에게 악영향을 미칠 가능성이 있지만 애초에 오픈AI는 그런 악영향을 방지하기 위해 설립됐다.

따라서 감시단체는 오픈AI의 자선 목적 추진이라는 방침과 이사회 구성원의 자신의 경제적 이익은 모순되는 경우가 있어 이해상충이 발생한다고 지적하고 있다. 실제로 알트만은 이사회 구성원이 이해상충으로 위협을 가져올 위험성을 우려하고 있으며 과거에는 구성원이 AI 연구소를 설립한 것을 이유로 이사회를 떠나야 한다고 주장한 사례도 있었다.

감시단체는 오픈AI는 안전하고 책임감 있는 AI 개발이라는 장대한 약속을 내걸면서도 시장 압력에 의해 여러 차례 무너져 내렸다며 오픈AI 조직 재편은 창업 신화를 유지할 수 없게 된 기업 정체를 최종적으로 폭로하는 것이며 이상주의와 경제력이 충돌했을 때 무엇이 일어나는지를 보여주는 자연 실험이기도 하다면서 오픈AI에는 그 사명을 되찾기 위한 미미한 기회가 아직 남아있다고 믿는다고 보고서에서 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.