오픈AI 전 수석과학자가 설립한 AI 기업

챗GPT 개발사로 잘 알려진 오픈AI 공동 창업자이자 전(前) 수석 연구원으로 2023년 11월 발생한 샘 알트만 CEO 해임 소동을 주도한 인물로 지목되는 일리야 수츠케버(Ilya Sutskever)가 새로운 AI 기업인 세이프슈퍼인텔리전스(Safe Superintelligence)를 설립했다고 발표했다.

세이프슈퍼인텔리전스 공식 홈페이지는 이미 개설되어 있다. 이곳에는 안전한 SSI(superintelligence) 구축은 가장 중요한 기술적 과제라며 자사는 SSI라는 한 목표와 제품을 내걸고 세계 첫 순수 SSI 연구소를 설립했다고 밝히고 그 회사명이 세이프슈퍼인텔리전스라고 밝혔다. SSI는 자사 사명이자 이름이자 전체 제품 로드맵이라면서 이유는 이게 자사에게는 유일한 초점이기 때문이라고 밝히고 있다.

이어 팀과 투자자, 비즈니스 모델 모두 SSI 달성을 위해 협력하고 있다면서 자사는 안전성과 기능성을 혁신적인 엔지니어링과 과학의 진보를 통해 해결해야 할 기술적 문제로 동시에 인식하고 있다고 밝혔다. 안전성을 최우선으로 하면서도 기능성은 가능한 한 신속히 향상시킬 계획이라는 것. 이를 통해 평화롭게 규모를 확장할 수 있다는 설명이다. 자사는 경영 관리상 비용이나 제품 주기에 얽매이지 않도록 초점을 한곳에 모으고 있으며 또 자사 비즈니스 모델에서는 안전성, 보안성, 진보성이 모두 단기적인 상업적 압박으로부터 보호받고 있다고 밝혔다.

세이프슈퍼인텔리전스는 캘리포니아주 팔로알토와 이스라엘 텔아비브에 사무실을 둔 미국 기업으로 이 지역에 깊이 뿌리내리고 있으며 우수 기술 인력을 고용할 수 있는 능력을 갖추고 있다고 설명했다. SSI에만 집중하고 있으며 세계 최고 엔지니어와 연구원으로 이뤄진 정예 팀을 구성하고 있다고 강조하며 당신이 세계 최고라면 생애 최고 작업에 참여해 기술적 과제 해결에 기여할 기회를 제공하겠다며 동참을 호소했다. 세이프슈퍼인텔리전스는 공식 엑스 계정도 개설해 같은 내용 메시지를 올렸다. 수츠케버 역시 자신의 엑스 계정에서 세이프슈퍼인텔리전스 게시물을 인용하며 새로운 회사를 설립한다고 게시했다.

I am starting a new company: https://t.co/BG3K3SI3A1

— Ilya Sutskever (@ilyasut) June 19, 2024

세이프슈퍼인텔리전스 설립자로는 수츠케버 외에도 검색엔진 큐(Cue) 공동창업자이자 애플에서 AI 관련 업무를 주도했고 와이콤비네이터 파트너를 역임한 미국 기업가 다니엘 그로스, 오픈AI 전 엔지니어 다니엘 레비 등이 이름을 올리고 있다.

오픈AI에서 수츠케버는 AI 안전성 향상을 위한 노력에 있어 필수적인 인물이었다. 그는 얀 레이크와 함께 AI 안전성 확보를 위한 부서인 슈퍼얼라인먼트를 이끌었지만 그가 오픈AI를 퇴사한 뒤 슈퍼얼라인먼트는 해체됐다.

오픈AI는 비영리단체로 2015년에 출범했지만 이후 컴퓨팅 능력 구축에 막대한 자금이 필요하다는 사실이 드러나면서 방침 전환을 강요받게 됐다. 수츠케버가 설립한 세이프슈퍼인텔리전스는 처음부터 영리단체로 출범했기 때문에 공동창업자 중 1명인 그로스는 다양한 문제에 직면해 있지만 자금 조달은 문제가 되지 않을 것이라고 밝히기도 했다.

세이프슈퍼인텔리전스는 초기부터 안전한 AI 개발과 통제를 최우선 과제로 삼고 있다. 창업자는 AI 기능성 향상과 함께 안전성 확보에도 주력할 것이라고 밝혔다. 그 중에서도 단기적인 상업적 압박에서 벗어나 장기적인 관점에서 AI 기술 발전과 위험 관리에 전념하겠다는 계획이다.

회사 설립 초기부터 자금 조달 문제에서 자유로울 수 있다는 점이 강점으로 지적되고 있다. 앞으로 세계 최고 수준 엔지니어와 연구원을 영입해 AI 안전성 확보를 위한 연구개발에 매진할 계획이다. 오픈AI 출신 인사가 안전성 문제에 집중하는 새로운 AI 기업을 만들었다는 점에서 업계로부터 주목을 받고 있다. 관련 내용은 이곳에서 확인할 수 있다.