정용환 기자오픈AI 내부에서 안전성을 확보하기 위한 부서인 슈퍼얼라인먼트팀이 사실상 해체됐다는 보도가 나왔다. 결정적 계기는 팀 임원 2명인 일리야 수츠케버와 얀 라이크 퇴사였다. 라이크 는 엑스 계정을 통해 오픈AI에서 안전성이 경시되고 있다는 글을 게시했다.
보도에 따르면 수츠케버와 라이크 퇴사와 함께 오픈AI 슈퍼얼라인먼트팀이 해체됐고 이 팀 연구 내용은 오픈AI 다른 연구 활동에 흡수될 예정이라고 오픈AI가 인정했다고 한다. 슈퍼얼라인먼트팀은 2023년 7월에 설립된 부서로 인간 지능을 뛰어넘는 미래 초지능 개발에 대비해 AI를 제어하는 방법에 대해 연구를 수행했다.
5월 15일 슈퍼얼라인먼트팀 책임자이자 오픈AI 수석연구원이었던 수츠케버가 오픈AI를 퇴사한다고 엑스에 발표했다. 같은 날 수츠케버와 함께 슈퍼얼라인먼트팀을 이끌었던 얀 라이크 역시 퇴사를 발표했다.
퇴사를 발표한 수츠케버는 샘 알트만 CEO, 그렉 브록먼 사장, 최고기술책임자(CTO) 미라 무라티, 새로운 수석연구원인 제이콥 파초스키의 뛰어난 연구 리더십 아래에서 안전하고 유익한 AGI를 구축해 나갈 것이라 확신한다는 메시지를 엑스에 올렸다.
한편 라이크는 엑스에서 퇴사 이유에 대해 상당히 오랜 기간 동안 오픈AI 리더십과 핵심적인 우선 순위에 대해 의견이 맞지 않아 결국 한계에 이르렀다고 토로했다. 그는 지난 몇 년간 안전성에 대한 문화와 프로세스는 화려한 제품에 뒤처져 왔다며 오픈AI는 안전성을 최우선으로 여기는 AGI 기업이 되어야 한다고 게시했다.
그의 이 게시물에 대해 알트만 CEO는 오픈AI 얼라인먼트 리서치와 안전성에 대한 문화에 대한 라이크의 공헌에 대해 감사하며 그가 떠나게 되어 정말 안타깝다며 그의 말대로 우리에게 해야 할 일이 아직 많이 남아 있으며 이를 실행하기 위해 전력을 다하고 있다고 말했다.
또 브록먼 사장은 라이크의 퇴사를 계기로 제기된 의문을 바탕으로 전반적인 전략에 대해 조금 설명하려 한다며 알트만 CEO와 공동 성명을 발표했다. 이 성명에서 자사는 다양한 시간 범위를 목표로 안전성 연구를 지속할 것이며 또 정부나 많은 이해관계자와의 안전성 관련 협력도 계속해 나갈 것이라고 말했다.
오픈AI를 떠난 게 수츠케버와 라이크 뿐만은 아니다. 보도에 따르면 오픈AI는 지난 4월 슈퍼얼라인먼트팀 소속 연구원 2명을 기업 기밀 유출 혐의로 해고했다고 한다. 또 슈퍼얼라인먼트 팀 멤버였던 윌리엄 샌더스 역시 오픈AI를 떠났다고 인터넷 포럼에 게시했다. 더불어 오픈AI에서 AI 정책 거버넌스를 연구하던 카렌 오키프와 다니엘 코코 역시 퇴사했는데 이들은 AGI 시대에 오픈AI가 책임감 있게 행동할 것이라고 확신할 수 없게 되어 퇴사했다고 밝혔다.
한편 슈퍼얼라인먼트팀이 해체됐지만 오픈AI에는 여전히 프라이버시 침해, 감정 조작, 사이버보안 위험 등 AI로 인한 파괴적 위험에 대처하기 위한 대비(Preparedness)팀이 있다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
이원영 기자
