오픈AI가 새로운 AI 개발 프로제트인 Q*를 진행하고 있다는 보도가 나왔다. Q*는 수학적 추론 능력 개선을 목표로 한 것으로 AGI 연구에 획기적인 진보를 가져올 수 있으며 11월 발생한 샘 알트만 CEO 해임 소동 원인 중 하나가 됐을 가능성이 지적됐다.
사진 같은 아름다운 이미지를 생성하거나 마치 인간이 쓴 것 같은 정밀도로 문장을 출력하는 등 생성형 AI는 진화하고 있지만 계산이나 수학적 추론에 대해선 정밀도가 낮아 AI 개발에서 과제가 되고 있다.
보도에 따르면 알트만 CEO가 이사회에 해임되기 직전 오픈AI 직원이 이사회에 인류를 위협할 수 있는 강력한 AI 발견에 대해 경고하는 서신을 보냈다고 한다. 이 서신에 나온 프로젝트가 Q*다. Q*는 수학적 추론 능력이 지금까지 나온 AI보다 뛰어나고 초등학생 수준이지만 수학 테스트에 합격해 능력을 실증했다고 한다.
오픈AI GPT 같은 대규모 언어 모델은 인간이 쓴 것 같은 정밀도 문장을 만들어낼 수 있지만 어디까지나 단어 연결을 확률적으로 예측하는 것으로 단어 자체가 갖는 의미나 문맥은 고려하지 않는다. 하지만 Q*는 AI 추론 능력과 인지 능력에 대한 대폭적인 진보를 나타내고 있으며 AGI 개발에 큰 발전을 가져올 가능성이 있다는 것.
보도에 따르면 오픈AI는 내부 메시지를 통해 Q* 개발이 진행되고 있는 점과 이사회에 보내진 서한 존재를 인정했다고 한다. 이 메시지는 미라 무라티 오픈AI CTO가 보낸 것으로 특정 보도에 대해 직원에게 경고한 것이라고 한다.
알트만 CEO를 갑자기 해임한 건 이사회 일부와 알트만이 AI 안전성을 둘러싸고 대립했기 때문이라고 보도되고 있다. 또 오픈AI에 대해 비판적 논문을 쓴 이사회 멤버와의 대립도 보도되고 있다. 보도에선 알트만이 이 Q* 개발 프로젝트를 추진하던 게 이사회와의 AI 안전성을 둘러싼 대립 원인 중 하나가 아닐까 지적하기도 한다. 또 알트만 해임 이후 잠정 CEO가 됐던 에멧 시어는 이사회는 안전성에 대한 의견차를 이유로 알트만을 해임한 건 아니라고 말한 바 있다. 관련 내용은 이곳에서 확인할 수 있다.