오픈AI가 AI를 활용한 검색 서비스 또는 챗GPT가 인터넷에서 정보를 얻을 수 있도록 하는 확장 기능 발표를 목전에 두고 있다고 보도되고 있다. 발표는 구글 연례 콘퍼런스인 구글 I/O 2024가 개최되는 5월 14일 전날로 예상되고 있다.
보도에 따르면 이 문제에 정통한 관계자 2명을 인용해 오픈AI가 5월 13일 AI 검색 서비스를 발표하고 검색 대기업 구글에 정면 승부를 걸 예정이라고 한다.
발표 예정일은 변경 가능성이 있지만 지금까지는 변경 관련 정보가 없다. 예정대로 발표가 이뤄진다면 구글이 5월 14일 개최 예정인 개발자 콘퍼런스 바로 직접 구글 검색 대항마인 AI 검색이 세상에 나오게 된다.
구체적인 발표 시기는 불명확하지만 보도에 따르면 지난 2월 오픈AI가 검색 기술 개발에 착수했다는 내용이 나오기도 했다. 또 다른 보도에 따르면 이번 새로운 검색 서비스는 챗GPT용 확장 기능으로 챗봇이 인터넷을 직접 검색해 출력 결과에 소스를 인용할 수 있게 한다고 한다. 이를 통해 챗GPT는 구글 검색이나 AI 검색 스타트업 퍼플렉시티(Perplexity)와 정면 경쟁하게 될 것이라고 지적됐다.
오픈AI는 이전에도 현실 세계 정보를 챗GPT에 통합하는 챗GPT 플러그인을 제공했으며 지난 4월 베타 개발이 완료됐다고 발표한 바 있다.
이번 오픈AI 발표에서는 검색 기능 외에도 AI 기술이 공개될 가능성이 있다. 예를 들어 5월 9일 신제품 데모 버전이 사내에 공개될 예정이었다가 연기된 것이나 GPT-4 후속 모델로 추정되는 챗봇이 비밀리에 테스트되고 있을 가능성 등이 보도됐다. 관련 내용은 이곳에서 확인할 수 있다.
한편 오픈AI는 사용자에게 성인물, 과도한 폭력 표현, 비방 등을 포함한 콘텐츠를 자사 AI 제품을 통해 생성할 수 있도록 허용하는 걸 검토 중이라고 밝혔다.
지금까지 오픈AI는 과학과 교육 자료를 제외하고 노골적인 성적 콘텐츠나 암시적인 콘텐츠에 대한 생성을 금지해왔다. 하지만 오픈 AI 최고기술책임자인 미라 무라티는 영상 생성 AI 소라를 발표하며 예술가가 AI를 사용해 더 많은 표현을 하고 싶어 할 것이라는 점은 상상하기 어렵지 않다며 다양한 분야 아티스트, 창작자와 협력해 뭐가 편리하고 도구가 어느 정도 유연성을 제공해야 하는지 파악하고 있다고 밝혔다.
또 오픈AI는 자사 제품을 통해 개발자와 사용자가 책임감 있게 NSFW 그러니까 성인 등급 콘텐츠를 생성할 수 있도록 허용할 것인지 검토하고 있다고 밝힌 것. 오픈AI에 따르면 검토 중인 콘텐츠에는 성인물, 폭력적 이미지, 비방, 일방적인 신성모독 등이 포함될 수 있다고 한다.
오픈AI는 이 분야에서 모델 행동에 대한 사용자와 사회 기대를 더 잘 이해할 수 있기를 기대한다고 밝혔다. 오픈AI 측 관계자는 자사는 에로틱한 텍스트나 누드 이미지 생성을 앞으로도 금지해야 하는지에 대한 논의를 시작하고 싶다고 밝혔다. 하지만 딥페이크 생성은 허용되선 안 된다고 지적했다. 그는 또 법과 타인 권리를 침해하지 않는 선에서 사람들이 AI를 최대한 통제할 수 있기를 원하지만 딥페이크를 가능케 하는 건 문제가 있다고 밝혔다. 또 생성된 텍스트나 이미지가 포르노로 간주될지는 사용자 정의에 달려있다며 NSFW 허용 여부에 대한 논의야말로 오픈AI가 원하는 대화라고 덧붙였다.
한편 전문가는 오픈AI가 동의하에 제작된 합법적 자료에 NSFW 콘텐츠 생성을 제한하려 해도 그 어떤 방식에 대해서도 회의적이라고 지적한다. 온라인 성적 학대로부터 아동을 보호하는 자선단체 IWF도 최근 AI로 생성된 딥페이크 등 문제가 많이 발생했음에도 오픈AI가 실제적 대책을 세우지 않고 AI가 야기할 해악에 대한 기업 책임을 다하지 않는 건 유감이라고 비판했다. IWF는 또 NSFW 콘텐츠 생성을 허용하는 건 오픈AI 스스로 내세운 안전하고 유익한 범용 AI 개발이라는 목표를 훼손하는 것이라고 지적했다. 관련 내용은 이곳에서 확인할 수 있다.