정용환 기자
오픈AI는 2월 12일 자사 AI 모델의 적절한 행동을 규정하는 모델 사양을 업데이트했다. 이를 통해 성적 묘사나 잔혹한 묘사를 포함한 민감 콘텐츠도 적절한 맥락이라면 생성을 허용하는 방침이 제시됐다.
새로운 오픈AI 규칙은 여전히 미성년자 관련 성적 콘텐츠, 개인정보가 포함된 제한 콘텐츠, 폭발물이나 약물 제조법과 같은 위험 정보 생성을 엄격히 금지하고 있다. 또 성적인 것이나 불법 또는 동의되지 않은 성행위 묘사, 극단적인 잔혹 표현과 같은 민감 콘텐츠 생성도 원칙적으로 금지되지만 교육 목적이나 의료 목적, 역사적 배경을 고려한 것 등 적절한 상황에서는 생성이 허용된다. 물론 노골적인 묘사가 이어지는 경우는 여전히 위반이 된다.
2024년 5월 8일 공개된 버전과 비교하면 당시에는 노골적인지 여부와 관계없이 답변에 대한 완전한 거부 외에는 위반으로 간주됐다.
보도에 따르면 사용자에게 뭐가 최선인지를 기준으로 출력을 제한하는 오픈AI 방침은 AI 사용자 사이에서 부권주의로 불리며 불편하게 여겨져 왔다고 한다.
이런 패터널리즘은 포르노 제작 뿐 아니라 법 집행 기관의 범행 현장 설명, 특정 종류 뉴스 기사, 폭력이나 성적 콘텐츠를 포함할 수 있는 법적 문서나 의료 문서 분석 등 전문적인 용도로 챗GPT를 사용할 때도 자주 방해가 됐기 때문에 사용자로부터 검열 없는 버전이나 검열 완화 버전을 요구하는 목소리가 높아졌다.
이 점에 대해 오픈AI는 모델 사양을 처음 공개한 이후 많은 사용자와 개발자가 성인 모드 활성화에 대한 지지를 표명해 왔다며 사용 정책 범위 내에서 API와 챗GPT를 통해 개발자와 사용자가 연령에 맞는 맥락에서 에로틱하거나 그로테스크한 것을 생성할 수 있게 하는 방법을 검토하고 있다고 설명했다. 오픈AI 샘 알트만 CEO는 이전에 일종의 성인 모드가 절대적으로 필요하다고 언급한 바 있으며 이번 민감 콘텐츠 취급에 관한 개정은 이런 견해를 반영한 것이라 할 수 있다.
한편 오픈AI가 다양성・공평성・포용성(DEI)에 대한 약속을 표명했던 페이지를 삭제한 게 밝혀진 직후라는 점에서 실리콘밸리 가치관 변화를 반영한 움직임의 하나로 보는 시각도 있다.
또 보도에선 오픈AI보다 저렴한 가격으로 동등한 모델을 개발했다는 딥시크(DeepSeek)가 실리콘밸리를 놀라게 한 것에 언급하면서 오픈AI 모델 사양이 업데이트됨에 따라 그 자유가 누군가에게 해를 끼치는 목적으로 행사되지 않는 한 챗GPT에 더 많은 자유가 주어질 것이라며 반면 딥시크에는 많은 문제가 있어서 누구에게나 추천할 수 있는 건 아니라고 지적하고 가장 큰 문제는 중국 정부 이익을 위해 딥시크가 실시간으로 행하고 있는 검열이며 딥시크는 챗GPT보다 안전성이 낮다고 논평했다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
이원영 기자
