트위치 한 채널(Nothing, Forever)은 2022년 12월 14일부터 오픈AI의 자연 언어 처리 모델인 GPT-3으로 만들어낸 농담을 계속 말하는 AI 코미디언 서비스를 하고 있었다. 하지만 농담 내용 중 차별적 내용이 포함되어 있어 트위터 커뮤니티 가이드라인에 저촉된다며 14일간 액세스 금지 처분을 받았다고 한다.
이 채널 속 AI 코미디언은 1990년대 인기 코미디 드라마 데이터를 바탕으로 GPT-3에서 자동 생성된 농담을 계속 이야기한다. 생성된 대본을 읽을 뿐 아니라 90년대 PC 게임풍 캐릭터가 음성에 맞춰 말하는 애니메이션도 자동 생성하는 게 특징이다.
이 채널이 생성한 AI 코미디를 운영하는 크리에이터에 따르면 기계학습 모델에는 파이썬과 텐서플로, 백엔드에는 타입스크립트(TypeScript)와 애저 펑션(Azure Functions), 헤로쿠(Heroku), 클라이언트에는 C#과 유니티를 사용하고 있다고 한다.
하지만 2월 5일 AI 코미디언은 트랜스포비아(transphobia) 농담을 하며 트위치는 이 채널에 14일간 액세스 금지 처분을 내렸다. 채널 크리에이터에 따르면 평소에는 고비용이면서 동작이 안정적인 text-davinci-003이라는 모델 API를 이용하고 있었다고 한다. 하지만 우연히 오작동으로 기능이 정지해 이보다 저비용이면서 간단하지만 정밀도가 떨어지는 text-curie-001 모델 API로 전환한 게 트랜스포비아를 포함한 농담 생성 원인이라고 한다.
크리에이터는 text-curie-001 전환으로 부적절한 텍스트 생성으로 이어졌다면서 오픈AI 콘텐츠 조정 도구를 사용했는데 -003에선 작동했지만 001에선 잘 작동하지 않았다고 밝혔다. text-curie-001는 이용하지 않을 것이라고 밝히고 있다.
그는 또 트위치 액세스 금지 처분에 대해 트랜스포비아를 포함한 농담은 우발적으로 생성됐으며 결코 의도한 게 아니라면서 불복 신청을 했다. 관련 내용은 이곳에서 확인할 수 있다.