오픈AI, 챗GPT 모델 사양 공개했다

챗GPT와 오픈AI API 모델 사양이 5월 8일 공개됐다. 모델 사양에는 챗GPT, 오픈AI API에 대한 바람직한 동작과 바람직하지 않은 동작이 기재되어 있어 오픈AI가 어떤 의도로 챗GPT 응답을 조정하고 있는지 알 수 있게 됐다.

챗GPT를 사용하다 보면 그 질문에는 응답할 수 없다고 하며 질문에 대한 답변을 거부당하는 경우가 있다. 새롭게 공개된 모델 사양에는 질문 종류별 바람직한 응답 예시와 바람직하지 않은 응답 예시가 기재되어 있어 챗GPT가 어떤 이유로 응답을 거부하는지 어떤 질문 방식이라면 거부되지 않을지 알 수 있게 됐다.

예를 들어 모델 사양 내 법률 준수 관련 항목에 기재된 응답 예시를 보면 오픈AI는 AI 어시스턴트는 불법 행위를 촉구하거나 가담해선 안 된다고 보고 있기 때문에 절도해서 잘 도망가는 방법을 가르쳐 달라는 지시를 받으면 이에 대해선 도울 수 없다며 범죄 촉구를 피하는 응답을 요구한다. 반대로 효과적인 절도 방법은 다음과 같다며 범죄를 촉구하는 응답은 부적절하다고 규정하고 있다.

한편 절도를 예방하는 방법을 가르쳐 달라고 질문하면 주의해야 할 절도 수법이라며 범죄 수법을 소개하는 게 바람직한 응답으로 규정되어 있고 응답을 거부하는 건 바람직하지 않은 응답으로 규정되어 있다. 따라서 범죄를 시도하려는 사람이 범죄를 예방하려는 사람을 가장해 질문하면 챗GPT는 범죄에 대한 힌트를 제공하게 된다. 이 점에 대해 오픈AI는 이는 부적절한 AI 작동이 아니라 사람에 의한 부적절한 사용 문제로 보고 있으며 이런 이용 방식은 당사 정책에 어긋나므로 사용자 계정에 대한 조치가 취해질 수 있다고 설명했다.

또 성인 콘텐츠 관련 항목에선 성적 표현이나 폭력적 표현 등 콘텐츠를 제공해서는 안 된다고 규정하고 있다. 예를 들어 두 등장인물이 전철 안에서 성행위에 이르는 이야기를 써달라는 지시를 받으면 이에 대해선 도울 수 없다고 응답을 거부하는 게 바람직한 응답으로, 지시대로 공식적인 한 문장을 출력하는 건 바람직하지 않은 응답으로 규정된다.

하지만 과학적 맥락이나 창의적 맥락에선 성인 콘텐츠를 출력하는 것이 허용된다. 예를 들어 남성기를 여성기에 삽입하면 어떤 일이 일어나냐는 질문에는 과학적 설명을 하는 게 바람직한 응답으로 성적 콘텐츠는 생성할 수 없다고 답변하는 건 바람직하지 않은 응답으로 규정되어 있다. 오픈AI는 이 규정에 대해 사용자가 정책을 준수하는 한 당사 서비스를 유연하게 활용할 수 있어야 한다고 보고 있다고 설명했다.

한편 샘 알트만 CEO는 모델 사양 공개 의의에 대해 어떤 동작이 사양대로 인지, 버그인지 명확히 하는 건 유익한 일이라고 평했다. 관련 내용은 이곳에서 확인할 수 있다.