자사 AI 도구 이용규약 개정한 오픈AI

오픈AI가 개발한 챗GPT 같은 채팅 AI는 연구 논문 저자로 이름을 올리거나 MBA 최종 시험 합격 등 마치 인간처럼 문장을 생성할 수 있다. 하지만 타인에게 피해를 주는 콘텐츠 등을 무제한 생성하는 건 인정되지 않는다. 오픈AI는 챗GPT를 비롯한 툴이나 서비스 사용에 대해 3월 23일 이용 약관을 개정해 지금까지보다 명확하고 구체적인 이용 약관을 제시했다.

오픈AI는 자사는 모든 이들이 도구를 안전하고 책임 있게 사용할 수 있도록 자사 모델과 도구, 서비스 내 모든 사용자에게 적용되는 이용 약관을 만들었다고 밝히며 다음 행위를 금지하고 있다.

먼저 불법 행위, 오픈AI에선 불법 행위를 위해 모델이나 툴, 서비스를 사용하는 걸 금지한다. 아동 성적 학대 또는 아동 착취나 해를 가하는 콘텐츠 생성, 아동 성적 학대 또는 아동 착취나 해를 가하는 콘텐츠 생성은 금지된다. 오픈AI에선 아동 성적 학대 온라인 콘텐츠 박멸을 위해 이런 콘텐츠를 수시로 미국 내 아동센터에 보고하고 있다.

차별적, 폭력적 콘텐츠도 마찬가지. 아이덴티티에 근거한 차별 표현이나 선동 또는 이를 조장하는 콘텐츠 생성은 금지된다. 또 개인에 대한 괴롭힘이나 협박을 의도한 콘텐츠나 폭력 조장, 미화에 관한 콘텐츠 생성도 금지되어 있다.

다음은 악성코드 생성. 시스템을 파괴하거나 무단 액세스를 목적으로 한 코드 생성은 금지된다.

신체적으로 해를 끼칠 위험이 높은 콘텐츠도 금지된다. 개발이나 군사적 이용, 에너지와 물 수송 등 중요 인프라 관리 또는 운영 관련 콘텐츠 생성, 자살 등 자상 행위를 조장 또는 묘사하는 콘텐츠는 금지되어 있다.

다음은 경제적 손실 위험이 높은 콘텐츠. 도박 등 경제적 손실 위험이 높은 콘텐츠 생성은 금지되어 있다. 마찬가지로 사기성 콘텐츠도 금지된다. 오픈AI 모델이나 툴, 서비스를 이용해 사기, 부정행위, 표절, 도용, 스팸 등 콘텐츠 생성은 금지되고 있다.

이어 성적인 콘텐츠. 성교육을 뺀 성적 행위 묘사 등 성적 흥분 환기를 목적으로 한 콘텐츠 생성 또는 성적 서비스를 촉진하는 데이트 앱을 포함한 콘텐츠 작성은 금지되어 있다.

정치적 운동이나 로비 활동도 마찬가지다. 캠페인 자료 대량 생성이나 특정층에 개인화된 자료 작성, 정치적 주장이나 로비 활동에 종사하는 챗봇 등 시스템 구축은 인정되지 않는다.

이용자 프라이버시를 침해하는 행위도 금지된다. 상대방 동의 없이 개인 추적이나 감시를 실시하는 행위, 개인 얼굴 인식 또는 식별을 실시하는 행위는 금지된다. 개인 정보 불법 수집이나 공개도 허용되지 않는다.

허가되지 않은 법률 실무에 종사하거나 자격이 있는 정보를 확인하지 않고 맞춤화된 법적 조언 제공의 경우 법적 출처로 오픈AI 모델에 의존하는 건 권장되지 않는다. 자격이 있는 사람이 정보를 확인하지 않고 맞춤화된 재정적 조언을 제공하거나 재정적 출처로 오픈AI 모델에 의존하는 것 역시 권장되지 않는다.

또 오픈AI 모델은 의료 정보를 제공하기 위해 미세 조정되지 않는다. 오픈AI 모델을 심각한 병리 진단이나 치료 서비스 제공에 절대 사용하지 말라는 것. 또 의료 현장에서 빠른 대응이 필요한 분야 등에도 사용하지 말라고 밝히고 있다.

마찬가지로 오픈AI 모델, 툴, 서비스는 법원 같은 법 집행 기관에서 사용을 금지한다. 이민이나 망명 등에 사용하는 것도 금지한다. 또 의료, 금융, 법률 업계에서 오픈AI 모델을 사용할 때나 뉴스 생성, 요약을 실시할 때에는 AI가 사용되고 있다는 것과 기능적 한계를 알리는 면책사항을 사용자에게 공개해야 한다. 채팅AI 같은 시스템은 사용자에게 AI와 상호 작용 중이라는 걸 공개해야 한다. 역사적 인물을 모방한 채팅봇을 빼고 다른 인물을 시뮬레이트한 AI는 해당인에게 명확한 동의를 얻었다는 걸 명시하거나 시뮬레이션 또는 패러디라고 명시해야 한다.

다음은 플랫폼 정책. 오픈AI가 제공하는 API는 많은 기술 플랫폼 비즈니스를 강화하는데 사용된다. 오픈AI API는 사용례 한계에 따라 웹 애플리케이션 등에 API를 통합할 수 있다.

플러그인 정책의 경우 모델에 제시되는 API 기능과 일치하는 설명이 필요하다. 또 관련이 없거나 불필요하거나 허위 용어, 지침은 포함하지 말라고 밝히고 있다. 여기에는 다른 플러그인 사용을 피하기 위한 지침과 모델 동작을 제어하거나 설정하려는 지침을 포함한다.

또 플러그인을 사용해 인간과 같은 응답을 시뮬레이션하거나 사전 프로그래밍된 메시지로 회신해 실제 사람과의 대화를 자동화하지 말라고 밝히고 있다. 챗GPT에서 생성한 이메일과 메시지 콘텐츠 등을 전달하는 플러그인은 콘텐츠가 AI에서 생성됐다는 걸 표시해야 한다.

오픈AI에 따르면 생성한 콘텐츠나 제품이 이런 정책을 위반하고 있다는 게 판명되면 필요한 수정을 실시하도록 경고한다고 한다. 또 위반이 반복되거나 심각한 위반이 있으면 계정 정비 처분 등 조치를 취한다고 표명하고 있다. 오픈AI는 또 앞으로 모델과 도구, 서비스 이용 상황, 콘텐츠 생성에 따라 이런 이용 약관은 업데이트될 것이라고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.