AI 기술 윤리 단체가 챗GPT를 비롯해 오픈AI가 전개하는 AI 텍스트 생성 도구는 공공 안전에 대한 위험을 안고 있다고 주장하며 3월 30일 미국연방거래위원회 FTC에 조사를 의뢰했다. 이 서한에선 사이버 보안에 대해 오픈AI가 보통 무기와 비정상 무기를 확산시키고 있다고까지 표현하고 있다.
얼마 전 책임감 있는 AI 윤리적 개발을 추진하는 비영리단체(Future of Life Institute)가 사회에 중대한 위험을 초래할 위험이 있는 제너레이티브 AI 개발에 대해 기업과 규제상 보호 조치가 부족하다고 주장하며 GPT-4를 넘는 AI에 대해 적어도 6개월에 걸친 즉각 개발 중단을 요구하는 공개서한을 발표했다. 이 서한에는 일론 머스크와 스티브 워즈니악 등 1,000명 이상이 서명을 하고 있다.
이 공개 서한에 이어 AI 디지털 정책센터인 CAIDP는 3월 30일 미국연방거래위원회에 제너레이티브 AI 모델 개발을 지연시키고 더 엄격한 정부 감시를 실시하도록 요구하는 문서를 제출했다.
CAIDP 의견서는 2023년 3월 중순 발표된 오픈AI의 GPT-4에 대한 잠재적 위협을 지적한다. 구체적으론 GPT-4가 악의가 있는 코드를 생성할 가능성 외에 고도로 커스터마이징된 프로파간다를 발신하거나 치우친 학습 데이터 영향으로 채용하는 것에 있어 스테레오 타입인 견해가 되거나 특정 인종, 성별에 대한 부당한 우대가 이뤄지거나 할 가능성이 있다는 문제점이 우려되는 것 외에 챗GPT로 타인 채팅 이력이 보이는 버그가 발생하거나 기업 기밀 데이터를 챗GPT에 마음대로 입력하는 문제 등 프라이버시 문제점도 포함되어 있다. CAIDP는 오픈AI가 이런 위험을 충분히 인식하고 GPT-4를 상업적으로 이용하기 위해 공개했다고 주장한다.
오픈AI 창업 멤버 중 1명은 제너레이티브AI 모델을 이용해 타인에게 큰 손해를 줄 수 있다는 건 상당히 간단하게 할 수 있을 것이라고 말해 GPT-4 구축에 이용한 데이터세트나 학습 방법에 대해 비공개로 하고 있듯 오픈AI도 텍스트 생성에 의한 잠재적 위협을 경계하고 있다. 이에 3월 23일에는 챗GPT 등 툴이나 서비스 이용 약관을 지금까지보다 명확하고 구체적인 것으로 개정하기도 했다. 하지만 CAIDP는 오픈AI 이니셔티브가 부족하고 GPT-4 소비자 피해가 한층 뛰어나고 규제 조치를 강구해야 한다고 주장한 뒤 불공정하고 기만적인 거래 방법을 금지한다고 정한 연방거래위원회법 제5조를 위반한다며 오픈AI 책임 추궁을 요구하고 있다.
결과적으로 CAIDP는 FTC가 GPT 모델에 대한 향후 상업적 배포를 중단하고 GPT 모델을 독립적으로 평가해야 한다고 요구하고 있다. 또 소비자는 사기 불만을 제기할 수 있는 것처럼 일반 접근 가능한 일반 인공지능에 관한 보고 도구를 설치하려 한다. 또 FTC가 현재 실시하고 있는 AI 도구 연구와 평가에 아직 비교적 비공식적인 것에 근거해 제너레이티브 AI에 관한 FTC에 대한 명확한 규칙을 만들 필요가 있다고 주장하고 있다.
보도에선 FTC가 어떤 대응을 하느냐에 따라 급속도로 진행되는 AI 개발 추이에 영향을 줄 가능성이 높아지고 있다. 관련 내용은 이곳에서 확인할 수 있다.