오픈AI가 개발한 AI 채팅봇인 챗GPT는 출시 직후부터 큰 화제를 모으며 이제 전 세계 사용자가 쓰고 있지만 때론 환각이라고 불리는 허위 또는 사실 무근 내용을 생성하는 것도 지적됐다. 새롭게 미국에서의 상업 활동에 관한 불공정한 경쟁이나 기만적인 행위에 대해 감시하는 미연방거래위원회 FTC가 챗GPT에 의해 생성된 오정보에 의한 소비자에 대한 위험에 대해 오픈AI 조사를 시작했다고 보도되고 있다.
FTC는 오픈AI에 대해 AI 모델과 관련된 위험에 어떻게 대처할 것인지에 대한 기록을 인도하도록 요구했다고 한다. 오픈AI가 인도를 요구한 정보에는 AI 위험 관련 정책이나 절차 뿐 아니라 재무 기록, 대규모 언어 모델 학습에 관한 데이터, 소비자가 AI를 얼마나 이해하고 있는지 평가하는 조사 결과, 불만 기록 등도 포함되어 있다. FTC는 평판 피해를 포함한 소비자에 대한 위험에 대한 불공정 또는 기만적 관행에 관여했는지 여부를 조사할 것이라고 설명한다.
AI가 생성하는 허위 또는 사실 무근 문장은 환각으로 불리는 것으로 부정확한 정보에도 불구하고 AI가 너무 당당하게 설명하기 때문에 소비자는 오정보를 믿어버릴 가능성이 있다는 게 위험시되고 있다.
챗GPT가 개인에 대한 허위 설명을 출력했다는 사례는 몇 가지 보고됐다. 미국 조지아주 라디오 퍼스널리티인 마크 월터스는 한 저널리스트가 고소장 요약을 챗GPT에서 실시했을 때 헌법 수정 제2조 재단 자금을 횡령한 인물로 설명되고 하지만 사실 월터스는 SAF에 속한 적도 없었다.
이 사태에 대해 월터스는 허위 내용으로 명예를 훼손했다며 오픈AI에 소송을 걸었다. 월터스 측 변호사는 AI 연구 개발에는 가치가 있지만 사람들에 관한 사실을 얽히게 한다고 알고 있는 시스템을 일반 공개하는 건 무책임하다고 주장하고 있다.
또 한 전문가는 변호사가 성희롱한 법학자 목록을 생성해달라고 챗GPT에 의뢰하자 전혀 익숙하지 않은데 이름이 실렸다고 한다. 챗GPT에 의하면 그가 학생과 알래스카에 여행을 갔을 때 성희롱을 했다는 워싱턴포스트 기사를 인용했다고 했지만 이런 기사 자체가 존재하지 않는 것이었다고 한다.
이렇게 챗GPT를 비롯한 AI에 대한 우려로 FTC는 AI 분야를 주도하는 오픈AI에 대한 조사를 시작했다. FTC는 또 챗GPT 버그로 인해 다른 사람 채팅 내역과 결제 정보가 표시되어 버린 정보 유출 사안에 대해서도 기록을 제공하도록 요구하고 있다. 오픈AI 샘 알트만 CEO는 데이터 전달을 요구하는 FTC 문서가 유출된 문제에 대해 유감스러우며 신뢰 구축에 도움이 되지 않는다며 오픈AI가 법률을 준수하고 있다고 확신하며 FTC와 협력해나갈 것이라고 밝혔다.
FTC에 의한 조사는 오픈AI가 직면하는 새로운 시련이지만 일부 의원은 FTC에 대해서도 엄격한 모습을 취하고 있다. 7월 13일 열린 공청회에서 FTC 리나 칸 위원장은 명예훼손이나 중상은 FTC 집행에서 초점은 아니지만 AI 학습에 있어 개인 정보 악용은 FTC법에 근거한 사기 또는 사기 행위 형태일 가능성이 있다며 소비자 보호 범위에 포함된다고 주장하기도 했다. 이에 따라 소비자에게 심각한 손해가 있는지 여부에 초점을 맞추겠다는 것이다.
FTC는 이전부터 AI에 대한 행동을 할 준비가 됐다는 메시지를 보내고 있다. 지난 2월 AI 제품 과대광고에 대해서도 경종을 울렸다. FTC 측은 혁신을 환영하지만 혁신적인 게 무모하다는 라이선스를 주는 건 아니라며 AI 분야에서 유해 관행에 이의를 제기하기 위해 집행을 포함한 모든 방법을 사용할 준비가 되어 있다고 밝혔다.
미국은 유럽에 비해 AI 규제가 뒤쳐져 있지만 일부 의원은 급성장하는 AI를 규제할 필요성을 인식하고 있다. 민주당 의원은 기술 영향 연구를 위한 AI 위원회 발족을 제안하고 있으며 일부에선 AI 규제 법안 작성에 노력을 기울이고 있다는 보도가 나오고 있다. 관련 내용은 이곳에서 확인할 수 있다.