대화형 AI인 챗GPT와 이미지 생성 AI인 스테이블 디퓨전 등장으로 AI라는 말은 마치 뭐든 할 수 있는 만능 존재를 가리키는 것처럼 사용되기 시작하고 있다. 하지만 실제로 AI를 탑재한 일부 제품은 예상만큼 효과를 얻을 수 없는 것도 적지 않다. 이런 상황에 대해 미연방거래위원회 FTC 광고 관행 부문 마이클 애틀레슨 변호사가 의견을 밝혀 눈길을 끈다.
그는 AI가 도대체 뭔지라는 질문부터 시작한다. 보통 AI는 인간을 대신해 예측, 판단, 추론 등 작업을 수행하는 다양한 기술과 도구를 말하지만 많은 정의를 가진 모호한 용어다. 애틀레슨은 하나 확실한 점은 이 단어가 마케팅 용어라는 것이라며 지금 가장 핫한 단어로 주목받고 있다고 말한다.
FTC는 지금까지 편견과 차별적 영향을 미치는 자동화 도구 사용을 피하도록 기업에 경고해왔다. 하지만 AI를 말하는 제품 중에는 원래 선전만큼 효과를 발휘하지 않는 문제 외 제품도 있는 게 실정이라고 한다. FTC는 제품 효능에 관한 허위 또는 근거가 없는 주장을 관리, 통제하는 일도 담당하고 있기 때문에 선전 내용에 따라선 FTC가 움직이는 경우도 있다고 지적하며 주의 사항을 밝히고 있다.
첫째 AI 제품에 할 수 있는 일을 과장한 건 아닌지. 제품이나 서비스로 할 수 있는 일을 과장해 현재의 AI나 자동화 기술 능력을 넘을 수 있다고 주장하고 있지 않은지에 대해 FTC가 문제시할 가능성이 있다고 지적한다. 예를 들어 제품 어필 포인트에 과학적 뒷받침이 없거나 어필된 성능이 특정 유형 사용자 또는 특정 조건 하에서만 적용되는 경우가 해당된다.
둘째 자사 AI 제품이 비AI 제품보다 뛰어나다고 약속하지 않았거나 광고주가 높은 가격을 정당화하는 등 목적으로 어떤 최신 기술에 의해 제품이 더 좋아진다고 말하는 건 드물지 않지만 이런 비교 주장에는 충분한 증거가 필요하다. 증거를 제시할 수 없다면 이런 주장을 하지 말라는 것.
셋째 위험을 인식하고 있어야 한다는 것. AI를 이용해 실패하거나 치우친 결과가 나오면 이 기술을 개발한 제3자 탓으로 할 수 없다. 또 해당 기술을 이해할 수 없거나 AI가 블랙박스이기 때문에 테스트 방법을 모른다고 하는 이유로는 기업에 책임이 없다고는 말할 수 없다.
넷째는 이 제품은 실제로 AI를 사용하고 있는지. 개발 과정에서 AI 도구를 사용하는 것만으로 제품에 AI가 탑재되어 있다고는 할 수 없다. FTC 조사에선 자료를 분석하고 제품 내용이 기업 주장과 일치하는지 확인할 수 있다고 주의를 기울여 근거가 없는 주장을 하고 있었을 경우는 다시 생각하도록 경고했다. 관련 내용은 이곳에서 확인할 수 있다.