오픈AI, GPT-4 얼굴 인식 기능 제한했다

GPT-4 이미지 인식 기능을 갖춘 특정 개인을 식별하는 능력이 개인 정보 보호법을 위반할 수 있다는 우려로 오픈AI가 얼굴 인식 기능을 제한하는 조치를 취하고 있다는 게 분명해졌다.

지난 3월 발표된 GPT-4는 텍스트 뿐 아니라 이미지 입력도 허용하는 멀티모달 AI로 개발됐다는 게 밝혀졌다. 오픈AI는 이 발표에 이어 비마이아이즈(Be My Eyes)라는 스타트업과 공동으로 앱 개발에 나서 눈이 불편한 사용자에게 이미지를 설명하고 사용자가 주변 환경을 더 잘 해석할 수 있도록 하는 프로젝트를 하고 있다.

하지만 보도에서 뉴질랜드에 거주하는 눈이 부자유스러운 여성 체험함을 소개한 바에 따르면 오픈AI가 개발하고 있는 앱이 얼굴 정보 제공을 중지하고 프라이버시 보호 때문에 얼굴이 숨겨져 잇다는 메시지를 표시하기 시작했다고 한다.

오픈AI 측 관계자는 오픈AI가 이런 일이 원인이 되어 GPT-4 얼굴 인식 능력을 축소한 게 이유라고 인정했다. 이에 따르면 오픈AI 시스템은 위키피디아에 페이지가 만들어지는 공인을 식별하는 게 가능하지만 생체 정보 사용에는 시민으로부터의 명확한 동의가 필요하다고 정한 미국 일리노이주나 유럽 같은 지역에선 이런 기능이 프라이버시와 관련된 법률을 침해할 수 있다고 한다.

더구나 앱이 성별, 감정 등 정보를 잘못 해석할 가능성이 있고 이런 정보를 표시해 버리는 것으로 부적절하거나 유해한 결과를 초래해 버리는 것도 생각할 수 있다고 한다. 오픈AI는 GPT-4 이미지 분석 기능이 널리 사용되기 전에 안전 우려를 제거하는 걸 목표로 개발을 진행하고 있다고 한다.

GPT-4 같은 생성형 AI 모델이 직면하는 이미지 인식이라는 과제는 오픈AI 뿐 아니라 수많은 기업이 극복해 나가야 할 일이다. 보도에선 구글 AI인 바드와 GPT-4를 기반으로 한 마이크로소프트 빙챗이 인증 시스템인 캡차(CAPTCHA)를 풀었다는 사례를 인용하며 AI를 탑재한 컴퓨터비전이 조만간 모든 장치에 탑재될 수 있지만 윤리적 영향을 최소화하면서 널리 출시되려면 기업이 복잡한 문제를 해결해야 한다고 지적했다. 관련 내용은 이곳에서 확인할 수 있다.