AI 기술 기업, 고릴라 라벨링 피하는 이유

지난 2015년 구글 사진 앱인 구글 포토가 흑인 사진을 고릴라라는 라벨을 붙여 버린 사건이 발생해 AI가 가진 바이어스 논쟁이 일어났다. 이 사건 8년이 지난 현재 AI 기술이 현격하게 진보하고 있지만 아직도 구글, 애플, 아마존, 마이크로소프트 같은 기업 이미지 인식 AI는 고릴라라고 라벨을 붙이는 걸 피하고 있다고 한다.

구글 포토에 올린 이미지에 AI가 라벨을 붙이는 기능이 있었지만 2015년 5월 소프트웨어 개발자로 흑인인 재키 알시네(Jacky Alciné)는 자신과 친구가 찍은 사진에 고릴라라는 라벨이 붙었다고 보고했다. 이 사건은 AI 시스템 학습에 사용된 데이터세트에 충분한 흑인 이미지가 포함되어 있지 않았기 때문에 AI가 흑인과 고릴라를 잘 식별하지 못했기 때문이다.

보도에선 이 사건 8년이 지나 기술 기업 이미지 인식 AI가 이 문제를 수정했는지 확인했다. 먼저 사람이나 동물, 일용품을 촬영한 사진 44장을 선정해 구글 포토를 이용해 고양이와 캥거루 사진을 검색한 결과 훌륭하게 일치하는 이미지를 발견할 수 있었다고 한다. 다른 동물에서도 구글 포토가 잘 작동했지만 고릴라를 검색하면 해당 이미지를 찾을 수 없으며 침팬지, 오랑우탄, 기타 원숭이 같은 영장류에서도 구글 포토 검색이 실패했다고 한다.

다음으로 애플 사진 앱에서도 비슷한 테스트를 했지만 대부분 동물 사진은 정확하게 식별할 수 있었지만 고릴라를 포함한 영장류만은 식별에 실패했다. 마이크로소프트 원드라이브를 이용한 사진 검색에선 모든 동물에 대한 답이 없었고 아마존 포토에선 고릴라라고 검색하면 모든 영장류 사진이 표시되는 등 유용하지 않은 수준에서 대략적인 결과가 나왔다. 덧붙여 구글과 애플 AI는 영장류 중에서 유일하게 여우 원숭이만은 식별할 수 있었다고 한다.

이번 조사에선 구글 포토에선 고릴라라는 라벨을 지정할수 없는 것으로 나타났다. AI 바이어스나 오작동에 의해 세상에서 배신당하는 걸 두려워하는 기술 기업은 기술적으로 가능한 기능이라도 안전을 위해 굳이 제품이나 서비스에선 무효화하는 일이 있기 때문이다.

보도에선 전 세계 스마트폰 대부분에 탑재된 안드로이드를 소유한 구글은 시스템이 불쾌한 실수를 저지르고 사람을 동물이라고 라벨링하는 게 두려워 영장류를 시각적으로 검색하는 기능을 끄기로 결정했다며 이번 테스트에서 구글과 유사한 성능을 발휘한 기술을 가진 애플도 원숭이와 유인원을 찾는 기능을 비활성화한 것 같다고 밝혔다.

실제로 구글 렌즈를 이용한 실험으로 AI가 고릴라나 침팬지 이미지에 라벨을 붙이는 걸 피하지만 유사 이미지로 적절하게 고릴라 이미지를 표시할 수 있다는 걸 확인했다. 이는 구글 AI가 고릴라를 적절하게 식별할 수는 있지만 이미지에 라벨링을 하는 기능을 끄고 있다는 걸 시사한다.

구글 AI 연구 부문인 구글 리서치에서 윤리적 AI 팀을 이끌고 있는 마가렛 미첼은 적어도 잠시간 구글 포토에서 고릴라 라벨 삭제라는 결정에 동의했다고 말한다. 미첼은 고릴라 라벨을 붙여야 하는 사람은 얼마나 되는지와 유해 스테레오 타입을 영속시키는 문제에 대해 생각해야 한다며 고릴라 라벨을 붙여서 얻을 수 있는 이익은 잘못된 행동으로 인한 잠재적 해를 능가하지 않는다고 밝혔다.

구글 같은 주요 기술 기업이 AI 바이어스에 민간해지는 건 전 세계 수십억 명이 구글 서비스를 사용하는 것에 영향을 미친다. 비록 10억 명 중 1명 밖에 직면하지 않는 드문 버그라도 1회 일어나면 인터넷으로 확산되어 큰 소란이 되기 때문이다. 하지만 이미지 이닉 프로그램 연구자는 이 문제를 해결하는 게 중요하다며 문제에 덮개를 덮는 게 아니라 해결해야 한다고 주장하기도 한다. 관련 내용은 이곳에서 확인할 수 있다.