인스타그램이 성인 분류기(adult classifier)라고 불리는 연령 추정 도구를 개발하고 있다는 게 밝혀졌다. 성인 분류기는 미성년 사용자 감지를 목적으로 하며 AI를 사용해 사용자 프로필과 게시물 내용 등을 검토해 18세 이상인지 여부를 분류한다고 한다.
인스타그램 등 여러 SNS를 운영하는 메타는 아동 정신 건강에 악영향을 미친다, 아동 보호 정책이 불충분하다는 비판을 받고 있으며 아동에 대한 영향과 관련해 미국 여러 주 법무장관으로부터 제소를 당하거나 유럽 위원회 조사를 받고 있다. 인스타그램은 아동을 보호하는 정책으로 틴 계정이라고 불리는 시스템을 도입해 미성년 사용자 게시물 공개 범위와 사용 시간 제한을 두고 있지만 연령 확인은 사용자 자기 신고에 의존하고 있어 성인이라고 거짓말하는 미성년 사용자에는 대응할 수 없다는 문제가 있었다.
메타 청소년 및 사회 영향 담당 제품 관리 디렉터인 앨리슨 하트넷으로부터 얻은 정보에 따르면 인스타그램은 성인이라고 거짓말하는 미성년 사용자를 감지하기 위해 성인 분류기라고 불리는 연령 추정 도구를 개발하고 있다고 한다.
성인 분류기는 사용자 프로필, 팔로워 목록, 주고받는 콘텐츠, 친구 생일 축하 등 게시물을 AI로 검토해 사용자를 18세 이상 또는 18세 미만으로 분류한다. 18세 미만으로 분류된 계정은 자기 신고한 연령과 관계없이 틴 계정으로 지정된다.
또 실수로 미성년자로 분류된 성인 사용자는 인스타그램 운영진에게 취소를 신청할 수 있다고 하지만 취소 신청 기능은 아직 개발 중인 단계라고 한다.
한편 메타는 앱마다 연령 확인을 하는 게 아니라 앱스토어에서 연령 확인을 해 프라이버시를 보호하면서도 미성년 사용자를 보호할 수 있다고 주장하고 있다. 관련 내용은 이곳에서 확인할 수 있다.