트위터가 5월 19일(현지시간) 사진을 자동으로 트리밍하는 기능을 백인을 우선적으로 중심에 맞추는 경향이 있었다는 조사 결과를 발표했다. 이에 따라 회사 측은 자동 자르기 기능 알고리즘을 단계적으로 폐지하고 트리밍에 대한 사용자 결정을 맡기는 방침을 굳혔다.
트위터는 2018년 AI 기술에 의한 이미지 자동 자르기 최적화를 도입했다. 알고리즘 도입으로 이미지에 인물이 비치는 경우 가급적 해당 인물을 중심으로 담아 트리밍되도록 개선했지만 일부 사용자는 트리밍 대상으로 인종과 성병 편향이 있는 건 아닌지 의문을 나타내는 목소리가 나오고 있었다.
따라서 트위터가 알고리즘에 인종 편견이 있는지 검증한 결과 알고리즘은 7% 비율로 흑인 여성보다 백인 여성 얼굴을 우선해 2% 비율로 흑인보다 백인 남성 얼굴을 우선하는 경향이 밝혀졌다. 전체적으로 알고리즘이 백인을 선호하는 비율은 4%였다.
또 성별간 편차를 조사한 결과 8% 비율로 남성보다 여성을 선호하는 경향이 있을음 알 수 있었지만 얼굴보다 가슴이나 다리를 우선하는 경향은 아니었다고 한다.
이 조사 결과에 따라 트위터 측은 자동 자르기 기능 속도와 이번 조사 결과에서 밝혀진 잠재적 인종 차별 위험간 균형을 확인했다면서 그 결과 이미지를 어떻게 잘라낼지 사람이 판단하는 게 최선이라는 결론에 도달했다고 발표했다.
이번 발표에 앞서 트위터에 2021년 5월초 타임라인에 사진이 잘 보이게 응용 프로그램을 변경했지만 이미지를 최대한 크게 표시하고 알고리즘에 의한 자동 자르기 영향을 최소화하는 목적이었다. 또 트리밍이 필요한 경우 미리보기를 표시해 잘라낼 영역을 사용자 결정에 맡기도록 했다는 것이다. 관련 내용은 이곳에서 확인할 수 있다.