정용환 기자
트위터가 시스템이 자동으로 이미지를 크롭할 때 편향을 발견한 사람에게 사례를 지불하는 보상 챌린지를 시작했다. 보상은 보안상 문제나 처리 과정에서 결함을 발견하는 사람에게 상금을 기불하는 버그 현상금 프로그램이 일반적이다. 하지만 이번에 트위터는 사용자 게시 사진을 섬네일화하기 위해 보기 좋은 상태로 크롭, 자르기를 하는 알고리즘이 어딘가에 치우침이 없는지 찾기 위해 콘테스트 형태로 진행하는 것이다.
트위터 자동 이미지 자르기는 2018년부터 시작했지만 일부 사용자는 이 알고리즘이 피부가 흰 사람을 중심으로 하는 것 같은 편견을 수행하는 경향이 있다고 비판을 하기도 했다. 트위터는 5월 이미지 크롭 알고리즘 제공을 일시 중지하고 인식 편향을 식별하는 방법을 공유하고 이를 재현하기 위한 코드를 공개했다. 또 이를 더 진행해 잠재적 문제를 파악하기 위해 협력이 필요하다고 밝히고 있다.
트위터에 따르면 이번 콘테스트는 업계에서 처음으로 알고리즘 편견을 대상으로 한 보상 프로그램이다. 상금은 최고 3,500달러다. 트위터 측은 기계학습 모델 편견을 찾기 어렵고 의도하지 않은 윤리적 문제가 발견될 수 있어 이를 바꾸고 싶다고 밝히고 있다. 또 이 프로그램을 실시하는 건 이런 문제를 파악하고 보상해야 한다고 믿기 때문이며 자체적으로만 이런 과제를 해결할 수 없기 때문이라고 설명하고 있다. 이 콘테스트는 2021년 7월 30일부터 8월 6일까지 등록을 받으며 수상자는 8월 8일 개최되는 행사(DEFCON AI Village)에서 발표된다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
이석원 기자
