메타, 테러 콘텐츠 식별 모더레이션툴 오픈소스로 공개

메타가 플랫폼에 올라온 복수 이미지나 영상을 정리해 규제하기 위한 모더레이션 툴인 HMA(Hasher-Matcher-Actioner)를 공개했다. 대규모 자원이나 기술이 없는 중소기업에게 유용할 것으로 기대되고 있다.

HMA는 다양한 기업이 자사 플랫폼 상에서 테러 콘텐츠 확산을 저지할 수 있게 해주는 툴로 메타가 지금까지 제공해온 오픈소스 이미지 영상 매칭 소프트웨어를 기반으로 개발되어 모든 타입 위반 콘텐츠에 대응할 수 있다.

기업이 테러나 아동 성적 착취, 기타 폭력성 콘텐츠에 적절한 라벨을 붙여 HMA에 등록하면 HMA는 알고리즘을 사용해 콘텐츠에 고유 해시라는 디지털 지문을 추가한다. 콘텐츠 자체가 아닌 해시를 자체 데이터베이스에 저장한다. 플랫폼에 올리는 콘텐츠는 해당 데이터베이스를 통해 기존 해시와 일치하는지 확인하고 기존 콘텐츠와 일치하는 것으로 판단되면 자동 삭제할지 또는 회사가 임의로 삭제할지 여부 확인을 선택할 수 있다.

메타는 해시 공유 데이터베이스에 참여하는 기업이 많을수록 더 뛰어난 포괄적인 데이터베이스가 되어 인터넷에서 테러리스트 콘텐츠를 제거할 수 있다며 기업 툴 이용을 모집하고 있다.

메타는 또 2023년 1월부터 기술 기업이 조직하는 GIFCT(Global Internet Forum to Counter Terrorism) 운영위원회 의장으로 취임할 것이라고 밝혔다. GIFCT는 기술 기업이 모여 연구, 기술 협력, 지식 공유를 통해 온라인상 테러 콘텐츠에 임하는 NGO로 조직 일원이 되어 온라인상 테러나 폭력, 과격 콘텐츠에 대처하고 있다.

메타 측은 우린 완벽하지 않으며 보유한 규칙과 프로세스가 올바른지에 대해 공정한 생각을 가진 사람 사이에서 의견을 나눌 것이라면서 하지만 이런 문제를 심각하게 받아들이고 책임과 투명성을 갖고 행동하며 플랫폼을 안전하게 유지하기 위해 방대한 투자를 하고 있으며 GIFCT 같은 산업과 정부 울타리를 넘어서는 협업이 중요하다고 강조했다. 관련 내용은 이곳에서 확인할 수 있다.