뉴질랜드 정부가 알고리즘에 기초한 의사 결정 관련 헌장을 새로 제정했다. 공공 생활 모든 분야에서 의사 결정 원동력이 되고 있는 알고리즘에 관한 기준을 만든 세계 첫 정부가 됐다는 주장이다.
최근 법 집행 기관이나 복지기관, 보건기관 등을 포함한 모든 산업 분야에서 컴퓨터 프로그램이나 AI가 활용되고 있다. 하지만 프로그램이나 AI에 의한 의사 결정은 정확하지만 차별적이라는 주장이 뿌리 깊게 존재하고 프로그램이 정보를 처리할 때 기본 알고리즘은 논쟁거리가 되어왔다.
이런 알고리즘에 대해 뉴질랜드 정부는 세계에서 처음으로 알고리즘 헌장을 제정했다. 이 알고리즘 헌장은 알고리즘이 대량 데이터 처리와 해석에 이용될 때 데이터 투명성과 책임 개선을 약속하는 것이다. 헌장은 알고리즘에 존재하는 편견 특정에 사용되는 데이터가 목적에 부합하는지 확인, 알고리즘이 개인 정보 보호 윤리와 인권에 반하는 게 아닌지 확인하고 알고리즘에 의한 의사 결정에 있어 인간 역할에 대한 명시적 설명 등 알고리즘의 건전한 이용을 개발하는 다양한 방법에 대한 헌신을 규정하고 있다.
알고리즘 헌장 제정에는 교육부와 환경부, 법무부, 교통부, 복지부, 총무부 등 21개 뉴질랜드 행정기관이 서명했다. 또 뉴질랜드 원주민인 마오리족 권리와 이익을 보호하기 위해 데이터를 취급하는 것 등을 정한 마오리 데이터 자주권(Māori data sovereignty) 같은 중요한 고려사항에 관한 결정은 복잡하고 개별 검토가 필요하기 때문에 모든 문제가 알고리즘 헌장에 부합하는 게 아니라는 걸 명기했다.
뉴질랜드 정부는 2016년부터 비자 신청 절차에 알고리즘을 이용하고 있다. 하지만 이 비자 신청 절차에 대한 알고리즘은 나이와 성별, 인종에 따른 필터링이 존재한다는 비난이 제기되어 차별적이라는 지적이 나오기도 했다. 이번 알고리즘 헌장 제정은 이런 비난에 대해 알고리즘에 기초한 데이터 분석을 평가하는 수법 확립과 시민에 영향을 줄 수 있는 알고리즘 결정에 대한 투명성과 공정성을 확보하도록 요구됐기 때문이다.
뉴질랜드 정부 측은 데이터가 안전하고 효과적으로 사용될 수 있는지 뉴질랜드 국민에게 확신을 주기 위해 헌장을 제정했다며 데이터가 풍부한 세계에 우린 살고 있으며 알고리즘은 방대한 양의 데이터 연결이나 관계 패턴을 식별하는 데 중요한 역할을 하는 만큼 알고리즘은 의사 결정 개선에 도움이 되고 공공 서비스의 신속한 제공 등에 이익을 줄 것이라고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.