뉴욕시 의회는 고용주가 구직자에 대해 AI 자동 채용 도구를 사용할 때 인종과 성별에 의한 편향된 판정이 나오지 않도록 연 1회 바이어스 검사를 의무화하는 법안을 통과시켰다. 툴 제조사에는 AI 툴 구조를 더 투명화하고 구직자가 인간에 의한 심사 등 AI 툴 이외 심사 과정을 선택 가능하게 하는 것 등이 요구된다고 한다.
이 법안 목적은 채용후보자나 채용된 종업원 속성이 치우칠 가능성을 줄이는 걸 목적으로 하고 있으며 이미 고용하는 측인 뉴욕시 상공회의소 등은 이 법안에 찬성했고 고용주와 채용 후보와 직원 모두에게 정보 공개가 필수적이라고 한다.
다만 법률이 시행됐다고 해서 그만큼 효과를 발휘하지 않겠냐는 의견도 일부 있다. 한 비영리단체(Center for Democracy & Technology)는 이 법안이 능력이나 연령 등 바이어스에 대해 고려하지 않는다면서 감사 요건은 쉽게 충족시킬 수 있지만 이에 따라 다른 방향 바이어스나 검출이 곤란한 바이어스가 들어간다는 걸 간과하고 이런 고용주를 찾기 어렵게 해버리는 게 아니냐는 우려를 나타냈다.
덧붙여 빌 드블라지오 뉴욕시장은 아직 이 법안에 서명하지 않고 남은 1개월 임기 내에 판단하게 된다. 서명하게 된다면 법률로 시행되는 건 2023년부터다. 관련 내용은 이곳에서 확인할 수 있다.