전 세계 AI에 관한 규제 책정이 진행되는 가운데 미국 뉴욕시가 다른 지역에 앞서 고용이나 채용 결정에 AI 사용을 규제하는 법안을 준비하고 있다고 한다.
뉴욕시 소비자 노동자 보호국이 2021년 통과된 2023년 7월 채용 및 승진 같은 결정에 위험이 높은 기술을 사용하는 걸 규제하는 법을 시행할 예정이라는 것. 이 법은 채용을 위해 AI 소프트웨어를 사용하는 기업에 자동화 시스템이 사용되고 있다는 걸 후보자에게 통보하도록 의무화하며 기업은 매년 기술 편견에 대해 독립적으로 감사를 받아야 한다. 또 일반 시민은 기업이 어떤 데이터를 수집, 분석하고 있는지를 문의해 아는 게 가능하다. 또 법률을 위반한 기업에게는 벌금이 부과된다.
뉴욕시 AI 규제법은 시행 전부터 비판을 받고 있으며 공익 활동가로부터는 충분한 규제가 되지 않았다는 목소리가 나오는 한편 경제 단체에선 현실적 규제가 아니라는 정반대 의견이 분출하고 있다. 뉴욕시에 의한 AI 규제 움직임에 대해 한 전문가는 규제법에 허점이 있는 게 아닐까 우려하면서도 법률이 없는 것보다는 훨씬 좋으며 규제하려고 하지 않는 한 방법을 배울 수 없다고 밝혔다. 또 이 AI 규제법이 뉴욕시에서 직원을 보유한 기업에 적용되며 노동 전문가는 전국적 관행에 영향을 줄 수 있다고 우려하고 있다.
캘리포니아와 뉴저지, 뉴욕, 버몬트 등 4개 이상 주, 콜롬비아 특별구도 고용에 AI 사용을 규제하는 법안을 제정하기 위해 노력하고 있다. 또 일리노이주와 메릴랜드주에선 직장 모니터링과 직업 심사를 위해 특정 AI 기술을 사용하는 걸 제한하는 법안이 제정됐다. 한 전문가는 AI 규제법에 자동화된 채용 결정 룰을 재량적 의사 결정을 실질적으로 지원 또는 대체하기 위해 도입되는 기술로 정의하고 있어 해석을 좁히고 있다고 지적한다. 또 AI 규제법이 부당한 취급으로 심판되는 집단 종류를 제한하고 있다고 비판하기도 한다. 구체적으로 AI 규제법에는 성별, 인종, 민족 등 편견이 포함되지만 노인 노동자나 장애인에 대한 차별이 포함되어 있지 않은 게 문제라는 지적이다.
뉴욕시 관계자에 따르면 AI 규제법은 집행 가능하게 하기 위해 범위를 좁힌 것이라고 한다. 뉴욕시의 목적은 혁신과 잠재적 피해 사이 절충을 비교 검토하는 것이라는 설명이다. 다만 업계 단체인 비즈니스소프트웨어얼라이언스는 AI 규제법을 위한 AI 테스트 요건을 책정하는 건 불가능하다고 언급하고 있다. 이유는 테스트 환경이 계속 진화하고 있으며 기획이나 전문 규제 당국과 연결성이 부족하기 때문이라고 설명하고 있다. 전문가는 챗GPT를 비롯한 AI 도구가 점차 복잡해지고 있어 설명 가능한 AI라는 목표를 달성하지 못할 수 있다고 지적한다. 알고리즘이 어떻게 작동하는지가 아니라 알고리즘 결과에 중점을 둬야 할 수 있다는 것이다. 관련 내용은 이곳에서 확인할 수 있다.