이석원 기자
최근에는 AI 기술 진보에 따라 다양한 변혁이 일어나고 있지만 정부 기관에 사용되는 얼굴 인식 기술 정확도가 낮다고 지적되거나 일러스트 생성 AI가 아티스트 권리를 침해한다는 비판이 나오는 등 인간과 AI 사이에 마찰도 발생한다. 이런 가운데 백악관 과학기술정책국 OTSP가 10월 4일(현지시간) AI가 가져오는 해와 차별로부터 미국민을 지키기 위한 AI 권리장전(AI Bill of Rights) 초안을 발표했다.
OTSP는 AI 권리장전 초안으로 AI에 의해 자동화된 시스템은 농업과 기상 예측, 의료 진단 등에 큰 이익을 주고 모든 이의 삶에 이익이 될 가능성을 갖고 있다고 인정한다. 한편 직원 채용이나 인사 평가에 이용되는 AI에 바람직하지 않은 기존 차별이 뿌리 내리거나 의료 진단에 이용되는 시스템에 인종차별적인 편견이 남아 AI가 시민에게 해를 가져오는 일도 있다고 지적한다. 이런 도구는 기회를 너무 자주 제한하고 중요한 리소스와 액세스를 방해한다며 이런 문제는 충분히 문서화되어 있으며 100만 명 이상 권리를 위협하고 역사적으로 소외된 커뮤니티를 해치고 있다고 지적하고 있다.
따라서 OTSP는 AI에 의한 중요한 진보는 민주적 가치, 미국 기본 원칙을 희생해선 안된다며 AI 시대에 미국민을 보호하기 위한 자동화 시스템 설계와 사용, 전개 지침이 되는 5개 원칙을 설정하고 있다. OTSP가 10개 이상 부문과 1년에 걸친 협의를 거듭하며 시민사회단체나 기술자, 업계 연구자, 마이크로소프트 등 기술 기업 피드백 등을 통해 정한 5가지 원칙은 이렇다.
첫째 안전하고 효과적인 시스템. 사람들은 안전하지 않거나 효과가 없는 시스템으로부터 보호되어야 하며 자동화 시스템은 다양한 이해관계자, 전문가와 협력해 위험과 잠재적 영향을 확인해 개발해야 한다. 기업과 조직에서 사용하는 자동화 시스템은 독립기관 평가와 보고를 통해 가능한 결과를 게시해야 한다.
둘째 알고리즘 차별로부터의 보호. 국민은 알고리즘에 의한 인종과 피부색, 민족, 성별, 종교, 연령, 출신국, 경력, 유전 정보에 근거하는 차별이나 부당한 취급으로부터 보호되어야 하며 자동화 시스템은 공정한 방법으로 설계되고 사용되어야 한다. 자동화 시스템 설계자와 개발자 그리고 사용자는 알고리즘에 의한 차별로부터 사람을 보호하기 위해 적극적이고 지속적인 조치를 취해야 한다.
셋째 데이터 프라이버시. 사용자는 자동화 시스템에 내장된 보호 조치에 의해 데이터 침해로부터 보호되어야 하며 데이터는 실제로 필요한 경우에만 수집되어야 한다. 또 자동화 시스템 사용자는 사용자에게 데이터 수집에 관한 정보를 알기 쉽게 통지해야 한다.
넷째 통지와 설명. 사용자는 자동화 시스템이 사용되고 있다는 걸 알고 자신에게 미치는 영향을 이해할 권리가 있다. 자동화 시스템 사용자는 사용자에게 AI를 사용하고 있는지와 이 영향을 알리고 AI를 사용하는 이유를 설명해야 한다.
마지막은 인간에 의한 대체 수단과 검토, 이탈이다. 사용자는 필요에 따라 자동화 시스템으로부터 옵트아웃해 인간에 의한 대체 수단을 선택할 권리가 있다. 자동화 시스템에 장애가 2발생한 경우나 사용자가 이 영향에 대해 이의를 제기할 경우 해당 문제를 검토, 해결할 수 있는 인간에게 빠르게 액세스 가능해야 한다.
OTSP 측은 미 정부는 정부간 뿐 아니라 모든 부문에 걸쳐 협력해 공평성을 기술에 더 나은 걸 기대하고 요구해야 한다고 밝히고 있다. 이번에 발표된 AI 권리장전 초안에 대해선 생체인증 데이터나 얼굴 인증을 이용하는 AI 등 실제로 논란을 일으키는 특정 AI에 대해선 언급하지 않았으며 AI를 이용한 자율 무기와 스마트시티 문제를 다루지 않았다는 지적도 있다. 또 AI 권리장전은 자동화 시스템을 개발하는 기술 기업에 대한 구속력을 갖지 않고 새로운 입법 제안도 포함되어 있지 않기 때문에 법 집행 기관은 기존 룰에 따라 자동화 시스템에 계속 대처한다고 한다.
OTSP는 AI 권리 장전 초안에 대해 자동화 시스템을 사회에서 효과적으로 기능하도록 하기 위한 가이드라인이라고 주장하며 자국민과 함께 이 길을 개척할 것으로 기대하고 있다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.
정용환 기자
이원영 기자
