美정부, AI 최고 책임자‧위원회 설치 등 지시

3월 28일 카말라 해리스 미국 부통령은 공공 서비스에서 AI 활용이 안전하도록 하기 위해 연방 정부 기관에 사용하는 모든 AI 시스템을 감독할 최고 책임자를 임명하도록 의무화하는 행정예산관리국(OMB) 지침을 발표했다. 또 모든 연방 정부 기관은 사용하는 AI 시스템과 관련 위험, 해당 위험 완화 방안을 보여주는 연차 보고서를 OMB에 제출해야 한다.

해리스 부통령은 미국 정부는 모든 연방 기관에 해당 기관이 사용하는 모든 AI 기술을 감독할 수 있는 경험과 전문성을 갖춘 최고 AI 책임자를 임명하도록 지시했다며 이는 AI가 책임감 있게 사용되도록 하고 AI 도입과 사용을 감독할 상급자가 정부 전체에 필요하기 때문이라고 밝혔다.

해당 명령 전후로 법무부를 포함한 일부 기관은 이미 최고 AI 책임자를 임명했다. 현재 최고 AI 책임자가 없는 기관은 2024년 3월 28일 발표일로부터 60일 이내에 임명해야 한다. 또 현 AI 책임자에게 기관 내 AI 활용 조정 권한이 없다면 추가 권한을 부여하거나 새로 임명해야 한다.

최고 AI 책임자로 임명되면 AI 이니셔티브 시니어 고문으로 기관 AI 사용을 감시한다. OMB는 AI 사용이 국가안보, 공민권, 시민권, 프라이버시, 민주적 가치, 인권, 기회 균등, 노동자 복지, 중요 자원/서비스 접근성, 정부 신뢰와 공신력, 시장 경쟁에 미치는 영향에 대한 위험 평가를 해야 한다고 구체적으로 명시했다.

또 미국 정부는 각 기관이 도입하는 AI가 알고리즘 차별 위험을 줄이고 정부 AI 활용 방식에 대한 국민 투명성을 보장할 수 있는 안전조치를 갖추도록 요구하고 있다. 정부는 안전조치 도입이 불가능한 경우 이유가 안전성, 인권 측면의 위험 증가나 주요 업무 지장 등 정당한 사유가 아니라면 AI 시스템 사용을 중단시킬 수 있다고 명시하고 있다.

아울러 미국 정부 지침은 정부 기관이 보유한 AI 모델, 코드, 데이터는 정부 운영에 위험이 없는 한 일반에 공개해야 한다고 적시했다.

브레넌센터 측은 이번 명령이 인종 프로파일링, 부당 체포, 대규모 감시 등에 사용되는 AI 애플리케이션에 대한 중요한 방어 시스템이 될 것이라면서도 AI 시스템 중단 조항이 너무 모호해 시민 자유와 권리 보호가 구두선에 그칠 수 있다고 비판하기도 했다. 반면 시빌라이츠는 정부 기관 AI 활용을 지속적으로 모니터링하고 적극 협력할 것이라며 연방 의회와 협력해 AI 기술 사용이 공민권 침해가 아닌 사회적 이익이 되도록 상업적 활용을 위한 강력한 안전장치를 제공하는 권리 기반 법안 통과를 추진하겠다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.