EU 정책 집행 기관인 유럽위원회가 자율주행 차량이나 기업 등에 의한 채용 시험, 입학 시험, 시험 평가. 은행 대출 등 영역에서 인간 안전과 기본권을 위협할 수 있다는 관점에서 인공지능 사용에 제한을 부과하는 신법(European approach for Artificial Intelligence)을 의회에 제출했다.
구글과 아마존, 페이스북, 마이크로소프트 등 정보 기술 거대 기업이 AI 개발에 상당한 자원을 쏟는 가운데 구글 순다르 피차이 CEO가 AI는 규제되어야 한다고 주장하고 윤리에 반하는 AI 개발은 금지되어야 한다는 견해를 보도하거나 최근에는 AI 규제에 관한 논의가 활발해지고 있다. 이런 흐름 속에서 유럽위원회가 AI는 다양한 사회 문제를 해결해주고 있지만 이는 AI가 고품질과 사람들의 신뢰를 얻을 수 있는 방법으로 개발, 사용된 경우에 한한다며 EU에서 사용되는 AI 시스템이 안전하고 윤리적 편견 없이 인간 통제 하에 있다고 확인하기 위한 신법을 의회에 제출했다.
이 신법은 AI가 사용되는 분야별로 받아들이기 어려운 위험, 고위험, 제한된 위험, 최소한의 위험이라는 4종류로 분류하고 카테고리마다 다른 제한을 적용한다. 받아들이기 어려운 위험으로 규정된 분야는 전 국민을 순위화해 관리하는 중국 사회 신용 시스템에 유사한 제도와 어린이 위험 행위를 조장하는 AI 지원 시스템과 같은 EU 시민에 대한 공개 위협으로 간주한 것으로 전면 금지 대상. 고위험은 시민 생명과 건강을 위태롭게 할 수 있는 수송 등 인프라와 교육, 직업 훈련, 시험 평가 등 진로를 좌우하는 진학 관계, 고용, 노동자 관리 등 노동 관계와 이민, 국경 관리 등 다양한 분야를 아우르고 있으며 운용 개시 뿐 아니라 운용 개시 후에도 주의 깊게 평가를 계속한다.
제한적 위험으로 한 분야는 챗봇 등 정보를 바탕으로 의사 결정을 지원하는 시스템에서 최소한의 투명성에 대한 의무를 부과한다. 최소한의 위험은 비디오 게임이나 스팸 필터 등 응용 프로그램에 사용되는 AI에서 이 카테고리 제한 대상이 되지 않는 것 같다.
사전 유출된 정보를 근거로 한 보도에선 이 법을 위반한 기업은 최대 2,000만 유로 또는 매출 최대 4% 벌금이 부과된다고 되어 있지만 실제로는 의회에 제출된 법안은 가장 심각한 위반에 대해 전 세계 전체 연간 매출 중 최대 6% 벌금을 부과한다고 되어 있다. 하지만 보도에선 실제로는 최고액 벌금이 부과되는 일은 거의 없을 것이라고 한다.
의회에 제출된 법안은 애매한 허점이 너무 많다는 비난도 있는 반면 EU에서 AI를 개발하는 비용이 금지되거나 기술적으로 불가능하기 때문에 중국에 추월될 것이라는 목소리도 높아지고 있다. 이 법안은 유럽이사회와 유럽의회 모두의 승인을 얻을 필요가 있기 때문에 실제 시행에 몇 년은 걸릴 전망이다. 관련 내용은 이곳에서 확인할 수 있다.