EU, AI 사용 규제 법안 올해 안에…

지난 6월 14일 유럽의회는 AI를 관리하기 위한 획기적인 법안 승인 투표를 실시하기로 결정했다. 투표 결과에 따라 승인되면 이 법은 세계 첫 사회 다양한 분야에서 AI 사용을 규제하는 밥이 된다.

이 법안은 2021년 유럽위원회가 제출한 법안을 바탕으로 유럽의회와 유럽평의회가 논의와 검토를 거듭해온 것이다. 유럽의회는 이 법안은 리스크 기반 접근법을 준수하며 AI가 생성할 수 있는 리스크 수준에 따라 공급자와 사용자 의무를 정하고 금지한다고 밝히고 있다. 법안에선 어디까지나 규제 대상이 되고 있는 건 AI 자체가 아니고 사회에서의 AI 사용이 되고 있어 AI 사용에 의해 초래되는 리스크는 허용할 수 없는 리스크, 높은 리스크, 한정적인 최소한의 것 등 4단계로 분류된다. 허용할 수 없는 리스크로 분류되는 건 기본 권리나 EU 규칙이나 가치관에 위협을 가져오는 것으로 간주되는 경우로 AI 사용이 금지된다고 하는 것. 예를 들어 AI가 개인 정보를 바탕으로 개인 위험 평가를 실시해 미래에 범죄에 담을 가능성을 예측하는 시스템을 사용하는 건 허용할 수 없는 위험을 초래할 것으로 판단된다. 또 거리에서 감시 카메라로 촬영한 영상에 있어 얼굴 인식 기술 사용에 대해서도 사법 허가를 얻은 경우를 빼고 허용할 수 없는 리스크를 초래하는 것으로 되어 있다.

고위험을 초래하는 것으로 분류된 시스템은 공개 의무 대상이 된다는 것. 예를 들어 교육과 고용, 금융, 의료와 기타 중요한 분야 서비스에 대한 액세스를 제어하는 AI가 이에 해당한다. 인프라와 사회 기반에 관련한 AI 사용은 안전과 기본 권리에 악영향을 미칠 수 있기 때문에 일정한 감사 요건 하에서 모니터링이 이뤄진다.

또 한정적 위험을 초래한다고 분류된 경우에는 최소한의 투명성 확보가 의무화된다. 예를 들어 문장을 생성하는 채팅봇 AI는 운영자가 이는 AI와의 대화라는 걸 사용자에게 제시해야 한다.

현재 승인을 위해 투표 실시가 정해진 상태지만 법안은 성립을 향해 브러시업이 이뤄진다. 일부 유럽의회 의원은 연구 활동, 오픈소스 AI 개발에 대한 규제 면제, 관리 환경에서의 사용을 가정하는 등 AI 혁신을 촉진하기 위해 일부 규제 완화 추가 제안하고 있다. 승인 투표는 2023년 말 실시되며 이 투표에서 인정되면 발효하게 된다.

또 보도에 따르면 채팅봇 AI 바드를 개발하는 구글이 EU가 정한 투명성 요건을 준수하기 위해 유럽에서 바드 릴리스를 연기했다고 한다. 구글 측은 보도에 대해 5월 유럽연합을 포함해 바드를 더 널리 이용할 수 있도록 하고 전문가, 규제 당국, 정책 입안자와의 관계를 거쳐 책임 과정을 진행하고 있다고 밝혔다. 프라이버시 규제 당국과 논의하고 의문을 해결하고 의견을 들었다고 덧붙였다. 관련 내용은 이곳에서 확인할 수 있다.