이석원 기자
유럽의회가 2024년 3월 13일 찬성 523표, 반대 46표, 기권 49표로 세계 첫 AI 규제법을 가결했다. 이 법안은 2023년 12월 유럽위원회, EU 이사회, 유럽의회 3자 협의를 통해 합의에 이른 바 있다.
AI 규제법은 AI 자체를 규제하는 것이 아니라, AI를 사용할 때 위험과 영향 수준에 따라 의무 사항을 부과하고 있다. 구체적으로 다음과 같은 AI 애플리케이션이 금지된다.
첫째. 세부 특징을 기반으로 한 생체인증 분류 시스템. 또 무차별적인 대중 얼굴 이미지를 스크래핑한 얼굴인식 데이터베이스 구축. 셋째 직장이나 학교에서의 감정 인식. 넷째 사회적 평가나 프로파일링만으로 예측적 단속. 5번째 인간의 행동을 조종하거나 약점을 악용하는 AI. 6번째 법 집행기관 생체인식시스템(RBI) 사용도 원칙적으로 금지되며 엄격한 조건 하에서만 실시간 RBI가 가능해진다는 것이다.
반면 건강, 안전, 기본권, 환경, 민주주의, 법치주의에 심각한 영향을 미치는 고위험 AI 시스템에는 명확한 법적 의무가 부과된다. 범용 AI와 기반 모델에는 저작권법 준수, 투명성 요건 충족 등이 요구된다.
그 뿐 아니라 인위적으로 생성한 딥페이크 콘텐츠에는 해당 사실을 표시해야 합한다. 또 신생 스타트업이나 중소기업 지원을 위해 샌드박스 환경에서 테스트가 가능해질 예정이다.
법안 발효를 위해서는 이사회 공식 승인이 남아있으며 발효 24개월 뒤 완전 시행된다. 다만 의무 적용 시기는 규정에 따라 다르다. 물론 이 법안을 두고 “EU 경쟁력에 치명적 영향”이라는 기업 반발도 있었다. 관련 내용은 이곳에서 확인할 수 있다.
정용환 기자
이원영 기자
