유럽연합에서 제안된 AI를 규제하기 위한 세계 첫 법안에 대해 유럽연합 정책집행기관인 유럽위원회 EC, EU 정책 결정 기관인 EU 이사회, EU 입법 기관인 유럽의회 3자 협의가 진행되고 있었지만 드디어 합의에 이르렀다. EU AI 규제법은 2021년 4월 제안된 것으로 유럽 기업으로부터 항의를 받으며 조정이 진행되어 왔다.
12월 8일부터 9일에 걸쳐 EU 이사회외 유럽 의회, EC 3자 대표자는 기자 회견을 열고 AI 규제법이 합의에 이르렀다고 발표했다. 이 자리에서 이들은 AI 규제법 합의는 격전 끝에 이룬 획기적인 성과이며 역사적인 것이라고 칭찬하고 있다.
우르줄라 폰데어라이엔 EC 위원장도 자신의 엑스 계정을 통해 AI 규제법 합의를 발표했다. 라이엔 위원장은 세계 첫 AI 법이라면서 신뢰할 수 있는 AI 개발을 위한 독자적인 법적 틀이 될 것이라며 정치적 지침을 통합한 약속을 수행할 AI 법 정치적 합의를 환영한다고 밝혔다. 라이엔 위원장은 취임 당시 AI 규제법 제정을 자신의 임기 중 우선 사항으로 꼽던 인물이기도 하다.
3자 협의에서 마친내 합의에 이르렀던 AI 규제법 세부 사항은 최종 법안이 공개될 때까지 밝혀지지 않는다. 덧붙여 최종 법안 공개에는 몇 주간 시간이 걸릴 가능성이 있다고 한다. 하지만 유럽 의회는 합의에 도달한 AI 규제법 일부를 발표하고 있다.
현재는 다음 목적에 대한 AI 사용이 전면 금지되게 된다. 먼저 정치적, 종교적, 철학적 신념과 성적 사고, 인종 등 민감한 특성을 사용하는 생체 인증 분류 시스템에 AI를 사용하는 것. 또 얼굴 인증 데이터베이스를 작성하기 위해 인터넷 또는 감시 카메라 영상에서 얼굴 이미지를 타깃으로 좁히지 않고 스크래핑하기 위해 AI를 이용하는 것. 다음으로 직장이나 교육 기관에서의 감정 인식에 AI를 사용하는 것. 또 인간 자유 의지를 피하기 위해 인간 행동을 조작하는 AI 시스템 작성, AI를 사용한 이들의 연령이나 장애, 사회적 또는 경제적 상황 등 취약성 악용이다.
다만 법집행기관에 의한 공공장소에서의 생체 인증 기술 이용은 완전히 금지되지 않으며 엄격하게 정의된 범죄 목록에 대해선 AI 이용이 허가된다. 구체적으론 중대한 범죄를 저지른 의심이 있는 인물 혹은 유죄 판결을 받은 인물에 대상을 좁힌 수사에선 AI 기술 사용이 허가된다. 생체 인증 시스템에서 AI를 이용할 수 있는 구체적인 경우는 다음과 같다. 먼저 피해자에게 적을 좁힌 수색 예를 들어 유죄, 인신매매, 성적 착취 등이다. 다음으로 특정 테러리즘 위협 방지. 이어 강간이나 무장 강도, 범죄 조직 참여, 환경 범죄 등 하나를 저지른 의심스러운 사람 식별 또는 위치 지정 또한 고위험으로 분류된 AI.
시스템 환경이나 민주주의 법 지배에 중대한 해를 끼칠 가능성이 있는 것에 대해선 명확한 의무가 부과된다. 유럽의회는 다른 요건 중에서 보험이나 은행 부문에 적용되는 필수 기본 권리 영향 평가를 포함하는데 성공했다고 설명했다. 또 선거 결과나 유권자 행동에 영향을 주는데 사용되는 AI 시스템도 고위험 AI 시스템으로 분류된다고 한다. 국민은 고위험 AI 시스템으로 분류된 AI에 대해 불만을 제기하거나 국민 권리에 영향을 미치는 위험이 높은 AI 시스템에 근거한 결정에 대해 설명을 받을 수 있다.
또 챗GPT 같은 생성형 AI 애플리케이션과 이를 지원하는 AI 모델 작성자에게는 AI에 관한 기술 문서 작성과 공개, EU 저작권법 준수, 교육에 사용되는 콘텐츠에 대한 자세한 내용 공개 등이 의무화된다. 덧붙여 범용 AI에 대해선 투명성 요건 준수를 요구하는 것도 유렵 의회 제안이라고 한다.
또 상업화된 AI 모델이나 범용 AI는 EU AI 규제법에 의한 규제에 직면할 가능성이 높아지지만 연구 개발 분야는 법 대상이 되는 것으로 의도되지 않는다. 또 완전히 오픈소스 AI 모델은 폐쇄형 소스보다 규제 요구 사항이 가벼워진다.
AI 규제법을 위반하면 벌칙은 위반 내용과 기업 규모에 따라 750만 유로 혹은 매출 1.5%에서 3,500만 유로 혹은 매출 7%가 적용된다. 덧붙여 이번 합이에선 법률 채택 이후 단계적인 발효도 인정되고 있어 금지 사항에 관한 규제가 시행될 때까지는 6개월, 투명성과 거버넌스 관련 요건에 대해선 12개월, 그 외 요건에 대해선 24개월 유예 기간이 주어진다. 따라서 EU 완전한 AI 규제법 효력은 2026년까지 느려지지 않을 수 있다는 지적이다. 관련 내용은 이곳에서 확인할 수 있다.