EU는 유럽 전역에서 민간 및 공공 기관이 안전하고 신뢰할 수 있는 AI 시스템을 개발하고 도입하도록 장려하기 위해 2024년 5월 인공지능(AI) 법을 제정하고 지난 8월 1일부터 일부 조항을 시행하기 시작했다. 하지만 모든 규정에 대한 완전한 적용은 2026년 이뤄질 예정이며 이에 오픈AI 등 100개 이상 기업이 완전 시행에 앞서 EU AI 협정에 서명했다.
2024년 5월 제정된 AI 법은 AI의 잠재적 위험과 영향 수준에 따라 AI에 대한 의무를 규정하는 것으로 프로파일링을 통한 예측 단속이나 인종, 종교, 성적 지향 등 특정 범주에 따라 사람을 분류하는 AI 사용을 금지한다. 또 적절한 AI법 집행을 위해 유럽연합 집행위원회 아래 AI 오피스와 독립 전문가 위원회, EU 회원국 대표가 포함된 AI 위원회, AI 위원회 및 유럽위원회에 기술적 전문성을 제공하는 자문 기관이 설립된다.
AI법을 위반할 경우 최대 3,500만 유로 또는 위반 기업의 전년도 전 세계 연간 매출 7%가 벌금으로 부과될 수 있다.
AI법은 2024년 8월 1일부터 시행됐지만 EU 내에서 사업을 운영하는 모든 기업에 대한 규칙 적용은 2026년 8월까지 단계적으로 이뤄질 예정이다. 이 기간 동안 규정 위반을 다룰 공백을 채우기 위해 EU는 AI 협정을 통해 자발적인 규제를 촉진하고 있다.
아마존, 마이크로소프트, 구글, 오픈AI 등 115개 기업은 완전한 AI법 적용에 앞서 AI법 원칙을 적용하기 시작한다는 내용을 담은 EU AI 협정에 자발적으로 서명했다. EU AI 협정은 참여 기업에게 3가지에 대해 서약할 걸 요구한다. 첫째 조직 내 AI 도입을 촉진하고 AI법 준수를 위한 AI 거버넌스 전략을 채택할 것. 둘째 AI법 아래 고위험으로 분류될 가능성이 높은 AI 시스템을 식별할 것. 셋째 직원이 AI 인식과 리터러시를 준수하고 윤리적이고 책임 있는 AI 개발을 수행할 것.
이 중핵적인 서약 외에도 서명한 기업 절반 이상이 인간 감독 보장, 리스크 경감, 딥페이크와 같은 특정 AI 생성 콘텐츠에 대한 투명성 라벨링 등 추가 서약을 발표했다.
유럽위원회에 따르면 EU AI 협정은 AI법을 감독할 AI 오피스에 의해 작성됐으며 AI 협정 네트워크 관련 이해 관계자로부터 피드백을 받아 필터링된 결과라고 한다.
오픈AI 유럽 및 중동 정책·파트너십 책임자인 산드로 자네라(Sandro Janera)는 모두에게 혜택을 줄 안전하고 최첨단 기술을 제공하려는 당사 사명과 일치하는 EU AI 협정의 중핵적인 우선순위를 지원하게 되어 자랑스럽다고 밝혔다. 또 스냅 측은 신뢰할 수 있는 AI 개발을 지원하려는 AI법 목적은 가치관과 지금까지 해온 노력과 본질적으로 일치한다고 말했다.
지금까지 앤트로픽, 엔비디아, 스포티파이, 애플, 메타 등은 EU AI 협정에 서명하지 않았다. 유럽위원회는 AI법이 완전히 시행되기 전 언제든지 EU AI 협정에 참여해 조항을 준수할 걸 환영한다고 전했다. 메타 측도 자사는 조화로운 EU 규정을 환영하며 AI법에 따른 준수 활동에 집중하고 있다고 밝혔으며 향후 EU AI 협정에 서명할 가능성을 배제하지 않았다. 관련 내용은 이곳에서 확인할 수 있다.