英정부 발표 AI 백서 속 5개 원칙

영국 정부는 3월 29일 AI 업계를 위한 권고를 발표하고 AI 기업이 준수해야 할 안전성, 보안과 신뢰성, 투명성과 설명 가능성, 공평성, 설명 책임과 거버넌스, 쟁의 가능성과 시정이라는 5가지를 정리한 AI 백서를 의회에 제출했다.

영국에도 AI 스타트업이 많이 존재하며 전 세계적으로도 번영하는 국가로 알려져 있다. 영국 정부에 따르면 영국 AI 시장은 2022년 5만 명 이상 고용자를 창출해 37억 파운드 규모를 나타냈다고 한다. 하지만 AI가 급속도로 발전하는 가운데 프라이버시와 인권, 안전에 대한 미래 위험에 대한 의문이 드러나고 있다고 밝히고 있다.

영국 정부는 또 현행법 제도가 일치하지 않기 때문에 규제를 준수하려는 기업에 재정적, 간리상 부담을 일으켜 AI를 최대한 활용할 수 없게 된다고 지적하고 있다. 또 혁신을 억압하고 AI를 규제하는 접근법을 취할 가능성이 있는 법률도 있기 때문에 이런 법률이 강하게 운용되고 있지 않아 규제 당국의 적절한 거버넌스가 요구된다.

따라서 정부는 AI용으로 단일 규제 당국을 마련하는 게 아니라 안전위생국이나 평등인권위원회, 경쟁시장청 등 기존 규제 당국에 각각 권한을 부여하고 상황에 따른 접근 방식을 생각할 것을 제안하고 있다. 이번에 발표한 백서는 이런 거버넌스를 위한 5개 원칙을 정리하고 있다.

첫째는 안전, 보안 및 견고성이다. AI 애플리케이션은 신중하고 위험을 관리하는 안전하고 견고한 방식으로 작동해야 한다. 둘째 투명성과 설명 가능성. AI를 개발, 도입하는 조직은 언제 어떻게 AI가 사용되는지를 설명하고 AI 사용에 의한 위험과 적절하게 일치한 시스템 의사 결정 프로세스를 자세하게 설명할 수 있도록 해야 한다. 셋째는 공정성. AI는 영국 기존 법률에 준거한 방법으로 사용해야 하며 개인을 차별하거나 불공평한 상업적 성과에 사용해선 안 된다. 넷째는 설명 책임과 거버넌스. AI 사용에 대한 적절한 감시와 성과에 대한 명확한 설명 책임을 확보하기 위한 대책이 필요하다. 마지막은 쟁의 가능성과 시정. 인간은 AI가 창출하는 유해한 결과나 결정에 대해 쟁의를 하는 명확한 수단을 가져야 한다.

영국 정부는 앞으로 12개월간 규제 당국은 조직에 대한 실천적 지침이나 리스크 평가 템플릿 등 툴과 리소스를 발행하고 분야별로 5원칙을 실시하는 방법을 정할 예정이라며 법을 제정하는 것도 시야에 넣고 있다.

2023년 2월 신설된 과학이노베이션기술청(State for Science, Innovation and Technology) 장관은 AI가 영국을 더 스마트하고 건강하고 행복한 생활과 일자리가 될 수 있을 가능성이 있다며 AI는 더 이상 SF 세계가 아니며 AI 개발은 놀라운 속도로 진행되고 있기 때문에 안전하게 개발할 수 있는 규칙이 필요하다고 밝혔다. 새로운 접근법은 강력한 원칙에 근거한 것이며 AI라는 내일의 기술을 해방하는 기업을 신뢰하기 위한 것이라고 설명했다. 관련 내용은 이곳에서 확인할 수 있다.