2024년 3월 21일 유엔총회가 AI에 관한 첫 세계 결의를 전체 일치로 채택했다. 이 결의안은 개인정보보호 증진, 프라이버시 정책 강화, AI 리스크 모니터링을 통해 인권을 수호하는 내용으로 미국이 제안하고 121개국이 찬성한 것이다.
유엔총회는 모든 회원국과 이해관계자에게 국제인권법에 따라 운용할 수 없는 AI 시스템 또는 인권 향유에 부당한 위험을 초래하는 AI 시스템 사용을 자제하거나 중단할 것을 촉구하며 사람들이 오프라인에서 갖는 권리는 AI 시스템 전 생애주기에 걸쳐 온라인에서도 보호되어야 한다고 보고서를 통해 밝혔다.
유엔총회는 또 모든 국가와 민간 부문, 시민사회, 연구기관, 미디어 등에 안전하고 신뢰할 수 있는 AI 활용과 관련된 규제와 거버넌스 접근법이나 체계를 개발하고 지원해야 한다고 촉구했다.
이번에 채택한 결의안에는 법적 구속력은 없지만 AI 거버넌스에 관한 국제적 합의 형성에 있어 중요한 한걸음이 될 수 있다. 브래드 스미스 마이크로소프트 부회장은 유엔 결의안 채택에 대해 포괄적인 AI 결의안 채택을 전적으로 지지한다며 이번 합의는 AI의 윤리적이고 지속가능한 개발을 위한 국제적 방향을 수립한 것으로 AI 기술이 모든 이들 수요를 충족시키는 데 중요한 디딤돌이 될 것이라고 밝혔다.
보도에 따르면 이번 결의안은 미국이 제안했고 중국과 러시아 등 122개국이 공동 제안했지만 협상에 3개월이 소요됐다고 한다. 미국 협상 담당자는 중국, 러시아, 쿠바 등 일부 국가와 격렬한 대화가 있었다는 걸 인정했다.
린다 토머스그린필드 유엔 주재 미국 대사는 AI 기술이 우리를 전복시키는 게 아니라 국제사회가 AI 기술을 전복할 기회와 책임이 있다며 AI는 인간성과 존엄성, 안전과 안심, 인권과 기본 권리라는 렌즈를 통해 개발·전개되어야 한다는 점을 재확인해야 한다고 강조했다. 또 국가 내외적 디지털 격차를 해소하고 AI 기술을 활용해 지속가능개발 공동 우선순위를 추진하는 데 전력을 다해야 한다고 덧붙였다.
유엔총회 차원에서 AI 결의안이 채택된 건 이번이 처음이지만 다자간 국제 AI 협정으로는 2023년 11월 28개국이 서명한 블레츨리 선언(Bletchley Declaration)이나 같은 해 11월 미국과 영국이 공동 수립한 안전한 AI 시스템 개발 가이드라인 등이 있다. 관련 내용은 이곳에서 확인할 수 있다.