프란체스코 로마 교황은 사상 처음으로 프로그래밍에 도전을 하거나 포켓몬 대신 성인을 획득하는 스마트폰용 게임(Follow JC Go) 팬이기도 하다. 역대 교황 중 기술에 밝은 인물인 것. 1,820만 명에 이르는 트위터 팔로어를 보유하기도 한 교황은 AI 기술 분야를 선도하는 다국적 기업과 함께 AI의 윤리적 활용을 추진해 나가겠다는 자세를 보이고 있다.
교황은 지난 2월 28일 AI를 윤리적으로 활용하는 걸 골자로 한 문서 AI 윤리에 관한 로마의 호소(Rome Call for AI Ethics)에 서명했다. 서명에는 교황 외에도 마이크로소프트, IBM, 유럽의회 의장, 이탈리아 혁신 담당 장관, 유엔식량농업기구 FAO 등도 이름을 올렸다. 인권 침해와 인종 차별 등 비윤리적 용도로 AI 이용을 하는 걸 방지해나가자는 데 뜻을 모은 것이다.
AI 윤리에 관한 로마의 호소는 6가지 원칙을 정한 것이다. 첫째는 투명성. AI 시스템은 원칙적으로 설명할 수 있어야 한다는 것이다. 둘째는 다양성. AI는 모든 사람의 요구를 고려해 모든 사람이 혜택을 누릴 수 있어야 한다는 것이다. 또 모든 개인이 AI를 통해 자신을 표현하고 성장해가는 최고의 조건을 향유할 수 있엉야 한다.
셋째는 책임이다. AI를 설계 또는 사용하는 자는 책임과 투명성을 염두에 두고 개발을 진행시켜 나가지 않으면 안 된다. 다음은 공정성. AI 종사자는 편견에 근거한 행동이나 개발을 할 수 없으며 공정성과 인간 존엄성을 지켜야 한다. 다음은 신뢰성. 시스템이 안정적으로 작동행야 한다는 얘기다. 마지막인 보안과 개인 정보다. AI 시스템은 안전한 작동과 사용자의 프라이버시를 존중하는 것이어야 한다는 얘기다.
이번 호소는 AI가 사회에 미치는 영향에 대해 우려했던 교환 자신의 1년 전 발언과 닿아 있다. 교황의 가장 큰 관심사는 AI를 누구나 이용할 수 있고 AI를 가진 자와 못 가진 자로 양분되지 않도록 하는 것이라는 해설을 하기도 한다. 이번 서명에는 참여하지 않았지만 교황은 페이스북 마크 주커버그, 알파벳 고문인 에릭 슈미트와 회담하고 기술과 SNS 등에 대한 의견을 나누기도 했다.
마이크로소프트 측은 디지털 기술과 인류가 교차하는 이 시대에 모두 참여할 수 있고 서로를 존중할 수 있을 논의의 중요한 단계에 일원이 된 걸 자랑스럽게 생각한다고 밝혔다. IBM 역시 바티칸은 기술 전문은 아니지만 도덕적 가치관을 갖고 있다면서 이번 협력은 바티칸을 둘러싼 사회 전체가 AI의 윤리적 활용 필요성을 이해하는데 도움이 될 것이라고 말했다.
한편 서명에 대한 참가자가 적고 내용의 모호성 등을 들어 실효성에 의문을 제기하는 견해도 있다. 구글과 페이스북이 빠졌고 AI 혁신 최대 원동력 중 하나인 중국이 빠져 중국 정부와 기업이 바티칸의 서명에 따를 전망은 거의 제로라는 지적이다. 외신에선 이번 호소가 다른 AI 윤리에 관한 동의와 마찬가지로 모호하고 비현실적인 실효성이 부족하다면서 예를 들어 AI는 설명할 수 있어야 한다고 말하지만 원래 복잡한 기계학습 알고리즘 설명을 인간이 듣고 이해하기는 어렵다면서 일부 전문가는 설명 가능성 요건은 의학 등 분야d에서 AI가 발휘하는 잠재적 혜택을 제한하거나 늦출 걸 되려 우려하고 있다.
교황청 측 역시 현재 실효성이 낮다는 건 인정하면서 이번 호소는 AI에 요구되는 윤리성을 많은 이들에게 알리기 위한 목적이며 더 많은 법인이나 국제기구, 정부, 규제기관이 추가로 서명해야 비로소 효과적인 게 될 것이라고 밝히고 있다. 이를 위해 첫 번째 서명자가 협력하고 전 세계 대학이나 연구소와 함께 AI 윤리에 관한 과학적 검증을 진행해 나갈 것이라면서 앞으로 서명에 대한 참가자 증가와 내용 충실성을 도모할 것이라고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.