이석원 기자
로마 교황이 통치하는 바티칸이 AI 붐이 왔다. 로마 교황청은 얼마 전 교황이 정의하는 AI 윤리에 관한 핸드북을 발표했다. 이 가이드라인은 교황과 산타클라라대학 응용윤리센터가 공동 작성한 것. 양측은 기술‧윤리‧문화연구소 ITEC(The Institute for Technology, Ethics and Culture)라는 새로운 조직을 시작해 첫 프로젝트로 파괴적 기술 시대에 있어서의 윤리 : 운용 로드맵이라는 제목이 붙은 핸드북을 내놨다.
이는 AI가 기계학습과 암호화, 추적 등에 있어서의 윤리라는 건 어떤 의미에선 탁해지는 기술 업계를 이끌기 위해 만들어진 것이다. 교황이 AI를 생각한다는 건 조금 이상하게 보일 수도 잇다. 하지만 ITEC 한 신부는 이 이니셔티브가 오랜 세월 교회가 관심을 가져온 것에 대한 집대성이라고 말한다. 바티칸에는 키플레이어를 협상 테이블에 데려오는 독자적 능력이 있다고 주장하는 것.
로마 교황은 항상 넓은 시야로 전 세계와 인류를 응시하고 있으며 기술은 좋은 것으로 믿고 있다며 하지만 기술 발전에 수반해 더 깊은 의문을 던질 때가 왔다는 것이다. 몇 년 전부터 실리콘밸리에 있는 기술 기업 중역이 앞으로 많은 일이 일어나려 하지만 아직 준비가 되지 않았다고 말한다는 설명이다. 바티칸의 영향력을 이용해 전 세계 기업 리더를 한 자리에 모으려는 것이다.
많은 IT 지지자는 어떻게 규제 당국에 어필하는지에 대해 힘을 쏟고 있지만 ITEC 핸드북은 다른 접근법을 취한다. 정부가 업계를 위한 규칙을 결정하기를 기다리는 게 아니라 이미 AI가 안고 있는 큰 난제와 겨루는 기술 업계에 지침을 제공하려는 것이다. ITEC 측 관계자는 설명 책임이나 투명성 등에 관해서 기업마다 공통 원칙을 갖는 컨센서스가 탄생하고 있다고 말한다. 물론 실제로 뭘 해야 할지, 표준을 어떻게 기술 설계나 도입에 적용하면 좋을지 등에 대한 컨센서스가 그다지 얻어지는 건 아니다.
이 핸드북은 전반적으로 문제가 발생한 뒤를 되돌아보고 이를 해결하는 게 아니라 일련의 원칙에 따라 만들어진 가치관을 기술과 이를 개발하는 기업에 처음부터 통합하는 걸 제창하고 있다. 또 기업에 나타내는 기본 원칙이란 이 행동은 인류와 환경 공익을 위해서라는 것. 물론 조금 추상적이고 이해하기 어려울 수 있다. 하지만 ITEC 핸드북에선 모두가 확신하는 이론이 구체적 조언과 실행 가능한 단계로 이어지도록 구성되어 있다.
큰 골격이 되는 원칙은 인간 존엄과 권리 존중이나 투명성과 설명 가능성 촉진 등 7개 지침으로 이뤄져 있다. 이들 7개는 46개 구체적이고 실행 가능한 단계로 세분화되어 정의하고 예제와 실행 가능한 단계를 망라하고 있다.
예를 들면 인간 존엄과 권리 존중이라는 원칙이 중시하는 건 프라이버시와 의무, 이를 수행하기 위해 필요 이상 데이터를 수집하지 않고 수집한 데이터는 프라이버시와 기밀성을 보호하기 위해 최적화된 방법으로 보관해야 한다는 예가 기재되어 있다.
더구나 기업은 의료 데이터나 재무 데이터를 보호하는 방법을 구체적으로 검토해야 한다거나 합법인지 불법인지 뿐 아니라 사용자에 대한 책임에 중점을 둬야 한다고 구체적인 실천 방법이 나와 있다.
코드나 기술 매뉴얼을 작성하거나 직장 문화에 관련된 문제를 생각하거나 일상 업무에 종사하는 기업인에게 실제로 힘을 주는 게 최종 목표라는 설명이다. 예비 지식을 현실적으로 사용하기 쉽고 이들이 지금까지 본 적 있는 형태나 표준에 접근하기 위해 굳이 비즈니스나 엔지니어를 위한 단어를 사용했다고 한다.
AI와 기술 미래에 큰 의문을 던지고 있는 게 바티칸만 있는 건 아니다. 오픈AI가 챗GPT를 세상에 내놓은지 불과 몇 개월 지나 샘 알트만 CEO는 이미 바이든 대통령과 만나고 AI를 어떻게 규제해야 하는지에 대해 의회에서 증언하기도 했다.
AI에 의한 멸종 위험을 줄이는 건 코로나19 유행과 핵전쟁 같은 다른 사회 규모 위험과 함께 세계적인 우선 사항이 되어야 한다고 말한다. AI에 대한 우려가 현실적인지 아닌지와 별도로 미래에 초점을 맞추는 건 AI 기술로 인한 문제로부터 규제 당국의 눈을 돌리려는 게 아니냐는 비판도 있다. ITEC 측 관계자는 AI에 의한 위협이 존재하는 건 심각하지만 단기적 AI 문제로 마찬가지로 주목할 만하다고 말한다. 하지만 로마 교황이 챗GPT를 사용해봤는지에 대한 견해는 나타내지 않았다. 어쨌든 가드레일은 절대적으로 필요하며 어떤 정부가 국가도 도입하게 될 것이라는 설명이다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
