이원영 기자이미지 생성 AI나 대규모 언어 모델 등 AI가 등장해 일상에도 AI 존재를 볼 일이 많아졌다. 그만큼 AI는 인류 생활에 크게 관여하고 있지만 동시에 고도로 성장한 AI 기술에 의한 폐해도 존재한다. 이런 AI가 갖는 위험성에 대해 마이크로소프트 브래드 스미스 사장이 AI에 대한 가장 큰 우려는 딥페이크라고 밝혔다.
스미스 사장은 AI의 공공 거버넌스에 대해 5가지 전망을 제시했다. 첫째 정부 주도에 의한 AI 안전성에 대한 새로운 프레임워크 구현‧구축. 둘째는 중요한 인프라를 제어하는 AI에 대해 효과적인 안전 시스템. 3번째는 AI 기술과 아키텍처를 기반으로 한 광범위한 법적 규제 프레임워크. 4번째는 투명성 촉진과 학술계, 비영리단체에 의한 AI에 대한 접근 확보. 5번째는 AI를 이용하는 민관 파트너십 추구다.
그는 딥페이크를 둘러싼 문제에 대처해야 한다며 러시아, 중국, 이란에서 수행되는 것 같은 사이버 활동에 대한 조치를 취해야 한다고 밝혔다. 사람을 속이고 만나거나 하는 목적으로 AI를 이용해 정규 콘텐츠를 변조하는 걸 막는 조치를 강구할 필요가 있다고 덧붙였다.
또 스미스 사장은 AI 라이선스에는 물리적 보안이나 사이버 보안 또는 국가적 보안을 실시하고 위협으로부터 보호할 의무를 져야 한다고 주장했다. AI 모델이 도난당하거나 국가 수출 관리 요건을 위반하는 방식으로 사용되지 않도록 하려면 신세대 수출 관리가 필요할 것이라고 덧붙였다.
AI에 대한 규제가 필수적이며 정부에 의한 규제 개입이 중요하다는 의견에 대해선 샘 알트만 오픈AI CEO도 미국 공청회에서 주장하고 있다. 스미스 사장은 AI가 일으키는 문제에 대해선 인간이 책임을 져야 한다고 밝히고 그 중에서도 수도와 전기 등 중요 인프라를 제어하는 AI에 대해선 안전 대책을 강구하도록 요구하고 있다.
또 사티아 나델라 마이크로소프트 CEO는 스미스 사장의 트윗을 인용해 리트윗하는 형태로 항상 안전하고 안심하고 투명한 방법으로 AI를 확실히 구축, 전개, 사용하기 위해 포괄적인 접근법을 취하고 있다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
정용환 기자
