美 AI에 대한 대통령령…내용은?

AI 기술이 빠르게 발전하면서 전 세계 각국에서 AI 관련 법률 작성이 진행되고 있다. 미국도 10월 30일 바이든 대통령이 안전하고 안심, 신뢰할 수 있는 AI에 관한 대통령령을 발령했다.

이번 대통령령에선 AI 안전성과 보안을 위한 새로운 기준 확립, 프라이버시 보호, 공평성과 공민권 추진, 소비자와 노동자 옹호, 혁신과 경쟁 촉진, 전 세계에 미국 리더십을 향상시키는 것 등이 규정되어 있다. 현재는 팩트시트만 공표됐지만 조만간 최종 문장도 발표 예정이라고 한다.

구체적인 내용을 보면 먼저 AI 안전성과 보안을 위한 새로운 기준. AI 능력이 향상되면서 국민 안전과 보안에 대한 영향도 증가한다. 이 대통령령으로 대통령은 AI 시스템에 대한 잠재적 위험으로부터 미국민을 보호하기 위해 지금까지 가장 광범위한 조치를 지시한다.

가장 강력한 AI 시스템 개발자는 안전 테스트 결과와 기타 중요한 정보를 미국 정부와 공유해야 한다. 방어 생산법에 따라 이 명령은 국가 안보, 국가 경제 안보, 국가 공중 보건과 안전에 중대한 위험을 초래하는 기초 모델을 개발하는 기업에 모델을 학습할 때 연방 정부에 통지하거나 모든 레드팀이 안전성 테스트 결과를 공유할 걸 의무화한다. 이런 조치는 기업이 AI 시스템을 공개하기 전 단계에서 AI 시스템 안전성, 보안과 신뢰성을 보장한다.

AI 시스템 안전성과 보안, 신뢰성을 보장하기 이한 표준, 도구, 테스트도 개발한다. 미국립표준기술연구소는 공개 전 안전성을 확보하기 위해 광범위한 레드팀 테스트에 대한 엄격한 기준을 정할 예정이다. 또 국토안보부는 이런 기준을 중요한 인프라 분야에 적용하거나 AI 안전보안위원회를 설립하는 것 외에 에너지부와 국토안보부는 화학, 생물학, 방사선, 핵, 사이버 보안 위험 외에도 중요한 인프라에 대한 AI 시스템 위협을 해결할 계획이다. 이를 종합하면 AI 안전성 분야를 전진시키기 위해 정부가 지금까지 강구한 가장 중요한 조치가 된다.

생합성 스크리닝을 위한 강력한 새로운 표준을 개발해 AI를 사용해 위험한 생물학적 물질을 조작할 위험을 억제한다. 생명 과학 프로젝트에 자금을 제공하는 기관은 연방 자금 제공 조건으로 이런 기준을 수립하고 적절한 스크리닝을 수행하고 AI에 의해 악화될 수 있는 위험을 관리하기 위한 강력한 인센티브를 창출하게 된다.

또 AI에 의해 생성된 콘텐츠를 검출하고 공식 콘텐츠를 인증하기 위한 기준과 모범 사례를 확립해 AI를 이용한 사기나 기만으로부터 미국민을 보호한다. 미 상무부는 AI에 의해 생성된 콘텐츠에 명확한 라벨을 지정하기 위한 콘텐츠 인증, 워터마크에 대한 지침을 개발할 예정이다. 연방정부기관은 이런 도구를 이용해 미국민이 정부로부터 받은 통신이 진짜라는 걸 쉽게 알 수 있어 전 세계 민간 부문이나 정부에 모범을 제시하게 된다..

바이든 정권이 지속하고 있는 AI 사이버 챌린지를 기반으로 중요한 소프트웨어 취약성을 발견하고 수정하는 AI 도구를 개발하기 위한 고급 사이버 보안 프로그램을 확인한다. 이런 이니셔티브를 결합하면 크게 현상을 변화시킬 수 있는 AI 사이버 기능을 활용해 소프트웨어와 네트워크 안전성을 높일 수 있다.

AI와 안보에 대한 추가 행동을 지시하는 국가 안보 각서를 국가안보회의와 백악관 수석 보좌관이 작성하도록 명령한다. 이 문서는 미군과 첩보기관이 임무에서 AI를 안전하고 윤리적이며 효과적으로 사용하도록 보장하고 적대자의 AI 군사 이용에 대항하기 위한 행동을 지시할 것이다.

다음은 미국인 프라이버시 보호. 보호 수단이 없으면 AI는 미국인 프라이버시를 더 위험에 처하게 할 가능성이 있다. AI는 개인 데이터 추출, 식별, 활용을 용이하게 하고 기업이 AI를 학습시키기 위해 개인 정보를 이용하는 인센티브도 높인다. AI가 가져온 위험 등으로부터 미국인 프라이버시를 더 잘 보호하기 위해 대통령은 의회에 모든 미국인 그 중에서도 아이를 보호하기 위한 초당파 데이터 프라이버시 법안을 통과시키도록 요구하고 아래 행동을 지시하고 있다.

먼저 첨단 AI를 사용하고 학습 데이터 프라이버시를 보호하면서 AI 시스템을 학습시킬 수 있는 기술 등 프라이버시 보호 기술 개발과 사용을 가속화하기 위한 연방정부 지원을 우선해 미국민 프라이버시를 보호한다. 빠른 진보와 개발을 추진하기 위해 연구 조정 네트워크에 자금을 제공해 개인 정보를 보호하는 암호화 도구와 같은 개인 정보 보호 연구와 기술을 강화한다.

국립과학재단도 이 네트워크와 협력해 연방정부기관의 첨단 프라니버 보호 기술 도입을 촉진할 예정이다. 정부기관이 데이터 브로커로부터 얻은 정보를 포함해 판매되는 정보를 수집하고 사용하는 방법을 평가하고 연방 정부 기관이 AI 위험에 대처하기 위한 개인 정보 보호 지침을 강화한다. 이 작업은 개인을 식별할 수 있는 데이터가 포함된 판매 정보에 집중한다. 연방정부기관이 AI 시스템에서 사용하는 걸 포함해 개인 정보 보호 기술 효능을 평가하기 위한 지침을 작성한다. 이런 지침은 미국민 데이터를 보호하기 위한 정부기관 노력을 추진한다.

다음은 공평성과 고민권 추진. AI에 대한 무책임한 사용은 사법, 의료, 주거에 있어 차별이나 편견, 그 외 학대로 이어져 한층 더 심각해질 가능성이 있다. 바이든 정권은 이미 AI 권리 장전 설계를 공표하고 있으며 정부 기관에 알고리즘에 의한 차별과 싸우도록 지시하는 대통령령을 발행하는 동시에 기존 기관에 의한 국민 권리와 안전을 보호하는 등 조치를 취하고 있다. AI가 공평성과 공민권을 확실하게 전진시키기 위해 대통령은 다음과 같은 추가 행동을 지시한다.

AI 알고리즘이 차별을 악화시키는데 사용되지 않도록 집주인, 연방 복리 후생 프로그램과 연방 계약자에 명확한 지침을 제공한다. AI와 관련한 공민권 침해 조사와 소추에 관한 모범 사례에 대한 교육과 기술 지원, 사법부와 연방 공민권 기관간 조정을 통해 알고리즘 차별을 해결한다. 양형과 가석방, 보호 관찰, 미결석방과 구류, 위험 평가, 감시, 범죄 예측과 예측형 경찰 활동, 법의학 분석에서 AI 사용에 관한 모범 사례를 개발해 형사사법제도 전체에 대한 공정성을 확보한다.

다음은 소비자와 환자, 학생을 위한 행동. AI는 제품을 더 좋고 저렴하며 넓게 입수할 수 있도록 하는 등 소비자에게 진정한 이익을 가져올 수 있다. 하지만 AI는 미국인을 해치거나 오해를 주는 등 다른 손해를 입힐 위험도 높인다. AI가 미국민 삶이 더 나아지는 걸 보장하면서 소비자를 보호하기 위해 대통령은 다음과 같은 행동을 지시한다.

헬스케어에서 책임감 있는 AI 이용과 저렴한 가격으로 생명을 구하는 약제 개발을 추진한다. 또 보건복지부는 AI가 관여하는 안전하지 않은 의료 행위와 위험에 대한 보고를 받고 시정하기 위한 안전 프로그램을 확립할 예정이다. 학교에서의 개별 지도 등 AI 대응 학습 도구를 도입하는 교육자를 지원하는 자원을 작성해 교육을 변화시키는 등 AI 가능성을 형성한다.

다음은 일하는 사람을 지지한다는 것. AI는 미국 내 일자리를 바꾸고 있어 생산성을 향상시키고 있는 한편 직장 감시와 편견, 고용 상실 증가라는 위험성을 가져오고 있다. 이런 위험을 줄이고 노동자 단체 협상 능력을 지원하며 누구나 이용할 수 있는 노동력 훈련과 능력 개발에 투자하기 위해 대통령은 다음과 같은 행동을 지시한다.

이직이나 노동 기준, 직장 공정성, 건강, 안전, 데이터 수집에 대응해 노동자에 대한 AI 단점을 경감하고 직장 공정성과 건강, 안전, 데이터 수집에 대응해 노동자에 대한 AI 단점을 줄이고 이점을 극대화하기 위한 원칙과 모범 사례를 개발한다.

이런 원칙과 모범 사례는 고용주가 근로자에게 과소 보상을 받거나 구인 응모를 부당하게 평가하거나 근로자 조직력을 침해하는 걸 방지하기 위한 지침을 제공해 노동자에게 이익을 가져다준다. AI가 노동 시장에 미치는 잠재적 영향에 관한 보고서를 작성하고 AI를 포함한 고용 중단에 직면한 노동자에 대한 연방 정부 지원을 강화하기 위한 선택 사항을 조사하고 파악한다.

다음은 이노베이션과 경쟁 촉진. 미국은 이미 AI 혁신을 주도하고 있다. 작년 미국에서 첫 자금을 조달한 AI 스타트업 수는 이어지는 7개국 합계보다 많다. 대통령령은 미국이 다음과 같은 행동을 통해 혁신과 경쟁에서 항상 선두를 지키도록 보장해야 한다고 밝히고 있다.

AI 연구자와 학생이 주요 AI 리소스와 데이터에 액세스할 수 있도록 하는 도구(National AI Research Resource) 제공을 통해 미 전역 AI 연구를 촉진하고 의료와 기후 변화 등 중요 분야에서 AI 연구에 대한 보조금을 확대한다.

소규모 개발자와 기업가에게 기술 지원과 자원에 대한 액세스를 제공하고 중소기업에 의한 획기적인 AI 상용화를 지원하며 연방거래위원회 권한 행사를 장려해 공정하게 개방적이고 경쟁력 있는 AI 생태계를 홍보한다.

기존 기관을 이용해 비자 기준과 면접, 심사를 혁심, 합리화해 중요 분야 전문 지식을 갖춘 고급 이민이나 비이민을 자려하고 미국에서 배우고 체류하며 일하는 능력을 확대한다.

다음은 해외에서의 미국 리더십 향상. AI 과제와 기회는 전 세계에 있다. 바이든 정권은 계속해서 다른 국가와 협력해 전 세계에서 안전, 안심, 신뢰할 수 있는 AI 도입과 이용을 지원해나간다. 이 목적을 달성하기 위해 대통령은 다음과 같은 행동을 지시한다.

Ai와 협력하기 위해 양자, 다자 등 여러 이해관계자 참여를 확대한다. 국무부는 상무부와 협력해 AI 장점을 활용하고 위험을 관리하며 안전성을 확보하기 위한 견고한 국제 틀을 수립하기 위한 노력을 주도한다.

국제 파트너, 표준화 단체와 협력해 중요한 AI 표준 개발과 구현을 가속화해 기술 안전성, 보안, 신뢰성과 상호 운용성을 보장한다. 지속 가능한 개발 추진과 중요 인프라에 대한 위험 완화 등 세계적인 과제를 해결하기 위해 해외에서 안전하고 책임 있는 권리 확인형 AI 개발과 전개를 촉진한다.

다음은 정부에 의한 책임 있고 효과적인 AI 사용 확보. AI는 정부가 미국민에게 더 나은 결과를 가져오는데 도움이 된다. AI 힘은 정부기관 규제와 관리, 급여금 지급 능력을 확대하고 비용을 절감하며 정부 시스템 보안을 강화한다. 하지만 AI를 사용하면 차별이나 위험한 결정 같은 위험을 초래할 수 있다. 정부가 책임을 갖고 AI를 배포하고 연방 AI 인프라를 최신화하기 위해 대통령은 다음과 같은 행동을 지시한다.

권리와 안전 보호, AI 조달 개선, AI 도입 강화를 위한 명확한 기준을 포함해 정부기관이 AI 사용에 대한 지침을 발행한다. 또 더 빠르고 효율적인 계약을 통해 대행사가 특정 AI 제품과 서비스를 더 빠르고 저렴하며 효과적으로 획득할 수 있도록 지원한다.

인사관리국, US디지털서비스 등이 주도하는 정부 전체 AI 인재 급증 일환으로 빠른 AI 전문가 채용을 가속화한다. 정부기관은 관련 분야 모든 수준 직원에게 AI 교육을 제공한다. 관련 내용은 이곳에서 확인할 수 있다.