美 캘리포니아, AI 안전 법안 서명 거부‧신경 데이터까지 개인 기밀 정보 대상 확대
대규모 AI 모델, 구체적으로는 개발에 1억 달러 이상 비용이 드는 것에 대해 안전성 테스트를 의무화하는 캘리포니아 주 상원 법안 1047(SB 1047), 일명 AI 안전 법안에 대해 개빈 뉴섬 주지사가 거부권을 행사한 것으로 밝혀졌다.
SB 1047은 캘리포니아 주 스콧 위너 상원의원이 제출한 법안으로 특정 규모와 가격을 초과하는 대규모 AI 모델을 개발하는 기업에 대해 안전 기준을 제정하도록 하는 걸 목표로 한다.
2024년 8월 캘리포니아 주 의회는 SB 1047을 가결했으며 뉴섬 주지사 서명을 기다리는 상태였다.
하지만 이번에 뉴섬 주지사는 SB 1047에 서명하지 않고 반려하기로 선언했다. 뉴섬 주지사는 SB 1047에 서명하지 않은 이유에 대해 AI가 놀라운 속도로 능력을 높이고 있는 가운데 고가 대규모 모델에만 초점을 맞춘 SB 1047로 구축되는 규제 프레임워크는 잘못된 안도감을 줄 수 있다고 표현하며 소규모이더라도 SB 1047이 대상으로 하는 모델과 동등하거나 그 이상 위험성을 가진 모델이 나올 가능성에 대해 우려를 표명했다.
또 대규모 모델에 관해 가장 기본 기능조차도 엄격히 단속하는 SB 1047에 대해 기술이 가져오는 진정한 위협으로부터 시민을 보호하기 위한 최선의 접근법이라고는 생각되지 않는다고 표현하며 AI를 효과적으로 규제하는 프레임워크는 기술 자체와 보조를 맞출 필요가 있다고 말했다.
한편 뉴섬 주지사는 지난 30일 동안 생성 AI 기술 배포와 규제에 관한 법안 17건에 서명했으며 생성 AI를 배포해 발생할 수 있는 잠재적이고 파괴적인 위험으로부터 캘리포니아 주민을 보호할 책임이 있다면서 급속히 변화하는 AI 기술에 대해 적응 가능하고 공익을 증진시킬 수 있는 해결책을 향해 신중하고 신속하게 노력해 나갈 것이라고 말했다. 관련 내용은 이곳에서 확인할 수 있다.
한편 9월 28일 미국 캘리포니아주 개빈 뉴섬 주지사는 인간 뇌 데이터를 보호하고 기술 기업 악용을 방지하기 위한 새로운 법률 SB-1223에 서명했다.
최근 기술 발전으로 집중력 향상이나 우울증을 포함한 정신 건강 질환 치료를 목적으로 하는 스마트폰 앱 등 소비자용 제품이 많이 출시되고 있다. 이런 제품은 사용자 생각이나 감정 등 마음을 반영하는 뇌 데이터를 모니터링하고 기록할 수 있다. 일론 머스크가 설립한 뇌 임플란트 기업 뉴럴링크(Neuralink)나 메타의 CTRL-Labs 인수 등 대기업도 뇌 데이터를 활용한 제품 개발에 힘을 쏟고 있다.
하지만 이런 제품은 개인 뇌 정보가 악용될 위험성을 내포하고 있음에도 불구하고 지금까지 규제가 없었다. 이에 조슈아 베커 상원의원은 캘리포니아주 상원에 캘리포니아주 소비자 프라이버시법(CCPA) 하에서 기밀 정보에 신경 데이터를 분류하는 걸 목적으로 하는 법안 SB-1223을 제출했다.
SB-1223에서는 신경 데이터를 신경 기술에 의해 또는 신경 기술 도움을 받아 처리가 가능한 개인 중추 신경계 또는 말초 신경계의 활동을 측정해 생성된 정보로 정의하고 있다. 구체적으로는 웨어러블 기기나 뇌 임플란트 등으로 수집된 뇌 활동 관련 데이터를 말한다. 법안이 통과될 경우 캘리포니아주 주민은 기업에 어떤 데이터가 수집됐는지 공개를 요구할 수 있으며 필요에 따라 데이터 삭제를 요청할 수 있게 된다.
CCPA는 이미 초상권, DNA, 지문 등 생체 인증 정보를 보호하고 있으며 SB-1223 통과로 신경 데이터도 마찬가지로 보호받게 될 것이다.
이후 SB-1223은 캘리포니아주 의회와 상원에서 투표가 이뤄져 만장일치로 통과됐다. 이어 2024년 9월 28일 뉴섬 주지사가 SB-1223에 서명했다. 베커 의원은 SB-1223 성립에 매우 흥분된다며 인간에게 매우 중요한 데이터셋인 신경 데이터 프라이버시 보호에 대해 적극적으로 생각하는 게 중요하며 캘리포니아주 주민 신경 데이터를 보호하는 것에 대한 중요성은 과소평가할 수 없다고 말했다.
반면 신경 데이터를 다루는 기업을 대표하는 로비 단체인 테크넷(TechNet)은 SB-1223은 인간 행동에 대해 기록된 거의 모든 기술을 규제하는 것이라며 반대 의사를 표명했다. 한편 보도에 따르면 SB-1223은 인간 심박수나 혈압 등 인체 비신경 데이터로부터 얻어진 정보에는 적용되지 않는다고 한다. 관련 내용은 이곳에서 확인할 수 있다.