美 캘리포니아 의회 “1억 달러 이상 AI 모델에 안전성 테스트 의무화”

캘리포니아 주 의회는 AI 모델에 안전성 테스트를 의무화하는 주 법안인 최첨단 AI 모델을 위한 안전하고 혁신적인 법(SB1047)을 가결했다. 이 법안은 추가 투표를 거친 뒤 개빈 뉴섬 주지사 서명을 통해 최종 확정될 예정이다.

SB1047 법안은 개발에 1억 달러 이상 비용이 들거나 일정 수준 계산 능력이 필요한 최첨단 AI 모델에 대해 안전성 테스트를 의무화하는 법이다. 또 캘리포니아 주에서 활동하는 AI 모델 개발자에게는 문제가 발생했을 때 AI 모델을 중지시킬 수 있는 킬 스위치와 같은 기능을 탑재할 걸 의무화하고 있다.

더 나아가 전력 인프라 등 정부 시스템이 AI로 인해 위협을 받을 경우 개발자가 이를 따르지 않으면 주 법무장관이 소송을 제기할 수 있는 권한을 부여한다. SB1047는 또 개발자에게 안전 대책을 평가하기 위해 제3자 감사인을 고용하거나 AI 남용을 고발하는 내부 고발자에게 보호를 제공할 것을 요구하고 있다.

하지만 많은 하이테크 기업이 본사를 두고 있는 캘리포니아 주에서 SB1047 법안이 통과되면 AI 기업 사업 활동에 큰 영향을 미칠 수 있어 반대의 목소리가 나오고 있다.

민주당 낸시 펠로시 하원의원은 SB1047는 근거가 부족하며 이익보다 해를 끼칠 가능성이 있다며 이 법안이 캘리포니아 주에서 개발자를 떠나게 만들고 오픈 소스 AI 모델 발전을 위협할 수 있다고 주장했다.

구글 모회사인 알파벳, 오픈AI, 메타는 위너 주 상원의원에게 서한을 보내 SB1047에 대한 우려를 표명했다. 또 클로드를 개발한 앤트로픽은 SB1047 법안 작성에 협력했으나 법안 이점이 비용을 초과할 가능성이 높지만 여전히 우려할 점과 모호한 부분이 있다고 밝혔다.

This is a tough call and will make some people upset, but, all things considered, I think California should probably pass the SB 1047 AI safety bill.

For over 20 years, I have been an advocate for AI regulation, just as we regulate any product/technology that is a potential risk…

— Elon Musk (@elonmusk) August 26, 2024

벤처 캐피털인 앤드리슨호로위츠(Andreessen Horowitz) 제너럴 파트너인 마틴 카사도는 이 법안은 자신이 본 것 중 가장 강력하게 초당적으로 반대받고 있다며 뉴섬 주지사가 법안에 거부권을 행사하기를 바란다고 말했다.

한편 AI 기업 xAI CEO 일론 머스크는 이 법안에 찬성하며 캘리포니아 주는 SB1047 법안을 통과시켜야 한다고 생각한다며 20년 넘게 대중에게 잠재적 위험을 초래할 수 있는 모든 제품과 기술을 규제해야 한다고 주장해왔으며 AI도 예외는 아니라고 말했다. 관련 내용은 이곳에서 확인할 수 있다.