美 캘리포니아주 AI 모델 킬스위치 의무화 법안 둘러싼 논란

실리콘밸리 벤처캐피털리스트와 기술 업계 종사자는 캘리포니아 주의회에서 심의 중인 AI 안전 법안이 일부 대형 AI 기업 사업 방식 변경을 강요할 수 있다며 경고의 목소리를 내고 있다.

미국 캘리포니아 주에서 심의 중인 SB 1047 일명 AI 안전 법안은 같은 주 스콧 위너 상원의원이 제출한 AI 관련 법안. 이 법안은 특정 규모나 비용 기준을 넘는 대규모 AI 모델을 만드는 기업에 상식적 안전 기준을 제정하도록 하는 걸 목표로 하고 있다. AI 안전 법안은 2024년 5월 캘리포니아 주 상원을 통과했고 현재 하원 통과를 목표로 하고 있다.

AI 안전 법안은 AI 개발자에게 AI 모델이 중대한 위해를 일으키는 걸 막기 위한 조치로 AI 시스템을 확실히 셧다운할 수 있는 킬 스위치 마련을 요구하고 있다. 또 캘리포니아 주 기술국 내에 신설되는 프런티어 모델 부서에 규정 준수 노력을 공개해야 한다. 기업이 이런 요건을 지키지 않으면 소송과 민사 벌금을 물게 된다.

현재 미국에는 AI에 관한 연방법이 없어 각 주가 독자 규제를 추진하는 추세라는 지적이다. AI 안전 법안 제정이 추진 중인 캘리포니아 주에는 오픈AI, 앤트로픽 등 대형 AI 기업이 거점을 두고 있어 AI 안전 법안이 시행되면 AI 업계 선두주자가 직접적인 영향을 받을 수 있다는 지적.

AI 안전 법안 입안자인 위너 의원은 의회가 전진해 합리적이고 강력한 AI, 혁신, 안전 법안을 통과시켜 주면 좋겠다며 이런 법은 연방 수준에서 시행되어야 하지만 데이터 프라이버시, 소셜미디어, 망 중립성 등 초당적 지지를 받는 기술 문제조차 의회가 행동하기 힘들거나 불가능했다고 말했다.

AI 안전 법안은 AI 존재 자체가 위협이 될 수 있다고 주장해 온 제프리 힌튼 등에 의해 지지를 받고 있다. 힌튼 박사는 AI 안전 법안에 대해 이런 우려 사이에서 균형을 잡기 위한 현명한 접근이라고 칭찬했다. 하지만 AI 안전 법안은 큰 반발도 샀다.

AI 안전 법안 반대론자는 코드를 모두가 검토하고 바꿀 수 있게 공개한 오픈소스 개발자에게 악의적 행위자의 서비스 악용을 막을 수 없다는 실현 불가능한 부담을 지울 수 있다고 비판한다. 또 신설될 프런티어 모델 부서가 더 큰 권한을 갖게 될 가능성에 대한 우려도 있다.

오픈소스 소프트웨어를 개발하는 AI 스타트업 리워크드AI(Reworkd AI) 창업자인 로한 판디는 이렇게 된 줄은 아무도 몰랐으며 터무니없어 보인다면서 아마도 AI 모델이 안전한지 위험한지 판단하는 기준이 몇 년 뒤엔 나올지 몰라 규칙이 의미 있게 들릴 수 있겠지만 GPT-4가 나온 지 1년밖에 안 됐다면서 입법에 너무 성급하다고 지적했다. 벤처캐피털 앤드리슨호로위츠 관계자도 스타트업 창업자가 AI 안전 법안을 우려하며 캘리포니아를 떠나야 할지 상담하고 있다고 밝혔다.

스타트업 커뮤니티에서는 AI 개발자가 시스템을 악용하는 이들에 대해 책임을 져야 하는지가 주목받고 있다. 1996년 제정된 통신품위법 230조가 논점인데 이 법은 플랫폼 기업은 사용자가 만든 콘텐츠에 대한 책임이 면제된다는 법적 근거로 중요하게 여겨진다. 이게 AI 도구에도 적용되느냐가 뜨거운 논란이 되고 있다.

위너 의원은 이런 일부 우려를 반영해 법안을 수정했다고 말했다. 대상 AI 모델 기준을 바꾸고 오픈소스 개발자는 기술 악용에 책임지지 않음을 분명히 했으며 셧다운 요건도 오픈소스 모델에는 적용되지 않는다고 명시했다. 또 자신은 AI에 대한 강력한 지지자이자 오픈소스 지지자라며 AI 혁신을 막으려는 게 아니지만 이런 진전이 있을 때 안전성을 염두에 두는 게 중요하다며 AI 안전 법안에 추가 수정할 준비가 있다고 말했다.

또 위너 의원은 온라인에서 많은 지지자를 가진 강경파 AI 지지자가 AI 안전 법안에 대해 목소리를 높이고 있으며 때론 너무 과장되고 부정확한 정보를 퍼트리고 있다고 주장했다. 그 중에서도 기업이 AI 모델 트레이닝에 정부 기관 허가를 받아야 한다는 조항은 법안에 없으며 법안에 따른 배상책임 위험은 극히 제한적이라고 강조했다.

이외에도 앤드리슨호로위츠 관계자는 AI 안전 법안 기초 과정에 문제가 있다고 지적했다. 그는 AI가 인류에 미칠 장기 위험에 대해 비관적인 다소 이단적인 이들 의견이 반영됐지만 이는 기술 업계 전반의 견해를 대표하지 않는다고 주장했다.

이에 대해 위너 의원은 AI 안전 법안이 지난 18개월간 AI 업계 관계자 만찬, 모임에서 비롯됐다며 오픈AI, 메타, 구글, 마이크로소프트 등 AI 선두주자 외에 앤드리슨호로위츠와도 만났다고 설명했다. 그는 개방적 논의 하에 기초된 법안이라고 주장했다.

한편 AI 안전 법안은 2024년 8월 말까지 주 의회에서 표결 예정이며 위너 의원은 주지사에게 제출할 수 있는 길이 있을 거라 낙관적이라고 말했다. 하지만 캘리포니아 주지사는 AI 규제에 대해 과도한 규제나 지나친 관대함, 매력적인 것만 쫓는다면 우리 자신을 위험에 빠트릴 수 있다며 과도한 규제에 대해 신중한 입장을 보였다. 관련 내용은 이곳에서 확인할 수 있다.