이석원 기자
앤트로픽이 미국 국방·정보기관을 위해 특별히 설계된 AI 모델인 클로드 Gov(Claude Gov)를 발표했다. 이 모델은 정부기관용으로 완화된 규제가 설정되어 있으며 기밀정보 분석 정확도를 향상시키도록 훈련됐고 국가안보 최고 수준 기관에서 이미 도입되고 있다고 밝혔다.
앤트로픽에 따르면 클로드 Gov는 위협 평가나 정보 분석 등 정부기관 요구에 특화되어 설계됐다고 한다. 앤트로픽은 모든 클로드 모델과 마찬가지로 엄격한 안전성 테스트를 받고 있다고 밝혔지만 동시에 국가안보 업무용으로 특정 사용이 규정되어 있으며 기밀정보를 입력할 때 거부 반응이 줄어드는 등 일반에 유통되는 클로드보다 기밀정보에 대한 제한이 완화되어 있는 것으로 보인다.
또 클로드 Gov는 첩보 및 국방 맥락에서의 문서나 정보에 더 깊은 이해를 보이며 국가안보 활동에 필수적인 단어나 표현에 대응한다. 더 나아가 인텔리전스 분석을 위한 복잡한 사이버보안 데이터 이해와 해석 향상이 도모된 게 특징이다.
앤트로픽 이용 정책에는 사용자가 불법이거나 엄격히 규제되는 무기나 상품을 제작하거나 교환을 조장해서는 안 된다고 명시되어 있으며 여기에는 앤트로픽 제품이나 서비스를 사용해 인명에 위해를 가하거나 인명을 빼앗는 걸 목적으로 한 무기, 폭발물, 위험물, 기타 시스템을 제조, 개조, 설계, 판매, 배포하는 것도 포함되어 있다.
다만 앤트로픽은 2024년 이용 정책에 앤트로픽이 계약상 이용 제한 및 적용되는 안전 대책이 본 이용 정책에서 다루어지는 잠재적 손해를 완화하는 데 충분하다고 앤트로픽이 판단한 경우 특정 정부기관 고객과 해당 고객 공공 사명 및 법적 권한에 맞춰 이용 제한을 맞춤화하는 계약을 체결할 수 있다는 예외 규정을 추가했으며 이번 사례도 이 예외에 해당하는 것으로 보인다.
AI 기업이 정부기관에 협력하는 사례는 이번이 처음이 아니다. 오픈AI는 지난 1월 챗GPT Gov를 발표했다. 또 오픈AI나 구글, 메타 등에 학습용 데이터를 제공하는 AI 스타트업인 스케일AI(Scale AI)는 미군 군사계획 수립을 목적으로 한 AI 에이전트 프로그램에 관한 계약을 체결했다.
앤트로픽은 클로드 Gov에 대해 기밀 환경 특유의 요구에 대응하기 위해 구축된 커스텀 모델을 활용해 미국 국가안보 분야 고객에게 책임감 있는 안전한 AI 솔루션을 제공한다는 자사 목표에 기반한 것이라고 설명했다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
정용환 기자
