미스트랄AI, 11개 언어 잠재적 유해 콘텐츠 감지 API 출시

프랑스 AI 스타트업인 미스트랄AI(Mistral AI)가 대규모 언어 모델(LLM) 기반 모더레이션 시스템으로 다국어 지원 모더레이션 API를 발표했다.

이 모더레이션 API는 미스트랄AI가 개발한 미니스트랄 8B 파인튜닝 버전을 탑재하고 있으며 성적 콘텐츠, 혐오 발언, 폭력적 내용, 위험한 활동, 개인 식별 정보 등 9개 서로 다른 카테고리에 걸쳐 잠재적으로 유해한 콘텐츠를 감지할 수 있도록 설계됐다.

미스트랄 AI 모더레이션 API는 텍스트용과 대화 콘텐츠용 두 종류가 있으며, 한국어를 비롯ㄱ해 영어, 일본어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 스페인어, 아랍어, 중국어, 러시아어로 학습되어 있어 네이티브 수준 다국어를 지원한다. 미스트랄 AI에 따르면 이 모더레이션 API는 미스트랄 AI가 제공하는 챗봇 서비스인 르챗(Le Chat) 모더레이션 시스템에 사용되고 있다고 한다. 미스트랄 AI는 AI를 유용하게 만들기 위해서는 안전성이 중요하다며 하위 배포를 보호하기 위해서는 시스템 수준 가드레일이 필수적이라고 생각한다고 밝혔다.

보도에 따르면 이번 미스트랄 AI 모더레이션 API 출시는 마이크로소프트 애저, 퀄컴, SAP와의 계약을 포함한 미스트랄 AI 최근 파트너십에 이은 것이다. 미스트랄 AI는 엔터프라이즈 AI 시장에서 점점 더 중요한 플레이어로서의 입지를 다지고 있으며 10월에는 미스트랄 라지(Mistral Large) 2를 포함한 미스트랄 모델을 자사 인프라에서 호스팅하고 유럽 규제를 준수하는 안전한 AI 솔루션을 고객에게 제공할 것이라고 발표했다고 전했다. 또 미스트랄 AI 접근 방식이 주목할 만한 건 엣지 컴퓨팅과 포괄적인 안전 기능 모두에 중점을 두고 있다는 점이라고 언급하며 엄격한 데이터 보호 규제를 받고 있는 유럽 기업에게 데이터 프라이버시와 컴플라이언스에 대한 우려를 해소한 미스트랄 AI 솔루션이 매력적일 것이라고 평가했다. 관련 내용은 이곳에서 확인할 수 있다.