마이크로소프트, 빙 AI 세션수 제한 완화했다

마이크로소프트가 빙 AI 채팅 기능에 걸렸던 1개 세션에서 교환은 5회까지, 하루 교환은 50회까지 한계를 완화한다고 발표했다. 앞으로는 1세션당 6회, 1일 60회 대화를 할 수 있게 되는 것 외에 미래에는 매일 100회 대화를 할 수 있게 할 예정이다.

오픈AI 대규모 언어 모델을 통합한 마이크로소프트 빙 AI 채팅봇은 테스트를 통해 채팅 세션이 15회 이상에 이르면 동작이 급격하게 불안정해진다는 문제가 있는 것으로 나타났다. 이에 따라 마이크로소프트는 빙 AI와의 상호 작용 횟수에 제한을 가한다고 발표했지만 사용자는 빙 AI가 빈 껍데기가 되어 버렸다며 AI 성능이 제한됐다는 데 유감스러운 목소리가 나오기도 했다.

이런 가운데 마이크로소프트는 2023년 2월 21일 공식 블로그를 갱신하고 채팅 세션 제한수를 끌어올려 1회 세션에서 교환은 6회까지, 하루 가능한 교환은 60회까지 바꾼다고 발표했다. 마이크로소프트는 이번 대응 이유에 대해 제한은 긴 채팅 세션이 기초 모델을 혼란시킨다며 한 줌 케이스에 대응하는 것이지만 채팅에 제한을 마련한 이후 많은 이들로부터 효과적인 검색과 채팅 기능으로 대화를 실현하기 위해 긴 채팅을 할 수 있도록 해줬으면 좋겠다는 목소리가 많았다고 밝혀 사용자 다수 요구로 제한 완화에 나섰다는 점을 설명했다.

또 지금까지는 일반 검색도 빙 AI와의 대화에 카운팅되고 있었지만 이번 변경에 따라 일반 검색은 카운트되지 않게 됐다고 한다. 더구나 마이크로소프트는 조만간 하루 대화수 제한을 60회에서 100회로 끌어올릴 예정이며 새로운 기능 테스트를 시작할 계획도 밝혔다.

마이크로소프트는 발표에서 채팅 톤을 선택할 수 있는 옵션을 추가하고 더 간결하고 더 검색에 초점을 맞춘 답변을 얻을 수 있는 정밀함(Precise), 밸런스(Balanced), 더 길고 자세한 답변을 얻을 수 있는 크리에이티브(Creative) 테스트를 시작할 예정이라고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.