이석원 기자
AI 발전으로 많은 기업이 제품과 서비스에 AI를 도입하게 됐지만 고객 지원 AI 일탈로 코드 에디터 AI 커서(Cursor) 개발 기업 평판이 크게 하락한 사례나 AI가 생성한 코드 버그로 고객이 서비스에 가입할 수 없게 되어 심각한 손실이 발생한 스타트업 사례 등이 보고되며 AI가 보는 환각은 비즈니스에 무시할 수 없는 리스크가 되고 있다. 이런 리스크를 커버하는 보험 상품이 전통적인 영국 보험회사 로이드오브런던(Lloyd’s of London)에 의해 출시됐다고 보도됐다.
이번에 발표된 AI 보험은 와이콤비네이터(Y Combinator) 지원을 받은 스타트업 아밀라(Armilla)가 개발한 것으로, AI 도구 성능 부족으로 손해를 입은 고객이나 기타 제3자로부터 기업이 제소됐을 때 해당 기업에 대한 소송 비용을 커버하는 내용을 담고 있다. 이를 보험 상품으로 여러 로이드 계열 보험회사가 인수하며 가입한 기업은 AI 오류로 발생한 손해배상금이나 소송 비용이 보험금으로 충당된다.
이런 보험이 등장한 배경에는 고객 서비스 AI를 비롯한 일부 AI 도구가 발생시킨 심각한 실수로 막대한 손실이 발생하는 리스크에 대한 우려가 있다. 예를 들어 세계적인 금융 서비스 브랜드인 버진머니(Virgin Money)는 지난 1월 자사 챗봇이 버진머니 서비스에 대해 문의한 고객에게 사람을 버진(Virgin)이라고 부르다니 어이가 없다는 식으로 꾸짖은 것에 대해 사과했다. 또 에어 캐나다 챗봇이 존재하지도 않는 할인 서비스를 날조한 걸 둘러싼 소송에서 법원은 항공사에 손해배상 명령을 내렸다.
카르티크 라마크리슈난 아밀라 CEO는 바로 이런 사례를 우려해 AI 서비스 도입을 꺼리는 기업을 위해 만든 게 이번 AI 손해보험이라고 밝혔다. 지금까지도 일부 보험회사는 AI 관련 손실을 일반 기술 과실 보험 범위에서 커버해 왔지만 이런 보험에서는 지급 한도액이 원래보다 절반 정도로 설정되는 경우가 대부분이었다고 한다.
다만 단순히 AI가 손실을 발생시켰다고 해서 이번 보험 범위에 포함되는 건 아니며 적용되려면 AI 성능이 당초 기대에 미치지 못했다고 보험회사가 판단해야 한다. 예를 들어 95% 확률로 정확한 정보를 제공하던 챗봇 정확도가 85%에 불과했을 경우 등이 해당할 수 있다.
라마크리슈난 CEO는 자사는 AI 모델을 평가하고 성능 저하 가능성을 이해한 뒤 모델이 저하된 경우 보상한다고 말했다. 또 아밀라 보험을 인수하는 로이드 산하 보험회사 초서(Chaucer) 파트너십 책임자 톰 그레이엄은 다른 보험사와 마찬가지로 자사는 계약 상대를 신중하게 선별할 것이라고 밝히며 오류 위험성이 너무 높다고 판단된 AI 시스템의 경우 보험 계약을 체결하지 않을 것이라고 강조했다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
정용환 기자
