美 최대 의료보험사, AI로 의료 보장 부당 거부?

미국 최대 의료보험사인 유나이티드헬스(UnitedHealth)가 중대한 결함이 있는 AI 알고리즘을 사용해 보장을 거부했다며 사망한 피보험자 유족이 소송을 제기했다.

미국 미네소타주 연방 지방 법원에 제출된 소장에 따르면 유나이티드헬스는 결함이 있는 AI를 사용해 이 결과를 지지하며 보증을 거부했다는 것. 유나이티드헬스는 보험금을 지불하는 것 외에도 유나이티드헬스와 제휴한 병원에서의 약 처방이나 치과 치료 서비스 등 의료 서비스를 제공하고 있다.

유나이티드헬스가 사용한 AI인 nH 프레딕트(nH Predict)는 보험 플랜에 가입한 환자가 전도나 뇌졸중 같은 급성 부상이나 질병을 일으킨 뒤 얼마나 입원 기간이나 의료 처치가 필요한지를 추정하는 것이었다. 이 AI가 얼마나 정확하게 기능하는지는 불분명하지만 환자 600만 명 의료 사례를 포함한 데이터베이스를 참조하는 것으로 추정되며 유나이티드헬스는 AI가 내놓은 결과를 바탕으로 재활 프로그램 실시 기간이나 개호 시설 이용 기간 등 보증 내용을 결정해왔다.

nH 프레딕트는 유나이티드헬스 자회사인 나비헬스(NaviHealth)가 작성한 것이었다. 이번 소송은 직원과 인터뷰를 하는 등 nH 프레딕트 조사와 병행해 이뤄진 것이었다. 나비헬스 전 직원에 따르면 nH 프레딕트는 환자에게 병존 질환이 있거나 입원 중 질병이 발생한 경우 같은 기타 많은 관련 요인을 고려하지 않았다는 것. 기존 플랜에선 100일간 케어를 받을 수 있는 것이지만 최대 14일 보장하면 충분하다고 결론짓는 등 nH 프레딕트 추정은 상당히 엄격했다.

이런 AI가 만들어진 배경에는 유나이티드헬스가 피보험자에게 제공하는 케어를 가능하면 짧고 낭비 없게 하려는 방침으로 전환한 게 지적되고 있다. 전 직원 증언에 따르면 유나이티드헬스가 2020년 나비헬스를 인수한 이후 환자에 대한 케어 제공 기간을 가능하면 짧게 하고 질병, 상처 발생 이후 케어를 낭비 없이 실시하는 등 중시되어 회사 임원 등은 환자를 가능하면 빨리 퇴원시키려면 어떻게 하면 좋겠냐고 발언한 적도 있었다고 한다.

환자로서는 가능하면 오랫동안 보장을 받고 싶겠지만 AI 예측에 근거한 최소 케어만 받는 걸 강요당한 사람도 있었다고 한다. 다만 환자는 보험 적용 내용을 불복으로 신청할 수 있다. 이번 소송 원고는 만일 피보험자 전원이 불복을 제기하면 90% 이상이 인정될 것이라고 주장하고 유나이티드헬스는 AI가 분명히 부정확한 값을 내고 있다는 걸 이해해야 했다며 알고리즘이 실수로 보험 적용을 거부하고 있는 건 분명하다고 호소했다. 관련 내용은 이곳에서 확인할 수 있다.