AI나 고도의 컴퓨팅 능력을 가진 컴퓨터를 활용해 미래를 예측하고 바람직하지 않은 일을 사전에 방지하고자 하는 아이디어가 있다. 노스캐롤라이나대 철학 교수이자 AI와 언어 모델 작동 원리를 연구하는 토마스 호프웨버(Thomas Hofweber) 교수가 AI가 개인 미래를 예측하는 것에 대한 타당성과 윤리성에 대해 설명해 눈길을 끈다.
그는 먼저 결혼을 고려 중인 한 커플을 예로 들었다. 이 커플이 원만한 결혼 생활을 할 수 있을까 생각한다면 예를 들어 통계적으로 결혼한 커플 10%가 5년 이내에 이혼한다는 게 보여진다.
AI는 통계보다 개인에 더 초점을 맞춘 예측을 할 수 있을 것으로 생각된다. 학습 데이터로 다량 커플이 각각 어떤 검색을 했는지 어떤 구매 경향이 있는지 SNS에서 어떤 발언을 했는지를 학습한다. 그런 다음 예측하려는 커플 정보를 입력하면 이 커플 결혼 생활이 잘 될 것인지에 대한 더 구체적인 예측이 출력될 것이다.
하지만 가령 AI 예측 결과가 이 커플은 결혼해도 5년 이내에 이혼할 가능성이 95%라고 나온다고 해도 행동이 제한되는 건 아니다. 커플에겐 3가지 선택지가 있다. 하나는 그 예측이 틀렸기를 바라며 결혼하는 것. 다음으로 높은 확률로 해체될 관계라면 지금 헤어지는 것. 마지막으로 예측된 건 결혼해서 이혼할 가능성이므로 미혼으로 함께 있는 선택지도 있다.
여기서 문제점은 이유를 이해할 수 없다는 것이다. 이런 이유로 이혼할 가능성이 높다고 전해진다면 이를 주의해서 결혼생활을 하거나 그 이유라면 결혼을 선택하지 않기로 결심할 수 있다. 하지만 AI에는 불확실성과 해석 불가능성이 있어서 그 불투명성이 미래 예측에 따른 선택지를 망치게 된다.
다른 예로 은행이 융자를 할 때 이 고객이 상환할 수 있을지를 AI가 예측하는 경우 또는 수감자 가석방 시 이 사람이 교도소로 돌아갈 가능성이 높다고 AI가 판단해 가석방이 허용되지 않는 경우를 들 수 있다. 잠재적으로 유용한 예측 모델로 인정받더라도 해당 시스템이 어떻게 작동하는지도 모른 채 AI 결정을 따르는 건 상당히 문제가 있다는 것을 직관적으로 느낄 것이다.
불투명성과 설명 책임은 중요한 결정을 AI에 위임해 발생하는 트레이드오프의 한 예시에 불과하다. 만일 AI 모델에 자신의 결정을 맡기는 데 저항감이 없다면 아마도 예측 정확성만을 중시하고 있기 때문일 것이다. 왜 예측 정확도가 높은지에 대한 근거를 고려하지 않는다면 AI는 미래 예측이 가능하다고 할 수 있다.
하지만 개인적인 주제에 대해 예측을 할 때에는 정확성보다 신뢰성을 중시해야 한다고 호프웨버 교수는 말한다. AI는 미래 가능성을 제시할 수 있지만 선택하거나 실패를 각오할 수 있는 것은 개개인의 특권이다.
또 95% 높은 정확도라도 완벽하지는 않다. 예측이 정확하더라도 20번에 한 번은 잘못된 예측을 하게 된다. 여기서 문제는 이 예측 서비스를 이용하는 커플이 늘어날수록 AI가 이혼하라고 했으니까라며 이혼할 확률이 높아지고 AI 예측 데이터를 점검하지 않고서도 정답률이 올라간다는 점이다. 호프웨버 교수는 AI 예측은 인위적이거나 자기실현적인 성격으로 인해 정확도를 높일 가능성이 있다고 표현했다.