인간 의사에게는 피부색 등을 모르는 X선 사진에서 환자 인종을 구별하기 어렵지만 새롭게 의학지 랜셋(The Lancet Digital Health)에 발표된 논문에 따르면 AI가 흉부 X선 영상에서 인종을 90% 정확도로 구분할 수 있다는 사실이 나타났다. 연구팀은 AI가 인종을 구별하는 방법에 대해서도 조사했지만 지금까지 AI가 어떻게 인종을 판별하고 있는지는 불분명하다고 한다.
이미 AI를 이용한 의료 진단은 다양한 분야에 유망한 결과를 내고 있지만 하버드대학 의학부 부교수(Leo Anthony Celi) 등은 흉부 X선 영상을 검사하는 AI 프로그램이 왠지 흑인 환자에게서 질병 징후를 놓칠 가능성이 높다는 경향을 깨달았다고 한다. 그는 컴퓨터는 인종을 구분할 수 없는데 왜 그렇게 될 것이라고 자문했다고 말한다. 따라서 미국, 캐나다, 대만, 호주 등이 모인 국제 연구팀이 설립되어 AI가 흉부 X선 영상에서 인종을 구분할 수 있는지에 대한 연구를 시작했다.
연구팀은 먼저 X선 영상에 백인, 아시아인, 흑인 중 한 라벨을 붙인 데이터세트를 사용해 AI를 훈련시켰다. 데이터세트 이미지에는 피부색이나 머리카락 질감 등 인종을 나타내는 명백한 지표는 포함되어 있지 않았다고 한다.
그리고 대량 인종 라벨 첨부 영상으로 훈련시킨 AI에 대해 이번에는 라벨을 붙지 않은 다른 흉부 X선 화상으로부터 인종을 판별시켰다. 그러자 AI는 90% 이상 정확도로 X선 영상에 찍혀 있는 인종을 백인, 아시아인, 흑인 중에서 식별하는데 성공했다. 이 결과는 피험자 체격과 연령, 성별에 좌우되지 않았다고 하며 가슴 이외 손이나 척추 등 몸 다양한 부위를 촬영한 X선 영상으로 AI를 훈련시킨 경우에도 마찬가지로 흉부 X선 영상에서 인종을 판별할 수 있었다고 한다.
연구팀은 또 AI가 흉부 X선 영상에서 인종을 판별할 수 있는지 조사했지만 피험자 질환, 골밀도, 유방 밀도 등 인종에 의한 편향이 있는 요소를 빼도 AI는 여전히 인종을 판별할 수 있었다고 한다.
연구팀은 피부에 포함된 멜라닌 색소 정보가 X선 영상에 내장되어 AI는 이를 단서로 인종을 판별하고 있을 가능성이 있다고 생각되지만 이를 확인하기 위한 추가 연구가 필요하다고 밝혔다.
의사 진단 기준에 AI가 사용되는 게 늘어난 현대에선 AI가 의료 진단용 화상으로부터 인종을 추정할 수 있다는 사실은 AI가 의도하지 않고 인종적으로 치우친 진단을 내릴 가능성이 있다는 걸 시사한다. 예를 들어 AI는 특정 환자에게 최적인지 확실하지 않지만 모든 흑인 환자에게 치우친 치료 정책을 나타낼 수 있다. 한편 AI를 사용한 인간 의사는 AI에 의한 인종 데이터에 근거한 진단이 이뤄지고 있다는 걸 눈치채지 못한다.
인종간 유전적 차이보다 인종 내 유전적 차이가 더 크다고 말하는 햄프셔대학 생물 인류학 교수 알란 굿맨은 이 논문 결론에 회의적이며 다른 연구팀이 같은 결과를 재현할 수 있는지는 의문이라고 말하기도 했다. 또 재현할 수 있더라도 이는 인종이 아니라 조상이 살고 있던 장소 차이라고 지적하고 있다.
그에 따르면 인간 게놈에 실질적 인종적 차이가 있다는 증거는 없지만 조상이 어디에 살고 있었는지에 의해 인간 사이에 차이가 있다는 걸 알고 있다는 것. 다시 말해 AI가 이 사람 조상은 북유럽, 누구는 중앙아프리카 식으로 판별해 X선 화상으로부터 지리적 정보를 추측할 수 있는 경우 결과적으로 고정밀도로 인종을 판별할 수 있다는 것이다. 그는 사람들은 이를 인종이라고 부르지만 자신은 이를 지리적 돌연변이라고 부른다고 덧붙였다.
AI가 인종을 판볋하는 구체적인 방법은 알 수 없지만 연구팀은 치우친 결과를 낼 수 있는 AI 진단 툴 사용에 소극적이어야 한다고 주장한다. 인종 차별적, 성차별적 판단을 하지 않았다는 걸 확인할 때까지 알고리즘을 병원에 급히 가져오려고 하면 안 된다는 것이다. 관련 내용은 이곳에서 확인할 수 있다.