정용환 기자
최근 오픈AI 챗GPT나 구글 제미나이 같은 생성 AI가 일상생활에 침투하면서 평소 다양한 질문을 챗봇 AI에게 던지는 이들이 많아지고 있다. 새로운 연구에 따르면 많은 이들이 의료 관련 질문을 챗봇 AI에게 하고 있는 것으로 밝혀졌지만 전문가는 이에 위험이 따른다고 경고하고 있다.
생성 AI는 이미 일상생활에 침투해 있지만 등장한 지 얼마 되지 않은 불안정한 기술이며 잘못된 내용을 마치 진실인 것처럼 출력해버리는 환각 문제도 존재한다.
이에 호주 시드니 대학 헬스리터러시랩 연구팀은 2024년 6월 2,000명 이상 호주인을 대상으로 설문조사를 실시해 건강에 관한 질문을 하기 위해 챗GPT를 사용했는지 여부를 물었다.
조사 결과, 응답자 10명 중 1명(9.9%)이 2024년 상반기 챗GPT에 건강 관련 질문을 한 것으로 나타났다. 응답자에게 챗GPT를 얼마나 신뢰하는지 평가하게 한 결과 5점 만점에 3.1점이라는 결과가 나와 응답자가 어느 정도 챗GPT를 신뢰하고 있음이 드러났다. 또 아직 챗GPT에 건강 관련 질문을 하지 않은 응답자 중 향후 6개월 내에 챗GPT를 사용할 걸 고려하고 있다고 답한 비율은 39%에 달했다.
연구팀 조사에 따르면, 건강 문제 질문에 챗GPT를 사용한 사람은 건강 문제 리터러시가 낮고 영어권 이외 국가에서 태어나고 집에서 영어 이외 언어로 말하는 경향이 있었다. 이 결과는 챗GPT가 호주에서 익숙한 형태 건강 정보를 접하기 어렵다고 느끼는 이들에게 유망한 선택지가 되고 있음을 시사한다.
응답자가 건강에 관해 챗GPT를 이용한 일반적인 목적은 건강 상태에 대해 배우기(48%), 증상 의미를 알아보기(37%), 자신이 어떻게 해야 할지 물어보기(36%), 의학 용어에 대해 이해하기(35%) 등으로 나타났다.
챗GPT를 사용한 응답자 60% 이상은 일반적으로 임상적 조언을 구해야 할 질문을 하고 있었다. 연구팀은 이런 전문적인 질문을 챗GPT에게 하는 것은 위험이 높으며 챗GPT 답변이 임상적 조언을 대체할 수 없다고 지적한다.
이번 설문조사에서는 챗GPT에 대해서만 질문했지만 범위를 구글 제미나이나 마이크로소프트 코파일럿 등으로 확대하면 건강 정보를 찾기 위해 AI를 사용하는 비율은 더 증가한다. 연구에서는 영어권 이외 문화나 언어를 가진 이들이 AI를 사용하는 경향이 나타났으며 이는 영어 이외 언어를 사용하는 게 건강 정보를 얻는 데 장벽이 될 수 있다는 점을 시사한다.
확실히 생성 AI는 거주하는 국가나 문화에서 건강 정보를 얻기 어려운 이들에게 건강 정보에 접근할 중요한 기회를 제공한다. 실제로 2023년 연구에서는 생성 AI 도구가 복잡한 건강 주제에 대해서는 정확도가 낮지만 일반 건강 정보에 대해 더 쉬운 언어로 전달할 수 있음이 나타났다. 많은 건강 정보가 일반인들에게 너무 복잡하고 읽기 어려운 형태로 되어 있어 이는 명확한 이점이라고 할 수 있다.
반면 질병 진단이나 병원을 방문해야 하는지 여부를 AI에게 물어볼 경우 직접 환자를 진찰해야만 알 수 있는 문제가 간과되기 쉬우며 환자에게 위험이 커질 수 있다. 실제로 과거에는 다음에 증상이 나타나면 병원을 방문하라고 전달받은 환자가 2번째 증상이 나타났을 때 챗GPT에 조언을 구하고 결과적으로 3번째 증상이 나타날 때까지 진료를 미룬 사례도 보고됐다.
연구팀은 많은 호주 의료기관이 AI 정책을 수립하고 있지만 대부분은 의료 서비스나 직원이 AI와 어떻게 관련될지에 초점을 맞추고 있다며 커뮤니티에 AI 헬스 리터러시 기술을 습득시키는 게 시급하며 이 필요성은 더 많은 이들이 건강을 위해 AI 도구를 사용하게 되면서 증가하고, AI 도구 진화와 함께 변화할 것이라고 호소했다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
이석원 기자
