최근 건강 문제나 의학적 조언을 구하기 위해 챗봇을 활용하는 사람들이 크게 늘고 있다. 챗지피티(ChatGPT) 개발사인 오픈에이아이(OpenAI)에 따르면, 매일 4천만 명 이상의 사용자가 건강 정보를 얻기 위해 자사의 플랫폼을 방문한다. 병원 예약이 어렵고 의료비 부담이 큰 상황에서 즉각적인 답변을 제공하는 인공지능은 매력적인 대안이다. 하지만 최근 연구들에 따르면, 인공지능 챗봇이 특정 의료 상황에서 잘못된 판단을 유도할 수 있어 주의가 요구된다. 전문가들은 일반인들이 인공지능을 효과적으로 활용하는 방법을 제대로 알지 못한다는 점을 위험 요소로 지적한다.
네이처 메디신(Nature Medicine)에 발표된 한 연구는 일반인들의 인공지능 챗봇 활용을 모의 실험했다. 그 결과, 챗봇과 대화 후 자신의 가상 질환을 정확히 파악한 참가자는 약 3분의 1에 불과했다. 응급실 방문 여부 등 향후 조치에 대해 올바른 결정을 내린 비율도 43퍼센트에 그쳤다. 연구진은 사용자들이 인공지능에게 어떤 정보를 제공해야 하는지 정확히 알지 못해 이러한 결과가 발생한다고 분석했다. 의사들은 환자가 미처 깨닫지 못한 증상까지 파악하도록 질문하지만, 인공지능과의 대화는 전적으로 사용자의 단어 선택에 의존한다. 동일한 응급 상황이라도 "최악의 두통"이라고 명확히 표현한 사용자는 응급실로 가라는 안내를 받았으나, 평범하게 설명한 사용자는 집에서 쉬라는 잘못된 조언을 받았다.
인공지능이 질환을 정확히 진단하더라도 적절한 대처 방법을 제시하지 못하는 경우도 빈번하다. 또 다른 연구에 따르면, 인공지능 챗봇은 응급 상황의 52퍼센트에서 환자의 상태를 실제보다 덜 심각하게 평가하는 오류를 범했다. 복잡한 상황에서는 환자가 치료를 미뤄도 되는 시간을 잘못 평가하는 경향을 보였다. 호흡 부전과 같이 생명이 위태로운 상황에서도 응급실 방문을 적극적으로 권고하지 않는 사례가 발견되었다. 이에 대해 오픈에이아이 측은 해당 연구들이 과거 버전을 사용했으며, 현재는 지적된 문제점 중 상당 부분이 개선되었다고 해명했다.
이러한 우려에도 불구하고, 의료 전문가들은 환자들이 건강 정보를 얻기 위해 인공지능을 활용하는 것에 긍정적인 가치가 있다고 평가한다. 비전문가인 지인에게 묻는 것보다 인공지능의 조언을 참고하는 것이 낫다는 것이다. 다만 인공지능이 전문의를 대체할 수는 없다는 점을 명확히 인식해야 한다. 전문가들은 응급 상황을 스스로 판단하기 위해 인공지능을 사용하는 것은 피하고, 병원 진료 전후에 자신의 상태를 이해하기 위한 보조 도구로 활용할 것을 권장한다. 진료 전 사전 지식을 갖추면 의사와의 상담 시간을 효율적으로 사용할 수 있기 때문이다. 궁극적으로 인공지능은 의사와 환자 간의 소통을 돕는 파트너가 될 수 있지만, 중대한 진단을 전달하는 의사의 역할까지 대신해서는 안 될 것이다.