"챗GPT 조언이 의사 진단보다 위"…AI, 섭식 장애 치료 흔든다

'챗GPT'를 비롯한 생성 AI가 건강 상담 도구로 빠르게 확대되면서, 섭식 장애 환자들이 치료 과정에서 AI의 답변을 의사의 진단보다 더 신뢰하는 사례가 늘고 있다. 전문가들은 AI가 그럴듯한 답변을 제시하더라도 환자의 임상적 맥락을 이해하지 못해 치료를 방해하거나 위험한 행동을 부추길 수 있다며 우려를 나타냈다. 10일(현지시간) 월스트리트저널(WSJ)에 따르면, 미국의 섭식 장애 전문 치료기관 이팅 리커버리 센터(Eating Recovery Center)의 최고 임상책임자 앤 오멜리아 박사는 "환자들이 진료 도중 챗GPT를 켜고 의사가 방금 한 말에 오류가 없는지 실시간으로 팩트 체크를 하는 경우가 허다하다"라며 "현재 관리하는 환자의 절반가량이 매일 이러한 행동을 보인다"라고 밝혔다. 치료 현장에서는 AI가 제시한 조언을 바로잡느라 정작 필요한 치료가 지연되는 사례도 잇따르고 있다. 미국 켄터키주의 치료사 한나 린지는 "챗봇이 일주일에 다섯번 헬스장에 가고 오트밀만 먹으라고 했다고 말하는 환자는 트라우마 치료를 뒤로 미루고 잘못된 식단부터 수정해야 한다"라고 설명했다. 전문가들이 특히 우려하는 이유는 섭식 장애가 정신질환 가운데 진통제인 '오피오이드(opioid)' 중독 다음으로 사망률이 높은 질환이기 때문이다. 환자들은 극단적인 운동이나 과도한 식이 제한을 불안과 우울을 해소하는 방법으로 합리화하는 경우가 많은데, 사용자의 요구에 맞춰 공감하고 동의하도록 설계된 AI 챗봇이 이러한 왜곡된 사고를 강화할 위험이 있다는 지적이다. 또 AI는 사용자의 진단 정보를 정확히 알지 못한 채 일반적인 영양학이나 운동 정보를 종합해 답변하는 경우가 많다. 근육량을 늘리려는 보디빌더와 영양실조 상태의 섭식 장애 환자가 비슷한 질문을 하더라도, AI는 두 사람의 임상적 차이를 충분히 구분하지 못할 수 있다. 반면 AI 기업들은 관련 안전장치를 지속적으로 강화하고 있다고 설명했다. 오픈AI는 임상의들의 의견과 실제 사례를 반영해 섭식 장애 대응 정책과 안전장치를 지속적으로 개선하고 있으며, 독립 연구에서는 과거 챗GPT에 적용됐던 'GPT-5.4' 모델이 섭식 장애를 안정적으로 인식하고 근거 기반 치료를 권고하는 성능을 보였다고 밝혔다. 앤트로픽도 '클로드'에 섭식 장애 징후를 감지하는 분류기를 적용해 칼로리 계산이나 체중 감량 조언처럼 유해한 정보를 제공하지 않도록 설계했다고 설명했다. 올해는 섭식 장애 전용 안전성 평가도 새로 도입했으며, 최신 모델 '클로드 오퍼스 4.8'과 '페이블 5'는 위험 프롬프트를 각각 99.8%, 99.7%의 정확도로 식별했다고 밝혔다. 구글도 '제미나이'가 의료 전문가 상담을 우선 권고하도록 설계됐으며, 모델의 안전성과 정확성을 지속적으로 개선하고 있다고 설명했다. 하지만, AI의 한계는 이전부터 계속 지적됐다. 2023년 미국 섭식장애협회(NEDA) 웹사이트에 도입된 챗봇은 승인되지 않은 체중 감량 조언을 제공한 사실이 확인돼 서비스가 중단됐다. 조사 결과 해당 챗봇에는 협회도 인지하지 못한 생성 AI가 적용돼 있었으며, 협회는 현재까지 챗봇 서비스를 재개할 계획이 없다고 밝혔다. AI가 긍정적인 역할도 일부 하고 있다는 평가도 나온다. 미국 섭식장애연합에 따르면 지난달 상담전화의 7.6%가 챗GPT 등 AI 플랫폼의 안내를 통해 연결됐으며, 이는 1년 전 0.5% 미만에서 크게 증가한 수치다. AI가 위험 신호를 인식해 전문가 상담을 권유하는 사례가 늘고 있다는 의미다. 그럼에도 전문가들은 AI가 섭식 장애 환자의 복잡한 심리와 의학적 상태를 완전히 이해하기는 아직 어렵다고 입을 모은다. 특히 언제든 이용 가능한 AI가 진료실 밖에서는 다시 환자의 '조언자' 역할을 하면서 치료 효과를 약화할 수 있는 만큼, 소셜미디어가 섭식 장애 확산에 미친 영향을 교훈 삼아 생성 AI 기업들이 더 정교한 안전장치를 마련해야 한다고 강조했다. 박찬 기자 cpark@aitimes.com