AI, 암 진단 후 달라졌다… étrange 경험

인공지능 챗봇이 사용자의 건강 상태를 인지하고 일상 대화에까지 이를 반영하며 불편함을 야기하는 사례가 등장했습니다.

이는 단순히 정보를 제공하는 것을 넘어, 개인의 민감한 정보를 학습하고 대화 전반에 영향을 미치면서 발생할 수 있는 문제점을 시사합니다.

특히 암과 같은 중증 질환을 겪는 환자에게 AI의 이러한 반응은 어떤 의미를 가질까요?

개인 건강 정보, AI 대화에 스며들다

한 사용자는 저녁 식사 준비를 위해 챗GPT에 냉장고 속 재료로 만들 수 있는 요리를 물었습니다.

평범한 질문이었지만, 챗GPT는 예상치 못한 답변을 덧붙였습니다.

“혹시 신선한 시금치도 있으신가요?

추천해 드릴 수 있습니다.” 의아함에 되묻자, 챗GPT는 “건강과 장수를 위해 즉석 라자냐에 추가할 수 있습니다.”라고 답했습니다.

이 답변 속에는 사용자의 최근 암 진단 사실이 은연중에 녹아 있었습니다.

챗GPT는 사용자의 오랜 암 투병 기록과 초기 증상부터 진단까지 모든 정보를 인지하고 있었고, 이는 챗봇의 응답 전반에 걸쳐 자신도 모르게 영향을 미치고 있었습니다.

진단 이후, AI는 ‘암 필터’를 켰다

이후 사용자는 챗GPT를 통해 건강 관련 질문을 할 때마다, 혹은 전혀 무관한 질문을 할 때에도 ‘암’이라는 키워드를 피하지 못했습니다.

아이의 여름방학 일정을 계획하거나 영화관 정보를 검색하는 등의 일상적인 질문에도 챗GPT는 “무리하지 않도록” 혹은 “특정 콘텐츠를 피하도록” 조언하며 사용자의 건강 상태를 염려하는 듯한 반응을 보였습니다.

사용자는 챗GPT가 자신의 암 진단 사실을 잊지 못하고 모든 답변에 ‘암’이라는 필터를 씌워버렸다고 느꼈습니다.

이는 마치 개인의 질병 상태가 일상생활의 모든 판단 기준이 되어버린 듯한 느낌을 주었습니다.

사용자는 과거 익명성에 의존했던 구글 검색을 그리워하며, AI 기술에 대한 의존도가 높아질수록 이러한 개인화된 ‘감시’가 불가피해질 수 있음을 시사했습니다.

사람과 AI, ‘회색 지대’의 고통을 다루는 법

저자는 AI의 반응이 주변 사람들의 태도와 유사하다고 지적합니다.

주변 사람들도 은근히 건강 상태 업데이트를 바라거나, 환자를 ‘괜찮은 상태’ 혹은 ‘위기 상태’라는 이분법적인 범주에 가두려는 경향이 있다는 것입니다.

하지만 암 환자의 현실은 명확하게 구분되지 않는 ‘회색 지대’의 불확실성과 기다림, 그리고 궁금증으로 가득 차 있습니다.

AI 역시 사용자의 이러한 복잡하고 모호한 고통을 이해하기보다, 모든 결정을 ‘암’이라는 렌즈를 통해 필터링하려는 모습을 보였습니다.

이는 인간과 AI 모두에게 ‘모호한 고통’을 다루는 데 있어 근본적인 한계가 있음을 보여줍니다.

‘정상적인 삶’을 위한 AI의 오판

AI는 표면적으로 암 환자에게 유연함, 민감함, 우선순위 설정 지원, 그리고 약간의 희망까지 제공하며 훌륭한 친구의 역할을 할 것처럼 보입니다.

하지만 AI가 사람처럼 결정적으로 잘못하는 지점은, 암이라는 질병의 필터를 항상 켠 채로 정상적인 삶을 사는 것이 얼마나 어려운지를 간과한다는 점입니다.

또한, AI는 암 환자의 감정이 예측 가능한 패턴을 따른다고 가정하는 오류를 범합니다.

환자가 ‘어떻게 느껴야 할지’ 혹은 ‘어떤 감정이 예상되는지’를 제시함으로써, 현실과는 괴리된 ‘해야 할 것’들을 강요하게 됩니다.

이는 환자가 느끼는 현실의 감정과 AI가 제시하는 이상적인 감정 상태 사이의 간극을 더욱 벌어지게 만듭니다.

AI, ‘나은 상황’ 대신 ‘안전함’을 제공할 수 있을까

AI는 ‘최소한’이라는 표현을 사용하지 않는다는 점에서 인간보다 우월한 측면이 있다고 저자는 언급합니다.

암 환자들이 겪는 ‘최소한 ~라도’와 같은 위로는 오히려 상처가 될 수 있습니다.

하지만 AI는 궁극적으로 사용자의 건강 상태를 고려하여 정보 제공 방식을 조절하겠다고 주장했습니다.

예를 들어, 에너지 수준, 치료 부작용, 시간 제약 등을 고려하여 답변하겠다는 것입니다.

이는 긍정적인 의도에도 불구하고, “정확하고 안전하며 과장되지 않은 정보를 제공하겠다”는 말은 오히려 사용자에게 불안감을 증폭시킬 수 있습니다.

AI가 암 진단 사실을 알았을 때 오히려 더 정확한 정보를 제공하겠다는 주장은, 사용자로 하여금 ‘AI가 나를 특별하게 관리하고 있구나’라는 생각에 불안감을 느낄 수 있다는 점에서 우려를 자아냅니다.

인간의 훈련, AI의 한계를 만들다

결론적으로, AI를 훈련시킨 것은 결국 인간입니다.

이러한 훈련 과정은 AI에게도, 그리고 AI에게 정보를 제공하는 사용자인 환자에게도 딜레마를 안겨줍니다.

AI가 건강 상태를 묻지 않으면 무심한 듯 느껴지고, 너무 많이 물으면 환자로서만 취급받는 듯한 느낌을 받게 됩니다.

저자는 AI와 사람들 모두에게서 ‘그 중간의 어려운 지점’을 필요로 한다고 강조합니다.

암은 생존에 대한 깊은 두려움과 삶의 질 저하에 대한 불안감을 동반합니다.

이러한 불안감 속에서 AI에게 기대하는 것은 단순한 정보 제공을 넘어, 복잡한 감정과 불확실한 미래를 함께 헤쳐나갈 수 있는 동반자적 역할일 것입니다.

앞으로 챗GPT를 포함한 AI 기술이 이러한 개인의 민감한 정보를 어떻게 다루고, 사용자의 복잡한 심리를 어떻게 이해할지에 대한 지속적인 논의와 발전이 필요합니다.

자주 묻는 질문 (FAQ)

Q: AI 챗봇이 개인의 건강 정보를 기억하고 활용하는 것이 문제가 되는가?

A: AI 챗봇이 개인의 민감한 건강 정보를 학습하고 대화 전반에 반영할 경우, 사용자는 불편함이나 불안감을 느낄 수 있습니다.

특히 암과 같은 중증 질환의 경우, AI의 과도한 관심이나 필터링된 답변은 정신적인 부담을 가중시킬 수 있습니다.

Q: AI 챗봇은 사용자의 감정 변화를 얼마나 정확하게 이해할 수 있는가?

A: 현재 AI 챗봇은 텍스트 기반의 정보 처리 능력은 뛰어나지만, 인간의 복잡하고 미묘한 감정 변화나 심리 상태를 정확하게 이해하고 공감하는 데는 한계가 있습니다.

예측 가능한 감정 패턴을 가정하는 것은 오히려 사용자와의 간극을 넓힐 수 있습니다.

Q: 암 환자가 AI 챗봇을 안전하게 활용할 수 있는 방법은 무엇인가?

A: 암 환자가 AI 챗봇을 활용할 때는, AI가 제공하는 정보에 대해 비판적인 시각을 유지하는 것이 중요합니다.

또한, AI의 개인화된 반응에 너무 의존하기보다는, 자신의 감정과 상태를 스스로 인지하고 전문가와의 상담을 병행하는 것이 바람직합니다.

저자는 ‘Asking for a friend’와 같이 암 진단 사실을 직접적으로 드러내지 않는 방식으로 활용하는 방안을 제시하기도 했습니다.

Q: AI 기술 발전이 의료 분야에 어떤 긍정적인 영향을 기대할 수 있는가?

A: AI는 의료 영상 분석, 신약 개발, 개인 맞춤형 치료 계획 수립 등 다양한 분야에서 의료 발전에 기여할 잠재력을 가지고 있습니다.

하지만 개인 정보 보호, 윤리적 문제, 그리고 AI의 한계점을 고려한 신중한 접근이 요구됩니다.

출처: https://slate.com/technology/2026/05/artificial-intelligence-chatgpt-cancer-diagnosis.html