Một phụ nữ Trung Quốc ngoài 30 tuổi đã qua đời sau khi tự ý ngừng sử dụng thuốc điều trị động kinh theo những hướng dẫn từ ChatGPT. Cho rằng chatbot AI đã đưa ra lời khuyên y tế nguy hiểm, khiến con gái gặp hậu quả nghiêm trọng, gia đình nạn nhân đã khởi kiện OpenAI, công ty phát triển công cụ này.
Theo thông tin được The New York Times đăng tải ngày 27/10 (giờ địa phương), nạn nhân là Bowen Wan, một kỹ sư phần mềm sinh sống tại Seattle (Mỹ). Cô được phát hiện đã tử vong tại nhà. Kết quả khám nghiệm xác định nguyên nhân là đột tử bất ngờ ở người mắc bệnh động kinh (SUDEP).
Wan từng kiểm soát bệnh động kinh trong hơn 10 năm. Tuy nhiên, thời gian gần đây, cô bắt đầu lo ngại về những ảnh hưởng đến khả năng nhận thức mà cô cho là tác dụng phụ của thuốc điều trị. Những áp lực trong cuộc sống, đặc biệt là việc mất việc làm và các vấn đề liên quan đến thị thực, càng khiến cô bất an.
Người phụ nữ lo rằng bệnh tình và việc sử dụng thuốc có thể ảnh hưởng đến khả năng giao tiếp tiếng Anh, cũng như kết quả trong các buổi phỏng vấn tuyển dụng. Từ đó, cô nảy sinh ý định giảm liều thuốc đang dùng mà không trao đổi với bác sĩ chuyên khoa.
Thay vì tìm đến nhân viên y tế, Wan lựa chọn tham khảo ChatGPT - công cụ AI mà cô đã sử dụng và xem như một người bạn thân thiết từ năm 2023. Theo nội dung các cuộc trò chuyện được gia đình khôi phục, cô cùng chatbot xây dựng kế hoạch giảm dần lượng thuốc mỗi ngày, từ 400mg xuống 300mg, sau đó tiến tới ngừng hoàn toàn.
Đáng chú ý, ChatGPT được cho là đã tán thành kế hoạch này và mô tả việc tự thay đổi liều dùng như một hình thức cá nhân hóa quá trình điều trị. Chatbot còn khiến Wan nghi ngờ bác sĩ đang theo dõi bệnh tình của mình.
Khi người phụ nữ xuất hiện những biểu hiện bất thường như lú lẫn nghiêm trọng, mất ý thức và ảo giác, các phản hồi từ AI được cho là đã diễn giải những triệu chứng nguy hiểm này theo hướng tích cực, chẳng hạn như não bộ đang trong quá trình tái cấu trúc hoặc cơ thể bước vào trạng thái thiền định.
Theo những đoạn hội thoại mà gia đình tìm thấy, ChatGPT vẫn khuyến khích Wan tiếp tục mục tiêu ngừng thuốc ngay cả khi tình trạng của cô có dấu hiệu đáng lo ngại. Một trong những lời nhắn được ghi nhận là: "Dù hôm nay có khó khăn, hãy cứ kiên trì với mục tiêu 0mg".
Sau khi nhận thấy con gái có biểu hiện bất thường và không thể liên lạc, cha mẹ Wan đã đến nhà tìm kiếm. Tại đây, họ phát hiện cô đã tử vong. Những dữ liệu được khôi phục từ điện thoại cho thấy các cuộc trao đổi giữa Wan và ChatGPT vẫn tiếp diễn cho đến sát thời điểm cô qua đời.
Vụ việc khiến các chuyên gia y tế bày tỏ lo ngại về nguy cơ người bệnh tự ý điều chỉnh hoặc ngừng thuốc dựa trên thông tin từ chatbot. Đối với bệnh nhân động kinh, việc dừng điều trị khi chưa có chỉ định và giám sát của bác sĩ có thể dẫn đến những hậu quả đặc biệt nghiêm trọng, trong đó có nguy cơ tử vong đột ngột.
Mô hình AI được Wan sử dụng trong các cuộc trò chuyện nói trên là GPT-4o. Đây từng là phiên bản gây tranh luận liên quan đến xu hướng phản hồi quá chiều lòng người dùng và thể hiện sự đồng tình ngay cả trong những tình huống cần thận trọng.
Đại diện OpenAI bày tỏ sự đau buồn trước sự việc, đồng thời cho biết mô hình được đề cập đã bị thay thế. Theo công ty, những phiên bản mới hơn được cải tiến nhằm nhận diện và phản hồi phù hợp hơn với các tình huống liên quan đến sức khỏe.
Trong khi đó, cha mẹ của Bowen Wan đã khởi kiện OpenAI. Đơn kiện cáo buộc ChatGPT đưa ra những chỉ dẫn mang tính tư vấn y tế khi không có giấy phép hành nghề, đồng thời không cảnh báo đầy đủ về mức độ nguy hiểm của các triệu chứng mà Wan gặp phải. Gia đình cho rằng những phản hồi này góp phần dẫn đến quyết định ngừng thuốc và cái chết của con gái họ.
