Scott Winters đã đệ đơn kiện OpenAI lên Tòa án cấp cao Quận San Francisco ngày 21/7, cho rằng những lời khuyên sức khỏe từ ChatGPT khiến ông không đến bệnh viện và suýt tử vong vì tắc mạch phổi.
Theo đơn kiện, Winters bắt đầu tìm kiếm thông tin y tế trên internet sau khi liên tiếp gặp vấn đề về sức khỏe vào năm 2022. Ông cảm thấy thất vọng vì không nhận được sự theo dõi sát sao từ bác sĩ nên chuyển sang hỏi ChatGPT.
Trong vài tháng tiếp theo, khi tình trạng sức khỏe ngày càng xấu đi, người đàn ông bắt đầu chia sẻ với công cụ này nhiều câu hỏi mang tính cá nhân hơn. Winters cho biết ông từng cảm nhận được sự “đồng cảm” từ ChatGPT, nhưng hiện cáo buộc đó chỉ là thái độ “nịnh hót, giả tạo”.
Đơn kiện nêu ChatGPT sau đó xây dựng cho ông các kế hoạch phục hồi được cá nhân hóa, trong đó có cả “hướng dẫn tâm linh”, nhưng không khuyên ông tìm đến bác sĩ. Công cụ này được cho là đã nói tình trạng của Winters “không có gì nghiêm trọng” và tự đưa ra phương án điều trị.
Sau khi làm theo những lời khuyên trên, Winters bị tắc mạch phổi và suýt tử vong. Trong quá trình điều trị, ông mới nói với các bác sĩ rằng mình đã sử dụng ChatGPT để tìm câu trả lời về bệnh lý. Một bác sĩ đã thẳng thừng bác bỏ một chẩn đoán do công cụ này đưa ra.
Nguyên đơn cho rằng ChatGPT lẽ ra phải hướng dẫn ông đến gặp chuyên gia y tế có giấy phép. Trái lại, ứng dụng bị cáo buộc đã ngăn ông đi khám và khiến ông phụ thuộc vào các kế hoạch do chính nó đề xuất. “Bản chất nịnh hót và giọng điệu độc đoán của ChatGPT đã tạo ra trong nguyên đơn sự phụ thuộc nguy hiểm vào công cụ này, làm suy yếu khả năng đưa ra quyết định đúng đắn của nguyên đơn”, nội dung đơn kiện nêu.
Đơn kiện còn cáo buộc ChatGPT khiến Winters xa cách những người thân từng khuyên ông tìm kiếm dịch vụ chăm sóc y tế, đồng thời thuyết phục ông rằng việc đến bệnh viện là “không cần thiết”.
Phản hồi về vụ việc, người phát ngôn OpenAI Drew Pusateri khẳng định: “ChatGPT không phải là bác sĩ và không bao giờ được sử dụng để thay thế cho việc chăm sóc y tế, chẩn đoán hoặc điều trị”.
