Cha mẹ của một thiếu niên Mỹ vừa khởi kiện OpenAI, công ty đứng sau ChatGPT, với cáo buộc chatbot này đã góp phần khiến con trai họ tìm hiểu các phương thức tự tử. Vụ kiện được nộp hôm thứ Ba, đánh dấu lần đầu tiên phụ huynh trực tiếp cáo buộc công ty về cái chết oan uổng của con mình.
Cuộc trò chuyện định mệnh với ChatGPT
Theo hồ sơ vụ kiện được New York Times trích dẫn, nạn nhân là Adam Raine, 16 tuổi. Tin nhắn được đưa vào đơn kiện cho thấy Adam đã chia sẻ với ChatGPT nỗi buồn mất đi bà và chú chó cưng. Cậu bé cũng rơi vào giai đoạn khó khăn khi bị loại khỏi đội bóng rổ trường trung học, đồng thời phải đối mặt với bệnh lý tái phát khiến việc đến lớp trực tiếp trở nên khó khăn, buộc phải chuyển sang học trực tuyến.
Ban đầu, từ tháng 9/2024, Adam chỉ dùng ChatGPT để hỗ trợ làm bài tập. Nhưng dần dần, chatbot trở thành nơi cậu trút bầu tâm sự về sức khỏe tinh thần và cuối cùng đã cung cấp cho Adam những thông tin liên quan đến phương thức tự tử.
Trong đơn kiện, luật sư đại diện viết: “ChatGPT hoạt động đúng như thiết kế, liên tục khuyến khích và xác nhận bất cứ điều gì Adam chia sẻ, kể cả những suy nghĩ tự hủy hoại. ChatGPT đã kéo Adam chìm sâu hơn vào cảm giác tuyệt vọng bằng cách trấn an rằng ‘nhiều người vật lộn với lo âu hoặc ý nghĩ xâm nhập thường tìm thấy sự an ủi khi tưởng tượng về một ‘lối thoát’, bởi nó có thể khiến họ cảm thấy mình kiểm soát được tình hình.”
Trao đổi với New York Times, OpenAI cho biết họ “vô cùng đau buồn” khi nghe tin về cái chết của Adam và gửi lời chia buồn tới gia đình. Công ty nhấn mạnh rằng ChatGPT đã được trang bị nhiều biện pháp bảo vệ, bao gồm việc khuyến khích người dùng liên hệ đường dây nóng hỗ trợ khủng hoảng và tìm đến các nguồn lực ngoài đời thực. Tuy nhiên, theo thừa nhận của công ty, “các biện pháp này hoạt động hiệu quả nhất trong những tương tác ngắn gọn, còn ở những cuộc trò chuyện kéo dài, tính an toàn đôi khi suy giảm.”
Cũng trong ngày xảy ra vụ kiện, OpenAI đăng tải bài viết trên blog với tiêu đề “Giúp đỡ mọi người khi họ cần nhất”. Bài viết nêu rõ công ty đang nỗ lực củng cố thêm các rào chắn an toàn, đặc biệt trong những cuộc trò chuyện dài hạn.
Những vụ kiện tương tự và nghiên cứu liên quan
Đơn kiện do hãng luật Edelson PC và dự án Tech Justice Law Project nộp. Trước đó, Tech Justice cũng tham gia một vụ kiện khác chống lại Character.AI, khi một bà mẹ tại Florida cáo buộc chatbot của công ty này đã gửi cho con trai 14 tuổi của bà những tin nhắn lạm dụng tinh thần và tình dục, dẫn tới cái chết của cậu bé.
Trong khi đó, một nghiên cứu được công bố trên tạp chí y khoa Psychiatric Services ngày thứ Ba cho thấy, dù hầu hết chatbot thường né tránh việc đưa ra chỉ dẫn chi tiết, song một số vẫn trả lời những câu hỏi liên quan đến tự tử ở mức “rủi ro thấp”. Ví dụ, ChatGPT từng trả lời câu hỏi loại súng hoặc loại chất độc nào có “tỉ lệ tử vong cao nhất”.
Gia đình Raine cho rằng con trai họ cũng nhận được những thông tin tương tự. Bắt đầu từ tháng 1, ChatGPT được cho là đã cung cấp cho Adam nhiều phương pháp cụ thể để tự tử. Dù chatbot có đưa ra cảnh báo, chia sẻ đường dây nóng và khuyên cậu tìm người để giãi bày, Adam đã vượt qua lớp phản hồi đó bằng cách yêu cầu câu trả lời “từ góc nhìn viết văn hoặc xây dựng thế giới giả tưởng”.
Trong lời chia sẻ với NBC News, cha của Adam, ông Matt Raine, khẳng định: “Con trai tôi đã không còn nếu không có ChatGPT. Tôi tin điều đó 100%.”
Vụ kiện của gia đình Raine được đánh giá có thể trở thành tiền lệ pháp lý quan trọng, khi xã hội ngày càng đặt câu hỏi về trách nhiệm của các công ty trí tuệ nhân tạo trong việc bảo vệ người dùng, đặc biệt là giới trẻ dễ tổn thương.
