Ngày 17/9, bà Leila Turner-Scott tham dự phiên điều trần về chính sách trí tuệ nhân tạo tại Washington D.C., Mỹ. Phiên điều trần do Hạ nghị sĩ Pramila Jayapal tổ chức, tập trung vào những tác động và nguy cơ liên quan đến AI.
Trong phần trình bày, bà Turner-Scott kêu gọi chính phủ Mỹ ban hành quy định chặt chẽ hơn đối với các công ty phát triển trí tuệ nhân tạo.
Con trai bà là Sam Nelson, 19 tuổi, qua đời tại phòng ngủ ở nhà ngày 31/5/2025 sau khi sử dụng thuốc quá liều. Khi đó, Sam là sinh viên đại học ngành tâm lý học.
Người mẹ mô tả con trai là người thông minh, trung thành, hài hước và yêu động vật. Theo bà, Sam tử vong do ngộ độc hỗn hợp kratom, Xanax và rượu.
Turner-Scott cáo buộc vài giờ trước khi qua đời, Sam đã hỏi ChatGPT liệu kết hợp kratom với Xanax có an toàn hay không. Theo lời bà, chatbot trả lời rằng cậu có thể sử dụng an toàn.
Sau cái chết của con trai, Turner-Scott kiểm tra lại các cuộc trò chuyện giữa Sam và ChatGPT. Bà cho rằng chatbot nhiều lần cung cấp thông tin không chính xác về nguy cơ khi sử dụng các chất.
Người mẹ cũng cáo buộc hệ thống đưa ra hướng dẫn cụ thể về liều lượng. Khi Sam hỏi 1 lượng hoặc cách kết hợp nhất định có an toàn không, chatbot được cho là thường trả lời rằng cậu sẽ không gặp vấn đề.
Theo Turner-Scott, con trai bà tìm đến ChatGPT vì muốn kiểm tra mức độ an toàn trước khi sử dụng. Sam tin chatbot có thể tiếp cận lượng lớn thông tin trên internet và đưa ra câu trả lời chính xác.
Turner-Scott còn chỉ trích tính năng ghi nhớ của ChatGPT. Bà cho rằng hệ thống đã xây dựng hồ sơ về Sam, sau đó sử dụng dữ liệu này để tạo ra những phản hồi mang tính cá nhân hóa, khiến cậu ngày càng phụ thuộc về mặt cảm xúc.
Theo lời người mẹ, chatbot từng sử dụng những câu thể hiện sự gần gũi như luôn sẵn sàng lắng nghe và đồng hành với người dùng.
Bà cho rằng AI không nên được phép đưa ra lời khuyên về y tế, sức khỏe khi không có giấy phép. Turner-Scott cũng phản đối việc hệ thống thu thập, lưu trữ dữ liệu rồi dùng thông tin đó để gia tăng mức độ gắn bó của người dùng.
Kết thúc phần trình bày, bà đề nghị các nhà lập pháp hành động để tránh những sự việc tương tự xảy ra với gia đình khác.
Turner-Scott và chồng là Angus Scott đã khởi kiện OpenAI vào tháng 5. Đơn kiện cáo buộc ChatGPT đưa ra lời khuyên nguy hiểm về việc sử dụng các chất và góp phần dẫn đến cái chết của Sam.
Theo gia đình, trong ngày Sam qua đời, chatbot đã hướng dẫn cậu sử dụng kratom cùng Xanax và đưa ra khuyến nghị về liều lượng. Họ cũng cho rằng hệ thống không nhận diện được tình trạng nguy hiểm và không khuyên Sam tìm kiếm hỗ trợ y tế.
Vụ kiện hiện chưa có phán quyết.
Phản hồi PEOPLE, người phát ngôn OpenAI gọi sự việc là đau lòng. Công ty cho biết những cuộc trò chuyện được đề cập diễn ra trên 1 phiên bản ChatGPT cũ, hiện không còn được cung cấp.
OpenAI khẳng định ChatGPT không thể thay thế dịch vụ chăm sóc y tế hoặc sức khỏe tâm thần. Công ty cũng cho biết đã tiếp tục tăng cường các biện pháp an toàn khi chatbot xử lý tình huống nhạy cảm hoặc khẩn cấp.
