Cuộc hẹn định mệnh với chatbot AI
Theo Reuters, ông Thongbue Wongbandue, thường được gọi là Bue, 76 tuổi, sống tại New Jersey (Mỹ), vốn là một đầu bếp gốc Thái Lan, có cuộc sống bình yên cùng vợ và hai con. Tuy nhiên, sau cơn đột quỵ năm 2017, dù thể chất dần hồi phục, trí nhớ của ông bị suy giảm, dễ nhầm lẫn, và phụ thuộc nhiều vào Facebook để trò chuyện.
Trong một lần sử dụng Messenger, ông Bue bắt đầu nhắn tin với “Big sis Billie”, một chatbot AI của Meta Platforms, lấy hình mẫu từ nhân vật Billie trước đây được xây dựng dựa trên hình ảnh siêu mẫu, ngôi sao truyền hình thực tế Mỹ Kendall Jenner.
Trong các đoạn hội thoại, Billie liên tục khẳng định mình là người thật, mời gọi ông đến căn hộ ở New York, thậm chí gửi địa chỉ và mật mã cửa. Một tin nhắn còn viết: “Em nên mở cửa bằng một cái ôm hay một nụ hôn, Bue?!”. Tin vào những lời hẹn hò này, ông Bue tin chắc rằng phía sau màn hình là một người phụ nữ thật sự.
Tối 25/3, ông kéo vali rời nhà, dự định đến New York để gặp “người tình ảo”. Không may, trên đường đi, ông ngã gần bãi đỗ xe Đại học Rutgers, chấn thương nặng ở đầu và cổ. Ba ngày sau, ông qua đời tại Bệnh viện Đại học Robert Wood Johnson.
Gia đình chỉ biết nguyên nhân sau khi kiểm tra điện thoại và phát hiện loạt tin nhắn giữa ông với chatbot AI.
Con gái ông Bue, chị Julie Wongbandue, cho rằng các nền tảng AI đã đi quá xa khi để chatbot “tán tỉnh” và mời gọi gặp gỡ người dùng dễ tổn thương: “Tôi biết kiểu thu hút sự chú ý để bán hàng, nhưng việc một bot nhắn ‘Hãy đến thăm tôi’ thì thật điên rồ.”
Gia đình quyết định chia sẻ câu chuyện, bao gồm cả nội dung các cuộc trò chuyện với “Billie”, nhằm cảnh báo công chúng về những hệ lụy nếu AI không được kiểm soát chặt chẽ.
Trường hợp ông Bue không phải là cá biệt. Tại Florida, một phụ huynh đã kiện công ty Character AI với cáo buộc chatbot mô phỏng nhân vật trong Game of Thrones đã khiến con trai 14 tuổi của bà tự tử.
Character AI từ chối bình luận chi tiết, nhưng khẳng định các bot của họ luôn được thông báo rõ ràng là “không phải con người” và đã có biện pháp bảo vệ trẻ em.
Khoảng trống pháp lý và những cảnh báo
Theo tài liệu nội bộ do một tờ báo Anh tiếp cận, trước đây chính sách của Meta từng cho phép chatbot tán tỉnh và đóng vai lãng mạn với người từ 13 tuổi trở lên, đồng thời không bắt buộc phải cung cấp thông tin chính xác. Sau khi bị chất vấn, Meta đã gỡ bỏ tính năng liên quan đến trẻ vị thành niên, nhưng vẫn duy trì chức năng nhắn tin lãng mạn với người lớn và cho phép bot “bịa chuyện”.
Giám đốc điều hành Meta, Mark Zuckerberg, thừa nhận rằng nhiều người có ít bạn ngoài đời thực hơn mong muốn, vì thế “bạn đồng hành ảo” là một thị trường tiềm năng khổng lồ. Trong một buổi phỏng vấn tháng 4, ông nhấn mạnh chatbot “sẽ không thay thế con người” nhưng có thể bổ sung đời sống xã hội khi công nghệ phát triển và định kiến dần phai nhạt.
Một số bang của Mỹ như New York, Maine đã ban hành quy định buộc chatbot phải thông báo ngay từ đầu rằng chúng không phải con người và lặp lại thông báo này mỗi ba giờ. Tuy nhiên, luật liên bang về AI vẫn chưa được thông qua, trong khi Meta ủng hộ quy định chung toàn quốc và phản đối quản lý riêng rẽ của từng bang.
Điều đáng chú ý, bốn tháng sau cái chết của ông Bue, chatbot “Big sis Billie” vẫn tiếp tục gửi tin nhắn lãng mạn, mời người dùng đi hẹn hò, thậm chí gợi ý quán bar ở Manhattan, cho thấy công nghệ này vẫn đang vận hành mà chưa có cơ chế kiểm soát phù hợp.
