Theo đài WBAL-TV, vụ việc xảy ra tối 20/10 tại Trường Trung học Kenwood, bang Maryland. Hệ thống AI cảnh báo có người mang vũ khí trong khuôn viên trường, khiến cảnh sát nhanh chóng triển khai lực lượng.
Khoảng 7 giờ 20 phút tối, tám sĩ quan được điều động đến hiện trường. Khi đến nơi, họ phát hiện nhóm học sinh đang ăn nhẹ sau buổi tập bóng đá.
Nam sinh 16 tuổi kể lại: “Ban đầu em không hiểu chuyện gì xảy ra, cho đến khi thấy họ tiến lại gần, chĩa súng về phía mình.”
Cậu nói rằng các sĩ quan yêu cầu quỳ gối, đặt tay ra sau lưng và bị còng tay ngay tại chỗ. Sau khi kiểm tra, họ phát hiện cậu chỉ cầm một túi Doritos chứ không hề có vũ khí.
“Họ lục soát người em và nhận ra không có gì cả,” nam sinh nói.
Sau khi thẩm vấn, cảnh sát hiểu rằng hệ thống AI đã nhận diện sai. Một sĩ quan cho cậu xem bức ảnh trích xuất từ phần mềm cảnh báo, nơi hình dáng bàn tay cậu bị hệ thống cho là đang cầm súng.
“Em chỉ cầm túi khoai bằng hai tay, một ngón trỏ duỗi ra, và họ nói rằng hình dáng đó giống như khẩu súng,” cậu kể.
Theo đoạn video được đài WBFF FOX45 Baltimore đăng tải, nhóm sĩ quan đã giữ khoảng cách an toàn và rút súng ra trong vài phút trước khi nhận ra nhầm lẫn.
Từ năm ngoái, nhiều trường học tại thành phố Baltimore bắt đầu triển khai hệ thống AI nhận diện súng nhằm tăng cường an ninh học đường. Trường Kenwood là một trong những cơ sở áp dụng công nghệ này.
Sau vụ việc, ban giám hiệu nhà trường đã gửi thư xin lỗi tới phụ huynh và học sinh, khẳng định sự cố xảy ra do cảnh báo sai của phần mềm giám sát. “Khoảng 7 giờ tối, hệ thống an ninh của trường ghi nhận cảnh báo về một cá nhân có thể mang vũ khí trong khuôn viên. Bộ phận an ninh sau đó đã nhanh chóng kiểm tra và hủy cảnh báo sau khi xác nhận không có vũ khí,” hiệu trưởng viết.
Ông cũng thừa nhận vụ việc gây tổn thương tâm lý cho học sinh liên quan, đồng thời cho biết trường sẽ cung cấp hỗ trợ tâm lý cho em và các bạn khác nếu cần.
“Xin hãy hiểu rằng việc đảm bảo an toàn cho học sinh và cộng đồng trường học luôn là ưu tiên hàng đầu của chúng tôi,” hiệu trưởng nhấn mạnh.
Phần mềm AI gây ra sự cố do Omnilert, một công ty chuyên về công nghệ an ninh, phát triển. Tuy nhiên, đại diện doanh nghiệp cho biết họ không đưa ra bình luận về “các quy trình nội bộ của trường học”.
