( NewsNation ) — Cảnh sát vũ trang đã còng tay và khám xét một học sinh sau khi hệ thống an ninh sử dụng trí tuệ nhân tạo của trường trung học Maryland nhầm một túi khoai tây chiên với một khẩu súng.
Theo hãng tin địa phương WBAL tại Baltimore , tuần trước, cậu học sinh Taki Allen đang ngồi cùng bạn bè sau buổi tập bóng đá bên ngoài trường trung học Kenwood ở Essex, Maryland thì bị cảnh sát vũ trang xuất hiện và còng tay.
Taki Allen, 16 tuổi, cho biết cậu ta đang đợi xe đưa đón sau buổi tập luyện hôm thứ Hai tại Trường trung học Kenwood ở Baltimore, cậu ta vò nát túi khoai tây chiên sau khi ăn hết và trò chuyện với bạn bè – thì đột nhiên nghe thấy cảnh sát chĩa súng và hét vào mặt cậu ta.
“Cảnh sát xuất hiện, khoảng tám xe cảnh sát, rồi tất cả bọn họ đều chĩa súng vào tôi và bảo tôi nằm xuống đất. Tôi giơ tay lên như muốn hỏi, ‘Chuyện gì đang xảy ra vậy?’ ” Allen kể với WMAR-2 News.
“Họ bắt tôi quỳ xuống, bẻ tay ra sau lưng và còng tay tôi lại. Sau đó, họ khám xét tôi và phát hiện ra tôi không có gì cả,” Allen nói với WBAL.
Allen cho biết cảnh sát đã nói với cậu ta rằng máy dò AI đã phát hiện túi khoai tây chiên nhàu nát trong túi cậu ta là vũ khí.
“Điều đầu tiên tôi tự hỏi là, liệu tôi có sắp chết không? Bởi vì họ chĩa súng vào tôi”, Allen nói với WBAL.
“Tôi chỉ cầm một túi Doritos — nó có hai bàn tay và một ngón tay thò ra ngoài, và họ nói rằng nó trông giống như một khẩu súng,” cậu ta nói thêm.
Các nhà chức trách cho biết trí tuệ nhân tạo khi xem lại đoạn phim từ camera an ninh của trường đã phát hiện Doritos của Allen là súng, báo động cho cơ quan thực thi pháp luật.
Một số cảnh sát nhanh chóng còng tay Allen, vỗ nhẹ người anh ta, trong khi những người khác khám xét bạn bè anh ta.
“Cậu có mang theo súng không?” một trong những cảnh sát hỏi, đoạn video quay bằng camera gắn trên người cảnh sátcho thấy.
Allen, tỏ vẻ đau khổ và bối rối khi viên cảnh sát lục túi mình, đáp: “Cái gì? Không.”
Sau đó, cảnh sát xem lại đoạn phim mà AI đã đánh dấu, đi đến thùng rác gần đó và phát hiện ra túi khoai tây chiên.
Một cảnh sát cho biết về hệ thống an ninh: “Tôi đoán là do bạn ăn khoai tây chiên… Doritos, bất cứ thứ gì… nên nó nhận ra đó là súng”.
Sự việc xảy ra ngày 20 tháng 10 đã khiến Allen cảm thấy lo lắng ở trường, cậu thiếu niên cho biết. Cậu nói rằng mình không còn cảm thấy an toàn khi ra ngoài sau buổi tập và hiện đang chờ trong trường để tránh camera.
“Tôi không muốn… tôi không nghĩ mình đủ an toàn để ra ngoài, nhất là khi ăn một túi khoai tây chiên hay uống thứ gì đó. Tôi chỉ ở trong nhà cho đến khi xe đến,” Allen nói.
Các quan chức Quận Baltimore kêu gọi xem xét lại hệ thống
“Chúng tôi hiểu rằng việc này gây khó chịu cho cá nhân bị khám xét cũng như những học sinh khác chứng kiến vụ việc. … Xin hãy biết rằng đảm bảo an toàn cho học sinh và cộng đồng nhà trường là một trong những ưu tiên hàng đầu của chúng tôi”, hiệu trưởng trường Kenwood, Kate Smith, cho biết trong một lá thư gửi phụ huynh sau vụ việc.
Tuy nhiên, một số người cho rằng cần phải hành động ngay lập tức để ngăn chặn sự việc tương tự xảy ra lần nữa.
“Tôi kêu gọi Hệ thống trường công lập Quận Baltimore xem xét lại các quy trình liên quan đến hệ thống phát hiện vũ khí sử dụng AI”, Nghị viên Quận Baltimore Izzy Patoka viết trong bài đăng trên Facebook .
Theo WBAL, một thành viên hội đồng khác, Julian Jones, cũng đồng tình với lời kêu gọi xem xét lại hệ thống AI “để đảm bảo có các biện pháp bảo vệ để loại lỗi này không xảy ra nữa”.
Quận Baltimore đã sử dụng hệ thống an ninh này kể từ năm 2023
Vào năm 2023, các trường công lập Quận Baltimore đã bắt đầu sử dụng hệ thống an ninh điều khiển bằng AI, Giám đốc Học khu Myriam Rogers cho biết trong một cuộc họp báo sau vụ việc. Hệ thống này dựa vào các camera hiện có của trường để phát hiện vũ khí.
Công ty vận hành hệ thống, Omnilert, đã bày tỏ sự hối tiếc nhưng làm rõ rằng công nghệ này hoạt động chính xác trong một tuyên bố gửi tới CNN : “Chúng tôi rất tiếc vì sự cố này đã xảy ra và muốn bày tỏ mối quan ngại của mình tới học sinh và cộng đồng rộng lớn hơn bị ảnh hưởng bởi những sự kiện xảy ra sau đó.”
Công ty cho biết thêm: “Mặc dù vật thể sau đó được xác định không phải là súng, nhưng quy trình vẫn hoạt động theo đúng mục đích: ưu tiên sự an toàn và nâng cao nhận thức thông qua việc xác minh nhanh chóng của con người”.
Ny (Tổng hợp)
