BIG RAPIDS, Mich. ( WOOD ) – Một xu hướng TikTok do AI thúc đẩy đang khiến nhiều người hoảng loạn gọi đến 911 vì nghĩ rằng có người đàn ông đã đột nhập vào nhà họ.
Xu hướng này sử dụng trình tạo hình ảnh AI để tạo ra những bức ảnh chân thực mô tả một người đàn ông đầu tóc bù xù đang ở trước cửa nhà ai đó hoặc trong nhà họ.
Trò đùa này sử dụng trí tuệ nhân tạo để tạo ra hình ảnh hoặc video về một “người vô gia cư” bước vào nhà, lục tung tủ lạnh hoặc nằm trên giường của một người. Người chơi đùa sẽ gửi video giả này cho người thân, và người này tin rằng những hình ảnh đó là thật.
Trong video, những kẻ thích chơi khăm gửi những bức ảnh do AI tạo ra này cho bạn bè hoặc người thân. Phản ứng hoảng loạn của người nhận, đôi khi dẫn đến các cuộc gọi khẩn cấp, sau đó được ghi lại và đăng trực tuyến để giải trí và “thích”.
Các sở cảnh sát ở ít nhất bốn tiểu bang đã nhận được cuộc gọi báo cáo về các vụ đột nhập nhà riêng nhưng lại phát hiện ra rằng “kẻ đột nhập” là một người do AI tạo ra, tờ New York Times đưa tin .
Cảnh sát West Bloomfield gần Detroit, Michigan, cho biết họ đã nhận được báo cáo về việc nhiều người bị lừa bởi các video này. Họ cảnh báo rằng “trò đùa AI về người vô gia cư” này sẽ lãng phí nguồn lực của lực lượng ứng phó khẩn cấp.
“Vấn đề ở đây là: cảnh sát phản ứng NHANH CHÓNG bằng đèn và còi báo động khi nghe thấy tiếng gọi như thể có kẻ đột nhập thật — và chỉ bị gọi lại khi mọi người nhận ra đó chỉ là trò đùa,” Sở Cảnh sát Yonkers của New York cho biết trong một bài đăng trên Facebook . “Điều này không chỉ lãng phí nguồn lực… mà còn là một nguy cơ an toàn thực sự cho các cảnh sát đang phản ứng và cho các thành viên gia đình đang ở nhà nếu cảnh sát của chúng tôi đến nhà trước khi trò đùa bị phát hiện và lao vào nhà để bắt giữ ‘kẻ đột nhập’ không hề tồn tại này.”
Đại úy cảnh sát Salem John Burke phát biểu với chương trình ” Good Morning America ” rằng trò đùa này “gây ra rất nhiều nỗi sợ hãi”. Ông cho biết cho đến nay, sở cảnh sát đã điều tra ba vụ việc, tất cả đều liên quan đến những người thực sự tin rằng có một vụ đột nhập đang xảy ra.
“Bạn đang khiến bạn bè hoặc gia đình mình hoảng loạn”, Burke nói. “Bạn đang làm tắc nghẽn một trạm cảnh sát, một điểm trả lời an toàn công cộng, một trung tâm điều phối 911. Bạn đang lãng phí nguồn lực của cảnh sát.”
Burke nói thêm về phản ứng của cảnh sát: “Có khả năng là khi bạn biết chúng tôi đang phản ứng với những sự cố này, lúc đầu chúng tôi không biết liệu nó có thật hay không, chúng tôi phải xử lý mọi tình huống như thể đó là một tình huống có thể xảy ra thực sự.”
Trong lời cảnh báo của mình, Sở Cảnh sát Salem cũng lên án trò đùa này vì coi thường người vô gia cư và gieo rắc nỗi sợ hãi để giải trí.
Sở này cảnh báo rằng những kẻ thích chơi khăm có thể phải đối mặt với cáo buộc hình sự theo luật Massachusetts vì báo cáo sai sự thật tới các dịch vụ khẩn cấp, ngay cả khi không có ai bị thương.
Burke kêu gọi người dùng mạng xã hội hãy suy nghĩ kỹ trước khi tham gia vào các xu hướng có thể gây nguy hiểm cho người khác.
“Nếu bạn thấy điều này buồn cười, hoặc nghĩ rằng đây là điều bạn có thể muốn thử, xin hãy suy nghĩ kỹ, vì bạn bè và gia đình”, ông nói. “Và sau đó, đừng, đừng, đừng mạo hiểm, bạn sẽ gặp rắc rối, hoặc phải ra tòa, bị buộc tội vì điều này… điều này hoàn toàn có thể phòng ngừa được.”
“Việc này dễ dàng đến mức khó chịu”, Greg Gogolin, giáo sư kiêm giám đốc an ninh mạng và khoa học dữ liệu tại Đại học Ferris State, cho biết. Ông đã tạo ra một chương trình chỉ trong vài giờ để chứng minh công nghệ AI có thể thao túng hình ảnh như thế nào.
Gogolin cho biết: “Đây là một chương trình máy học xử lý ngôn ngữ tự nhiên có tên là hoán đổi khuôn mặt”.
Chương trình có thể làm cho hình ảnh trông chân thực hơn, lấy các đặc điểm trên khuôn mặt của một người và kết hợp với các hình ảnh khác.
Khi một công nghệ như thế này được phát triển, nó thường được sử dụng theo cách mà những người sáng tạo ban đầu không bao giờ mong muốn.
“Họ chia sẻ hoặc bán nó. … Nó bị phân tán và đó chính là mối nguy hiểm thực sự vì những người không có kiến thức chuyên môn nào cũng có thể sử dụng nó theo cách họ muốn”, Gogolin cho biết.
Trong một số trường hợp, có những điều bạn có thể tìm kiếm để biết hình ảnh đó có phải là AI hay không.
“Bạn có thể tạo ra thứ gì đó nhưng một cánh tay lại bị lệch, khuỷu tay lại đặt sai vị trí. Trước đây, bạn thường thấy những người có tới ba cánh tay. Một cánh tay dài, một chân dài, động lực học không chính xác. Phần lớn những điều đó đã được sửa chữa hoặc ít nhất là cải thiện đáng kể với các phiên bản mới hơn”, Gogolin nói.
Ông Gogolin cho biết các điều tra viên và lực lượng thực thi pháp luật cũng cần được đào tạo nâng cao hơn. “Rất ít điều tra viên có bằng cấp có nền tảng về an ninh mạng, chứ đừng nói đến nền tảng khoa học máy tính, đặc biệt là ở cấp địa phương, thậm chí cấp tiểu bang.”
Ny (Tổng hợp)
