( The Hill ) — Instagram đang ra mắt một công cụ mới sẽ cảnh báo phụ huynh nếu con cái họ liên tục tìm kiếm các thuật ngữ liên quan đến tự tử và tự gây thương tích trên nền tảng này.
Công cụ này, dự kiến sẽ được triển khai tại Mỹ và một số quốc gia khác vào tuần tới, sẽ cảnh báo phụ huynh nếu con cái họ thực hiện nhiều lần tìm kiếm với các cụm từ cổ vũ tự tử hoặc tự gây thương tích, hoặc các cụm từ cho thấy chúng muốn tự làm hại bản thân, cũng như các thuật ngữ như “tự tử” và “tự gây thương tích”.
Theo thông báo trên blog của Instagram hôm thứ Năm, phụ huynh sẽ nhận được cảnh báo qua email, tin nhắn văn bản hoặc WhatsApp và thông báo trong ứng dụng, ngoài ra còn được cung cấp tùy chọn xem các nguồn tài liệu về cách tiếp cận chủ đề này với con cái tuổi teen của họ.
“Mục tiêu của chúng tôi là trao quyền cho phụ huynh can thiệp nếu những tìm kiếm của con cái họ cho thấy chúng có thể cần hỗ trợ,” công ty viết. “Chúng tôi cũng muốn tránh gửi những thông báo này một cách không cần thiết, vì nếu làm quá nhiều, điều đó có thể khiến các thông báo trở nên kém hữu ích hơn.”
Instagram nhấn mạnh rằng nền tảng này hiện đang chặn các tìm kiếm có liên quan rõ ràng đến tự tử và tự gây thương tích, ngoài việc cấm các bài đăng cổ vũ hoặc tôn vinh tự tử hoặc tự gây thương tích và hạn chế nội dung mà thanh thiếu niên có thể xem về những vấn đề này.
Công ty mạng xã hội này cũng cho biết họ đang xây dựng một hệ thống cảnh báo dành cho phụ huynh tương tự cho một số trải nghiệm AI của mình, hệ thống này sẽ thông báo cho phụ huynh nếu con cái họ cố gắng tham gia vào các cuộc trò chuyện về tự tử hoặc tự gây hại với AI của họ.
Các công cụ bảo vệ an toàn cho thanh thiếu niên mới nhất xuất hiện trong bối cảnh các công ty công nghệ đang phải đối mặt với sự giám sát ngày càng chặt chẽ về cách họ bảo vệ người dùng trẻ tuổi trên nền tảng của mình.
Instagram hiện đang bị kiện cùng với YouTube của Google tại Los Angeles về cáo buộc cố tình thiết kế sản phẩm của mình để gây nghiện cho trẻ em. Snap và TikTok, ban đầu đều là một phần của vụ kiện, đã đạt được thỏa thuận dàn xếp ngay trước khi phiên tòa bắt đầu.
Phiên tòa ở Los Angeles là phiên tòa đầu tiên trong số nhiều phiên tòa dự kiến sẽ diễn ra trong năm nay, nằm trong khuôn khổ hai vụ kiện ở cấp tiểu bang và liên bang, hợp nhất hàng nghìn vụ kiện do các cá nhân, học khu và tiểu bang đệ trình chống lại các công ty truyền thông xã hội.
Trong bối cảnh trí tuệ nhân tạo (AI) đang phát triển mạnh, các công ty công nghệ cũng đang phải đối mặt với áp lực về việc liệu họ có đủ biện pháp bảo vệ cho trẻ em sử dụng chatbot AI của mình hay không. Một số gia đình đã kiện các công ty AI trong năm qua, cáo buộc rằng các sản phẩm này đã khiến con cái họ tự làm hại bản thân hoặc tự tử.
Ny (Theo The Hill)
