( The Hill ) — Character.AI có kế hoạch cấm trẻ em nói chuyện với chatbot AI của mình bắt đầu từ tháng tới trong bối cảnh ngày càng có nhiều sự giám sát chặt chẽ về cách người dùng trẻ tuổi tương tác với công nghệ này.
Hiện tại, Character.ai cho biết từ ngày 25 tháng 11, những người dưới 18 tuổi sẽ chỉ có thể tạo nội dung như video bằng nhân vật của mình, thay vì trò chuyện với nhân vật như hiện tại.
Công ty, nổi tiếng với kho nhân vật AI khổng lồ, sẽ loại bỏ khả năng cho phép người dùng dưới 18 tuổi tham gia vào các cuộc trò chuyện “mở” với AI. Công ty có kế hoạch bắt đầu giảm dần quyền truy cập trong những tuần tới, ban đầu là hạn chế trẻ em trong hai giờ trò chuyện mỗi ngày.
Character.AI lưu ý rằng họ có kế hoạch phát triển “trải nghiệm dành cho người dưới 18 tuổi”, trong đó thanh thiếu niên có thể tạo video, câu chuyện và luồng phát trực tiếp bằng các nhân vật AI của họ.
Công ty cho biết trong một bài đăng trên blog rằng: “Chúng tôi đang thực hiện những thay đổi này đối với nền tảng dành cho người dưới 18 tuổi của mình theo bối cảnh đang thay đổi xung quanh AI và thanh thiếu niên”, đồng thời nhấn mạnh các báo cáo tin tức gần đây và các câu hỏi từ cơ quan quản lý.
Công ty và các nhà phát triển chatbot khác gần đây đã bị điều tra sau một số vụ tự tử ở thanh thiếu niên liên quan đến công nghệ này. Mẹ của Sewell Setzer III, 14 tuổi, đã kiện Character.AI vào tháng 11 năm ngoái , cáo buộc chatbot này khiến con trai bà tự tử.
OpenAI cũng đang phải đối mặt với vụ kiện từ cha mẹ của Adam Raine, 16 tuổi, người đã tự tử sau khi sử dụng ChatGPT. Cả hai gia đình đã ra làm chứng trước một ủy ban Thượng viện vào tháng trước và kêu gọi các nhà lập pháp đặt ra các biện pháp bảo vệ cho chatbot.
Ủy ban Thương mại Liên bang (FTC) cũng đã mở một cuộc điều tra về chatbot AI vào tháng 9, yêu cầu cung cấp thông tin từ Character.AI, OpenAI và một số công ty công nghệ hàng đầu khác.
Character.AI cho biết hôm thứ Tư: “Sau khi đánh giá các báo cáo này và phản hồi từ các cơ quan quản lý, chuyên gia an toàn và phụ huynh, chúng tôi quyết định thực hiện thay đổi này để tạo ra trải nghiệm mới cho cộng đồng trẻ em dưới 18 tuổi”.
“Đây là những bước đi phi thường đối với công ty chúng tôi, và xét về nhiều mặt, chúng tôi thận trọng hơn so với các đối thủ cạnh tranh”, công ty nói thêm. “Nhưng chúng tôi tin rằng đây là điều đúng đắn cần làm.”
Ngoài việc hạn chế quyền truy cập của trẻ em vào chatbot, Character.AI còn có kế hoạch triển khai công nghệ đảm bảo độ tuổi mới và thành lập cũng như tài trợ cho một tổ chức phi lợi nhuận mới có tên là Phòng thí nghiệm an toàn AI.
Giữa những lo ngại ngày càng tăng về chatbot, một nhóm thượng nghị sĩ lưỡng đảng đã đưa ra luật vào thứ Ba cấm sử dụng người bạn đồng hành AI dành cho trẻ em.
Dự luật của các Thượng nghị sĩ Josh Hawley (Đảng Cộng hòa-Mo.), Richard Blumenthal (Đảng Dân chủ-Conn.), Katie Britt (Đảng Cộng hòa-Ala.), Mark Warner (Đảng Dân chủ-Va.) và Chris Murphy (Đảng Dân chủ-Conn.) cũng sẽ yêu cầu các chatbot AI phải liên tục tiết lộ rằng chúng không phải là con người, ngoài ra còn coi việc phát triển các sản phẩm chào mời hoặc sản xuất nội dung khiêu dâm cho trẻ em là một tội ác.
Thống đốc California Gavin Newsom (D) đã ký thành luật một biện pháp tương tự vào cuối tháng trước, yêu cầu các nhà phát triển chatbot tại Golden State phải tạo ra các giao thức ngăn chặn mô hình của họ tạo ra nội dung về tự tử hoặc tự làm hại bản thân và hướng dẫn người dùng đến các dịch vụ hỗ trợ khủng hoảng nếu cần.
Ông từ chối phê duyệt một biện pháp nghiêm ngặt hơn nhằm ngăn cản các nhà phát triển cung cấp chatbot cho trẻ em trừ khi họ có thể đảm bảo rằng chúng sẽ không tham gia vào các cuộc thảo luận có hại với trẻ em.
Ny (Theo The Hill)
