Ngày 16/1, Tổng Chưởng lý bang California Robert Bonta cho biết ông đã gửi thư yêu cầu “ngừng và chấm dứt” (cease-and-desist) đến công ty xAI, đòi hỏi doanh nghiệp này phải dừng việc tạo ra và phát tán các hình ảnh khiêu dâm mang tính tình dục do trí tuệ nhân tạo tạo ra mà không có sự đồng thuận, được tạo thông qua chatbot Grok.
“Làn sóng báo cáo dồn dập về loại nội dung này — đôi khi mô tả phụ nữ và trẻ em tham gia hành vi tình dục — là điều gây sốc và, theo đánh giá của văn phòng chúng tôi, có thể là bất hợp pháp,” ông Bonta nói.
xAI, công ty thuộc sở hữu của tỷ phú Elon Musk — một nhà tài trợ lớn của Đảng Cộng hòa — đã bị chú ý trên toàn cầu trong vài tuần qua sau khi Grok bắt đầu tràn ngập mạng xã hội X bằng những hình ảnh không được đồng thuận của phụ nữ và một số trẻ vị thành niên trong trang phục hở hang, kèm các tư thế mang tính hạ nhục.
Dù xAI sau đó đã thu hẹp khả năng đăng công khai của Grok đối với loại hình ảnh khiêu dâm “siêu chân thực” này (thường được gọi là deepfake), Reuters cho biết qua thử nghiệm: tính đến trưa thứ Sáu theo giờ miền Đông Hoa Kỳ, chatbot này vẫn có thể tạo loại hình ảnh nói trên theo yêu cầu trong chế độ riêng tư.
X và xAI chưa phản hồi ngay các câu hỏi liên quan đến thư yêu cầu “ngừng và chấm dứt” từ phía California.
Động thái của California tiếp tục gia tăng sức ép quốc tế lên “đế chế mạng xã hội và AI” của Musk, vốn đang bị giám sát tại Anh, Liên minh châu Âu (EU) và nhiều khu vực pháp lý khác, bao gồm Ấn Độ, Indonesia, Malaysia và Philippines.
Cũng trong ngày thứ Sáu, giới chức Nhật Bản cho biết họ đang điều tra X liên quan đến Grok, nhấn mạnh rằng mọi biện pháp đều đang được cân nhắc nhằm ngăn chặn việc tạo ra hình ảnh không phù hợp.
Bộ trưởng An ninh Kinh tế Nhật Bản Kimi Onoda cho hay, chính phủ Nhật đã yêu cầu X thực hiện các cải tiến ngay lập tức, nhưng đến nay vẫn chưa nhận được phản hồi từ công ty.
Nguồn reuters
