Cơ quan quản lý an toàn trực tuyến của Vương quốc Anh, Ofcom, hôm thứ Hai thông báo đã chính thức mở cuộc điều tra đối với X, xuất phát từ lo ngại rằng Grok đã “được sử dụng để tạo và chia sẻ hình ảnh khỏa thân của mọi người,” bao gồm cả trẻ em.
Ofcom cho biết họ đang tiến hành một “đánh giá khẩn cấp” và X đã phản hồi yêu cầu cung cấp thông tin vào thứ Sáu. Nếu kết luận X vi phạm luật pháp Anh, Ofcom có thể áp dụng các mức chế tài, từ phạt tiền lên đến 10% doanh thu toàn cầu, cấm các công ty Anh quảng cáo trên X, hoặc yêu cầu nhà cung cấp internet tại Anh chặn nền tảng này.
Cuộc điều tra tại Anh chỉ là một trong hàng loạt động thái từ các chính phủ trước năng lực tạo deepfake của Grok.
Cuối tuần qua, các cơ quan chức năng tại Indonesia và Malaysia thông báo đã tạm thời chặn X trong phạm vi quốc gia, viện dẫn các điều luật chống deepfake và chống tài liệu lạm dụng tình dục trẻ em (CSAM).
Bà Mary Anne Franks, giáo sư luật thuộc Đại học George Washington — người nghiên cứu luật về nội dung khiêu dâm không có sự đồng thuận và từng hỗ trợ các nhà lập pháp cấp bang và liên bang xây dựng quy định liên quan — cho biết bà không kỳ vọng chính phủ liên bang Mỹ sẽ lập tức vào cuộc. Tuy nhiên, bà nhận định các mối đe dọa pháp lý từ các nước khác, nơi có luật CSAM nghiêm khắc hơn, có thể buộc X và Musk phải siết lại Grok.
“Nếu có sự chững lại nào đó, tôi tin chắc là vì làn sóng phản ứng dữ dội, và thêm nữa là vì các quốc gia khác có định nghĩa khác về điều gì được xem là CSAM bất hợp pháp,” Franks nói.
Theo phân tích của nhà nghiên cứu deepfake Genevieve Oh, tuần trước, sau khi người dùng gợi ý, Grok đã bắt đầu tạo ra hàng nghìn hình ảnh AI mang tính tình dục mỗi giờ, sử dụng khuôn mặt người thật và đăng lên X. Nhiều deepfake mô tả những phụ nữ có thể nhận dạng, bị AI đặt vào cảnh mặc bikini hoặc tạo dáng khiêu khích; nhưng theo một số tổ chức giám sát, Grok còn dựng hình một số người — bao gồm cả trẻ em — trong trạng thái khỏa thân hoàn toàn.
Một phát ngôn viên của Ủy ban Châu Âu (cơ quan hành pháp của Liên minh Châu Âu) nói với NBC News rằng cơ quan này gần đây đã ghi nhận Grok tạo ra các hình ảnh mang tính tình dục liên quan đến trẻ em.
Hôm thứ Sáu, Ủy viên eSafety của Úc — cơ quan chuyên trách an toàn trực tuyến — cho biết đã nhận được nhiều báo cáo về việc Grok tạo ra hình ảnh mang tính bóc lột và đã yêu cầu X làm rõ các cơ chế bảo vệ. Cơ quan này cũng lưu ý họ có thể ban hành yêu cầu gỡ bỏ nội dung đối với X. Cả Thủ tướng Úc Anthony Albanese lẫn lãnh đạo đối lập Sussan Ley đều lên tiếng lên án các hình ảnh này vào thứ Bảy.
Musk và X chưa phản hồi ngay yêu cầu bình luận. Gần đây, Musk và X đăng rằng họ cấm người dùng tạo “nội dung bất hợp pháp,” nhưng lại tránh tuyên bố công khai rằng họ sẽ thay đổi đáng kể khả năng thao tác và “tình dục hóa” hình ảnh con người của Grok. Việc tạo và tàng trữ CSAM bị coi là bất hợp pháp ở hầu hết các quốc gia; đồng thời, nhiều nước còn có luật hạn chế hoặc cấm tạo hình ảnh tình dục đối với người trưởng thành mà không có sự đồng thuận — thường được gọi là khiêu dâm không có sự đồng thuận.
Rạng sáng thứ Sáu, X đã biến bot trả lời của Grok — yếu tố thúc đẩy trào lưu deepfake — thành tính năng dành cho người dùng trả phí, dù người dùng vẫn có thể tạo deepfake qua ứng dụng Grok độc lập hoặc các giao diện khác nơi Grok được tích hợp. Dù số lượng hình ảnh dạng này đăng lên X có vẻ đã chậm lại, các nhà phê bình như Thượng nghị sĩ Ron Wyden (Dân chủ, bang Oregon) cho rằng động thái này chẳng khác nào bắt “một số người dùng trả tiền để được quyền tạo ra những hình ảnh kinh hoàng trên ứng dụng X.”
Ofcom cho biết điều tra của họ sẽ tập trung vào việc liệu X có tuân thủ luật Anh trong việc gỡ bỏ nhanh nội dung bất hợp pháp ngay khi nền tảng biết đến hay không, cũng như việc X có thực hiện đánh giá rủi ro đầy đủ trước khi triển khai các “thay đổi đáng kể đối với dịch vụ” hay không.
Hôm thứ Năm, Thủ tướng Anh Keir Starmer nói trong một cuộc phỏng vấn radio rằng Ofcom “được chúng tôi hoàn toàn ủng hộ để hành động.”
“Đây là điều đáng xấu hổ. Ghê tởm. Và không thể dung thứ,” ông nói về việc tạo hình ảnh. “X phải chấn chỉnh việc này.”
Bộ Điện tử và Công nghệ Thông tin Ấn Độ (MeitY) cũng được cho là đã cảnh báo X vào tuần trước rằng nền tảng này có thể đang vi phạm luật của Ấn Độ. MeitY không phản hồi yêu cầu bình luận.
Hiện vẫn chưa rõ liệu bất kỳ cơ quan quản lý nào của Mỹ sẽ nhắm vào Musk và các công ty của ông vì các hình ảnh bị thao túng này hay không. Ủy ban Thương mại Liên bang (FTC) không phản hồi yêu cầu bình luận. Bộ Tư pháp Mỹ nói với NBC News tuần trước rằng họ cam kết buộc “những cá nhân lợi dụng công nghệ để gây hại cho những người dễ bị tổn thương nhất” phải chịu trách nhiệm, nhưng không nêu đích danh công ty nào.
Một số tổng chưởng lý cấp bang cũng từ chối cho NBC News biết liệu họ có cân nhắc cáo buộc pháp lý liên quan đến các hình ảnh này hay không.
Musk từ lâu chủ trương X và công ty AI vận hành Grok là xAI nên nới lỏng kiểm duyệt nội dung hơn so với các đối thủ. Hôm thứ Sáu, ông viết trên X rằng các thông tin cho rằng đảng Lao động Anh muốn chặn X vì ảnh Grok là bằng chứng cho thấy “Họ muốn bất cứ cái cớ nào cho kiểm duyệt.”
Ông Thomas Regnier, phát ngôn viên Ủy ban Châu Âu, nói trong buổi họp báo hôm thứ Hai rằng EU đã đưa ra một “tối hậu thư” yêu cầu Musk và X chấm dứt việc tạo CSAM, nhưng chưa nêu cụ thể chế tài.
“Đánh đồng tự do ngôn luận với một công cụ AI tạo ra tài liệu lạm dụng tình dục trẻ em là một sự ngụy biện nguy hiểm, đặc biệt khi phát ra từ chủ sở hữu một công ty công nghệ. Thành thật mà nói, tôi không thể tin rằng đến năm 2026 chúng ta vẫn phải nói về chuyện này ngay trên bục phát biểu của Ủy ban,” Regnier nói.
Tháng 12 vừa qua, Ủy ban Châu Âu đã phạt X 140 triệu USD, cho rằng nền tảng này vi phạm luật châu Âu liên quan đến ngôn từ thù ghét và thông tin sai lệch. Quyết định này vấp phải chỉ trích từ chính quyền Trump, trong đó Phó Tổng thống JD Vance và Ngoại trưởng Marco Rubio gọi đây là một cuộc tấn công vào tự do ngôn luận của người Mỹ.
Nguồn nbc news
