Monday, March 18, 2024

Cuộc đàn áp của Trung Quốc đối với deepfake không ngăn các ứng dụng của họ tìm kiếm khán giả Mỹ

Các quy tắc deepfake mới của Trung Quốc đã có hiệu lực vào tháng Giêng, nhưng các công ty có trụ sở tại Trung Quốc tiếp tục cung cấp các ứng dụng deepfake để tải xuống ở Mỹ.

Trung Quốc đang trấn áp deepfake trong nước trong khi thu lợi từ chúng ở nước ngoài.

Các ứng dụng deepfake từ các nhà phát triển có trụ sở tại Trung Quốc đã được tải xuống hàng triệu lần ở Mỹ và vẫn có sẵn trên các cửa hàng ứng dụng ngay cả sau khi Trung Quốc ban hành luật nghiêm ngặt trong năm nay điều chỉnh các video deepfake trên internet của chính họ.

Các ứng dụng này cho phép các nhà phát triển Trung Quốc thu lợi nhuận từ dữ liệu và đô la mang lại thông qua thị trường công nghệ phần lớn không được kiểm soát của Mỹ, trong khi các nhà lập pháp Mỹ tập trung vào các mục tiêu khác, chẳng hạn như TikTok. Sự giám sát đó đã không được mở rộng sang các ứng dụng khác có trụ sở tại Trung Quốc, chẳng hạn như các thị trường trực tuyến Shein và Temu, phổ biến ở Mỹ và các nơi khác trên thế giới.

Deepfake là phương tiện truyền thông bị thao túng, thường được tạo ra bằng công nghệ trí tuệ nhân tạo, trong đó khuôn mặt, ngoại hình và giọng nói đã bị thay đổi. Công nghệ này đã được cải thiện trong những năm gần đây và đã được sử dụng để tạo video lan truyền, một số để cảnh báo về khả năng tạo ra thông tin sai lệch của công nghệ.

Nhưng hơn bất cứ điều gì khác, công nghệ deepfake đã thúc đẩy một nền kinh tế trực tuyến tập trung vào việc tạo ra nội dung khiêu dâm giả mạo. Sensity, một công ty có trụ sở tại Amsterdam chuyên phát hiện và giám sát các phương tiện tổng hợp do AI phát triển cho các ngành công nghiệp như ngân hàng và fintech, phát hiện ra rằng 96% deepfake là khiêu dâm và có những phụ nữ không đồng ý với sáng tạo của họ.

Các ứng dụng deepfake miễn phí trên App Store của Apple và cửa hàng Google Play đã tìm thấy hơn 17 ứng dụng deepfake có sẵn để tải xuống từ các công ty có trụ sở trên toàn thế giới, bao gồm Nga, Ukraine, Anh, Mỹ, Ý và Trung Quốc.

Một số ứng dụng chẳng hạn như FaceApp phổ biến có trụ sở tại Síp và Facee có trụ sở tại Trung Quốc, không cung cấp các tính năng cho phép sản xuất video khiêu dâm. Các ứng dụng như vậy nhằm thay đổi hình ảnh khuôn mặt bằng các bộ lọc đặt trước. Nhưng các ứng dụng khác đặc biệt tiếp thị khả năng của họ để tạo ra nội dung khiêu dâm deepfake không có sự đồng thuận.

Một trong những ứng dụng có trụ sở tại Trung Quốc, FaceMagic, đang chạy quảng cáo khiêu dâm có nội dung “Tạo nội dung khiêu dâm deepfake trong giây lát” trên trang web khiêu dâm deepfake phổ biến nhất. Nó đã được tải xuống hơn 2,4 triệu lần kể từ tháng 2021 theo dữ liệu từ Apptopia, một công ty theo dõi thị trường ứng dụng.

Một ứng dụng deepfake khác có trụ sở tại Trung Quốc, FaceMega, gần đây đã bị xóa khỏi các cửa hàng ứng dụng của Apple và Google sau khi bị phát hiện ra rằng nó đã chạy hơn 260 quảng cáo trên Facebook mô tả chân dung của Emma Watson có tính chất khêu gợi tình dục.

Những ứng dụng này gần như chắc chắn sẽ vi phạm các quy tắc deepfake mới của Trung Quốc, có hiệu lực vào tháng Giêng. Các quy tắc cấm tạo ra deepfake mà không có sự đồng ý của những người có chân dung đang bị thao túng và họ yêu cầu dán nhãn deepfake là do AI tạo ra.

Hoa Kỳ không có luật liên bang như vậy, mặc dù một số tiểu bang áp dụng hình phạt dân sự đối với việc tạo ra nội dung khiêu dâm không có sự đồng thuận và deepfake mô tả thông tin sai lệch chính trị. Một số nhà hoạt động bảo mật đã thúc đẩy các quy tắc mới xung quanh deepfake, nhưng hầu hết các chính trị gia thay vào đó tập trung vào TikTok.

Cũng giống như cách chúng ta chậm trễ trong quy định về quyền riêng tư, tôi nghĩ rằng chúng ta vẫn còn rất nhiều ở giai đoạn đầu để xác định quy định nào chúng ta nên có xung quanh deepfake“, Samir Jain, giám đốc chính sách tại Trung tâm Dân chủ và Công nghệ, một tổ chức phi lợi nhuận ủng hộ quyền kỹ thuật số và tự do ngôn luận, cho biết.

Những lo ngại về quyền truy cập nước ngoài vào dữ liệu người dùng Mỹ thông qua các ứng dụng đã tăng lên trong những năm gần đây xung quanh Trung Quốc và TikTok. Những người chỉ trích TikTok đã lập luận rằng nó đặt ra một mối đe dọa an ninh đặc biệt khẩn cấp, bởi vì Trung Quốc có thể buộc họ tiết lộ dữ liệu về người dùng Mỹ.

Giám đốc điều hành TikTok Shou Zi Chew nói trong một phiên điều trần trước Quốc hội vào tháng trước rằng ByteDance, công ty mẹ Trung Quốc của TikTok, là một công ty tư nhân và không do chính phủ Trung Quốc kiểm soát.

TikTok chưa bao giờ chia sẻ hoặc nhận được yêu cầu chia sẻ dữ liệu người dùng Mỹ với chính phủ Trung Quốc“, ông nói trong bài phát biểu được chuẩn bị sẵn. “TikTok cũng sẽ không tôn trọng yêu cầu như vậy nếu một yêu cầu được đưa ra”.

Trung Quốc, quốc gia cho biết họ sẽ “kiên quyết phản đối” bất kỳ việc bán TikTok bắt buộc nào ở Mỹ, cho biết họ rất coi trọng quyền riêng tư và bảo mật dữ liệu và Mỹ không cung cấp bằng chứng nào cho thấy TikTok đe dọa an ninh quốc gia của mình.

Chính phủ Trung Quốc chưa bao giờ yêu cầu và sẽ không bao giờ yêu cầu bất kỳ công ty hoặc cá nhân nào thu thập hoặc cung cấp dữ liệu, thông tin hoặc tình báo ở nước ngoài trái với luật pháp địa phương“, phát ngôn viên Bộ Ngoại giao Trung Quốc Mao Ning cho biết vào tháng trước.

Các quốc gia khác đã thực hiện các bước rộng rãi để giải quyết các vấn đề về quyền riêng tư dữ liệu, cũng như lo ngại về sự lây lan của deepfake. Liên minh châu Âu có các quy tắc bảo mật nghiêm ngặt mà họ đã thực thi đối với nhiều công ty công nghệ lớn, bao gồm Amazon, Meta và Google. EU cũng tạo ra các quy tắc nhằm buộc các nền tảng công nghệ lớn hạn chế sự lây lan của deepfake.

Không nước nào đi xa như Trung Quốc với các quy tắc deepfake gần đây.

Trung Quốc với tư cách là một trung tâm phát triển AI đang ngày càng tìm cách xuất khẩu tầm nhìn của riêng mình về ý nghĩa của quản trị AI“, Michael Karanicolas, giám đốc điều hành của Viện Luật & Chính sách Công nghệ UCLA cho biết. “Đối với tất cả sự tập trung vào các ứng dụng Trung Quốc phá vỡ nền kinh tế Mỹ, Trung Quốc đang nói rằng chúng ta cần các quy tắc xung quanh vấn đề này.”

Mary Anne Franks, giáo sư luật và chủ tịch của Cyber Civil Rights Initiative, một nhóm phi lợi nhuận chống lại nội dung khiêu dâm không có sự đồng thuận, nói rằng mô hình thương mại cho gần như mọi ứng dụng hoạt động ở Mỹ liên quan đến việc bán dữ liệu người dùng và những lỗ hổng pháp lý đó chồng chéo với vùng xám pháp lý cho phép nền kinh tế deepfake phát triển.

Các trang web khiêu dâm deepfake là một hiện tượng đang phát triển gần đây, với sự quan tâm tìm kiếm có xu hướng cao trong lịch sử vào đầu năm nay.

Nếu các cường quốc thực sự chú ý đến cuộc khủng hoảng này và dự đoán rằng một ngày nào đó công nghệ sẽ không thô sơ và sẽ không thể phân biệt được, chúng tôi sẽ không ở vị trí này“, Franks nói.

Franks cho biết có những khiếu nại chính đáng về TikTok, cũng như nhiều ứng dụng khác. Các ứng dụng deepfake cũng thu thập dữ liệu người dùng, có thể được chia sẻ và bán với bất kỳ ai.

Tuy nhiên, thông tin đó không đặc biệt khó tìm. Và việc cấm TikTok sẽ không thay đổi nhiều.

Nếu Trung Quốc quan tâm đến thông tin đó, họ có thể mua nó một cách tự do trên thị trường“, Karanicolas nói. “Bạn có thể cấm một ứng dụng, nhưng nó không thực sự ảnh hưởng đến vấn đề rộng lớn hơn.”

Việt Linh (Theo Asia Times)

BÀI VIẾT LIÊN QUAN
- Advertisment -

MỚI CẬP NHẬT

spot_img