(AP) — Vào thứ Tư vừa qua, hai nam thiếu niên sử dụng trí tuệ nhân tạo (AI) để tạo ra các bức ảnh khỏa thân giả mạo của bạn cùng lớp đã bị tuyên án treo và giao cho cha mẹ giám sát.
Hai thiếu niên này (vào thời điểm vi phạm mới 14 tuổi) đã thừa nhận hồi đầu tháng rằng họ đã tạo ra 59 hình ảnh lạm dụng tình dục trẻ em. Các công tố viên cho biết các đối tượng này đã lấy ảnh của các nữ sinh, phần lớn từ mạng xã hội Instagram, rồi dùng công nghệ để cắt ghép với các hình ảnh người lớn trong trạng thái khỏa thân hoặc đang hoạt động tình dục.
Một số nạn nhân là bạn cùng lớp của các bị cáo tại trường Lancaster Country Day School, phía tây Philadelphia. Theo hồ sơ tòa án, vụ việc vỡ lở khi một phụ huynh trình báo cảnh sát rằng con gái bà cho biết có nam sinh trong trường “chụp ảnh các học sinh khác và dùng công nghệ AI để biến họ thành ảnh khỏa thân.”
Phiên tòa phân xử hôm thứ Tư trước Thẩm phán Leonard Brown III của Tòa Phúc thẩm Lancaster County là phiên tòa tuyên án dành cho trẻ vị thành niên.
Hình phạt và sự hối lỗi
Ngoài án treo, mỗi thiếu niên phải thực hiện 60 giờ phục vụ cộng đồng. Thẩm phán Brown cho biết nếu các em không vi phạm pháp luật trong vòng hai năm tới, hồ sơ vụ án có thể được xóa bỏ. Hai thiếu niên cũng bị cấm tiếp xúc với các nạn nhân và phải trả một khoản tiền bồi thường (chưa xác định cụ thể).
Khi tuyên án, Thẩm phán Brown lưu ý rằng ông chưa hề nghe thấy bất kỳ lời xin lỗi hay sự nhận trách nhiệm nào từ cả hai nam sinh. Ông nhấn mạnh rằng nếu đây là những người trưởng thành, họ có thể đã phải đối mặt với án tù tiểu bang.
Trong suốt quá trình tố tụng, các thiếu niên này đã từ chối nhiều cơ hội để phát biểu trước thẩm phán. Sau phiên tòa, một trong hai nam sinh cũng từ chối bình luận bên ngoài tòa án.
Bà Heidi Freese, luật sư của một trong hai thiếu niên, chia sẻ: “Đây là một quá trình đáng tiếc, kéo dài và mệt mỏi cho tất cả những người liên quan. Có những vấn đề pháp lý tiềm ẩn rất thú vị xoay quanh các cáo buộc trong vụ án này, và chúng sẽ được quyết định vào một ngày khác, trong một vụ án khác.”
“Mặt tối của công nghệ”
Bộ trưởng Tư pháp Pennsylvania, ông Dave Sunday, nhận định vụ án này là “ví dụ điển hình cho mặt tối của công nghệ hiện đại và mạng xã hội.”
“Hành vi này là sự ‘vũ khí hóa’ công nghệ để biến những trẻ em vô tội có ảnh trên mạng thành nạn nhân. Không cần phải nói thêm, tác động tâm lý đối với các nạn nhân là vô cùng tàn khốc,” ông Sunday cho biết trong một thông cáo hồi đầu tháng.
Vụ việc tại Pennsylvania được giải quyết chỉ vài ngày sau khi ba thiếu niên ở Tennessee đệ đơn kiện công ty xAI của tỷ phú Elon Musk. Họ cáo buộc công cụ Grok của công ty này đã biến ảnh thật của họ thành ảnh khiêu dâm. Nhóm học sinh trung học này đang nộp đơn xin khởi kiện tập thể, đại diện cho hàng ngàn người khác cũng là nạn nhân khi còn ở tuổi vị thành niên.
Bê bối tại Pennsylvania bắt đầu từ năm 2024, dẫn đến các cuộc biểu tình của học sinh, sự rời đi của các lãnh đạo trường và các cáo buộc hình sự đối với hai thiếu niên.
Nỗ lực bảo vệ nạn nhân
Nadeem Bezar, luật sư tại Philadelphia đại diện cho ít nhất 10 nạn nhân, cho biết ông dự kiến sẽ đệ đơn kiện “nhà trường và bất kỳ bên nào có trách nhiệm trong việc để các hình ảnh deepfake này được tạo ra và phát tán.” Ông muốn làm rõ nhà trường đã biết sự việc từ khi nào và các nam sinh đã sử dụng nền tảng nào để tạo ra chúng.
Luật sư Bezar chia sẻ rằng phản ứng của các nữ sinh rất khác nhau, nhưng đối với một số em, đây là một cú sốc tâm lý nặng nề: “Chúng ta đang nói về những thiếu nữ có mục tiêu rõ ràng, học giỏi, đang nỗ lực hết mình để hòa nhập và định hướng cuộc đời ở cái tuổi mà mọi thứ đều rất quan trọng.”
Khi AI trở nên dễ tiếp cận và mạnh mẽ hơn, các nhà lập pháp trên khắp Hoa Kỳ đã thông qua nhiều đạo luật nhằm ngăn chặn deepfake.
Năm ngoái, Tổng thống Donald Trump đã ký Đạo luật Take It Down, quy định việc xuất bản các hình ảnh nhạy cảm (bao gồm cả deepfake) mà không có sự đồng ý là bất hợp pháp. Đạo luật này cũng yêu cầu các trang web và mạng xã hội phải gỡ bỏ những nội dung đó trong vòng 48 giờ kể từ khi nhận được thông báo từ nạn nhân.
Theo nhóm vận động người tiêu dùng Public Citizen, hiện đã có 46 tiểu bang ban hành luật xử lý deepfake, và các dự luật tương tự cũng đang được trình lên tại 4 tiểu bang còn lại là Alaska, Missouri, New Mexico và Ohio.
