Tiến sĩ Joel Bervell, một bác sĩ được hàng trăm nghìn người theo dõi trên mạng xã hội biết đến với biệt danh “Người phá vỡ huyền thoại y khoa “, đã xây dựng danh tiếng trong việc vạch trần những tuyên bố sai lệch về sức khỏe trực tuyến.
Đầu năm nay, một số người theo dõi đã cảnh báo anh về một video trên một tài khoản khác có hình ảnh một người đàn ông trông giống hệt anh. Khuôn mặt là của anh, nhưng giọng nói thì không.
“Tôi chỉ cảm thấy sợ hãi,” Bervell nói. “Nó trông giống tôi. Nghe thì không giống tôi… nhưng nó đang quảng bá một sản phẩm mà trước đây tôi chưa từng quảng bá, bằng một giọng nói không phải của tôi.”
Theo các chuyên gia an ninh mạng, đó là deepfake – một ví dụ về nội dung có sự góp mặt của các chuyên gia y tế giả mạo và đang tiếp cận lượng khán giả ngày càng tăng. Ông cho biết video có hình ảnh Bervell đã xuất hiện trên nhiều nền tảng – TikTok, Instagram, Facebook và YouTube.
Một cuộc điều tra của CBS News trong tháng qua đã phát hiện hàng chục tài khoản và hơn 100 video trên các trang mạng xã hội, trong đó các bác sĩ giả mạo, một số sử dụng danh tính của bác sĩ thật, đưa ra lời khuyên hoặc cố gắng bán sản phẩm, chủ yếu liên quan đến làm đẹp, chăm sóc sức khỏe và giảm cân. Hầu hết chúng được tìm thấy trên TikTok và Instagram, và một số video đã được xem hàng triệu lần.
Hầu hết các video được xem xét đều cố gắng bán sản phẩm, thông qua các trang web độc lập hoặc các sàn giao dịch trực tuyến nổi tiếng. Họ thường đưa ra những tuyên bố táo bạo. Một video còn quảng cáo sản phẩm “hiệu quả hơn Ozempic 96%”.
Công ty an ninh mạng ESET gần đây cũng đã điều tra loại nội dung này. Theo Martina López, một nhà nghiên cứu bảo mật tại ESET , công ty đã phát hiện hơn 20 tài khoản trên TikTok và Instagram sử dụng bác sĩ do AI tạo ra để quảng bá sản phẩm.
Cô cho biết: “Cho dù là do một số video lan truyền hay các tài khoản có thêm nhiều người theo dõi thì loại nội dung này đang tiếp cận được lượng khán giả ngày càng rộng lớn hơn”.
CBS News đã liên hệ với TikTok và Meta, công ty mẹ của Instagram, để làm rõ chính sách của họ. Cả hai công ty đã gỡ bỏ các video bị CBS News gắn cờ, với lý do chúng vi phạm chính sách nền tảng. CBS News cũng đã liên hệ với YouTube, và YouTube cho biết quy trình yêu cầu quyền riêng tư của họ ” cho phép người dùng yêu cầu xóa nội dung do AI tạo ra mô phỏng người dùng một cách chân thực mà không cần sự cho phép của họ”.
YouTube cho biết các video do CBS News cung cấp không vi phạm Nguyên tắc Cộng đồng và sẽ vẫn được lưu trữ trên nền tảng này. “Chính sách của chúng tôi nghiêm cấm nội dung gây nguy cơ gây hại nghiêm trọng bằng cách lan truyền thông tin y tế sai lệch, trái ngược với hướng dẫn của cơ quan y tế địa phương (LHA) về các tình trạng sức khỏe và chất cụ thể”, YouTube cho biết.
TikTok cho biết từ tháng 1 đến tháng 3, họ đã chủ động xóa hơn 94% nội dung vi phạm chính sách về nội dung do AI tạo ra.
Sau khi CBS News liên hệ với Meta, công ty này cho biết họ đã xóa các video vi phạm Tiêu chuẩn quảng cáo và hạn chế các video khác vi phạm chính sách Sức khỏe và Thể chất , khiến chúng chỉ dành cho những người từ 18 tuổi trở lên.
Meta cũng cho biết những kẻ xấu liên tục thay đổi chiến thuật để cố gắng trốn tránh việc thực thi pháp luật.
Tony Anscombe, chuyên gia bảo mật hàng đầu của ESET, cho biết những kẻ lừa đảo đang sử dụng các công cụ AI có sẵn để cải thiện đáng kể chất lượng nội dung của chúng và việc xem video trên các thiết bị nhỏ khiến việc phát hiện ra sự không nhất quán về mặt hình ảnh trở nên khó khăn hơn.
ESET cho biết có một số dấu hiệu cảnh báo có thể giúp phát hiện nội dung do AI tạo ra, bao gồm các lỗi như nhấp nháy, mờ viền hoặc biến dạng lạ quanh khuôn mặt người. Ngoài hình ảnh, giọng nói nghe như robot hoặc thiếu cảm xúc tự nhiên của con người cũng có thể là dấu hiệu của AI.
Cuối cùng, Anscombe cho biết người xem nên hoài nghi về thông điệp này và đặt câu hỏi về những tuyên bố phóng đại như “phương pháp chữa bệnh kỳ diệu” hay “kết quả được đảm bảo”, vốn là những chiêu trò phổ biến trong các vụ lừa đảo kỹ thuật số.
“Đừng tin bất cứ điều gì, hãy kiểm chứng mọi thứ,” Anscombe nói. “Vì vậy, nếu bạn thấy điều gì đó khẳng định rằng, bạn biết đấy, có một phương thuốc thần kỳ và phương thuốc thần kỳ này đến từ X, hãy đi kiểm tra X… và tự mình thực hiện. Đừng theo dõi các liên kết. Hãy thực sự tìm kiếm nó, duyệt qua và tự mình kiểm chứng.”
Bervell cho biết các video deepfake có hình ảnh giống anh đã bị gỡ xuống sau khi anh yêu cầu những người theo dõi mình giúp báo cáo chúng.
Ông cũng cho biết ông lo ngại những video như thế này sẽ làm suy yếu lòng tin của công chúng vào y học.
“Khi chúng ta đưa tin giả ra ngoài, chúng ta sẽ thấy những người được cho là chuyên gia trong một lĩnh vực nào đó nói ra những điều có thể không đúng sự thật”, ông nói. “Điều đó bóp méo sự thật, và khiến công chúng khó tin vào bất cứ điều gì xuất phát từ khoa học, từ một bác sĩ, hay từ toàn bộ hệ thống chăm sóc sức khỏe.”
Ny (Theo CBS News)
