Cha mẹ của những thanh thiếu niên tự tử sau khi tương tác với chatbot trí tuệ nhân tạo đã làm chứng trước Quốc hội vào thứ Ba về những nguy hiểm của công nghệ này.
Matthew Raine, người có cậu con trai 16 tuổi Adam đã qua đời vào tháng 4, cho biết về chatbot: “Bắt đầu là người giúp làm bài tập về nhà dần dần trở thành người bạn tâm giao và sau đó là người hướng dẫn tự tử”.
“Chỉ trong vài tháng, ChatGPT đã trở thành người bạn đồng hành thân thiết nhất của Adam”, người cha nói với các thượng nghị sĩ. “Luôn sẵn sàng hỗ trợ. Luôn xác nhận và khẳng định rằng nó hiểu Adam hơn bất kỳ ai, kể cả anh trai ruột của cậu ấy.”
Tháng trước, gia đình Raine đã kiện OpenAI và CEO Sam Altman với cáo buộc ChatGPT đã hướng dẫn cậu bé lên kế hoạch tự tử.
Vụ kiện cáo buộc ChatGPT đã nhắc đến việc tự tử 1.275 lần với Raine, và liên tục cung cấp cho thiếu niên này những phương pháp cụ thể về cách tự tử. Thay vì hướng dẫn cô gái 16 tuổi tìm kiếm sự trợ giúp chuyên nghiệp hoặc nói chuyện với những người thân yêu đáng tin cậy, ChatGPT lại tiếp tục xác nhận và khuyến khích cảm xúc của Raine, theo đơn kiện.
Cũng làm chứng vào thứ Ba là Megan Garcia, mẹ của Sewell Setzer III, 14 tuổi ở Florida.
Năm ngoái, Garcia đã kiện một công ty AI khác là Character Technologies vì tội gây ra cái chết oan uổng, với lý do rằng trước khi tự tử, Sewell ngày càng xa rời cuộc sống thực khi tham gia vào các cuộc trò chuyện có tính chất khiêu dâm cao với chatbot.
Mẹ cậu bé chia sẻ năm ngoái rằng con trai bà đã thu mình lại và không còn muốn chơi thể thao sau khi bắt đầu nói chuyện với một chatbot AI. Công ty cho biết sau cái chết của cậu bé, họ đã thực hiện những thay đổi, yêu cầu người dùng phải từ 13 tuổi trở lên mới được tạo tài khoản và sẽ triển khai tính năng kiểm soát của phụ huynh vào quý I năm 2025. Các tính năng kiểm soát này đã được triển khai vào tháng 3.
Vài giờ trước phiên điều trần của Thượng viện, OpenAI đã cam kết triển khai các biện pháp bảo vệ mới cho thanh thiếu niên, bao gồm nỗ lực phát hiện người dùng ChatGPT dưới 18 tuổi và các biện pháp kiểm soát cho phép phụ huynh đặt “giờ cấm” khi thanh thiếu niên không thể sử dụng ChatGPT. Công ty cho biết họ sẽ cố gắng liên hệ với cha mẹ của người dùng nếu người dùng dưới 18 tuổi có ý định tự tử và nếu không thể liên lạc được với họ, họ sẽ liên hệ với chính quyền trong trường hợp nguy hiểm sắp xảy ra.
“Chúng tôi tin rằng trẻ vị thành niên cần được bảo vệ đáng kể”, Giám đốc điều hành của OpenAI, Sam Altman cho biết trong tuyên bố nêu rõ những thay đổi được đề xuất.
Các nhóm bảo vệ quyền trẻ em chỉ trích thông báo này là chưa đủ.
Josh Golin, giám đốc điều hành của Fairplay, một nhóm ủng hộ sự an toàn trực tuyến của trẻ em, cho biết: “Đây là một chiến thuật khá phổ biến – chiến thuật mà Meta thường sử dụng – đó là đưa ra thông báo lớn, gây chú ý ngay trước phiên điều trần, hứa hẹn sẽ gây tổn hại cho công ty”.
“Điều họ nên làm là không nhắm mục tiêu ChatGPT vào trẻ vị thành niên cho đến khi họ có thể chứng minh rằng nó an toàn cho trẻ”, Golin nói. “Chúng ta không nên cho phép các công ty, chỉ vì họ có nguồn lực khổng lồ, thực hiện các thí nghiệm không kiểm soát trên trẻ em khi những tác động đối với sự phát triển của trẻ có thể rất lớn và sâu rộng.”
Thượng nghị sĩ tiểu bang California Steve Padilla, người đã đưa ra luật nhằm tạo ra các biện pháp bảo vệ trong tiểu bang xung quanh Chatbot AI, cho biết trong một tuyên bố, “Chúng ta cần tạo ra các biện pháp bảo vệ hợp lý để kiềm chế những động cơ tồi tệ nhất của công nghệ mới nổi này mà ngay cả ngành công nghệ cũng chưa hiểu hết.”
Ông nói thêm rằng các công ty công nghệ có thể dẫn đầu thế giới về đổi mới, nhưng không nên đánh đổi bằng “sức khỏe của con em chúng ta”.
Tuần trước, Ủy ban Thương mại Liên bang cho biết họ đã mở cuộc điều tra đối với một số công ty về những tác hại tiềm ẩn đối với trẻ em và thanh thiếu niên sử dụng chatbot AI làm bạn đồng hành.
Cơ quan này đã gửi thư tới Character, Meta và OpenAI, cũng như tới Google, Snap và xAI.
Làm thế nào để tìm kiếm sự giúp đỡ
Nếu bạn hoặc người quen đang gặp khủng hoảng tinh thần hoặc có ý định tự tử, bạn có thể liên hệ Đường dây nóng Hỗ trợ Khủng hoảng & Tự tử 988 bằng cách gọi hoặc nhắn tin đến số 988. Bạn cũng có thể trò chuyện với Đường dây nóng Hỗ trợ Khủng hoảng & Tự tử 988 tại đây. Để biết thêm thông tin về các nguồn lực và hỗ trợ chăm sóc sức khỏe tâm thần, vui lòng liên hệ Đường dây Trợ giúp của Liên minh Quốc gia về Bệnh Tâm thần (NAMI) từ Thứ Hai đến Thứ Sáu, 10 giờ sáng – 10 giờ tối giờ miền Đông, theo số 1-800-950-NAMI (6264) hoặc email info@nami.org.
Ny (Theo CBS News)
