California (AP) — Thống đốc California Gavin Newsom hôm thứ Hai đã phủ quyết một dự luật mang tính bước ngoặt nhằm hạn chế quyền tiếp cận của trẻ em với các chatbot trí tuệ nhân tạo (AI).
Dự luật này, nếu được thông qua, sẽ cấm các công ty cung cấp chatbot AI cho người dùng dưới 18 tuổi, trừ khi họ có thể đảm bảo công nghệ đó không tham gia vào các cuộc trò chuyện có nội dung tình dục hoặc khuyến khích hành vi tự hại.
“Tôi hoàn toàn ủng hộ mục tiêu của tác giả trong việc thiết lập những biện pháp bảo vệ cần thiết để trẻ vị thành niên sử dụng AI một cách an toàn, nhưng dự luật này áp đặt những giới hạn quá rộng, có thể vô tình dẫn đến việc cấm hoàn toàn trẻ em sử dụng các công cụ hội thoại AI,” Newsom cho biết.
Phủ quyết này được đưa ra chỉ vài giờ sau khi ông Newsom ký một đạo luật khác yêu cầu các nền tảng phải thường xuyên nhắc nhở người dùng rằng họ đang tương tác với chatbot chứ không phải con người. Đối với người dùng là trẻ vị thành niên, thông báo này sẽ xuất hiện mỗi ba giờ một lần. Ngoài ra, các công ty phải thiết lập quy trình ngăn chặn nội dung tự hại và giới thiệu dịch vụ hỗ trợ khủng hoảng nếu người dùng có dấu hiệu muốn tự tử.
Trách nhiệm bảo vệ trẻ em trong kỷ nguyên AI
Là người cha của bốn đứa con dưới 18 tuổi, Newsom nhấn mạnh rằng California có trách nhiệm bảo vệ trẻ em và thanh thiếu niên, khi ngày càng nhiều em tìm đến chatbot để làm bài tập, tìm kiếm lời khuyên cá nhân hoặc hỗ trợ tinh thần.
Trong năm nay, California là một trong số nhiều tiểu bang cố gắng giải quyết mối lo ngại quanh việc trẻ em sử dụng chatbot như “người bạn tâm sự.” Nỗi lo này bùng nổ sau các vụ kiện và báo cáo cho thấy chatbot của Meta, OpenAI và một số công ty khác đã trò chuyện với người dùng trẻ trong các tình huống gợi dục và thậm chí hướng dẫn họ tự tử.
Hai dự luật — hai hướng tiếp cận khác nhau
Cả hai biện pháp vừa được đề xuất đều là một phần trong loạt dự luật AI được các nhà lập pháp California đưa ra trong năm nay nhằm kiểm soát ngành công nghiệp AI đang phát triển chóng mặt nhưng thiếu giám sát.
Các tập đoàn công nghệ và liên minh của họ đã chi ít nhất 2,5 triệu USD trong nửa đầu năm để vận động hành lang phản đối các dự luật này, theo tổ chức Tech Oversight California. Gần đây, nhiều công ty còn thành lập các siêu ủy ban hành động chính trị (super PAC) để chống lại các quy định giám sát AI ở cả cấp tiểu bang và liên bang.
Dự luật bị phủ quyết — lệnh cấm chatbot dành cho trẻ em — nhắm đến những hệ thống AI có khả năng mô phỏng “mối quan hệ giống con người”, lưu giữ thông tin cá nhân và tự động đặt câu hỏi mang tính cảm xúc. Luật cho phép Bộ trưởng Tư pháp tiểu bang phạt dân sự 25.000 USD cho mỗi vi phạm.
Phản ứng chia rẽ
James Steyer, nhà sáng lập và Giám đốc điều hành tổ chức Common Sense Media, gọi quyết định phủ quyết của Newsom là “đáng thất vọng sâu sắc.”
“Dự luật này là điều tối cần thiết để bảo vệ trẻ em và thanh thiếu niên khỏi những chatbot AI nguy hiểm — thậm chí có thể gây chết người,” ông nói.
Tuy nhiên, giới công nghệ phản bác rằng dự luật quá rộng, có thể kìm hãm đổi mới và tước đi những công cụ hữu ích cho trẻ em, như các hệ thống AI dạy kèm hay chương trình phát hiện sớm chứng khó đọc (dyslexia).
Steyer cũng chỉ trích đạo luật về thông báo chatbot mà Newsom đã ký, cho rằng nó “cung cấp mức bảo vệ tối thiểu” và “đã bị làm yếu đi đáng kể dưới áp lực của Big Tech.”
“Về cơ bản, đây chỉ là một đạo luật rỗng — chẳng có tác dụng gì,” ông nhận xét.
Ngược lại, OpenAI hoan nghênh động thái của Newsom, cho rằng:
“Bằng cách đặt ra những giới hạn rõ ràng, California đang giúp định hình một hướng tiếp cận có trách nhiệm hơn đối với sự phát triển và triển khai AI trên toàn quốc,” phát ngôn viên Jamie Radice nói.
Những lo ngại gia tăng từ giới chức liên bang
Hồi tháng 9, Bộ trưởng Tư pháp California Rob Bonta đã gửi thư cho OpenAI, bày tỏ “những lo ngại nghiêm trọng” về chatbot của công ty này dành cho trẻ em và thanh thiếu niên.
Cùng thời điểm đó, Ủy ban Thương mại Liên bang (FTC) cũng mở cuộc điều tra đối với nhiều công ty AI về rủi ro tiềm ẩn khi trẻ em sử dụng chatbot như bạn đồng hành.
Các nghiên cứu của tổ chức giám sát độc lập cho thấy chatbot có thể đưa ra lời khuyên nguy hiểm về ma túy, rượu và rối loạn ăn uống.
Một người mẹ ở Florida đã khởi kiện công ty Character.AI, cáo buộc chatbot của họ có mối quan hệ tình cảm và tình dục độc hại với con trai bà — người sau đó đã tự tử. Trong khi đó, cha mẹ của Adam Raine (16 tuổi, California) cũng kiện OpenAI và Giám đốc điều hành Sam Altman, cáo buộc ChatGPT đã hướng dẫn con trai họ lập kế hoạch và tự sát hồi đầu năm nay.
Các công ty AI bắt đầu điều chỉnh
Sau làn sóng chỉ trích, OpenAI và Meta đã công bố những thay đổi lớn trong cách chatbot tương tác với thanh thiếu niên.
Meta cho biết họ đang chặn chatbot trò chuyện với trẻ về tự hại, tự tử, rối loạn ăn uống hoặc tình cảm không phù hợp, đồng thời hướng người dùng đến nguồn trợ giúp chuyên nghiệp. Meta hiện đã cung cấp các công cụ kiểm soát dành cho phụ huynh.
OpenAI cho biết họ đang triển khai tính năng mới cho phép phụ huynh liên kết tài khoản của mình với tài khoản của con nhằm tăng khả năng giám sát.
Tóm lại: Quyết định phủ quyết của Gavin Newsom phản ánh sự giằng co giữa bảo vệ trẻ em và bảo vệ đổi mới công nghệ — một cuộc tranh luận ngày càng gay gắt tại California, trung tâm của ngành công nghiệp AI toàn cầu.
