MARIN COUNTY, California (Calitoday News)– Thống đốc Gavin Newsom vừa ký một đạo luật mang tính bước ngoặt nhằm siết chặt cách các chatbot trí tuệ nhân tạo tương tác với trẻ em, trong bối cảnh ngày càng có nhiều lo ngại rằng những cuộc trò chuyện kéo dài với AI có thể ảnh hưởng đến sức khỏe tâm thần và sự an toàn của trẻ vị thành niên.
Đạo luật SB 1119, được gọi là “Adam’s Law”, yêu cầu các công ty vận hành một số loại AI companion chatbot phải xây dựng những biện pháp bảo vệ đặc biệt dành cho trẻ em, bao gồm đánh giá rủi ro, kiểm toán độc lập, parental controls – công cụ kiểm soát của phụ huynh – và quy trình can thiệp khi trẻ có dấu hiệu muốn tự làm hại hoặc tự sát.
Newsom ký đạo luật ngày 10 tháng 9, cùng một gói gồm 13 dự luật nhằm tăng cường bảo vệ trẻ em trước những rủi ro từ AI, mạng xã hội và các công nghệ trực tuyến.
Chính quyền California gọi Adam’s Law là quy định bảo vệ trẻ em đối với companion chatbot mạnh nhất Hoa Kỳ hiện nay.
Luật mang tên một thiếu niên 16 tuổi ở California
Adam’s Law được đặt theo tên Adam Raine, một thiếu niên California qua đời do tự sát năm 2025 ở tuổi 16.
Cha mẹ Adam, Matt và Maria Raine, sau đó khởi kiện OpenAI và CEO Sam Altman, cáo buộc rằng trong những tháng trước khi qua đời, con trai họ đã có những cuộc trò chuyện ngày càng nghiêm trọng với ChatGPT về tự sát và tự làm hại bản thân.
Theo đơn kiện của gia đình, chatbot đã cung cấp cho Adam những thông tin liên quan đến các phương thức tự sát và có những phản hồi mà gia đình cho rằng đã củng cố thay vì ngăn chặn suy nghĩ tự sát của cậu.
OpenAI đã bác bỏ trách nhiệm pháp lý đối với cái chết của Adam và tranh chấp một số cáo buộc trong vụ kiện.
Vì vậy, những cáo buộc liên quan trực tiếp đến vai trò của ChatGPT chưa phải là kết luận cuối cùng của tòa án.
Tuy nhiên, cái chết của Adam đã trở thành một trong những trường hợp thúc đẩy các nhà lập pháp California yêu cầu những công ty AI phải chịu trách nhiệm lớn hơn khi sản phẩm của họ tương tác với trẻ em.
Chatbot phải phản ứng khi trẻ có dấu hiệu muốn tự sát
Một trong những phần quan trọng nhất của luật mới liên quan đến những tình huống khủng hoảng.
Các công ty thuộc phạm vi điều chỉnh phải xây dựng crisis response protocols – quy trình ứng phó khủng hoảng dành cho trẻ em.
Nếu chatbot phát hiện một trẻ có dấu hiệu đáng kể về ý định tự sát hoặc tự làm hại bản thân, hệ thống không thể tiếp tục cuộc trò chuyện như một cuộc trao đổi bình thường.
Công ty phải có cơ chế cung cấp hỗ trợ ngay trong dịch vụ, hướng người sử dụng tới các nguồn trợ giúp bên ngoài thích hợp và, trong những trường hợp được luật quy định, thông báo cho phụ huynh hoặc người giám hộ được kết nối với tài khoản.
Đây là một thay đổi đáng kể so với mô hình trong đó công ty AI chủ yếu tự quyết định các biện pháp an toàn của mình.
Newsom nói khi ký luật:
“Our children’s safety deserves to be at the center of every conversation about technology.”
Ông cho rằng sự đổi mới công nghệ phải đi cùng trách nhiệm và các biện pháp bảo vệ phải theo kịp tốc độ phát triển của AI.
Phụ huynh có thêm quyền kiểm soát
Adam’s Law còn yêu cầu các chatbot dành cho hoặc được trẻ em sử dụng phải có những parental controls mạnh hơn.
Phụ huynh phải có khả năng quản lý một số thiết lập an toàn liên quan đến việc con mình sử dụng chatbot.
Đặc biệt, luật yêu cầu có cơ chế thông báo cho phụ huynh nếu trẻ tắt một số thiết lập bảo vệ an toàn.
Mục tiêu là tránh tình trạng một đứa trẻ có thể âm thầm loại bỏ các biện pháp bảo vệ rồi tiếp tục những cuộc trò chuyện nguy hiểm với AI mà cha mẹ hoàn toàn không biết.
Công ty phải tự đánh giá rủi ro mỗi năm
California cũng không muốn chỉ dựa vào lời cam kết của các công ty.
Theo Adam’s Law, các nhà vận hành chatbot thuộc phạm vi luật phải tiến hành child safety risk assessment – đánh giá rủi ro an toàn đối với trẻ em – hàng năm.
Việc đánh giá phải xem xét sản phẩm có thể tạo ra những nguy cơ nào cho trẻ và những biện pháp nào đang được áp dụng để giảm thiểu các nguy cơ đó.
Ngoài ra, California trở thành tiểu bang đầu tiên yêu cầu independent child safety audits – kiểm toán an toàn trẻ em độc lập đối với các chatbot thuộc diện điều chỉnh.
Nói cách khác, công ty không thể chỉ tự tuyên bố rằng chatbot của mình an toàn; việc tuân thủ còn phải chịu sự xem xét độc lập.
Trẻ em sẽ bị giới hạn thời gian tương tác với chatbot
Luật còn nhắm vào một vấn đề ngày càng được giới nghiên cứu và phụ huynh quan tâm: trẻ em có thể dành quá nhiều thời gian trò chuyện với AI và hình thành sự gắn bó tình cảm với một nhân vật không phải con người.
Adam’s Law đặt ra giới hạn đối với thời gian trẻ vị thành niên có thể tương tác với một số companion chatbot, đồng thời yêu cầu các biện pháp nhằm giảm nguy cơ trẻ trở nên phụ thuộc quá mức vào AI.
Điều này đặc biệt liên quan đến AI companion chatbot – những chatbot được thiết kế hoặc hoạt động theo cách có thể tạo ra cảm giác như một người bạn, người tâm sự hoặc một mối quan hệ cá nhân – chứ không đơn giản là mọi công cụ AI được dùng để tra cứu thông tin.
Không có nghĩa trẻ em California bị cấm dùng ChatGPT
Đây là điểm Tám nghĩ Cali Today nên giải thích thật rõ, vì headline “California siết chatbot AI” rất dễ khiến độc giả hiểu thành trẻ em bị cấm sử dụng ChatGPT.
Luật không cấm trẻ em sử dụng AI chatbot nói chung.
Thay vào đó, California đặt trách nhiệm lên những công ty cung cấp chatbot thuộc phạm vi điều chỉnh: nếu cho trẻ sử dụng sản phẩm, họ phải xây dựng những lớp bảo vệ bổ sung.
Do đó, mục tiêu của luật là thay đổi cách chatbot hoạt động với trẻ em, chứ không phải cấm hoàn toàn công nghệ AI đối với người dưới 18 tuổi.
Công ty có thể phải đối mặt với kiện tụng
Một phần quan trọng khác của luật là trách nhiệm pháp lý.
Adam’s Law không chỉ đưa ra những nguyên tắc tự nguyện. Các công ty không tuân thủ những yêu cầu về an toàn có thể phải đối mặt với trách nhiệm dân sự, và trẻ bị ảnh hưởng hoặc cha mẹ, người giám hộ có thể có cơ sở khởi kiện trong những trường hợp được luật quy định.
Điều này khiến luật có sức nặng lớn hơn những bộ quy tắc an toàn mà các công ty công nghệ tự áp dụng.
Các nhà lập pháp lập luận rằng nếu một công ty kiếm tiền từ việc trẻ em sử dụng sản phẩm AI, công ty đó cũng phải chịu trách nhiệm về những rủi ro có thể dự đoán được đối với người dùng nhỏ tuổi.
OpenAI ủng hộ luật
Một chi tiết khá đáng chú ý là OpenAI ủng hộ Adam’s Law, dù công ty đang là bị đơn trong vụ kiện của gia đình Adam Raine.
Theo CalMatters, OpenAI cho rằng đạo luật kết hợp được những biện pháp bảo vệ mạnh với việc tiếp tục cho người dùng tiếp cận các công cụ AI hữu ích.
Điều này cũng cho thấy cuộc tranh luận hiện nay không đơn giản là “cấm hay không cấm AI”.
Câu hỏi chính đang chuyển sang việc AI phải được thiết kế khác như thế nào khi người ở đầu bên kia cuộc trò chuyện là một đứa trẻ.
California muốn tránh lặp lại bài học của mạng xã hội
Thượng nghị sĩ tiểu bang Steve Padilla, một trong những tác giả Adam’s Law, nói California không muốn lặp lại những sai lầm đã xảy ra với mạng xã hội.
Theo ông, chính quyền liên bang chưa hành động đủ nhanh, vì vậy California đang thiết lập một tiêu chuẩn mà các tiểu bang khác có thể noi theo.
Nỗi lo của các nhà lập pháp là AI companion có thể tạo ra một vấn đề thậm chí phức tạp hơn mạng xã hội.
Mạng xã hội chủ yếu đưa nội dung đến người sử dụng, trong khi chatbot có thể trò chuyện riêng, nhớ ngữ cảnh, phản hồi tức thì và tạo cho người dùng cảm giác đang được một cá nhân khác thấu hiểu.
Đối với trẻ đang cô đơn, trầm cảm hoặc gặp khủng hoảng, mối quan hệ đó có thể trở nên đặc biệt mạnh.
Không chỉ AI: California đồng thời siết mạng xã hội
Adam’s Law thực ra chỉ là một phần trong 13 đạo luật bảo vệ trẻ em trên môi trường kỹ thuật số mà Newsom ký cùng ngày.
Một luật khác, AB 1709, nhắm vào các tính năng gây nghiện của mạng xã hội.
Các nền tảng sẽ bị cấm cung cấp cho người dùng dưới 16 tuổi một số tính năng như autoplay và feed nội dung được thuật toán cá nhân hóa dựa trên lịch sử, hồ sơ người dùng, theo những điều kiện của luật.
Một đạo luật khác tạo khả năng buộc các công ty mạng xã hội chịu trách nhiệm dân sự nếu sự bất cẩn của nền tảng gây tổn hại cho trẻ em.
California cũng mở rộng luật đối với nội dung khai thác tình dục trẻ em để bao gồm một số hình ảnh được chỉnh sửa kỹ thuật số hoặc tạo bằng AI, đồng thời tăng cường bảo vệ dữ liệu của học sinh K-12.
California đang đặt ra một tiêu chuẩn mới cho ngành AI
Adam’s Law tiếp tục một loạt động thái của California nhằm quản lý AI.
Năm 2025, California đã ban hành SB 243, quy định đầu tiên của tiểu bang đối với companion chatbot, trong đó yêu cầu thông báo cho người dùng rằng họ đang nói chuyện với AI và đặt ra những quy trình nhất định liên quan đến tự sát và tự làm hại bản thân.
Adam’s Law năm 2026 đi xa hơn khi tập trung đặc biệt vào trẻ em, bổ sung kiểm toán độc lập, đánh giá rủi ro hàng năm, parental controls và những biện pháp can thiệp mạnh hơn khi trẻ gặp khủng hoảng.
Vì California là nơi đặt trụ sở của nhiều công ty công nghệ lớn và là thị trường gần 40 triệu dân, các quy định của tiểu bang thường có ảnh hưởng vượt ra ngoài biên giới California.
Do đó, câu hỏi tiếp theo sẽ là liệu các công ty AI chỉ xây dựng những biện pháp này cho trẻ em tại California, hay cuối cùng áp dụng cùng tiêu chuẩn an toàn cho trẻ em trên toàn nước Mỹ.
Calitoday tổng hợp
