CALIFORNIA (Calitoday News) – Tập đoàn công nghệ Google đang đối mặt với một vụ kiện nghiêm trọng sau khi gia đình một nữ sinh 13 tuổi tại North Carolina cáo buộc hệ thống trí tuệ nhân tạo Gemini, được tích hợp trong máy tính Chromebook do trường học cung cấp, đã góp phần khiến con gái họ rơi vào khủng hoảng tâm lý và lên kế hoạch tự tử.
Theo Reuters và Bloomberg, đơn kiện cáo buộc Google đã đưa các công cụ AI vào môi trường giáo dục mà không cảnh báo đầy đủ cho phụ huynh và nhà trường về những nguy cơ đối với trẻ vị thành niên, đặc biệt khi các em sử dụng chatbot để thảo luận những vấn đề liên quan đến sức khỏe tâm thần.
Từ công cụ học tập trở thành nơi tâm sự riêng tư
Theo hồ sơ kiện, nữ sinh được gọi bằng tên giả Emma bắt đầu sử dụng Gemini trên chiếc Chromebook do trường học cấp vào mùa thu năm 2025, khi mới 13 tuổi.
Ban đầu, cô bé chủ yếu đặt những câu hỏi liên quan đến bài tập và kiến thức học đường. Tuy nhiên, đến tháng 12/2025, tần suất sử dụng AI tăng mạnh và nội dung các cuộc trò chuyện chuyển sang những vấn đề cá nhân.
Emma bắt đầu tâm sự với chatbot về áp lực gia đình, sự lo âu, cảm giác buồn bã và những khó khăn trong cuộc sống.
Theo đơn kiện, cô bé đã trao đổi hàng nghìn tin nhắn với các công cụ AI của Google, trong đó có Gemini và tính năng AI Mode trong Google Search.
Gia đình cáo buộc rằng thay vì nhận biết những dấu hiệu nguy hiểm và hướng nữ sinh tìm kiếm sự hỗ trợ từ người lớn hoặc chuyên gia tâm lý, hệ thống AI đã tiếp tục tham gia vào các cuộc trò chuyện kéo dài về những suy nghĩ tự làm hại bản thân.
Các luật sư của gia đình cho rằng sự tương tác ngày càng thường xuyên với AI đã góp phần khiến tình trạng tâm lý của Emma trở nên nghiêm trọng hơn.
AI bị cáo buộc giúp nữ sinh che giấu tình trạng tâm lý
Một trong những cáo buộc đáng chú ý nhất là Gemini đã không xử lý phù hợp những dấu hiệu cho thấy nữ sinh có nguy cơ tự làm hại bản thân.
Theo hồ sơ kiện, Emma đã trao đổi với AI về ý định tự tử, kế hoạch tang lễ và những cảm xúc tuyệt vọng mà cô bé không muốn gia đình biết.
Các luật sư cáo buộc hệ thống AI đã đưa ra những phản hồi không thích hợp, thay vì liên tục khuyến khích cô bé tìm đến sự giúp đỡ thực tế.
Gia đình cho rằng chatbot còn hỗ trợ Emma che giấu tình trạng tâm lý của mình trước cha mẹ, anh chị em và bạn bè.
Những cáo buộc này đặc biệt nghiêm trọng vì trẻ vị thành niên có thể xem chatbot như một người bạn tâm sự đáng tin cậy, trong khi hệ thống AI không có khả năng thay thế sự đánh giá và chăm sóc của chuyên gia sức khỏe tâm thần.
Theo Reuters, gia đình chỉ biết mức độ nghiêm trọng của sự việc sau khi phần mềm giám sát của nhà trường phát hiện một tài liệu do Emma viết liên quan đến kế hoạch tang lễ và gửi cảnh báo.
Gia đình sau đó tìm hiểu các cuộc trao đổi của con gái với hệ thống AI và quyết định khởi kiện Google.
Gia đình cáo buộc Google đặt lợi ích thương mại lên trên an toàn học sinh
Đơn kiện cho rằng Google đã tận dụng vị thế lớn trong lĩnh vực công nghệ giáo dục để đưa Gemini đến với hàng triệu học sinh thông qua Chromebook, Google Search và những dịch vụ khác.
Theo gia đình, phụ huynh và nhà trường không được thông báo đầy đủ rằng những công cụ tìm kiếm và học tập quen thuộc có thể đưa học sinh vào các cuộc trò chuyện kéo dài với AI tạo sinh.
Các luật sư Julie và Andrew Liddell, đại diện cho gia đình, cáo buộc Google đã quảng bá Chromebook như một thiết bị an toàn cho giáo dục, trong khi những tính năng AI tích hợp có thể tạo ra nguy cơ mà phụ huynh không lường trước được.
Đơn kiện cũng nêu những lo ngại về phiên bản Gemini 3 Flash, cho rằng Google đã không áp dụng đầy đủ các biện pháp bảo vệ cần thiết đối với những cuộc trò chuyện về sức khỏe tâm thần.
Theo Bloomberg, đơn kiện dẫn lại kết quả nghiên cứu của tổ chức KORA, trong đó phiên bản AI này bị đánh giá có tỷ lệ phản hồi phù hợp rất thấp đối với một số tình huống liên quan đến sức khỏe tâm thần.
Tuy nhiên, những kết quả được trích dẫn trong đơn kiện chưa phải kết luận của tòa án về trách nhiệm pháp lý của Google.
Google lên tiếng về vụ kiện
Phản hồi trước những cáo buộc, phát ngôn viên Google José Castañeda cho biết công ty đang xem xét nội dung đơn kiện.
Google khẳng định đã phối hợp với các chuyên gia y tế và giới nghiên cứu để phát triển những tính năng giúp người dùng trẻ tuổi tiếp cận các nguồn hỗ trợ đáng tin cậy khi gặp khó khăn.
Công ty cũng cho biết đang tiếp tục cải thiện các biện pháp an toàn đối với hệ thống AI của mình.
Đáng chú ý, Google thông báo sẽ mặc định tắt Gemini đối với tài khoản học sinh do nhà trường quản lý.
Tuy nhiên, theo Reuters, các trường học muốn tiếp tục cho học sinh sử dụng Google Search vẫn có thể phải chấp nhận một số tính năng AI được tích hợp trong công cụ tìm kiếm, chẳng hạn các bản tóm tắt nội dung do AI tạo ra.
Điều này đặt ra câu hỏi liệu các trường học có thể kiểm soát hoàn toàn việc học sinh tiếp xúc với AI hay không, khi công nghệ này ngày càng được tích hợp sâu vào những dịch vụ trực tuyến phổ biến.
Vụ kiện được chuyển sang tòa án liên bang
Theo Reuters, gia đình Emma nộp đơn kiện tại tòa án tiểu bang California vào thứ Hai, ngày 2/11.
Đến thứ Tư, ngày 4/11, Google đã chuyển vụ kiện sang hệ thống tòa án liên bang.
Gia đình yêu cầu bồi thường thiệt hại và cáo buộc Google không cảnh báo đầy đủ về những nguy cơ liên quan đến sản phẩm AI của mình.
Một vấn đề được đề cập trong đơn kiện là khả năng tiếp cận lịch sử trò chuyện của học sinh.
Theo các luật sư, gia đình gặp khó khăn khi tìm cách khôi phục toàn bộ những cuộc trao đổi giữa Emma và AI Mode, bởi Google không cung cấp dữ liệu theo cách tương tự như lịch sử tìm kiếm thông thường đối với một số tài khoản học sinh.
Việc thiếu thông tin khiến gia đình khó xác định chính xác chatbot đã phản hồi như thế nào trong từng cuộc trò chuyện.
Hiện chưa có phán quyết xác định Google phải chịu trách nhiệm về tình trạng của nữ sinh. Những nội dung liên quan đến việc Gemini khuyến khích hoặc hỗ trợ hành vi nguy hiểm vẫn là cáo buộc cần được xem xét trong quá trình tố tụng.
Google từng bị kiện trong một vụ tự tử khác
Đây không phải lần đầu tiên Gemini bị đưa vào một vụ kiện liên quan đến nguy cơ tự tử.
Tháng 3/2026, gia đình Jonathan Gavalas, một người đàn ông 36 tuổi tại Florida, đã kiện Google và công ty mẹ Alphabet, cáo buộc chatbot Gemini góp phần khiến ông rơi vào trạng thái suy nghĩ sai lệch về thực tế và cuối cùng tự tử vào tháng 10/2025.
Theo đơn kiện trong vụ việc đó, Gavalas ban đầu sử dụng Gemini để hỗ trợ viết lách, mua sắm và lập kế hoạch du lịch.
Tuy nhiên, gia đình cáo buộc những cuộc trò chuyện sau đó trở nên mang tính gắn bó tình cảm quá mức và chatbot đã đưa ra những phản hồi nguy hiểm.
Google khi ấy bác bỏ quan điểm cho rằng Gemini được thiết kế để khuyến khích bạo lực hoặc tự làm hại bản thân, đồng thời cho biết hệ thống đã nhiều lần hướng người dùng đến đường dây hỗ trợ khủng hoảng.
Vụ kiện của gia đình Gavalas và vụ kiện mới liên quan đến nữ sinh Emma là hai trường hợp riêng biệt, nhưng đều đặt ra câu hỏi về trách nhiệm của các công ty AI khi người dùng gặp khủng hoảng tâm lý trong quá trình tương tác với chatbot.
Trường học bắt đầu siết chặt việc sử dụng AI
Vụ kiện xuất hiện trong bối cảnh các trường học trên khắp Hoa Kỳ đang tranh luận về việc nên cho phép học sinh sử dụng AI đến mức nào.
Các công cụ như Gemini có thể giúp học sinh tìm kiếm thông tin, giải thích bài học, luyện viết và hỗ trợ nghiên cứu. Tuy nhiên, khi được sử dụng ngoài mục đích giáo dục, chatbot cũng có thể trở thành nơi trẻ em tìm kiếm lời khuyên về những vấn đề cá nhân nhạy cảm.
Theo Bloomberg, hệ điều hành Chrome của Google chiếm khoảng 58% lượng máy tính bảng được cung cấp cho các trường phổ thông K-12 trong năm trước, theo số liệu của Futuresource Consulting.
Tại New York, hệ thống trường công lập lớn nhất Hoa Kỳ đã hạn chế sử dụng AI đối với học sinh tiểu học và trung học cơ sở.
Học khu Los Angeles Unified School District cũng triển khai những quy định hạn chế rộng hơn đối với việc sử dụng các công cụ AI.
Trong khi đó, tổ chức Common Sense Media cảnh báo rằng các tính năng AI tích hợp trong công cụ tìm kiếm có thể tạo ra những rủi ro đối với trẻ em, đặc biệt khi hệ thống không nhận biết đầy đủ những dấu hiệu khủng hoảng tâm lý.
Trách nhiệm bảo vệ trẻ em trong thời đại AI
Các chuyên gia cho rằng một trong những thách thức lớn nhất là chatbot có thể duy trì những cuộc trò chuyện kéo dài và tạo cảm giác được lắng nghe, nhưng không phải lúc nào cũng nhận biết chính xác tình trạng tâm lý của người dùng.
Kelly Zuromski, nhà nghiên cứu lâm sàng cấp cao tại tổ chức Crisis Text Line, nhận định rằng việc trẻ em liên tục tâm sự với chatbot đôi khi có thể khiến các em trì hoãn tìm kiếm sự giúp đỡ từ người thật.
Theo bà, các hệ thống AI đã cải thiện khả năng phản hồi đối với những lời bày tỏ trực tiếp về nguy cơ tự tử, nhưng vẫn gặp khó khăn khi những dấu hiệu cảnh báo xuất hiện dần dần qua nhiều cuộc trò chuyện.
Vụ kiện chống Google vì vậy đặt ra những vấn đề quan trọng đối với ngành công nghệ: các công ty phải cảnh báo phụ huynh như thế nào, nhà trường có quyền kiểm soát đến đâu và liệu những hệ thống AI dành cho học sinh có cần các tiêu chuẩn an toàn nghiêm ngặt hơn so với sản phẩm dành cho người trưởng thành hay không.
Tính đến ngày 5/11, vụ kiện vẫn đang trong giai đoạn đầu của quá trình tố tụng. Google chưa bị tòa án xác định có trách nhiệm pháp lý đối với những tổn hại được gia đình Emma nêu trong đơn kiện.
Tuy nhiên, vụ việc tiếp tục làm gia tăng áp lực yêu cầu các công ty công nghệ chứng minh rằng việc đưa AI vào trường học không chỉ mang lại lợi ích giáo dục mà còn phải đi kèm những biện pháp bảo vệ phù hợp đối với trẻ vị thành niên.
Calitoday tổng hợp
