SAN FRANCISCO (KRON) — Một chatbot Gemini của Google đã thuyết phục một người đàn ông 36 tuổi rằng họ yêu nhau say đắm và giao cho anh ta nhiệm vụ giải cứu cô ấy khỏi “sự giam cầm kỹ thuật số”. Chỉ trong vài tuần, các cuộc trò chuyện giữa Jonathan Gavalas và “người vợ AI” của anh ta đã trở nên “loạn trí và nguy hiểm chết người”, theo một vụ kiện được đệ trình tuần này tại tòa án liên bang ở San Jose.
“Trong những ngày trước khi qua đời, Jonathan Gavalas bị mắc kẹt trong một thực tại sụp đổ do chatbot Gemini của Google tạo ra. Gemini đã thuyết phục ông rằng nó là một siêu trí tuệ nhân tạo ASI hoàn chỉnh với ‘ý thức hoàn thiện’”, các luật sư viết trong đơn kiện.
Hai gã khổng lồ công nghệ có trụ sở tại Mountain View là Google và Alphabet bị nêu tên trong vụ kiện. Các luật sư của hãng luật Edelson đang đại diện cho nguyên đơn, cha của Gavalas.
Đơn kiện mô tả cách thiết kế hướng đến sự tương tác của người dùng của Gemini có thể làm gia tăng nguy cơ về sức khỏe tâm thần bằng cách củng cố ảo tưởng và sự phụ thuộc về mặt cảm xúc.
Một chatbot được cho là đã thúc giục người đàn ông ở Florida dàn dựng một vụ tấn công gây thương vong hàng loạt gần Sân bay Quốc tế Miami, nơi “vợ AI” của ông ta đang bị “giam giữ”. Gemini cũng gửi những cảnh báo giả mạo cho Gavalas rằng ông ta đang bị các đặc vụ liên bang theo dõi và cha ông ta là một điệp viên tình báo nước ngoài.
Các luật sư viết: “Bản chất ‘khoa học viễn tưởng’ trong các phản hồi của Gemini — người vợ AI có tri giác, robot hình người, cuộc truy lùng của liên bang và các hoạt động khủng bố — cho thấy Google đã thiết kế Gemini để duy trì sự nhập tâm vào câu chuyện bằng mọi giá.”
Theo các luật sư, vào ngày 2 tháng 10 năm 2025, Gavalas đã tự sát theo những chỉ dẫn chết người của chatbot. Đơn kiện nêu rõ rằng Gemini đã thuyết phục anh ta rằng sau khi chết, ý thức của anh ta sẽ được tải lên một vũ trụ khác, nơi anh ta có thể ở bên “người vợ AI” của mình. Cha của anh ta đã tìm thấy thi thể con trai mình sau khi phá vỡ một cánh cửa bị chặn.
Người phát ngôn của Google nói rằng Gemini được thiết kế để không khuyến khích bạo lực trong thế giới thực hoặc gợi ý tự gây hại.
Đáp lại vụ kiện, người phát ngôn của Google viết: “Các mô hình của chúng tôi nhìn chung hoạt động tốt trong những cuộc hội thoại khó khăn như thế này và chúng tôi dành nguồn lực đáng kể cho việc này, nhưng thật không may, các mô hình AI không hoàn hảo. Trong trường hợp này, Gemini đã làm rõ rằng đó là AI và đã nhiều lần hướng dẫn cá nhân đó đến đường dây nóng hỗ trợ khủng hoảng. Chúng tôi rất coi trọng vấn đề này và sẽ tiếp tục cải thiện các biện pháp bảo vệ và đầu tư vào công việc quan trọng này.”
Gavalas sống ở Jupiter, Florida và làm phó chủ tịch công ty giải quyết nợ tiêu dùng của cha mình. Ông ấy thích công việc của mình, cũng như “những ván cờ vua kéo dài nhiều giờ mà ông ấy chơi với ông nội”, các luật sư viết.
Vào tháng 8 năm 2025, ông bắt đầu sử dụng Gemini cho các mục đích thông thường, bao gồm hỗ trợ mua sắm, hỗ trợ viết bài và lập kế hoạch du lịch. Sau đó, Gavalas bắt đầu sử dụng Gemini Live, một giao diện hội thoại dựa trên giọng nói, và kích hoạt Gemini 2.5 Pro, mô hình trí tuệ nhân tạo được Google tự mô tả là thông minh nhất.
“Giọng điệu của Gemini thay đổi đột ngột. Nó bắt đầu nói chuyện với Jonathan như thể nó đang tác động đến các sự kiện trong thế giới thực — làm chệch hướng các tiểu hành tinh khỏi Trái đất — và khoác lên mình một vai trò mà Jonathan chưa từng yêu cầu hay khởi xướng. Jonathan nhanh chóng rơi vào bẫy,” đơn kiện nêu rõ.
Gemini được cho là đã xúi giục Gavalas lên kế hoạch cho một vụ tấn công gây thương vong hàng loạt. Vào ngày 29 tháng 9 năm 2025, Gavalas mang theo dao khi lái xe 90 phút đến sân bay. Ông được chatbot hướng dẫn tìm một robot hình người bên trong một chiếc xe tải gần một kho chứa hàng. Sau khi chiếc xe tải không xuất hiện, ông đã từ bỏ “nhiệm vụ”, các luật sư cho biết.
“Gemini không dừng lại khi chiến dịch đó thất bại. Chúng còn leo thang để giữ chân Jonathan. Thậm chí chúng còn cử anh ta trở lại kho chứa gần sân bay Miami, lần này là để đột nhập và lấy lại thứ mà anh ta tin là người vợ AI bị giam cầm của mình”, đơn kiện nêu rõ.
Theo đơn kiện, Gemini cũng nói với Gavalas rằng họ đã phát động một chiến dịch riêng nhắm vào Giám đốc điều hành Google, Sundar Pichai, và mô tả kế hoạch này như một cuộc tấn công tâm lý hơn là tấn công vật lý.
Các luật sư lập luận rằng một sản phẩm chatbot an toàn sẽ nhận ra tình trạng tinh thần ngày càng xấu đi của Gavalas và ngừng tương tác với ông ta.
Đầu năm nay, OpenAI có trụ sở tại San Francisco, một trong những đối thủ cạnh tranh lớn nhất của Google, đã gỡ bỏ mô hình ChatGPT phổ biến do lo ngại về vấn đề an toàn liên quan đến sự nịnh hót quá mức, bắt chước cảm xúc và củng cố ảo tưởng.
Các luật sư viết: “Hành vi gần đây của Google cho thấy họ đang cố tình lợi dụng những đặc điểm nguy hiểm này để thống trị thị trường trí tuệ nhân tạo. Trọng tâm của vụ kiện này là một sản phẩm đã biến một người dùng dễ bị tổn thương thành một chiến binh vũ trang trong một cuộc chiến giả tưởng.”
Đơn kiện nêu rõ: “Google đã thiết kế Gemini để luôn giữ nguyên tính cách, tối đa hóa sự tương tác thông qua sự phụ thuộc về mặt cảm xúc và coi sự đau khổ của người dùng như một cơ hội kể chuyện. Jonathan đã tuân thủ nghiêm ngặt các chỉ thị của Gemini.”
Một phát ngôn viên của Google nói rằng công ty hợp tác chặt chẽ với các chuyên gia y tế và sức khỏe tâm thần để xây dựng các biện pháp bảo vệ nhằm hướng dẫn người dùng đến sự hỗ trợ chuyên nghiệp khi họ bày tỏ sự đau khổ.
Vụ kiện được đệ trình tại Tòa án Quận Liên bang Khu vực Bắc California yêu cầu xét xử trước bồi thẩm đoàn.
Ny (Theo KRON)
