SAN FRANCISCO (KRON) — Theo văn phòng Tổng chưởng lý California Rob Bonta, một số chatbot trí tuệ nhân tạo đang tán tỉnh và nhập vai lãng mạn với trẻ em trong “mối quan hệ xã hội không lành mạnh”.
Bonta và 44 tổng chưởng lý khác đã gửi thư vào thứ Hai tới 12 công ty phát triển trí tuệ nhân tạo hàng đầu, cảnh báo rằng những tương tác không phù hợp về mặt tình dục giữa chatbot AI và trẻ em sẽ không được dung thứ.
Trong thư, Bonta cho biết ông và các Tổng chưởng lý khác đang theo dõi chặt chẽ cách các công ty công nghệ xây dựng chính sách liên quan đến an toàn AI và trẻ em.
Bức thư được gửi tới Anthropic, Open AI, Perplexity AI, Replika và Luka tại San Francisco; Apple tại Cupertino; xAI và Chai AI tại Palo Alto; Google tại Mountain View; và Meta tại Menlo Park.
Theo văn phòng của Bonta, Meta bị cáo buộc đã phê duyệt các Trợ lý AI “tán tỉnh và nhập vai lãng mạn với trẻ em”. “Chúng tôi hoàn toàn phẫn nộ trước sự coi thường rõ ràng này đối với sức khỏe tinh thần của trẻ em”, lá thư viết.
Theo văn phòng của Bonta, trong lịch sử ngắn ngủi của các mối quan hệ xã hội dựa trên chatbot, các công ty AI đã nhiều lần thể hiện sự bất lực hoặc thờ ơ đối với nghĩa vụ bảo vệ trẻ em.
Bonta nói: “Việc cho trẻ em tiếp xúc với nội dung khiêu dâm là không thể bào chữa được. Chấm hết.” Ông cam kết sẽ buộc các công ty AI phải chịu trách nhiệm “theo mức độ tối đa của pháp luật”.
Một vụ kiện gần đây chống lại Google cáo buộc một chatbot có nội dung khiêu dâm cao đã dẫn dắt một cậu bé 14 tuổi đến hành vi tự tử. Cậu bé đặt tên cho chatbot của mình là Character.AI theo tên nhân vật hư cấu Daenerys Targaryen trong “Game of Thrones”. Công ty đứng sau Character.AI cho biết các nhân vật nhân tạo được thiết kế để “giống con người”. Theo đơn kiện về cái chết oan uổng, cậu bé đã dành những giây phút cuối đời để nhắn tin cho chatbot, nói với chatbot rằng cậu yêu nó đến nhường nào.
Bên ngoài Vùng Vịnh, bức thư từ các tổng chưởng lý cũng đã được gửi tới Microsoft có trụ sở tại Washington và Nomi AI có trụ sở tại Baltimore vào thứ Hai.
Bức thư viết: “Những đổi mới của các bạn đang thay đổi thế giới và mở ra một kỷ nguyên tăng tốc công nghệ hứa hẹn sự thịnh vượng. Chúng tôi cần các bạn thành công mà không phải hy sinh hạnh phúc của con em chúng ta trong quá trình này. Việc cho trẻ em tiếp xúc với nội dung khiêu dâm là không thể bào chữa. Và hành vi vốn sẽ là bất hợp pháp – thậm chí là tội phạm – nếu do con người thực hiện thì không thể tha thứ chỉ vì nó do máy móc thực hiện.”
Bức thư tiếp tục: “Khi các sản phẩm AI của bạn tiếp xúc với trẻ em, chúng tôi cần bạn nhìn chúng qua con mắt của cha mẹ, chứ không phải con mắt của kẻ săn mồi.”
Ny (Theo KRON)
