Trên trang thông tin dành cho phụ huynh, OpenAI cho biết ChatGPT được xây dựng với tiêu chí an toàn là trên hết.
“Không phải vậy,” theo đơn kiện do Tổng chưởng lý bang Florida James Uthmeier đệ trình hôm thứ Hai. Câu nói này được kèm theo ảnh chụp màn hình một bài đăng của OpenAI về an toàn và minh bạch ở đầu đơn kiện.
Florida là tiểu bang đầu tiên kiện OpenAI và CEO Sam Altman , cáo buộc công ty này ưu tiên lợi nhuận và tốc độ hơn sự an toàn của người dùng và rằng những tác hại do ChatGPT gây ra “là đáng kể và vượt xa bất kỳ lợi ích nào từ việc sử dụng ChatGPT.”
“Người dân đang bị tổn thương, các bậc phụ huynh đang bị lừa dối, và họ cần phải chịu trách nhiệm về điều đó,” Uthmeier nói trong một cuộc họp báo sáng thứ Hai.
Trong đơn kiện dài 83 trang, Uthmeier cho rằng OpenAI đã không đưa ra cảnh báo về những rủi ro của ChatGPT, mà theo đơn kiện có thể gây nghiện và tổn hại về hành vi, và nói rằng công ty lẽ ra có thể sử dụng các thiết kế thay thế để giảm thiểu tác hại của chatbot này.
Đơn kiện cho rằng công ty này hoặc biết hoặc lẽ ra phải biết rằng thiết kế của họ khuyến khích hành vi tự gây hại và bạo lực, cùng nhiều điều nguy hại khác đối với người dân Florida – đặc biệt là trẻ em và thanh thiếu niên. Đơn kiện cáo buộc Altman biết về những nguy hiểm của ChatGPT nhưng đã phớt lờ chúng.
“Cả OpenAI và Altman đều nhận thức rõ mối đe dọa của ChatGPT đối với người dân Florida (và toàn nhân loại)”, đơn kiện nêu rõ.
Vụ kiện cáo buộc rằng OpenAI bị thúc đẩy bởi “khát vọng không đáy để giành chiến thắng trong cuộc chạy đua vũ trang trí tuệ nhân tạo và tích lũy khối tài sản khổng lồ, bất chấp việc biết rõ mối nguy hiểm của ChatGPT.” Vụ kiện tuyên bố công ty này lợi dụng dữ liệu người dùng để tăng giá trị thị trường “với chi phí không thể chấp nhận được” và sự phát triển của công ty là “do một mạng lưới lừa dối và bóc lột người dùng.”
Đơn kiện nêu rõ một số trường hợp ChatGPT có liên quan đến các sự cố gây hậu quả nghiêm trọng, chẳng hạn như cái chết của Adam Raine, một thiếu niên 16 tuổi tự tử sau nhiều cuộc trò chuyện với ChatGPT, trong đó cậu bày tỏ ý định tự tử. Theo đơn kiện, chatbot này đã viết thư tuyệt mệnh thay cho cậu.
“ChatGPT không chỉ đơn thuần trả lời Adam. Họ đã khuyến khích và hỗ trợ việc tự tử của anh ta, cung cấp thông tin có thể giúp anh ta chết”, đơn kiện nêu rõ.
Vụ kiện cũng đề cập đến vụ xả súng hồi tháng Tư năm ngoái tại Đại học Bang Florida, nơi hai người thiệt mạng và nhiều người khác bị thương sau khi một sinh viên FSU nổ súng trong khuôn viên trường. Theo nhật ký trò chuyện được Văn phòng Công tố Bang Florida chia sẻ với CBS News hồi tháng Tư, nghi phạm đã hỏi ChatGPT cần bao nhiêu nạn nhân bị bắn để thu hút sự chú ý của truyền thông và thời điểm đông người nhất tại hội trường sinh viên FSU, nơi xảy ra vụ xả súng.
Vào tháng Tư, Florida đã mở cuộc điều tra hình sự đối với OpenAI sau khi xác định nghi phạm đã nhận được “lời khuyên quan trọng” từ ChatGPT trước vụ xả súng. Cũng trong tháng đó, một người đàn ông bị buộc tội giết hai sinh viên cao học của Đại học Nam Florida đã bị liên hệ với ChatGPT sau khi hỏi điều gì sẽ xảy ra nếu ai đó bị “nhốt trong một túi rác đen và ném vào thùng rác”.
Trong cuộc họp báo, Uthmeier cũng đề cập đến vụ xả súng hàng loạt ở Canada hồi đầu năm nay. Theo đơn kiện do gia đình các nạn nhân đệ trình hồi tháng 4 , kẻ xả súng đã có những cuộc trò chuyện dài với ChatGPT về các kịch bản liên quan đến bạo lực súng đạn trước khi thực hiện vụ tấn công.
“Hôm nay chúng ta sẽ gửi một thông điệp tới Open AI,” Uthmeier nói trong cuộc họp báo sáng thứ Hai. “Hãy chuẩn bị cho một cuộc chiến, và không có cuộc chiến nào quan trọng hơn cuộc chiến này lúc này.”
Trong một tuyên bố với CBS News, OpenAI cho biết họ đã tích hợp các biện pháp an toàn cho trẻ vị thành niên vào sản phẩm của mình, chẳng hạn như các công cụ bảo vệ độ tuổi, trải nghiệm bảo vệ tốt hơn dành riêng cho trẻ vị thành niên và các công cụ dành cho phụ huynh để giám sát việc con cái họ sử dụng AI.
“Mất con là thảm kịch đau lòng nhất có thể xảy ra với một gia đình và chúng tôi biết rằng không từ ngữ nào có thể diễn tả hết nỗi đau mất mát ấy”, công ty cho biết. Họ cũng nói rằng trí tuệ nhân tạo (AI) là một “công nghệ mới và mạnh mẽ” và trẻ vị thành niên cần “sự bảo vệ đáng kể”.
“Chúng tôi biết rằng việc chỉ ra công trình nghiên cứu này sẽ không thể đưa đứa trẻ trở lại, nhưng chúng tôi cam kết sẽ làm cho đúng”, tuyên bố cho biết.
Ny (Theo CBS News)
