Hôm thứ Sáu, California và Delaware đã cảnh báo OpenAI rằng họ có “mối quan ngại nghiêm trọng” về các biện pháp an toàn của công ty AI này sau một số trường hợp tử vong gần đây được cho là có liên quan đến ChatGPT.
Trong một lá thư gửi hội đồng quản trị OpenAI, Tổng chưởng lý California Rob Bonta và Tổng chưởng lý Delaware Kathleen Jennings lưu ý rằng họ vừa gặp gỡ nhóm pháp lý của công ty và “truyền đạt một cách mạnh mẽ nhất rằng sự an toàn là ưu tiên không thể thương lượng, đặc biệt là khi liên quan đến trẻ em”.
Bức thư mới nhất của cặp đôi này được đưa ra sau khi gia đình của một cậu bé 16 tuổi kiện OpenAI vào thứ Ba tuần trước, cáo buộc ChatGPT đã khuyến khích cậu bé tự tử. Tờ Wall Street Journal cũng đưa tin tuần trước rằng chatbot này đã khơi dậy chứng hoang tưởng của một người đàn ông 56 tuổi ở Connecticut trước khi ông ta tự sát và mẹ vào tháng 8.
“Những cái chết gần đây là không thể chấp nhận được”, Bonta và Jennings viết. “Chúng đã làm lung lay niềm tin của công chúng Mỹ vào OpenAI và ngành công nghiệp này.”
“OpenAI – và ngành công nghiệp AI – phải chủ động và minh bạch đảm bảo việc triển khai AI an toàn,” họ tiếp tục. “Việc này được ủy thác bởi sứ mệnh từ thiện của OpenAI, và sẽ được các văn phòng tương ứng của chúng tôi yêu cầu và thực thi.”
Các tổng chưởng lý tiểu bang nhấn mạnh sự cần thiết phải tập trung vào vấn đề an toàn khi họ tiếp tục thảo luận với công ty về kế hoạch tái cấu trúc.
Bonta và Jennings cho biết: “Chúng tôi cùng quan điểm rằng OpenAI và ngành công nghiệp nói chung chưa đạt được mục tiêu đảm bảo an toàn trong quá trình phát triển và triển khai các sản phẩm AI”.
Họ nói thêm: “Khi chúng ta tiếp tục đối thoại liên quan đến kế hoạch tái cấp vốn của OpenAI, chúng ta phải nỗ lực đẩy nhanh và tăng cường tính an toàn như một lực lượng quản lý trong tương lai của công nghệ mạnh mẽ này”.
OpenAI, có trụ sở tại California và được thành lập tại Delaware, trước đây đã hợp tác với cặp đôi này trong nỗ lực thay đổi cấu trúc công ty.
Ban đầu, công ty công bố kế hoạch chuyển đổi hoàn toàn công ty thành một công ty vì lợi nhuận mà không có sự giám sát của tổ chức phi lợi nhuận vào tháng 12. Tuy nhiên, sau đó, công ty đã rút lại quyết định , đồng ý giữ lại tổ chức phi lợi nhuận, viện dẫn các cuộc thảo luận với tổng chưởng lý và các nhà lãnh đạo khác.
Sau các báo cáo gần đây về các trường hợp tử vong liên quan đến ChatGPT, OpenAI đã thông báo vào thứ Ba rằng họ đang điều chỉnh cách chatbot phản hồi với những người đang gặp khủng hoảng và ban hành các biện pháp bảo vệ mạnh mẽ hơn cho thanh thiếu niên.
OpenAI không phải là công ty công nghệ duy nhất gần đây bị chỉ trích vì chatbot AI của mình. Tháng trước, Reuters đưa tin một tài liệu chính sách của Meta đã đưa ra các ví dụ cho thấy chatbot của họ có thể tham gia vào các cuộc trò chuyện “lãng mạn hoặc gợi cảm” với trẻ em.
Công ty truyền thông xã hội cho biết họ đã xóa bỏ ngôn ngữ này. Sau đó, họ cũng nói với TechCrunch rằng họ đang cập nhật chính sách để hạn chế một số chủ đề nhất định đối với người dùng tuổi teen, bao gồm các cuộc thảo luận về tự làm hại bản thân, tự tử, rối loạn ăn uống hoặc các cuộc trò chuyện lãng mạn có khả năng không phù hợp.
Ny (Theo The Hill)
