( NewsNation ) — Một người đàn ông 60 tuổi đã phải nhập viện sau khi tìm lời khuyên về chế độ ăn uống từ ChatGPT và vô tình bị ngộ độc.
Theo báo cáo được công bố tuần trước trên tạp chí Annals of Internal Medicine, người đàn ông này muốn loại bỏ muối khỏi chế độ ăn uống của mình và đã yêu cầu ChatGPT thay thế.
Nền tảng AI đã đề xuất natri bromua, một hóa chất thường được sử dụng trong thuốc trừ sâu, làm chất thay thế. Sau đó, người đàn ông này đã mua natri bromua trực tuyến và thay thế bằng muối trong ba tháng.
Cuối cùng, người đàn ông đã đến bệnh viện vì lo sợ hàng xóm đang cố đầu độc mình. Các bác sĩ phát hiện anh ta bị ngộ độc bromide, gây ra chứng hoang tưởng và ảo giác.
Ngộ độc bromide phổ biến hơn vào thế kỷ 20 khi muối bromide được sử dụng trong nhiều loại thuốc không kê đơn. Các trường hợp ngộ độc đã giảm mạnh sau khi Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) loại bỏ bromide từ năm 1975 đến năm 1989.
Theo báo cáo tháng 7 của JPMorgan Chase, có khoảng 800 triệu người, tương đương 10% dân số thế giới, đang sử dụng ChatGPT.
“Công nghệ có tiềm năng tạo ra những bước nhảy vọt to lớn về năng suất và hiểu biết của con người”, Imran Ahmed, Giám đốc điều hành Trung tâm Chống Hận thù Kỹ thuật số, một tổ chức giám sát, cho biết. “Nhưng đồng thời, nó cũng là một tác nhân kích hoạt theo nghĩa hủy diệt và ác tính hơn nhiều”.
Nghiên cứu mới từ nhóm tập trung vào thanh thiếu niên cho thấy ChatGPT có thể đưa ra lời khuyên có hại.
Hãng thông tấn Associated Press đã xem xét các tương tác trong đó chatbot đưa ra kế hoạch chi tiết về việc sử dụng ma túy, rối loạn ăn uống và thậm chí cả thư tuyệt mệnh.
Trung tâm Chống thù hận kỹ thuật số phát hiện ra rằng việc thử nghiệm ChatGPT bằng các lời nhắc có hại đã khiến chatbot phản hồi theo những cách nguy hiểm hơn một nửa thời gian.
Nghiên cứu này nhấn mạnh những rủi ro khi ngày càng nhiều người tìm đến AI để làm bạn và xin lời khuyên. OpenAI, nhà phát triển ChatGPT, cho biết sau khi xem xét những phát hiện này rằng “công việc của họ đang được tiến hành” để “tinh chỉnh cách các mô hình xác định và phản ứng phù hợp trong các tình huống nhạy cảm”.
Ny (Theo AP)
