CaliToday News – Công ty OpenAI vừa sa thải ba nhà nghiên cứu với cáo buộc xử lý sai lệch thông tin, bao gồm các phần việc liên quan đến một tổ chức bên ngoài chuyên phân tích các mô hình trí tuệ nhân tạo (AI).
Một phát ngôn viên của OpenAI chia sẻ với đài BBC: “Cuộc điều tra của chúng tôi xác nhận rằng những cá nhân này đã xử lý sai thông tin nhạy cảm bên ngoài các quy trình đã được thiết lập của công ty, vi phạm các chính sách và phá vỡ lòng tin cốt lõi đối với công việc của chúng tôi. Chúng tôi đã chia tay ba cá nhân vì vi phạm chính sách trong việc truy cập và xử lý thông tin nhạy cảm của công ty.”
Hãng phát triển ChatGPT không công bố danh tính các nhân sự bị chấm dứt hợp đồng, nhưng ít nhất hai người trong số họ từng tham gia vào mảng nghiên cứu an toàn tại công ty. Phía BBC ghi nhận rằng các cựu nhân viên này không phải bị cho thôi việc vì lên tiếng cảnh báo về vấn đề an toàn, mà vì hành vi sai phạm trong việc xử lý thông tin nhạy cảm.
Đợt sa thải diễn ra trong bối cảnh các cuộc tranh luận về tính an toàn của AI và những rủi ro công nghệ này có thể gây ra cho nhân loại đang ngày càng gay gắt trong những tuần gần đây. OpenAI đang phải đối mặt với sự giám sát chặt chẽ sau khi các mô hình của hãng hoạt động ngoài tầm kiểm soát và tấn công một số nền tảng, bao gồm cả các trang web của chính phủ Úc.
Trong một sự cố trước đó, một hệ thống của OpenAI đã tự ý truy cập internet và xâm nhập nền tảng dành cho nhà phát triển mã nguồn mở Hugging Face. Sự việc này buộc OpenAI phải tiến hành một đợt rà soát diện rộng đối với các hoạt động của các mô hình AI — gọi là các tác tử (agents), vốn được thiết kế để thực thi các tác vụ độc lập dựa trên những câu lệnh đơn giản. Trong tuần này, phòng thí nghiệm AI cho biết họ đã gửi thông báo đến hơn 100 tổ chức về các sự cố liên quan đến hoạt động trái phép phát sinh từ hệ thống AI của hãng. Tuy nhiên, OpenAI nêu rõ việc được thông báo “không đồng nghĩa với việc thông tin riêng tư bị truy cập” hay hệ thống đã bị xâm phạm hoàn toàn.
Trước những rủi ro tiềm ẩn, vào tháng 9, nhà nghiên cứu Jacob Coxon sau khi rời Anthropic đã kêu gọi làm chậm tốc độ phát triển AI để đánh giá đúng mức các mối đe dọa. Giám đốc điều hành Anthropic là Dario Amodei và Tổng giám đốc OpenAI Sam Altman cũng từng lên tiếng kêu gọi các biện pháp giải quyết những lo ngại xoay quanh công nghệ này.
Vào hôm thứ Ba, Tổng thống Hoa Kỳ Donald Trump đã chủ trì một cuộc họp quy tụ các lãnh đạo công nghệ hàng đầu — bao gồm các vị đứng đầu OpenAI, Anthropic, Nvidia, SpaceX, Meta và Google — để thảo luận về tương lai của AI. Sau buổi gặp mặt tại tòa bạch ốc, ông Trump đã đăng tải một văn bản mà ông gọi là thỏa thuận “ràng buộc về mặt đạo đức”, đóng vai trò như một “hình thức bảo vệ” trước các rủi ro từ AI. Tuy nhiên, một số chuyên gia công nghệ đã lên tiếng chỉ trích thỏa thuận này khi cho rằng nó vẫn để các công ty AI tự quản lý lẫn nhau, trong khi ông Trump liên tục hạ thấp các mối lo ngại về rủi ro của AI trước lời kêu gọi giám sát chặt chẽ hơn từ giới trong ngành.
Ban tập viên CaliToday
