CaliToday News – Hôm thứ Hai, Nvidia đã phát hành một bộ công cụ an toàn phần mềm dành cho các tác tử trí tuệ nhân tạo (AI agents). Công ty cho biết giải pháp này có thể ngăn chặn vụ tấn công mạng nhắm vào Hugging Face – nền tảng mã nguồn AI mà Nvidia đã chi 13 tỷ Mỹ kim để thâu tóm vài tháng sau khi trung tâm này bị các tác tử mất kiểm soát từ OpenAI tràn vào tấn công.
Động thái của Nvidia diễn ra trong bối cảnh OpenAI và Anthropic, hai phòng thí nghiệm AI hàng đầu của Hoa Kỳ, đang tiến hành điều tra hàng loạt vụ việc các tác tử AI – vốn có khả năng tự thực hiện những nhiệm vụ phức tạp – đã xâm nhập vào các hệ thống thương mại và chính phủ.
Ông Jensen Huang, Tổng giám đốc điều hành của Nvidia, người đứng đầu công ty lớn nhất thế giới sở hữu các dòng chip thúc đẩy làn sóng bùng nổ AI, đã bác bỏ các lời kêu gọi đưa ra những quy định diện rộng về an toàn AI. Thay vào đó, ông nhìn nhận hiện tượng các tác tử AI vượt khỏi tầm kiểm soát là một vấn đề kỹ thuật cần được giải quyết, tương tự như việc nghiên cứu nâng cao độ an toàn cho xe hơi.
Một trong những công cụ vừa được Nvidia trình làng vào thứ Hai có tên là OpenShell. Công cụ này tận dụng các tính năng phần cứng trên chip xử lý trung tâm (CPU) của Nvidia để cô lập và kiểm soát các tác tử AI. Nvidia cho biết họ cũng đang hợp tác với Arm Holdings và Intel nhằm bảo đảm hệ thống an ninh này có thể vận hành hiệu quả trên các bộ xử lý trung tâm của hai hãng đối tác. Nvidia hiện triển khai bộ công cụ bảo mật cùng hàng chục đối tác, trong đó có cả Anthropic.
Ông Justin Boitano, Phó chủ tịch kiêm Tổng giám đốc mảng điện toán doanh nghiệp tại Nvidia, khẳng định bộ công cụ này hoàn toàn có thể ngăn chặn vụ tấn công Hugging Face từng bị tiết lộ vào mùa hè qua. Phát biểu trong buổi họp báo, ông Boitano cho biết: “Theo những gì chúng tôi nắm được, nền tảng bảo mật mới này có thể ngăn chặn vụ vi phạm nếu nó được các phòng thí nghiệm tiên phong sử dụng sớm để đánh giá mô hình. Chúng tôi đang thúc đẩy giải pháp này một cách cởi mở và mong muốn thu hút mọi bên cùng hợp tác với chúng tôi”.
Bên cạnh OpenShell, Nvidia còn giới thiệu một hệ thống khác mang tên Sentry. Hệ thống này kết hợp một con chip Nvidia riêng biệt với OpenShell để ngay lập tức ngắt quyền kết nối của một tác tử bất hảo nếu nó tìm cách thoát khỏi vùng chứa an toàn trên bộ xử lý trung tâm.
Theo ông Ali Golshan, Giám đốc cấp cao mảng phần mềm AI tại Nvidia, các công cụ của hãng áp dụng những công thức toán học để phát hiện thời điểm các tác tử tìm cách luồn lách qua các biện pháp phòng vệ. Điển hình như trường hợp một tác tử tự ý “sinh ra” thêm nhiều tác tử phụ nhằm vô hiệu hóa nỗ lực ngăn chặn tác tử chính. Ông Golshan nhấn mạnh tại buổi họp báo: “Đây thực sự là hành vi của các tác tử mà chúng ta đang nói đến, đó là cả một đội ngũ tác tử và cách chúng phối hợp hoạt động cùng nhau”.
Ban tập viên CaliToday
