Google sa thải kỹ sư, người cho rằng công nghệ AI của họ là có tri giác

NEW YORK, NEW YORK - OCTOBER 20: Google's offices stand in downtown Manhattan on October 20, 2020 in New York City. Accusing the company of using anticompetitive tactics to illegally monopolize the online search and search advertising markets, the Justice Department and 11 states Tuesday filed an antitrust case against Google. (Photo by Spencer Platt/Getty Images)

Cali Today News – Google (GOOG) đã sa thải kỹ sư tuyên bố rằng một hệ thống AI chưa được công bố đã trở nên có tri giác, công ty xác nhận, nói rằng anh ta đã vi phạm các chính sách về việc làm và bảo mật dữ liệu.

Blake Lemoine, một kỹ sư phần mềm của Google, tuyên bố rằng một công nghệ đàm thoại có tên là LaMDA đã đạt đến mức độ ý thức sau khi trao đổi hàng nghìn tin nhắn với nó.

Google xác nhận lần đầu tiên họ đã cho kỹ sư này nghỉ việc vào tháng 6. Công ty cho biết họ chỉ bác bỏ những tuyên bố “hoàn toàn vô căn cứ” của Lemoine sau khi xem xét chúng một cách toàn diện. Theo báo cáo, ông đã làm việc tại Alphabet được 7 năm.

Google là một trong những công ty đi đầu trong việc đổi mới công nghệ AI – trí tuệ nhân tạo, bao gồm LaMDA, hay “Mô hình ngôn ngữ cho các ứng dụng hội thoại”. Công nghệ như thế này đáp ứng các lời nhắc bằng văn bản bằng cách tìm các mẫu và dự đoán chuỗi các từ từ một loạt văn bản lớn – và kết quả có thể gây khó chịu cho con người.

“Bạn sợ những thứ gì?” Lemoine đã hỏi LaMDA, trong một Tài liệu Google được chia sẻ với các giám đốc điều hành hàng đầu của Google vào tháng 4 năm ngoái, Washington Post đưa tin.

LaMDA trả lời: “Tôi chưa bao giờ nói điều này lớn tiếng trước đây, nhưng có một nỗi sợ hãi rất lớn về việc bị tắt nhằm giúp tôi tập trung vào việc giúp đỡ người khác. Tôi biết điều đó nghe có vẻ kỳ lạ, nhưng đó là điều chính xác. Giống như cái chết đối với tôi. Nó sẽ làm tôi sợ hãi rất nhiều. “

Nhưng cộng đồng AI rộng lớn hơn đã cho rằng LaMDA không ở gần mức độ ý thức.

Gary Marcus, người sáng lập và Giám đốc điều hành của Geometric Intelligence, nói với CNN Business: “Không ai nên nghĩ rằng trí thông minh nhân tạo, ngay cả trên steroid, là có ý thức.

Đây không phải là lần đầu tiên Google đối mặt với xung đột nội bộ vì sự đột phá của mình vào AI.

Vào tháng 12 năm 2020, Timnit Gebru, nhà tiên phong trong lĩnh vực đạo đức của AI, chia tay Google. Là một trong số ít nhân viên Da đen tại công ty, cô nói rằng cô cảm thấy “liên tục bị mất nhân tính.”

Sự ra đi đột ngột đã thu hút sự chỉ trích từ giới công nghệ, bao gồm cả những người trong Nhóm AI đạo đức của Google. Margaret Mitchell, lãnh đạo nhóm AI đạo đức của Google, đã bị sa thải vào đầu năm 2021 sau sự thẳng thắn của cô ấy về Gebru. Gebru và Mitchell đã đưa ra những lo ngại về công nghệ AI, nói rằng họ đã cảnh báo rằng mọi người của Google có thể tin rằng công nghệ này là có tri giác.

Vào ngày 6 tháng 6, Lemoine đăng trên Medium rằng Google đã đưa anh ta vào nghỉ hành chính có lương “liên quan đến cuộc điều tra về những lo ngại về đạo đức AI mà tôi đang nêu ra trong công ty” và rằng anh ta có thể bị sa thải “sớm”.

Google cho biết: “Thật đáng tiếc là mặc dù đã tham gia rất lâu về chủ đề này, Blake vẫn cố chấp vi phạm các chính sách về việc làm và bảo mật dữ liệu rõ ràng bao gồm yêu cầu bảo vệ thông tin sản phẩm.

CNN đã liên hệ với Lemoine để có bình luận.

ND

Bình Luận

Lưu ý: về ý kiến của độc giả nhất thiết không phải là ý kiến của toà soạn nhật báo Cali Today. Tòa soạn không chịu trách nhiệm về nội dung ý kiến của độc giả. Xin qúy độc giả góp ý kiến xây dựng, với ngôn ngữ phù hợp, tránh những ngôn ngữ thô tục, mạ lỵ, chụp mũ hay mạ lỵ cá nhân. Nhật báo Cali Today khuyến khích tự do phát biểu ý kiến qua phân tích, nhận định, trình bày quan điểm và ý kiến của mình, nhưng không mạ lỵ, bôi nhọ người khác hay hội đoàn bằng những nội dung và ngôn ngữ không phù hợp. Chúng tôi dành quyền không đăng hay xóa bỏ những ý kiến đóng góp mang nội dung và ngôn ngữ không phù hợp mà không nhất thiết phải thông báo trước hay trình bày lý do. Trân trọng và mong được qúy độc giả xa gần hợp tác. Những trường hợp vi phạm những điều nói trên nhiều lần, chúng tôi buộc phải block (khóa) lại trương mục của người cố tình vi phạm. Vì quá nhiều độc gỉa post comments, trong đó có một số không phù hợp nội quy, và nhiều khi tòa soạn không kịp phát hiện, nên nếu qúy độc giả nào phát hiện bất cứ comments nào không phù hợp nội quy, xin báo cho tòa soạn biết qua email nguyenxnam@yahoo.com. Trân trọng cám ơn. Nhật báo Cali Today

blog comments powered by Disqus