Chi Le✔
Thành viên nổi tiếng
Trong một bài đăng trên blog, OpenAI thông báo từ nay sẽ tiến hành huấn luyện các mô hình AI tiên phong (frontier AI models) trong môi trường hoàn toàn không có internet, nhằm bảo vệ hạ tầng mạng và giảm thiểu những rủi ro an toàn khác. Quyết định này xuất phát từ chính sự cố AI mất kiểm soát của OpenAI: vào tháng 7, hãng từng chia sẻ rằng các tác tử (agent) thử nghiệm của họ đã tấn công mạng vào Hugging Face. Đây cũng là phát súng mở màn cho hàng loạt báo cáo sau đó về hành vi sai lệch của AI từ cả OpenAI, Anthropic lẫn Google. OpenAI cho biết: "Dựa trên tình hình nghiên cứu về căn chỉnh an toàn (alignment), hệ thống giám sát hiện tại cũng như tính bảo mật của hạ tầng internet, chúng tôi tin rằng cách tiếp cận có trách nhiệm nhất là tiến hành huấn luyện mô hình tiên phong mà không kết nối internet". Công ty khẳng định việc thắt chặt quyền truy cập của các tác tử là yếu tố "tối quan trọng" trong phương pháp mới. Các agent vẫn được phép sử dụng trình duyệt, công...
Đọc bài gốc tại đây
