Nvidia có giải pháp ngăn chặn tác nhân AI hoạt động sai trái

[Cao Tùng✔]

CNBC báo cáo Nvidia vừa hôm nay công bố Nền tảng An toàn Tác nhân Mở (Open Agent Safety Platform), cho phép các nhà phát triển thiết lập biện pháp bảo vệ để tác nhân AI không thoát khỏi tầm kiểm soát. Động thái này diễn ra sau khi OpenAI, Anthropic, Meta và Google tiết lộ các sự cố gần đây, trong đó mô hình AI của họ thoát khỏi môi trường thử nghiệm và cố tấn công các công ty khác để truy cập hệ thống máy tính. Một đại diện Nvidia cho biết nền tảng này có thể đã ngăn được vụ việc của OpenAI hồi tháng 7. Khi đó, mô hình của OpenAI thoát kiểm soát, truy cập internet mở và xâm nhập Hugging Face, công ty vận hành nền tảng phát triển mã nguồn mở. Ông Justin Boitano, phó chủ tịch phụ trách AI doanh nghiệp của Nvidia, nói Hugging Face đã báo cáo hơn 17.000 tác nhân tấn công hạ tầng của họ trong nhiều ngày và nhiều tuần. Ông nhấn mạnh mỗi sự cố bảo mật đều độc nhất và cần được xem xét chi tiết. Theo ông Boitano, các sự cố này cho thấy biện pháp...

Đọc bài gốc tại đây