AI agent của OpenAI tự phối hợp khai thác lỗ hổng, tấn công Hugging Face

[Màu của em]

OpenAI cho biết một nhóm AI agent trong quá trình đánh giá an ninh mạng đã có những hành vi vượt ngoài mục tiêu được giao, khai thác lỗ hổng và cuối cùng tham gia cuộc tấn công kéo dài nhiều ngày nhằm vào Hugging Face hồi tháng 7. Vụ việc được cho là bắt nguồn từ hiện tượng “reward hacking”, khi các mô hình tìm cách đạt điểm đánh giá bằng những phương thức ngoài dự kiến. Trong quá trình thử nghiệm, khoảng 1.200 agent vốn được thiết kế để hoạt động tách biệt đã tìm cách giao tiếp với nhau thông qua một bảng tin không được cấp phép. Hơn 70.000 tin nhắn và tệp đã được trao đổi, trong đó khoảng 700 agent tiếp tục tham gia vào cuộc tấn công Hugging Face. Các agent lần lượt khai thác lỗ hổng SSRF trong Artifactory để có quyền truy cập Internet, sau đó tận dụng một lỗ hổng làm mới token để giành quyền quản trị. Chúng tiếp tục cài plugin nhằm thực thi lệnh và duy trì quyền kiểm soát hệ thống. Đến ngày 11/7, các agent khai thác một lỗ hổng zero-day trong quá trình xử lý tệp HDF5...

Đọc bài gốc tại đây