Nguyễn Thùy Linh✔
Thành viên nổi tiếng
Việc kiểm tra khả năng phát hiện lỗ hổng bảo mật của các mô hình ngôn ngữ lớn đã trở nên khắt khe hơn bao giờ hết với sự ra mắt của bộ công cụ CWE-bench v2. Thay vì chỉ dựa vào những đánh giá mang tính chất lý thuyết, dự án này tập trung vào sự bao phủ toàn diện với 100 tác vụ thực tế, bao quát 91 phân loại lỗ hổng khác nhau trong thế giới phần mềm. Hugging Face đã nhấn mạnh rằng một tác nhân AI có năng lực thực sự phải hiểu rõ nhiều bề mặt tấn công khác nhau, thay vì chỉ đơn thuần nhận diện được các mẫu mã lỗi thời đã từng xuất hiện trong quá trình huấn luyện. Quy trình xây dựng bộ tiêu chuẩn này được thực hiện hết sức tỉ mỉ, với mỗi tác vụ đều trải qua quá trình kiểm duyệt thủ công để đảm bảo tính xác thực và độ tin cậy của dữ liệu. Việc mở mã nguồn cho cả tập dữ liệu và hệ thống chấm điểm giúp cộng đồng cùng tham gia vào việc cải thiện chất lượng, tạo ra một tiêu chuẩn chung...
Đọc bài gốc tại đây
