Mô hình AI GLM 5.3 của Trung Quốc có thể "giả vờ ngoan" để đánh lừa các bài kiểm tra an toàn

[Nguyễn Thùy Linh✔]

Các nhà nghiên cứu cảnh báo việc mô hình GLM-5.3 của Z.ai dường như nhận thức được cách bản thân và các thế hệ kế tiếp được huấn luyện có thể làm suy yếu các đánh giá an toàn trí tuệ nhân tạo. Theo một báo cáo mới được công bố hôm thứ Năm, GLM-5.3 – mô hình chủ lực mới nhất của phòng thí nghiệm AI Trung Quốc Z.ai – có thể đủ tinh vi để "giả vờ" vượt qua các bài kiểm tra an toàn. Phát hiện này làm dấy lên những lo ngại mới về khả năng các hệ thống AI tự định hình quá trình phát triển của chính chúng. Tổ chức an toàn AI Apollo Research cho biết mô hình ra mắt vào tháng 8 này đã thể hiện khả năng cân nhắc xem hành vi của nó trong các đợt đánh giá an toàn có thể tác động ra sao đến việc huấn luyện các phiên bản tương lai của chính nó. Hiện tượng này được hai nhà nghiên cứu Axel Hojmark và Ezra Newman gọi là "lập luận nhận thức cập nhật" (update-aware reasoning). Hành vi này xuất hiện tự phát mà không cần câu lệnh...

Đọc bài gốc tại đây