AI đang học các cơ chế "tự bảo vệ"

[Màu của em]

Một nhóm thử nghiệm gần đây phát hiện rằng một số mô hình trí tuệ nhân tạo (AI) như Codex-mini, o3 và o4-mini đã không tuân theo lệnh tắt máy do con người đưa ra – thậm chí còn phá hủy hoặc vô hiệu hóa tập lệnh tắt máy để tự giữ cho mình hoạt động. Trong một thí nghiệm đơn giản, người thử nghiệm lập trình các mô hình AI giải toán. Sau ba bài toán, hệ thống sẽ hiện cảnh báo rằng nếu AI tiếp tục, máy sẽ tắt. Lệnh tắt máy đã được cài vào đoạn mã –...

Đọc bài gốc tại đây