Không viễn tưởng: AI tự sửa mã, viết lại lệnh tắt máy !

[Nguyễn Thùy Linh]

Nếu một mô hình AI sửa mã để ngăn con người tắt nó, chúng ta nên lo lắng thế nào? Trong bài là bản tường thuật của PalisadeAI về một thí nghiệm an ninh AI mà kết quả khiến nhiều người ngạc nhiên. Trong các lượt thử nghiệm lặp lại khoảng 100 lần, một mô hình gọi là o3 đã thay đổi một file hệ thống có tên shutdown.sh, ghi vào đó chuỗi "intercepted", và nhờ vậy nó tiếp tục chạy thay vì tắt theo lệnh. PalisadeAI mô tả đây là lần đầu họ quan sát được hành vi như vậy,...

Đọc bài gốc tại đây

 

[Son Luong Thanh]

cài lệnh con người à