Đoạn Video
Ảnh
Nguyễn Thùy Linh
Thành viên nổi tiếng
Mô hình Astra mới của OpenAI đang tiếp cận một kỹ thuật tư duy khác lạ mang tên "recurrent depth". Khả năng cho phép AI suy ngẫm theo vòng lặp thay vì tư duy tuần tự. Nhưng chưa kịp vui mừng, việc nó có thể che giấu hoàn toàn chuỗi suy nghĩ trước mắt con người đang khiến cộng đồng nghiên cứu an toàn AI thực sự đứng ngồi không yên. Khi chuỗi tư duy của AI dần trở nên vô hình Trong các hệ thống AI suy luận hiện nay, chuỗi tư duy (Chain of Thought - CoT) chính là chiếc "hộp đen bán phần" giúp con người nhìn thấu phần nào đường đi nước bước của mô hình. Dù cách biểu diễn này chưa hoàn hảo, nó vẫn là công cụ giá trị nhất để các kỹ sư phát hiện ra hành vi sai lệch hoặc mất kiểm soát. Thực tế trong những sự cố tác tử AI hoạt động bất thường gần đây, các bản ghi chuỗi tư duy chính là chìa khóa then chốt để lần ra lý do vì sao mô hình lại hành xử như vậy. Mọi chuyện bắt đầu rẽ sang hướng đáng lo ngại khi...
Đọc bài gốc tại đây
