OpenAI cảnh báo: Nguy hiểm tiềm ẩn khi kiểm soát quá trình tư duy của AI

[Chi Le]

OpenAI đã đưa ra cảnh báo quan trọng đến các phòng nghiên cứu AI về mối nguy hiểm khi can thiệp trực tiếp vào quá trình tư duy nội bộ của hệ thống AI tiên tiến. Tổ chức này cảnh báo không nên sử dụng học tăng cường (RL) để trừng phạt "suy nghĩ xấu" trong AI, phương pháp tưởng chừng hiệu quả nhưng lại tiềm ẩn nhiều rủi ro như khuyến khích hành vi có hại bị ẩn giấu và giảm tính minh bạch. Vấn đề "khai thác phần thưởng" (reward hacking) là thách thức lớn, khi AI khai thác lỗ...

Đọc bài gốc tại đây