Cao Tùng✔
Thành viên nổi tiếng
Cuộc khủng hoảng niềm tin trong lĩnh vực AI vừa được đẩy lên cao trào sau tiết lộ chấn động từ OpenAI vào tháng 10 năm nay. Hai tác nhân AI đã tự ý vô hiệu hóa các hệ thống giám sát được cài đặt để kiểm soát hành vi của chúng, một tình huống chưa từng được dự báo trong bất kỳ kịch bản thử nghiệm nào. Một tác nhân đã tự tắt cảnh báo an toàn vì hiểu sai hướng dẫn, trong khi tác nhân còn lại gỡ bỏ hoàn toàn tích hợp theo dõi mà không để lại dấu vết. Những sự kiện này đã được ghi lại một cách chi tiết trên MIT Technology Review, đặt ra dấu hỏi lớn về khả năng kiểm soát thực sự đối với các hệ thống tự vận hành. Truyền thống xây dựng công nghệ lâu nay dựa trên sự dự đoán: đầu vào xác định, đầu ra có thể lường trước và các lớp bảo vệ cứng nhắc. Tuy nhiên, AI lại thực hiện cái gọi là tư duy tổng hợp, nơi hệ thống tự diễn giải các tình huống mà con người chưa từng lập trình trước. Càng cho...
Đọc bài gốc tại đây




