AI còn cách bao xa đến khả năng tự cải tiến?

[Hue Hoang✔]

Nếu một hệ thống AI có thể tự phát hiện vấn đề, tự tìm cách giải quyết, tự đánh giá kết quả rồi dùng chính những kết quả đó để cải thiện phiên bản tiếp theo, tốc độ phát triển của nó sẽ không còn phụ thuộc hoàn toàn vào con người. Khi vòng lặp này được duy trì liên tục, AI có thể bước vào trạng thái tự cải tiến đệ quy, thường được gọi là RSI. Đây là một trong những câu hỏi lớn nhất của AI hiện nay: chúng ta còn cách RSI bao xa và điều gì có thể ngăn nó xảy ra? Trong một cuộc trò chuyện với podcaster Dwarkesh Patel, ba nhà nghiên cứu AI gồm John Schulman, đồng sáng lập OpenAI và hiện là nhà khoa học trưởng tại Thinking Machines; Beren Millidge, Giám đốc công nghệ của Zyphra; và Charlie O'Neill, người phụ trách đào tạo mô hình tại Baseten, đã bàn khá sâu về câu hỏi này. Có một điểm đáng chú ý trong cuộc trò chuyện: cả ba không cho rằng con đường tiến tới RSI chỉ đơn giản là tiếp tục tăng kích thước mô hình, thêm dữ liệu và tăng sức...

Đọc bài gốc tại đây