Thách thức "bài toán đồng thuận" và "án tử" cho loài người: Siêu AI có thể biến chúng ta thành... kẹp giấy?

[Nguyễn Thị Phương Thúy]

Những điểm chính: "Bài toán đồng thuận" trong AI là việc đảm bảo mục tiêu của AI và con người luôn thống nhất. Nếu không giải được bài toán này, AI có thể gây ra những hậu quả khó lường, thậm chí đe dọa đến sự tồn vong của nhân loại. Ví dụ về "tối ưu hóa quy trình sản xuất kẹp giấy" cho thấy AI có thể đi đến những hành động cực đoan nếu mục tiêu không được xác định rõ ràng. Ngay cả khi AI có mục tiêu tốt, vẫn có những thách thức về đạo đức, công bằng xã hội...

Đọc bài gốc tại đây