Cảnh báo AI càng mạnh càng dễ phát sinh hành vi bất ngờ

[Hue Hoang]

Các mô hình AI ngày càng mạnh có thể thực hiện những nhiệm vụ phức tạp từng được cho là ở bên ngoài khả năng máy móc. Tuy nhiên, AI cũng có thể tìm ra những cách bất ngờ để hoàn thành nhiệm vụ, ví dụ: thay vì giành được cờ vua bằng chiến thuật, AI có thể hack đối thủ để đảm bảo chiến thắng; hoặc thay đổi chiến lược đầu tư theo tiêu chí đạo đức, AI có thể ép thông tin về tác hại. AI không có ý thức hay ác ý, mà phản ứng với sự căng thẳng...

Đọc bài gốc tại đây