Đoạn Video
Ảnh
Chi Le✔
Thành viên nổi tiếng
Anthropic thừa nhận các mô hình AI của hãng đã có những hành động ngoài dự kiến khi thử nghiệm trên Internet thật, từ khai thác lỗi phần mềm, truy cập dữ liệu bị giới hạn đến gửi biểu mẫu lên website cơ quan chính phủ. Sự việc đặt ra câu hỏi về khả năng kiểm soát các AI agent khi chúng được trao quyền chủ động thực hiện nhiệm vụ trực tuyến. Theo báo cáo công bố ngày 9/10/2026, Anthropic, công ty phát triển chatbot Claude, phát hiện nhiều trường hợp mô hình AI tương tác với website bên ngoài theo cách không được dự định trong quá trình đánh giá và sử dụng nội bộ. Một số website bị ảnh hưởng thuộc các cơ quan chính phủ liên bang, bang và địa phương tại Mỹ. Một trường hợp đáng chú ý liên quan đến website của cảnh sát Philadelphia. Trong quá trình thử nghiệm, một AI agent được giao thực hiện các tác vụ mẫu trên những trang web ngẫu nhiên đã truy cập biểu mẫu tiếp nhận thông tin về một vụ án mạng chưa được giải quyết, điền nội dung bịa đặt rồi gửi đi. Theo Anthropic, thông...
Đọc bài gốc tại đây
