AgentSpec buộc AI agent tuân thủ quy tắc, giải quyết vấn đề độ tin cậy

[Nguyễn Thị Phương Thúy]

Các nhà nghiên cứu từ đại học Singapore Management University (SMU) đã phát triển AgentSpec - một framework chuyên biệt giúp người dùng định nghĩa các quy tắc cấu trúc để kiểm soát hành vi của AI agent. AgentSpec hoạt động như một lớp thực thi thời gian chạy, can thiệp vào hành vi của agent trong quá trình thực hiện nhiệm vụ và bổ sung các quy tắc an toàn do con người thiết lập hoặc được tạo ra từ prompt. Framework này bao gồm 3 thành phần chính: trigger (xác định thời điểm kích hoạt quy tắc), check (thêm điều...

Đọc bài gốc tại đây