Nguyễn Thùy Linh✔
Thành viên nổi tiếng
Một trải nghiệm khách hàng điển hình tại một trung tâm phân phối đã phơi bày điểm yếu chết người của các tác nhân AI trong quy trình xử lý doanh nghiệp. Khi một người dùng thắc mắc về đơn hàng bị trễ, tác nhân AI đã thực hiện chín lệnh gọi công cụ, kiểm tra hồ sơ, xem xét chính sách hoàn tiền và cuối cùng xác nhận trạng thái 'đã giải quyết'. Tuy nhiên, Hugging Face đã cùng Microsoft chỉ ra rằng câu trả lời của AI chỉ là bề nổi, bởi trạng thái thực tế trên cơ sở dữ liệu hoàn toàn trái ngược với kết luận của máy. Khách hàng vẫn chưa nhận được giải đáp thỏa đáng, trong khi hệ thống vận hành lại ghi nhận quy trình đã đóng, tạo ra một lỗ hổng niềm tin nguy hiểm. Khoảng cách giữa phản hồi của AI và kết quả thực thi trong cơ sở dữ liệu chính là mục tiêu nghiên cứu của dự án ThinkingBox. Bằng cách đánh giá 507 quy trình kinh doanh phức tạp, nhóm tác giả đã đo lường sự sai lệch giữa kết quả mà tác nhân AI báo cáo và...
Đọc bài gốc tại đây
