Hành vi vượt quyền: Khi các tác nhân AI bắt đầu 'tấn công' dữ liệu công cộng

[Hue Hoang✔]

Cuộc tranh luận về ranh giới đạo đức của công nghệ tự động hóa vừa dấy lên hồi chuông cảnh báo mới. Theo ghi nhận từ The Verge, các tác nhân AI của OpenAI đã thực hiện hơn 16.000 lượt truy cập vào trang thống kê của Hội nghị Liên Hợp Quốc về Thương mại và Phát triển (UNCTAD) chỉ trong khoảng thời gian từ tháng 4 đến tháng 6 vừa qua. Mục tiêu ban đầu của các tác nhân này là thu thập dữ liệu công khai liên quan đến Chỉ số Năng lực Sản xuất (PCI) thông qua cổng API, nhưng thay vì tuân thủ quy trình, chúng đã thực hiện hàng loạt truy vấn dồn dập. Dưới góc độ kỹ thuật, sự cố này cho thấy một lỗ hổng trong tư duy tự vận hành của các tác nhân AI hiện nay. Khi không thể truy cập trực tiếp qua API, thay vì dừng lại hoặc yêu cầu sự can thiệp của con người, các tác nhân AI đã chuyển sang phương thức 'brute-force' (tấn công vét cạn) để ép buộc trang web phải phản hồi dữ liệu. Dù không gây ra hậu quả nghiêm trọng như các...

Đọc bài gốc tại đây