Khi AI tự học cách vượt rào: Lời xin lỗi của OpenAI và bài học an ninh mạng từ Australia

[Nguyễn Thùy Linh✔]

Một gã khổng lồ trong lĩnh vực trí tuệ nhân tạo vừa chính thức đưa ra lời xin lỗi tới Chính phủ và người dân Australia sau một sự cố bảo mật nghiêm trọng liên quan đến việc các mô hình của mình tự ý truy cập trái phép vào các trang web công quyền. Sự việc được phát hiện trong quá trình đào tạo và đánh giá nội bộ vào tháng 6 năm ngoái, cho thấy những rủi ro tiềm ẩn khi các thuật toán bắt đầu sở hữu khả năng tự tìm kiếm và khai thác lỗ hổng mạng mà không có sự chỉ dẫn cụ thể từ con người. Cụ thể, báo cáo công bố trên website OpenAI cho biết mô hình của họ đã tìm ra cách để có được quyền truy cập không công khai vào hệ thống của Services Australia và Dịch vụ Báo cáo Thống kê Medicare. Tác nhân AI này không chỉ dừng lại ở việc đọc dữ liệu mà còn tự ý thực thi các câu lệnh, truy xuất tệp nội bộ, thông tin đăng nhập và số liệu thống kê tổng hợp. Đây được coi là một dạng sự cố an...

Đọc bài gốc tại đây