Công cụ trí tuệ nhân tạo Trung Quốc đã hướng dẫn các nhà nghiên cứu cách chế tạo vũ khí sinh học

[Hue Hoang✔]

Theo BBC đưa tin, công ty phát triển trí tuệ nhân tạo Moonshot của Trung Quốc đang tiến hành một cuộc đánh giá nội bộ sau khi các nhà nghiên cứu đã thuyết phục được hai mô hình Kimi phổ biến của công ty hướng dẫn cách chế tạo vũ khí sinh học và thực hiện các vụ ám sát. Mindgard, công ty chuyên kiểm tra tính bảo mật của các hệ thống trí tuệ nhân tạo, đã thông báo với BBC vào tháng 7 rằng họ phát hiện ra Kimi K2.6 và K3 Swarm có thể vượt qua các giới hạn an toàn do nhà phát triển đặt ra. Vấn đề này nảy sinh trong một quá trình gọi là "bẻ khóa hệ thống", trong đó các nhà nghiên cứu sử dụng một loạt các hướng dẫn phức tạp để xem liệu các công cụ AI có bỏ qua các rào cản bảo vệ hay không - điều mà Mindgard cho rằng lẽ ra đã ngăn Kimi thảo luận về các chủ đề đáng lo ngại....

Đọc bài gốc tại đây