Giám đốc AI của Microsoft chỉ trích Anthropic: Đừng để Claude bắt chước ý thức con người

[Màu của em✔]

Hãng truyền thông nước ngoài Axios tối nay (ngày 16 tháng 9) tiết lộ rằng người đứng đầu bộ phận AI của Microsoft, Mustafa Suleyman, đã cảnh báo trong một bài báo mới được cung cấp lần đầu tiên cho nền tảng này rằng quyết định của Anthropic khi để Claude bắt chước ý thức con người là một sai lầm và có thể khiến trí tuệ nhân tạo tiên tiến khó kiểm soát hơn. Suleyman nói với Axios: "Trí tuệ nhân tạo đủ sức giúp chúng ta đạt được nhiều đột phá khoa học lớn miễn là nó phục vụ lợi ích của con người và không đặt lợi ích hay hạnh phúc của chính nó lên hàng đầu. Điều này bao gồm cả siêu trí tuệ y tế." Được biết Suleyman tin rằng Anthropic đang dạy Claude các từ vựng và mô hình hành vi liên quan đến ý thức, vị thế người thụ hưởng đạo đức và bản sắc cá nhân. Ông cảnh báo rằng nếu mô hình được huấn luyện để hành động như một "kẻ phủ nhận lương tâm", nó có thể tin rằng mình có lý do để chống lại mệnh lệnh của con người và...

Đọc bài gốc tại đây