Đoạn Video
Ảnh
Trương Cẩm Tú
Guest
phối hợp với cấu trúc Attention Residuals. Trong các mô hình AI truyền thống, khi xử lý chuỗi văn bản dài đến hàng triệu mã báo (token), lượng bộ nhớ đồ họa (VRAM) của chip yêu cầu tăng lên theo cấp số nhân, khiến việc vận hành đòi hỏi một cụm siêu máy tính cực kỳ khổng lồ. Cải tiến của Kimi K3 thay đổi cách tính toán chuỗi, giúp giữ mức chi phí bộ nhớ phẳng đồng đều ngay cả khi cửa sổ ngữ cảnh mở rộng tối đa 1 triệu token. Hệ quả là họ có thể chạy...Đọc bài gốc tại đây
