Hue Hoang✔
Thành viên nổi tiếng
Việc đảm bảo độ ổn định cho các mô hình lớn trong thư viện Transformers đang trở thành một thách thức kỹ thuật khi quy mô phát triển ngày càng mở rộng. Hugging Face vừa giới thiệu khái niệm Model Integration Contracts (MIC), một tiêu chuẩn đề xuất nhằm đóng gói các bài kiểm thử tích hợp theo cách hiệu quả hơn. Với hơn 750 loại kiến trúc và hàng trăm nghìn lượt kiểm thử chạy mỗi ngày trên CPU và GPU, hệ thống hiện tại thường xuyên gặp khó khăn trong việc phát hiện lỗi trước khi mã nguồn được hợp nhất vào nhánh chính. Phương pháp mới này cho phép tạo ra các 'vật cố định' (fixtures) – những phiên bản mô hình tí hon mô phỏng chính xác cấu trúc của mô hình gốc nhưng tiêu tốn tài nguyên tối thiểu. Cơ chế cốt lõi của MIC là sử dụng một mô hình thu nhỏ được xây dựng từ cấu hình checkpoint thực tế nhưng lược bỏ bớt các lớp dư thừa để giảm dung lượng đáng kể. Chẳng hạn, trong một thử nghiệm với UMT5, phiên bản thu nhỏ chỉ nặng 66 MB so với con số...
Đọc bài gốc tại đây
