Đoạn Video
Ảnh
Nguyễn Thùy Linh✔
Thành viên nổi tiếng
Nếu như giai đoạn hai năm trước, phần lớn ngân sách đầu tư trung tâm dữ liệu đều dồn vào việc mua cụm card đồ họa đắt đỏ để huấn luyện mô hình mới, thì hiện nay hơn 70% công suất máy chủ lại phải gồng mình trả lời hàng tỷ truy vấn mỗi ngày của người dùng cuối. Áp lực này buộc các nhà vận hành trung tâm dữ liệu phải tìm cách cắt giảm chi phí điện năng trên mỗi phép tính suy luận (inference cost). Theo số liệu kỹ thuật vừa được ITHome ghi nhận từ chuỗi cung ứng máy chủ châu Á, việc chuyển từ làm mát bằng khí truyền thống sang hệ thống làm mát bằng chất lỏng trực tiếp trên bề mặt chip (direct-to-chip liquid cooling) kết hợp thuật toán phân bổ bộ nhớ chung giữa các cụm máy chủ đã giúp cắt giảm tới 30% chi phí vận hành hàng tháng. Đột phá hạ tầng phần cứng này chính là lời giải thích thuyết phục nhất cho việc vì sao các dịch vụ đám mây châu Á có thể duy trì bảng giá thấp đến khó tin mà vẫn có biên lợi nhuận dương: Alibaba...
Đọc bài gốc tại đây
