Nvidia tung Llama-3.1-Nemotron-70B-Instruct: Khi mã nguồn mở đánh bại các mô hình độc quyền hàng đầu

[Trương Cẩm Tú✔]

Theo Ars Technica, nvidia vừa gây bất ngờ lớn cho toàn ngành trí tuệ nhân tạo khi chính thức phát hành mô hình Llama-3.1-Nemotron-70B-Instruct dưới dạng trọng số mở (open weights). Dựa trên nền tảng kiến trúc gốc Llama 3.1 70B của Meta, đội ngũ nghiên cứu của Nvidia đã thực hiện một bước nhảy vọt về kỹ thuật tinh chỉnh để biến mô hình này thành một cỗ máy suy luận vượt trội, bất ngờ vượt qua cả các tượng đài thương mại hàng đầu như GPT-4o của OpenAI và Claude 3.5 Sonnet trên hàng loạt bảng xếp hạng chuẩn hóa khắt khe. Theo phân tích chi tiết trên trang tin arstechnica.com, sự xuất hiện của Nemotron-70B đã làm đảo lộn hoàn toàn nhận thức cố hữu rằng chỉ có các siêu tập đoàn sở hữu mô hình độc quyền đóng kín mới có thể duy trì vị thế dẫn đầu về hiệu năng. Bí quyết kỹ thuật giúp Nvidia đạt được kỳ tích này nằm ở quy trình căn chỉnh hậu huấn luyện (post-training alignment) mang tính đột phá, kết hợp giữa mô hình thưởng Nemotron-4-340B-Reward và thuật toán tối ưu hóa chính sách trực tiếp (Direct Preference Optimization...

Đọc bài gốc tại đây