Nemotron 3 Nano Omni, mô hình AI mã nguồn mở đa phương thức của NVIDIA, ra mắt ngày 27/5. Hãng quảng bá Nemotron 3 Nano là “tốt nhất cùng phân khúc” cho các tác vụ tác tử xử lý hình ảnh, âm thanh và văn bản, theo blog chính thức.
NVIDIA cho biết Nemotron 3 Nano hoạt động hiệu quả gấp 9 lần các mô hình so sánh khi triển khai trên nền tảng AI cục bộ. Đây là phiên bản nhỏ nhất trong họ Nemotron 3 vừa công bố.
Mục tiêu chính là chạy được trên GPU đơn lẻ, kể cả card RTX dành cho người dùng cuối. Mô hình hợp nhất ba luồng đầu vào hình ảnh, âm thanh và ngôn ngữ trong một kiến trúc duy nhất.
Cách làm này khác với ghép nhiều mô-đun chuyên biệt như truyền thống. Theo NVIDIA, Nemotron 3 Nano đạt 76% độ chính xác trên Terminal-Bench 2.1, tương đương các mô hình tỷ tham số lớn hơn nhiều lần.
Kiến trúc Nano tận dụng kỹ thuật chia sẻ trọng số và lượng tử hoá 4-bit. Bộ nhớ cần thiết giảm xuống khoảng 6GB, đủ để chạy trên RTX 4070 cấp tiêu dùng.
Bộ trọng số phát hành dưới giấy phép NVIDIA Open Model License. Người dùng có thể thương mại miễn phí với điều kiện không cạnh tranh trực tiếp với dịch vụ AI của hãng.
Cộng đồng Hugging Face đã tải về hơn 200.000 lượt trong 24 giờ đầu, theo dữ liệu công khai trên nền tảng. Phần lớn nhu cầu đến từ các nhóm xây dựng AI tác tử nội bộ.
Mặt trận mới: AI tác tử cục bộ
Nemotron 3 Nano nhắm vào phân khúc đang nóng: các AI tác tử cần chạy tại biên (edge) thay vì đám mây. Đây cũng là chiến trường nóng giữa NVIDIA, Microsoft và Meta.
Cả ba đều tung mô hình nhỏ dưới 10 tỷ tham số trong tháng 5. Theo MarkTechPost, hơn 60% doanh nghiệp khảo sát đang tìm cách chuyển khối lượng tác tử về máy chủ riêng để tránh chi phí token API leo thang.
Ngoài Nemotron 3 Nano, NVIDIA cũng công bố lộ trình GPU Vera Rubin cho hạ tầng đám mây. Đây là nền tảng vừa được Meta đặt 12 tỷ USD trong hợp đồng 5 năm với Nebius.
Hãng định vị Nemotron 3 Nano là “đầu mềm” trong chiến lược chip-phần mềm. NVIDIA bán GPU cho trung tâm dữ liệu khổng lồ, đồng thời tặng mô hình nhỏ cho lập trình viên cá nhân quen với GeForce.
Cơ hội cho cộng đồng AI Việt Nam
Tại Việt Nam, làn sóng AI tác tử cục bộ đang nhận quan tâm rõ rệt. Trung tâm Đổi mới sáng tạo Quốc gia (NIC) tháng 5 công bố chương trình đào tạo 1.000 kỹ sư triển khai AI tác tử trên hạ tầng nội bộ doanh nghiệp.
FPT Smart Cloud cho biết đã có hơn 40 doanh nghiệp ngân hàng và sản xuất đăng ký thử nghiệm các mô hình tác tử nhỏ chạy trên GPU đặt tại Việt Nam, theo tin từ FPT.
Với giấy phép mở, Nemotron 3 Nano có thể trở thành lựa chọn phổ biến cho các đội phát triển AI trong nước vốn nhạy cảm với chi phí. Một số startup như VinAI, Zalo AI và GreenNode đã thông báo sẽ sớm bổ sung mô hình này.
Tuy vậy, các kỹ sư trong nước lưu ý độ chín của mô hình cho tiếng Việt còn cần kiểm chứng. NVIDIA huấn luyện Nemotron 3 Nano chủ yếu trên dữ liệu tiếng Anh, dù dữ liệu đa ngôn ngữ chiếm khoảng 17% tổng kho theo bài blog.
Cộng đồng đang chờ kết quả benchmark cụ thể trên các bộ dữ liệu tiếng Việt như ViGLUE và Bach Khoa-NLP. Đây sẽ là phép thử quan trọng cho khả năng phổ cập của Nemotron 3 Nano tại Việt Nam.
Cuộc đua mô hình nhỏ chỉ vừa bắt đầu. Sau Nemotron 3 Nano, Google và Anthropic dự kiến tung phiên bản gọn nhẹ tương đương trong vài tuần tới, theo Reuters. Mùa hè 2026 hứa hẹn nhiều biến động cho phân khúc AI cục bộ.
Nguồn: NVIDIA Blog, MarkTechPost, Reuters. Xem thêm: Gemini Omni: Google ra mắt mô hình video AI mới.
