Mục lục bài viết
Microsoft vừa đưa Foundry Local đạt trạng thái phát hành chính thức, biến việc chạy mô hình AI ngay trên thiết bị thành lựa chọn sẵn sàng cho người dùng phổ thông. Khả năng để AI chạy trên máy mà không phụ thuộc đám mây mở ra một hướng dùng trí tuệ nhân tạo riêng tư, nhanh và gần như miễn phí sau khi cài đặt.
Foundry Local là giải pháp suy luận AI cục bộ, cho phép chạy mô hình trực tiếp qua dòng lệnh, bộ công cụ lập trình (SDK) hoặc REST API. Gói cài đặt chỉ khoảng 20 MB, hỗ trợ Windows, macOS trên chip Apple Silicon và Linux x64, kèm khả năng tự động tăng tốc bằng phần cứng có sẵn của máy.
AI chạy trên máy tính cá nhân không cần kết nối mạng
Điểm cốt lõi khiến AI chạy trên máy hấp dẫn là mọi xử lý diễn ra ngay trên thiết bị: không có độ trễ mạng, không tốn phí theo từng lượt gọi và dữ liệu không rời khỏi máy. Microsoft cung cấp sẵn một danh mục mô hình đã được tối ưu, cùng các SDK cho Python, JavaScript, C# và Rust, nên lập trình viên có thể nhúng AI vào ứng dụng mà không cần dựng hạ tầng đám mây.
Các SDK này là lớp vỏ mỏng gọi vào thư viện lõi gốc của Foundry Local, vốn lo việc quản lý vòng đời mô hình. Cách thiết kế đó giúp một chiếc laptop đời mới có thể tải mô hình về, chạy hội thoại hoặc xử lý âm thanh hoàn toàn ngoại tuyến. Đây cũng là mảnh ghép Microsoft giới thiệu cùng dịp hội nghị Microsoft Build 2026, nơi hãng đặt các agent AI làm mặc định cho Office và Windows.
Trên thực tế, người dùng chỉ cần cài Foundry Local, chọn một mô hình từ danh mục rồi gọi nó như một dịch vụ chạy nội bộ. Các mô hình ngôn ngữ nhỏ phù hợp cho việc tóm tắt văn bản, soạn email, trả lời câu hỏi nội bộ hay hỗ trợ lập trình ở mức cơ bản, trong khi tác vụ nặng vẫn có thể chuyển lên đám mây khi cần. Cách kết hợp “cục bộ trước, đám mây khi cần” này giúp cân bằng giữa tốc độ, chi phí và chất lượng cho người dùng phổ thông.
Quyền riêng tư, chi phí và ý nghĩa với người dùng Việt
Việc xử lý cục bộ giải quyết hai nỗi lo lớn nhất khi dùng AI đám mây là quyền riêng tư và chi phí. Doanh nghiệp xử lý hồ sơ nhạy cảm không phải gửi dữ liệu ra máy chủ bên ngoài, còn cá nhân thì tránh được hóa đơn token tăng theo mức sử dụng. Đổi lại, chất lượng phụ thuộc vào mô hình nhỏ chạy được trên phần cứng phổ thông, nên chưa thể sánh với các mô hình khổng lồ trên đám mây ở những tác vụ phức tạp.
Với người dùng Việt Nam, hướng đi này đặc biệt đáng chú ý. Đường truyền internet không phải lúc nào cũng ổn định, chi phí gọi API tính bằng ngoại tệ là rào cản với nhiều nhóm nhỏ, và yêu cầu bảo mật dữ liệu nội bộ ngày càng chặt. Một công cụ cho phép AI chạy trên máy giúp lập trình viên, nhà sáng tạo nội dung và doanh nghiệp nhỏ thử nghiệm AI mà không lo các chi phí ẩn.
Xu hướng đưa AI về thiết bị nhiều khả năng sẽ tăng tốc khi chip xử lý AI trên laptop ngày càng mạnh. Điều cần theo dõi là kho mô hình cục bộ sẽ thu hẹp khoảng cách với mô hình đám mây nhanh đến đâu trong năm 2026. Bạn đọc quan tâm có thể tham khảo thêm danh mục công cụ trong cẩm nang công cụ AI 2026 của Nhịp AI.
Nguồn: Microsoft Foundry Blog, GitHub.
Xem thêm: Cẩm nang workflow AI 2026.
