Chạy AI cục bộ vừa chạm một cột mốc mới: chiếc máy mini GMKtec EVO-X2 dùng chip AMD Ryzen AI Max+ 395 trở thành cỗ máy x86 đầu tiên nạp được một mô hình 235 tỷ tham số vào một vùng nhớ hợp nhất duy nhất, mở ra khả năng chạy AI mạnh ngay trên bàn làm việc mà không cần đám mây. Theo công bố của AMD, con chip này đang định nghĩa lại bài toán bộ nhớ cho suy luận AI tại chỗ.
Nút thắt lớn nhất của suy luận AI trên máy cá nhân lâu nay là card đồ họa rời hết VRAM trước khi kịp nạp các mô hình đáng dùng. Một chiếc RTX 4090 giá 1.600 USD chỉ có 24 GB VRAM, trong khi mô hình 70 tỷ tham số đã cần khoảng 40 GB. Ryzen AI Max+ 395 giải bài toán này bằng kiến trúc bộ nhớ hợp nhất: 16 nhân CPU Zen 5, GPU tích hợp và bộ xử lý thần kinh cùng chia sẻ một vùng nhớ 128 GB LPDDR5x. GPU có thể dùng tới 96 GB như VRAM, gấp bốn lần RTX 4090.
Băng thông bộ nhớ đạt khoảng 215 đến 256 GB/s, yếu tố quan trọng hơn cả sức mạnh tính toán thô vì việc sinh token phụ thuộc chủ yếu vào tốc độ đọc trọng số từ bộ nhớ. Trên cấu hình 128 GB, EVO-X2 chạy Qwen3-235B ở khoảng 11 token mỗi giây nhờ đây là mô hình hỗn hợp chuyên gia, mỗi lượt chỉ kích hoạt chừng 22 tỷ tham số. Mô hình dày đặc 70 tỷ tham số như Llama 3.3 chạy quanh 5 token/giây, còn các mô hình 7 đến 13 tỷ tham số đạt 30 đến 45 token/giây, đủ mượt cho hầu hết nhu cầu tương tác.
Mục lục
Vì sao chạy AI cục bộ trên máy mini lại khả thi trong năm 2026
Cùng con chip Ryzen AI Max+ 395, AMD mở bán bản máy bàn chính hãng Ryzen AI Halo giá 3.999 USD, hướng tới doanh nghiệp với phần mềm và hỗ trợ trực tiếp. Trong khi đó, EVO-X2 và hơn 30 mẫu mini PC của bên thứ ba dùng chung chip có giá khởi điểm chỉ từ 1.500 đến 2.399 USD, đổi lại người dùng phải tự cấu hình bộ phần mềm ROCm trên Linux để mở khóa toàn bộ hiệu năng GPU.
So với đối thủ, Apple đã ngừng các cấu hình Mac Studio và Mac Mini trên 96 GB, khiến nền tảng x86 của AMD hiện là lựa chọn tiêu dùng duy nhất chạy được những mô hình cần hơn 96 GB bộ nhớ đồ họa. Tuy nhiên, với các tác vụ phục vụ nhiều người dùng đồng thời, card rời băng thông cao như RTX 4090 vẫn nhanh hơn. Câu hỏi cốt lõi là khối lượng công việc cần nhồi một mô hình thật lớn vào bộ nhớ, hay cần phục vụ thật nhiều yêu cầu cùng lúc.
Bài toán chi phí và lưu ý cho người dùng Việt
Sức hút lớn nhất của giải pháp này là chi phí. Một lập trình viên trả khoảng 440 USD mỗi tháng cho các gói đám mây như Claude Code Max, ChatGPT Pro, Cursor và Gemini Advanced sẽ tiêu tốn hơn 5.000 USD một năm. Một chiếc EVO-X2 cấu hình 128 GB giá 1.500 đến 1.800 USD có thể hoàn vốn trong khoảng chín đến mười tháng, sau đó chi phí suy luận chỉ còn tiền điện chừng 9 đến 12 USD mỗi tháng. Quan trọng hơn, dữ liệu không bao giờ rời khỏi máy, một khác biệt về bản chất so với suy luận trên đám mây.
Với người dùng Việt, đây là hướng đáng cân nhắc cho lập trình viên tự do, công ty nhỏ hay nhóm xử lý dữ liệu nhạy cảm muốn dùng các mô hình mở như Qwen, DeepSeek hay Llama mà không lo rò rỉ. Dù vậy, cần nhớ mô hình mở dù mạnh vẫn chưa ngang các mô hình frontier đóng, nên bài toán tiết kiệm chỉ đúng khi công việc thực sự thay thế được API đám mây. Ngoài ra, GMKtec là công ty Trung Quốc, nên người dùng đề cao bảo mật nên cài Linux sạch và tách thiết bị khỏi mạng dữ liệu quan trọng.
Khi phần cứng tiêu dùng đã đủ sức nạp những mô hình từng phải đặt trong trung tâm dữ liệu, ranh giới giữa AI đám mây và AI tại chỗ sẽ ngày càng mờ đi trong năm 2026.
Nguồn: Tech Times, AMD, GMKtec.
Xem thêm: GPT-5.6 sắp ra mắt, nâng cấp lớn cuối tháng 6 · Tổng hợp công cụ AI miễn phí · Cẩm nang công cụ AI 2026
