NVIDIA khiến chúng ta không cần phải đi tìm đâu xa khi nghĩ đến những chiếc siêu máy tính (hay siêu máy chủ) để vận hành và huấn luyện các mô hình ngôn ngữ lớn, vì ở ngay trên bàn đã có ASUS Ascent GX10. Được trang bị bộ vi xử lý NVIDIA GB10 Grace Blackwell Superchip, nó cung cấp hiệu suất tính toán phục vụ AI lên đến 1 petaFLOP (1,000,000,000,000,000 - 1 triệu tỷ phép tính mỗi giây), dù chỉ nặng 1,48 kg và có kích thước chỉ 150 × 150 × 51 mm.
Khả năng nổi bật nhất của GX10 là khả năng huấn luyện và chạy những mô hình AI lớn có tới 200 tỷ tham số hoặc khi kết nối hai máy GX10 lại với nhau, bạn có thể xử lý những mô hình có 405 tỷ tham số – những mô hình AI có khả năng suy luận và hiểu biết tương đương các trợ lý AI tiên tiến nhất hiện nay.
Trước hết với Ascent GX10 hay những mẫu máy dựa trên nguyên mẫu DGX Spark của NVIDIA thì nó trông như một chiếc mini PC, nhưng bên trong nó là một kiến trúc hoàn toàn khác so với những mẫu mini PC mà chúng ta từng biết.
Khả năng nổi bật nhất của GX10 là khả năng huấn luyện và chạy những mô hình AI lớn có tới 200 tỷ tham số hoặc khi kết nối hai máy GX10 lại với nhau, bạn có thể xử lý những mô hình có 405 tỷ tham số – những mô hình AI có khả năng suy luận và hiểu biết tương đương các trợ lý AI tiên tiến nhất hiện nay.
ASUS Ascent GX10 là gì?
Trước hết với Ascent GX10 hay những mẫu máy dựa trên nguyên mẫu DGX Spark của NVIDIA thì nó trông như một chiếc mini PC, nhưng bên trong nó là một kiến trúc hoàn toàn khác so với những mẫu mini PC mà chúng ta từng biết.
So với một chiếc Mac mini M4 Pro, có thể thấy Ascent GX10 to hơn một chút, bề thế hơn, nhưng nếu là bản Founder Edition theo Cuhiep nói thì nó nhỏ gon và gọn hơn so với Mac mini M4.
Có lẽ DGX Spark và các phiên bản OEM của nó chính là những mẫu "supercomputer" dễ tiếp cận nhất ở thời điểm này dành cho các nhà phát triển AI, học sinh sinh viên đang nghiên cứu AI hoặc người dùng cá nhân muốn xây dựng hệ thống "máy chủ AI" của riêng mình, các doanh nghiệp muốn tận dụng để xây dựng hệ thống nội bộ chẳng hạn. So với việc thuê máy chủ với mức chi phí cố định hàng tháng thì mức giá khoảng 120 triệu cho phiên bản 128GB RAM và 1TB SSD sẽ là sự lựa chọn tối ưu hơn.
Phía sau của GX10 là 3 cổng USB-C 20Gbps, hỗ trợ DisplayPort Alt Mode và 1 cổng USB-C hỗ trợ nguồn 240W theo chuẩn PD 3.1.
Nó làm được gì?
Dĩ nhiên là để phục vụ các nhu cầu sử dụng AI, xây dựng hệ thống AI hoặc fine-tune các mô hình AI với lượng tham số lên đến 200 tỷ. Ưu thế rõ ràng nhất của DGX Spark hay Ascent GX10 hay cụ thể hơn là siêu chip GB10 đó là bộ nhớ Unified Memory giống như những con chip Apple Silicon và băng thông của nó lên đến 273GB/s.
Và nếu bạn so sánh với một hệ thống với 2 mẫu RTX 4090 hoặc RTX 5090 thì mức VRAM của nó cũng chỉ tối đa khoảng 48GB mà thôi và với mức này để bạn có thể fine-tune một mô hình 200 tỷ tham số là rất khó, gần như là không thể bởi vì mức VRAM bị giới hạn.
Quảng cáo
Còn với GB10, băng thông 273GB/s chưa phải là cái gì đó quá khủng khiếp nhưng kiến trúc Unified Memory giúp cho GB10 có thể fine-tune mô hình tốt hơn một hệ thống 2 con RTX 5090. Còn xét riêng về tốc độ inference thì GB10 chưa chắc đã "ăn" được.
Một ưu điểm nữa của GB10 đó là nó được hỗ trợ tăng tốc FP4 từ phần cứng, thay vì phải qua một lớp emulation, nó cho phép GPU xử lý các mô hình AI (suy luận) nhanh hơn đáng kể và hiệu quả hơn. Thay vì phải xử lý FP4 bằng phần mềm và sẽ dẫn đến hiệu suất bị ảnh hưởng.
Khả năng này cho phép một kỹ thuật gọi là "giải mã phỏng đoán" (speculative decoding), kỹ thuật này sử dụng một mô hình nhỏ, nhanh để "soạn thảo" văn bản và một mô hình lớn hơn, chính xác hơn để "xác minh" nó. Điều này đòi hỏi chạy hai mô hình cùng lúc và nó cần nhiều VRAM, lúc này GB10 sẽ hiệu quả hơn và tốc độ suy luận cũng sẽ nhanh hơn đáng kể so với việc chỉ chạy một mô hình lớn.
Thông số kỹ thuật đầy đủ của ASUS Ascent GX10:
Quảng cáo
- CPU: 20 nhân ARM (Grace)
- GPU: Blackwell, AI compute 1 petaFLOP
- RAM hợp nhất (unified memory): 128GB LPDDR5X (dùng chung cho CPU & GPU)
- Lưu trữ: 1TB PCIe NVMe.
- Kết nối: 10GbE, QSFP (hỗ trợ ghép nối nhiều Spark)
- Điện năng tiêu thụ: 240W chạy 24/7.
- Hệ điều hành: DGX OS (dựa trên Ubuntu), hỗ trợ Nvidia Sync, SSH đơn giản.
Về Grace Blackwell GB10 Superchip
Đây là "trái tim" của GX10, kết hợp hai bộ xử lý khác nhau:
- Bộ GPU Blackwell: Là thành phần chuyên xử lý các phép tính song song (parallel computing), tức là xử lý hàng triệu phép tính cùng lúc. GPU này được tối ưu hóa để xử lý các nhiệm vụ AI như nhận dạng ảnh, xử lý ngôn ngữ tự nhiên và dự đoán dữ liệu. GPU Blackwell tích hợp 128 GB bộ nhớ thống nhất, có nghĩa là CPU và GPU cùng sử dụng một vùng bộ nhớ chung, giúp truyền dữ liệu nhanh hơn rất nhiều so với truyền thông thường.
- Bộ CPU ARM Neoverse V2 (20 nhân): Là bộ xử lý trung tâm, chuyên xử lý các công việc tuần tự (sequential operations) như điều phối dữ liệu, tiền xử lý thông tin trước khi đưa sang GPU. CPU này được thiết kế để tiết kiệm năng lượng (chỉ cần tối đa 180W).
Một thành phần cũng quan trọng không kém đối với GB10 đó là kết nối NVLink-C2C, đây là một công nghệ kết nối tốc độ siêu cao giữa CPU và GPU, cung cấp băng thông 900 GB/giây theo hai chiều. Để so sánh thì băng thông của PCIe 5.0 (theo hai chiều) có tốc độ tối đa là 126GB/s, như vậy NVLink-C2C của NVIDIA có tốc độ gấp khoảng 7 lần.
Điều này có nghĩa là dữ liệu được truyền từ CPU sang GPU (hoặc ngược lại) gần như không có độ trễ, cho phép các mô hình AI huấn luyện và chạy inference (dự đoán) nhanh hơn rất nhiều.
Và bộ nhớ hợp nhất của GB10 cũng là dạng Coherent Unified Memory, tức là NVIDIA đảm bảo CPU và GPU luôn "nhìn thấy" phiên bản dữ liệu mới nhất, tránh bị tình trạng lỗi thời dữ liệu.
Riêng với GX10 sẽ tích hợp NVIDIA ConnectX-7 SmartNIC – một bộ điều hợp mạng đặc biệt hỗ trợ tốc độ lên tới 400 Gbps cho phép kết nối hai chiếc GX10 với nhau bằng cáp kết nối đặc biệt. Với băng thông này, bạn có thể fine-tune mô hình lên đến 405 tỷ tham số.
NVIDIA DGX OS
Đây là phiên bản Ubuntu Linux được tối ưu hóa đặc biệt cho các máy GX10, với tất cả các driver, thư viện và công cụ đã được cài sẵn. Không cần phải cài đặt phức tạp – bạn chỉ cần mở máy và bắt đầu code.
NVIDIA cũng đi kèm một hướng dẫn đầy đủ các bước cài đặt cần thiết để DGX Spark hay GX10 sẵn sàng sử dụng, bao gồm các cài đặt SSH, NVIDIA Sync, AI Workbench…để người dùng sẵn sàng các môi trường để vào việc ngay. Mình sẽ có các chủ đề chia sẻ từng phần ở những bài sau nha.
Vậy ASUS Ascent GX10 sẽ dành cho ai?
- Nhà phát triển AI & nhà nghiên cứu: Phát triển, tinh chỉnh và kiểm thử các mô hình AI trên máy cá nhân trước khi triển khai lên cloud.
- Sinh viên & giáo dục: Học tập về AI một cách trực tiếp mà không cần truy cập các máy chủ đắt tiền.
- Doanh nghiệp: Triển khai AI cục bộ để xử lý dữ liệu nhạy cảm mà không cần gửi lên cloud.
- Edge Computing: Chạy AI inference gần người dùng, giảm độ trễ và tăng bảo mật dữ liệu.
- Nghiên cứu khoa học: Chạy các mô phỏng và tính toán phức tạp trực tiếp trên bàn làm việc.
Tạm thời là vậy ha, để mình xem có làm được gì với Ascent GX10 nữa không.
Sản phẩm được phân phối bởi Thế giới máy chủ, anh em cần có thể tham khảo tại đây nha.
