Tại Computex 2023 hôm nay 29/5, Nvidia đã giới thiệu GH200, phiên bản nâng cấp của “siêu chip” Grace Hopper với bên trong là GPU Hopper phiên bản mới, mang tên GH200.
Tại sự kiện GTC 2022 tháng 3 năm ngoái, Nvidia đã giới thiệu “siêu chip” mang tên Grace Hopper, kết hợp từ CPU Grace 144 nhân kiến trúc ARM, cùng GPU Hopper GH100 với sức mạnh xử lý lên tới 4000 teraflops FP8.
GH200 phục vụ nhu cầu xử lý điện toán hiệu năng cao trên các hệ thống HPC (High Performance Computing) và nhu cầu xử lý nghiên cứu và vận hành những thuật toán AI. Kết hợp sức mạnh của CPU và GPU là cầu nối NVLink-C2C.
Với cầu nối này, tổng băng thông bộ nhớ của chip đạt mức 900 GB/s, cao hơn 7 lần so với tiêu chuẩn PCIe Gen 5 mới nhất. Nhưng cùng lúc, theo CEO Jensen Huang, con chip nghiên cứu AI của họ sẽ tiết kiệm điện năng gấp 5 lần so với những hệ thống nghiên cứu và vận hành thuật toán machine learning khác, từ đó đáp ứng bài toán phát triển AI nhưng vẫn phải tiết kiệm năng lượng tiêu hao. Và dưới đây là tỷ lệ hiệu năng mà GH200 dự kiến có thể tạo ra với một số giải pháp AI phổ biến:
Một trong những hệ thống siêu máy tính sẽ được trang bị GH200 sẽ là DGX GH200 của chính Nvidia, phiên bản kế tiếp của siêu máy tính băng thông bộ nhớ cao. Theo Nvidia, sử dụng NVLink Switch System, 256 chip GH200 sẽ được kết nối lại với nhau, tạo ra một GPU kích thước siêu lớn, đạt tốc độ xử lý 1 exaflops, tốc độ tính toán 1 tỷ tỷ phép tính mỗi giây (số 1 và 18 số 0 đằng sau), cùng 144 TB bộ nhớ được 256 chip sử dụng chung.
Sản phẩm siêu máy tính nghiên cứu AI ra mắt trước đó của Nvidia là DGX A100, ra mắt năm 2020. So với DGX A100, DGX GH200 có dung lượng bộ nhớ nhiều gấp 500 lần, còn sức mạnh thì còn cao hơn nhiều, vì DGX A100 phục vụ các đơn vị nghiên cứu AI thì chỉ có 8 GPU kết nối lại với nhau mà thôi.
Cùng lúc, vẫn là những hệ thống DGX, những người làm sáng tạo như kỹ xảo điện ảnh hay đồ hoạ game sẽ được hưởng lợi từ bộ công cụ mang tên Nvidia RTX Platform. Nó có khả năng kết hợp cả ray tracing, deep learning và hiệu năng rasterization để thay đổi toàn diện quá trình tạo nội dung của những người chuyên nghiệp lẫn các nhà phát triển game. Những ứng dụng hay game phat triển trên RTX Platform sẽ sở hữu đồ hoạ cực kỳ chân thực, đi kèm với quy trình xử lý đồ hoạ, hình ảnh và video có AI hỗ trợ.
Tại sự kiện GTC 2022 tháng 3 năm ngoái, Nvidia đã giới thiệu “siêu chip” mang tên Grace Hopper, kết hợp từ CPU Grace 144 nhân kiến trúc ARM, cùng GPU Hopper GH100 với sức mạnh xử lý lên tới 4000 teraflops FP8.
GH200 phục vụ nhu cầu xử lý điện toán hiệu năng cao trên các hệ thống HPC (High Performance Computing) và nhu cầu xử lý nghiên cứu và vận hành những thuật toán AI. Kết hợp sức mạnh của CPU và GPU là cầu nối NVLink-C2C.
Với cầu nối này, tổng băng thông bộ nhớ của chip đạt mức 900 GB/s, cao hơn 7 lần so với tiêu chuẩn PCIe Gen 5 mới nhất. Nhưng cùng lúc, theo CEO Jensen Huang, con chip nghiên cứu AI của họ sẽ tiết kiệm điện năng gấp 5 lần so với những hệ thống nghiên cứu và vận hành thuật toán machine learning khác, từ đó đáp ứng bài toán phát triển AI nhưng vẫn phải tiết kiệm năng lượng tiêu hao. Và dưới đây là tỷ lệ hiệu năng mà GH200 dự kiến có thể tạo ra với một số giải pháp AI phổ biến:
Một trong những hệ thống siêu máy tính sẽ được trang bị GH200 sẽ là DGX GH200 của chính Nvidia, phiên bản kế tiếp của siêu máy tính băng thông bộ nhớ cao. Theo Nvidia, sử dụng NVLink Switch System, 256 chip GH200 sẽ được kết nối lại với nhau, tạo ra một GPU kích thước siêu lớn, đạt tốc độ xử lý 1 exaflops, tốc độ tính toán 1 tỷ tỷ phép tính mỗi giây (số 1 và 18 số 0 đằng sau), cùng 144 TB bộ nhớ được 256 chip sử dụng chung.
Sản phẩm siêu máy tính nghiên cứu AI ra mắt trước đó của Nvidia là DGX A100, ra mắt năm 2020. So với DGX A100, DGX GH200 có dung lượng bộ nhớ nhiều gấp 500 lần, còn sức mạnh thì còn cao hơn nhiều, vì DGX A100 phục vụ các đơn vị nghiên cứu AI thì chỉ có 8 GPU kết nối lại với nhau mà thôi.
Cùng lúc, vẫn là những hệ thống DGX, những người làm sáng tạo như kỹ xảo điện ảnh hay đồ hoạ game sẽ được hưởng lợi từ bộ công cụ mang tên Nvidia RTX Platform. Nó có khả năng kết hợp cả ray tracing, deep learning và hiệu năng rasterization để thay đổi toàn diện quá trình tạo nội dung của những người chuyên nghiệp lẫn các nhà phát triển game. Những ứng dụng hay game phat triển trên RTX Platform sẽ sở hữu đồ hoạ cực kỳ chân thực, đi kèm với quy trình xử lý đồ hoạ, hình ảnh và video có AI hỗ trợ.
