Đó là chia sẻ của Manuvir Das - Trưởng bộ phận Điện toán Doanh nghiệp của NVIDIA - tại sự kiện Future Compute, cùng thời điểm khi những hệ thống DGX H100 Hopper đầu tiên đến tay khách hàng. Có lẽ chính nhờ tỉ lệ phân bổ này mà người dùng có những trải nghiệm rất tốt với driver của hãng, bên cạnh phần cứng sở hữu hiệu năng vượt trội.
https://twitter.com/7Innovator/status/1653032921303859201
Software Stack của NVIDIA đã phát triển rất nhiều trong những năm qua, Manuvir nói rằng công ty đang liên tục nghiên cứu các thuật toán giúp họ hiểu được phần cứng mà họ sản xuất có thể và không thể làm gì. NVIDIA sẽ tận dụng sức mạnh từ AI của chính mình để phát triển thế hệ GPU kế tiếp. Machine learning cho phép NVIDIA tạo ra những con chip mới tốt hơn con người và cùng với cuLitho (phần mở rộng của thư viện CUDA được tối ưu hóa cho khối lượng công việc liên quan đến in thạch bản), những con chip tương tự sẽ được thiết kế và sản xuất nhanh hơn 40 lần so với thiết kế truyền thống. Hiện tại hãng đang hợp tác cùng ASML và TMSC để giúp áp dụng công nghệ này.
Cùng lúc đó, các hệ thống DGX H100 Hopper cũng bắt đầu vận chuyển đến khách hàng trên toàn cầu, giúp giải quyết các khối lượng công việc AI. Hopper H100 là con chip 4 nm Data Center đầu tiên và nhanh nhất thế giới, cung cấp hiệu năng tính toán AI lên tới 4000 TFLOPs. H100 sử dụng kiến trúc GPU mới với 80 tỉ transistor, bộ nhớ HBM3 cực nhanh, khả năng liên kết NVLink. Nhiệm vụ của Hopper H100 là xử lý các công việc liên quan đến AI (Artificial Intelligence), ML (Machine Learning), DNN (Deep Neural Networking) cũng như điện toán HPC.
Trong thông cáo báo chí, NVIDIA chỉ ra một số khách hàng lớn sẽ sử dụng DGX H100 như Boston Dynamics AI Institude, Scissero, DeepL và trở thành 1 phần của siêu máy tính Tokyo-1. NVIDIA đã có quá nhiều kinh nghiệm trong việc thiết kế và sản xuất chip, do đó họ dần chuyển dịch từ công ty phần cứng sang công ty phần mềm và nhà cung cấp giải pháp. Các softwarer stack của NVIDIA được thiết kế để vắt kiệt sức mạnh của GPU, từ đó mang lại hiệu năng tối ưu nhất cho người dùng.
https://twitter.com/7Innovator/status/1653032921303859201
Software Stack của NVIDIA đã phát triển rất nhiều trong những năm qua, Manuvir nói rằng công ty đang liên tục nghiên cứu các thuật toán giúp họ hiểu được phần cứng mà họ sản xuất có thể và không thể làm gì. NVIDIA sẽ tận dụng sức mạnh từ AI của chính mình để phát triển thế hệ GPU kế tiếp. Machine learning cho phép NVIDIA tạo ra những con chip mới tốt hơn con người và cùng với cuLitho (phần mở rộng của thư viện CUDA được tối ưu hóa cho khối lượng công việc liên quan đến in thạch bản), những con chip tương tự sẽ được thiết kế và sản xuất nhanh hơn 40 lần so với thiết kế truyền thống. Hiện tại hãng đang hợp tác cùng ASML và TMSC để giúp áp dụng công nghệ này.
Cùng lúc đó, các hệ thống DGX H100 Hopper cũng bắt đầu vận chuyển đến khách hàng trên toàn cầu, giúp giải quyết các khối lượng công việc AI. Hopper H100 là con chip 4 nm Data Center đầu tiên và nhanh nhất thế giới, cung cấp hiệu năng tính toán AI lên tới 4000 TFLOPs. H100 sử dụng kiến trúc GPU mới với 80 tỉ transistor, bộ nhớ HBM3 cực nhanh, khả năng liên kết NVLink. Nhiệm vụ của Hopper H100 là xử lý các công việc liên quan đến AI (Artificial Intelligence), ML (Machine Learning), DNN (Deep Neural Networking) cũng như điện toán HPC.
Trong thông cáo báo chí, NVIDIA chỉ ra một số khách hàng lớn sẽ sử dụng DGX H100 như Boston Dynamics AI Institude, Scissero, DeepL và trở thành 1 phần của siêu máy tính Tokyo-1. NVIDIA đã có quá nhiều kinh nghiệm trong việc thiết kế và sản xuất chip, do đó họ dần chuyển dịch từ công ty phần cứng sang công ty phần mềm và nhà cung cấp giải pháp. Các softwarer stack của NVIDIA được thiết kế để vắt kiệt sức mạnh của GPU, từ đó mang lại hiệu năng tối ưu nhất cho người dùng.
