Chip Nvidia thì không phải bàn rồi, còn hệ sinh thái phần mềm API CUDA thì sao?

P.W
27/3/2024 10:56Phản hồi: 20
Chip Nvidia thì không phải bàn rồi, còn hệ sinh thái phần mềm API CUDA thì sao?
Bài viết của Jonathan Goldberg, nhà sáng lập đơn vị tư vấn D2D Advisory, nhà phân tích thị trường công nghệ và chuyên gia về chip bán dẫn.

GTC 2024 vừa diễn ra có thể đã có một keynote quá hoành tráng từ CEO Jensen Huang, với màn giới thiệu thế hệ chip xử lý B200 kiến trúc Blackwell, với sức mạnh gấp từ 2 đến 5 lần thế hệ chip xử lý AI Hopper trước đó. Bỗng nhiên, trong một khoảnh khắc trên sân khấu, toàn bộ sự chú ý của thế giới công nghệ đổ dồn vào một bài thuyết trình giới thiệu sản phẩm mà cứ 10 người có lẽ phải tới 6 7 người chẳng hiểu CEO Huang nói cái gì. Nào là transformer engine, nào là băng thông bộ nhớ HBM3…

Tất cả ngấu nghiến từng lời của Jensen Huang trên sân khấu, dù đây là một sự kiện dành riêng cho cộng đồng các nhà phát triển, những người làm phát triển ứng dụng và thuật toán xử lý, chứ không dành cho người dùng consumer và prosumer. Bản chất GTC, viết tắt của GPU Technology Conference cũng là nơi quy tụ những nhà phát triển và kỹ sư hàng đầu. Đó chính là bằng chứng chứng minh cho sức hút và quyền lực của Nvidia giữa cơn sốt AI ở thời điểm hiện tại.

nvidia-gtc-expo-hall-.webp

Ở trung tâm của sự kiện GTC chưa bao giờ là những thế hệ chip xử lý mới được công bố, mà là những giải pháp phần mềm trong hệ sinh thái kiến trúc CUDA từ các đối tác và các đơn vị phát triển.


Hồi sự kiện GTC 2023 tổ chức cùng thời điểm này năm ngoái, Nvidia tung ra 37 thông cáo báo chí công bố những công nghệ và ứng dụng phần mềm viết và vận hành trên nền kiến trúc CUDA từ tất cả các bên đối tác của họ, từ mô hình AI cho tới thư viện phần mềm. GTC 2024 năm nay cũng vậy, đếm sơ qua, cũng có hơn 30 công bố và giải pháp mới xuất hiện tại đây. Chẳng hạn như:

  • Công cụ Digital Human Technologies, dùng AI để ghép âm thanh và cử động môi cho nhân vật ảo.
  • TSMC và Synopsys ứng dụng bộ phần mềm nền tảng cuLitho để hỗ trợ phát triển và sản xuất chip xử lý.
  • Dịch vụ tạo nội dung bằng thuật toán AI để hỗ trợ nghiên cứu thuốc chữa bệnh, sức khỏe điện tử và công nghệ dược.
  • Sử dụng AI để nghiên cứu công nghệ viễn thông 6G với gói phần mềm 6G Advanced Cloud Platform.
  • Johnson & Johnson Medtech ứng dụng AI để nghiên cứu giải pháp thực hiện phẫu thuật cho con người.
  • Ngân hàng NBY Mellon ứng dụng DGX SuperPOD để vận hành hệ thống giải pháp AI.
  • Sử dụng nền tảng Earth-2 để nghiên cứu mô phỏng biến đổi khí hậu và bảo vệ môi trường.

Tất cả những ứng dụng và gói dịch vụ được công bố tại GTC đều có một điểm chung: Chúng đều được phát triển để vận hành tối ưu trên những kiến trúc chip xử lý nhân CUDA của Nvidia. Những đối tác và các nhà phát triển, các tập đoàn và doanh nghiệp này được Nvidia vô cùng nâng niu. Vì nhờ có họ, danh sách những doanh nghiệp và các nhà phát triển lập trình code tối ưu cho CUDA đã lên tới hàng trăm, hàng nghìn đơn vị. Quan trọng hơn cả, những ngành nghề của những đơn vị đối tác này vô cùng đa dạng, từ xe hơi, sức khỏe, tài chính ngân hàng, chứ không riêng gì mảng công nghệ.

nvidia-omniverse-simulation-1.jpg

Điều đó chứng minh sức mạnh và độ phủ của Nvidia, không chỉ xét đến những data center vận hành thuật toán AI, mà còn cả ở mảng phần mềm và ứng dụng chuyên nghiệp.

Mà nếu xét riêng khía cạnh phát triển ứng dụng và phần mềm doanh nghiệp, thì đà phát triển của Nvidia chắc chắn sẽ khiến họ có chỗ đứng vô cùng vững chắc. Lý do là các doanh nghiệp và tập đoàn đầu tư tiền tỷ cho phần mềm, từ phát triển, thử nghiệm, tối ưu, tập huấn cách sử dụng rồi ứng dụng phần mềm trong kinh doanh và vận hành là một quá trình dài. Một khi quá trình này hoàn tất, gần như không thể tìm ra lý do để buộc họ đổi cả kiến trúc xử lý lẫn phần mềm.

Bằng chứng rõ ràng nhất cho việc này chính là những nỗ lực thâm nhập thị trường chip xử lý máy chủ kiến trúc ARM của các hãng lớn. Ngay cả khi những chip kiến trúc ARM bắt đầu thể hiện được sức mạnh xử lý đủ cạnh tranh với chip x86, thì vẫn có hai vấn đề nảy sinh. Thứ nhất là sẽ tốn nhiều năm để các tập đoàn và doanh nghiệp viết lại phần mềm vận hành tối ưu trên kiến trúc chip mới. Và thứ hai là phải thuyết phục khách hàng chuyển đổi toàn bộ hệ thống sang kiến trúc ARM.

Nvidia khởi đầu từ rất sớm. Những thành quả ngày hôm nay của họ đến từ ngay những ngày đầu kiến trúc nhân chip xử lý và API CUDA được giới thiệu gần 20 năm về trước. Một khi tất cả đều chọn CUDA vì thư viện phần mềm đã tối ưu tốt cho API này, chạy trên phần cứng xử lý của Nvidia, vị thế của họ sẽ còn được củng cố chắc chắn hơn.

Quảng cáo


[​IMG]

Sở dĩ nói đến vị thế của Nvidia, là vì hiện tại AMD đang có giải pháp tương tự để cạnh tranh, tên là ROCm. Hiện giờ ROCm đang có những bước tiến khá rõ ràng. Nhưng khi nói đến bước tiến, thì ROCm mới chỉ tạo ra được một nền tảng có thể làm việc được, có thể phát triển ứng dụng và phần mềm tối ưu sức mạnh xử lý của những GPU máy chủ của AMD như MI300X chẳng hạn. Còn về cả hiệu năng xử lý lẫn độ phủ, AMD sẽ còn cần phải nỗ lực rất nhiều để chiếm được tỷ trọng thị phần đủ khiến Nvidia lo lắng.

Chỉ một chi tiết đơn cử cũng đủ chứng minh cho điều này. Hiện tại ROCm chỉ hỗ trợ một vài mẫu GPU của AMD. Còn CUDA thì card đồ họa hay GPU nào cũng chạy được, đến cả RTX 4070 còn tạo được hình ảnh AI bằng Stable Diffusion, nội suy nhờ nhân CUDA.

Một số giải pháp thay thế có thể kể đến như UXL hay vài giải pháp dựa trên PyTorch và Triton. Chúng cũng có tiềm năng nhưng còn khá sơ khai.

omniverse-for-designers.jpg

Chiến lược phát triển API CUDA phục vụ cho mọi ngành nghề cần sức mạnh điện toán của Nvidia đương nhiên có một điểm yếu, đó chính là những đối tác lớn nhất của Nvidia. Những đối tác ứng dụng GPU và API CUDA ở quy mô lớn nhất, độ phủ của dịch vụ ở tầm cỡ toàn thế giới hoàn toàn không muốn phụ thuộc hoàn toàn vào Nvidia. Nếu muốn, và nếu điều kiện bắt buộc, họ hoàn toàn có tiềm lực tạo ra những giải pháp thay thế. Việc Microsoft hay Google tự phát triển chip xử lý AI như Cobalt và Tensor là một ví dụ điển hình.

Quảng cáo


Hiện giờ cả phần cứng lẫn phần mềm CUDA của Nvidia vẫn đang là lựa chọn phổ biến, tiện lợi và tối ưu hiệu năng nhất cho các doanh nghiệp, nhà phát triển và các tập đoàn.

Có một điều rõ ràng, với việc ra mắt những bộ công cụ phần mềm hỗ trợ phát triển ứng dụng cho doanh nghiệp, kèm theo cả dịch vụ điện toán đám mây Omniverse, Nvidia đang có tham vọng rõ ràng biến mảng này thành một nguồn thu chính, bên cạnh việc bán card đồ họa chơi game cho anh em tiêu dùng và GPU data center cho các tập đoàn công nghệ. Hiện giờ đương nhiên mảng phần mềm vẫn chỉ chiếm một tỷ trọng rất nhỏ trong tổng doanh thu của Nvidia, nhưng con số này trong quý vừa rồi đã chạm ngưỡng 1 tỷ USD.

Theo Techspot
20 bình luận
Chia sẻ

Xu hướng

magez
CAO CẤP
2 tháng
Hiện tại có liên minh các ông lớn để mong phá thế độc quyền của Nvidia, nhưng mà tương lai còn khá xa vời.
Lý do là vì phần cứng Nvidia vẫn bỏ quá xa đối thủ, phần mềm CUDA thì cũng vô đối, do được rất nhiều công ty lớn & các lập trình viên đóng góp mã nguồn, nó hỗ trợ chạy trên rất nhiều GPU.
Các cty lẫn dev ít có động lực để chuyển qua nền tảng khác, vì nó tốn kém cũng như mất công đập xây lại, trong khi CUDA đáp ứng tốt mọi nhu cầu
Dự là Nvidia vẫn là đứng trên đỉnh & gần như độc quyền ít nhất 5-7 năm nữa https://vnexpress.net/intel-google-qualcomm-tim-cach-vuot-nvidia-bang-nen-tang-moi-4726574.html

Intel, Google, Qualcomm tìm cách vượt Nvidia bằng nền tảng mới

Qualcomm, Google và Intel đang thành lập liên minh nhằm hướng các nhà phát triển sang sử dụng phần mềm AI mới, thay cho nền tảng Cuda của Nvidia.
vnexpress.net
@magez Cơ bản là nó ăn sâu bám rễ bao năm rồi và quan trọng là nVidia không hề lười biếng ngủ quên trên chiến thắng như anh làm CPU nào đó !
@magez Riêng về khoản Card tôi không chọn AMD mặc dù biết nó rẻ hơn,chơi game tốt hơn ! Nhưng tôi vẫn chọn Nvidia , Lý do được các Dev hỗ trợ rất nhiều !
GLES
ĐẠI BÀNG
2 tháng
@lhdtt ủa nói thật hay nói mỉa vậy bác =))))))))))))))))

cái core GPU chạy chip M phải gọi CUDA bằng cụ thì có =)))

test LLaMA cuda vs M3
https://github.com/ggerganov/llama.cpp/discussions/4167

Performance of llama.cpp on Apple Silicon M-series · ggerganov llama.cpp · Discussion #4167

Summary LLaMA 7B BW [GB/s] GPU Cores F16 PP [t/s] F16 TG [t/s] Q8_0 PP [t/s] Q8_0 TG [t/s] Q4_0 PP [t/s] Q4_0 TG [t/s] ✅ M1 1 68 7 108.21 7.92 107.81 14.19 ✅ M1 1 68 8 117.25 7.91 117.96 14.15 ✅ M1...
github.com
@lhdtt Chip M đòi đọ CUDA cái qq á, đi học lại đi má 😆
Mirrorsn
ĐẠI BÀNG
2 tháng
@lhdtt Bằng chứng rõ ràng nhất cho việc này chính là những nỗ lực thâm nhập thị trường chip xử lý máy chủ kiến trúc ARM của các hãng lớn. Ngay cả khi những chip kiến trúc ARM bắt đầu thể hiện được sức mạnh xử lý đủ cạnh tranh với chip x86, thì vẫn có hai vấn đề nảy sinh. Thứ nhất là sẽ tốn nhiều năm để các tập đoàn và doanh nghiệp viết lại phần mềm vận hành tối ưu trên kiến trúc chip mới. Và thứ hai là phải thuyết phục khách hàng chuyển đổi toàn bộ hệ thống sang kiến trúc ARM.

Bác đọc hết bài đi đã
@Mirrorsn Tôi troll mà bro, tôi là anti Apple-fan chính gốc
typhu1901
ĐẠI BÀNG
2 tháng
Việt Nam có Cu đơ cũng chả kém CUDA của Nvidia
@typhu1901 Đang tính bình luận 🤣🤣🤣
Độc bá cả phần cứng lẫn giải pháp phần mềm thì khó bỏ lắm. Nếu AI vẫn là trend thì sẽ còn phất dài dài
Huhu, hồi cổ phiếu nó $450, mình còn ảo về 350, thía mà lật kèo hơn 2 tháng đã lên 900+ rùi.
Bá đạo sml Nvidia ơi.
Hệ sinh thái phần mềm core điều khiển nhân CUDA là một lợi thế lớn.
Các hệ thống AI python/C++ đang dùng kế thừa nhiều lớp chồng chéo CUDA-based tensor SDK này.
Các hãng đi sau phải đầu tư nhiều nguồn lực để đạt điểm rơi hội tụ: Chip cứng to khoẻ, SDK mềm tương thích các OS và nhiều developers/cty hỗ trợ tin dùng...
Tiền chưa đủ thì you chồng 100x lần đầu tư coi,
30 năm hà đông, 30 năm hà tây sẽ lật đổ được Nvidia thui hihi!?
Dark Man
ĐẠI BÀNG
2 tháng
độc bá thì tới lúc cũng bị bắt chia đôi license với thằng khác thôi =))))))

lý do AMD vẫn tồn tại vì IBM không muốn lệ thuộc một nguồn cung x86 duy nhất từ Intel (quá khứ có nhiều thằng làm x86 lắm)

nên NVIDIA chưa bị bắt cưa đôi CUDA thì cứ lo mà enjoy đi =))))))
Trend AI này càng phát triển thì càng hay, mình sắp được ăn quả nhờ coin rồi 😁
Khi họ: nvidia làm cuda: ai cũng cười và bão: họ phý tiền:
những 22 năm sau:
tiền ko thành vấn đề: vấn đề là xài tiền sao cho hết:
Kkkk
amd thì ghê rồi:
mong con gpu tiếp theo đóng x2 die gpu trên một đế rồi ỵn thêm 12 gcd nho nhõ vào:
nhồi thêm cho nó 388MB L3 infi là đệp:
Mấy ông tàu bá chủ thế giới rồi, vừa khôn lại còn vừa đông
theo mình thì Nvidia chiếm phần lớn ở mảng thương mại nhưng không độc tôn vì:
_ apple hệ sinh thái riêng.
_ hãng lớn sử dụng nền tảng nội bộ: Microsoft, intel, Google, Amazon
_ mảng thương mại còn có AMD
_ liên minh intel google qualcomm.
_ không biết mấy hãng chip trung quốc có nền tảng riêng hay không, nhưng mình nghĩ là có.

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019