Lạc xoong

Lạc xoong


Computex24: Nvidia công bố loạt giải pháp tận dụng GPU RTX cho tính năng AI trên máy tính cá nhân

P.W
2/6/2024 15:0Phản hồi: 13
Computex24: Nvidia công bố loạt giải pháp tận dụng GPU RTX cho tính năng AI trên máy tính cá nhân
Nếu như những thế hệ GPU mới như Blackwell, Blackwell Ultra, Rubin và Rubin Ultra, những thứ vừa được CEO Jensen Huang giới thiệu trong keynote của Nvidia tại hội chợ Computex 2024, đều là những giải pháp cho máy chủ đám mây phục vụ hàng tỷ người trên toàn thế giới, thì card đồ họa RTX trong chiếc máy bàn hay laptop của anh em cũng sẽ được tận dụng để xử lý những giải pháp và tính năng chạy dựa trên mô hình AI, xử lý local.

Computex 2024: Nvidia giới thiệu chip AI mới, Rubin, Blackwell Ultra, và CPU Vera

Vậy là Nvidia không đợi tới tận CES năm sau để hé lộ kiến trúc GPU mới dành cho máy chủ, kế tiếp Blackwell. Chỉ mới vài tháng trước tại sự kiện GTC của Nvidia, CEO Jensen Huang đã hé lộ kiến trúc chip Blackwell…
tinhte.vn


Nếu như những nhà sản xuất phần cứng máy tính cá nhân khác đều chỉ khoe khoang về sức mạnh của cụm nhân NPU trong sản phẩm của họ, thì Nvidia lúc nào cũng chứng tỏ họ là người đi đầu trong cuộc chạy đua AI. Họ không chỉ có phần cứng đủ sức mạnh xử lý những thuật toán và mô hình AI, mà còn có luôn cả những giải pháp thương mại để bản thân từng người dùng cá nhân có thể tận dụng. Một trong số những tính năng quen thuộc nhất có lẽ chính là DLSS, nâng độ phân giải hình ảnh game dựa vào thuật toán deep learning.

2024-06-02-10-12-03-1456x910.jpg

Bên cạnh đó là cả chatbot vận hành như một trợ lý ảo, xử lý on device dựa trên chính phần cứng PC mang tên RTX Chat. Cùng với đó, những bộ API tăng tốc xử lý AI thông qua GPU tiêu dùng của Nvidia cũng hiện diện, cho phép người dùng cá nhân hoặc doanh nghiệp nhỏ huấn luyện AI dựa trên cấu hình máy tính tiêu dùng, như TensorRT và TensorRT-LLM. Những API này cho phép tăng tốc xử lý AI tạo sinh cũng như mô hình ngôn ngữ, không cần tới máy chủ đám mây. Với khía cạnh giải trí, TensorRT cũng là API giúp vận hành những tính năng game của tương lai như nhân vật máy có sức sống hơn, thông qua Avatar Cloud Engine.


2024-06-02-10-12-06-1456x910.jpg

Công bố đầu tiên tại Computex 2024, đó là Windows Copilot Runtime, API vận hành những mô hình ngôn ngữ nhỏ (SLM) với tham số từ 7 đến 8 tỷ sẽ được cập nhật để hỗ trợ xử lý tăng tốc qua GPU GeForce RTX, tận dụng sức mạnh xử lý từ vài trăm đến cả ngàn TOPS, chứ không bị giới hạn ở con số vài chục TOPS của những nhân NPU tích hợp trên những chip xử lý máy tính thế hệ mới nhất.

Microsoft và Nvidia đã hợp tác với nhau để cho phép các nhà phát triển ứng dụng tận dụng API vận hành GPU RTX tăng tốc xử lý mô hình ngôn ngữ nhỏ và truy xuất tăng cường (RAG).

Công bố thứ hai, là Nvidia RTX AI Toolkit, công cụ dành cho các nhà phát triển ứng dụng và phần mềm, giúp họ tiết kiệm thời gian xây dựng những mô hình AI chuyên biệt cho từng nhu cầu, chạy local trên PC. Bộ toolkit này bao gồm một nhóm những công cụ và SDK để tùy chỉnh mô hình AI (QLoRa), tối ưu mô hình (TensorRT Model Optimizer) và vận hành mô hình (TensorRT Cloud), miễn là máy tính có trang bị GPU GeForce RTX hoặc RTX phiên bản doanh nghiệp.

2024-06-02-10-12-16-1456x910.jpg

Nvidia cho biết, với bộ RTX AI Toolkit, các dev có thể tiết kiệm thời gian gấp 4 lần, và mô hình AI hoàn thiện có kích thước nhỏ hơn gấp 3 lần, tăng tốc quá trình vận hành tính năng và phần mềm AI mới đến người dùng. Lấy một ví dụ trong quá trình phát triển chatbot tạo lời thoại nhân vật, với một SDK thông thường, phát triển mô hình AI thông qua card RTX 4090 chạy ở tốc độ tạo sinh 48 token/s, đòi hỏi tới 17GB VRAM. Nhưng khi mô hình được tối ưu nhờ RTX AI Toolkit, cùng một mô hình ấy có thể chạy trên RTX 4050, tạo sinh ở tốc độ 187 token/s, và chỉ ngốn có 5GB VRAM mà thôi:

2024-06-02-10-12-17-1456x910.jpg

Theo Nvidia, RTX AI Toolkit đang được những cái tên lớn ứng dụng: Adobe, BlackmagicDesign và Topaz AI.

Quảng cáo



Kế đến, ước mơ sử dụng mô hình AI để tạo ra những lời thoại hay thậm chí là cả các nhân vật trong game chân thực và có hồn hơn cuối cùng cũng trở thành sự thật, thông qua SDK mang tên AI Inference Manager (AIM). Đối với các nhà phat triển game cũng như phần mềm, AIM cho phép đồng bộ hóa quy trình tạo sinh nội dung nhờ mô hình AI, tùy chỉnh runtime trên PC, ứng dụng nhanh với độ trễ thấp vào quá trình phát triển game, và cho phép nhân CUDA vừa xử lý AI, vừa xử lý đồ họa game.

2024-06-02-10-12-19-1456x910.jpg

Cuối cùng, là dịch vụ mới toanh mang tên ACE NIM, tạo ra những phiên bản nhân vật ảo, cử động chân thực và lời thoại thì ứng dụng mô hình ngôn ngữ. Tại Computex 2024, ACE NIM sẽ vận hành thử nghiệm, khách tham quan, có cả mod Gia Huy, sẽ được dùng thử dịch vụ tạo digital avatar, phiên bản nhân vật ảo thông qua những cỗ máy RTX AI PC.

Một bản tech demo game mang tên Covert Protocol do Inworld AI phát triển cũng sẽ được Nvidia trình diễn tại Computex. Trò chơi này chỉ sử dụng những nhân vật 3D tạo ra bằng ứng dụng ACE NIMs của Nvidia, không cần họa sỹ 3D hay 2D tạo mô hình nhân vật, rồi lời thoại, âm thanh hay thậm chí biến từng câu chữ thành lời thoại giống hệt giọng nói của người khác cũng sẽ được trình diễn.

2024-06-02-10-12-20-1456x910.jpg
2024-06-02-10-12-22-728x455.jpg

Quảng cáo


Trong bộ ứng dụng ACE, viết tắt của Avatar Cloud Engine, là đầy đủ mọi giải pháp tạo ra một nhân vật ảo thông qua sự hỗ trợ của AI:

  • Nvidia Riva ASR, TTS và NMT: Tự động nhận diện giọng nói, dịch thuật nhanh ngôn ngữ và chuyển văn bản thành lời thoại.
  • Nemotron LLM: Mô hình ngôn ngữ cho phép hiểu rõ ngôn ngữ, cũng như tạo ra những câu trả lời rất đúng với ngữ cảnh.
  • Audio2Face: Công nghệ điều chỉnh cử động gương mặt nhân vật ảo dựa trên âm thanh giọng nói, khớp cử động môi và cả khuôn mặt.
  • Omniverse RTX: Xử lý chi tiết đồ họa làn da, mái tóc dựa vào ray tracing thời gian thực.
  • Audio2Gesture: AI tạo cử động cơ thể dựa trên âm thanh giọng nói của nhân vật.
  • Nemotron-3 4.5B: SLM 4.5 tỷ tham số, vận hành ngay trên PC trang bị card RTX để tạo sinh với độ trễ thấp.
13 bình luận
Chia sẻ

Xu hướng

Namlvlee
TÍCH CỰC
12 ngày
Không biết con nào là mạnh nhất
@Namlvlee Mấy con card rời NVIDIA xử lý AI đúng là rất mạnh rồi, cơ mà tốn điện thấy bà nội.
Mấy tính năng AI chạy nền liên tục nên card cũng chạy liên tục sẽ hao điện còn hơn cái máy lạnh.
sắp thêm 1 đống người mất việc trong game và phim ảnh

rồi vài bũa có bot tự chém gió nâng bi apple ra mắt thì xác định nhiều mod itinhte lên đường
Khôn như mày :D
@SieuBanana ờ nhớ mấy bài nói dùng m2 cho mấy server ai nghe mà hú hồn. có xách dép cho gpu nvidia chưa được mà chém gió ghê.
ThànhYx
ĐẠI BÀNG
11 ngày
@ragefighter Bọn gà đó nó nghĩ Nvidia là cty chỉ làm ra mỗi cái card chơi game thôi chứ không có làm Ai 🤣
@SieuBanana Sớm muộn thôi, tinhte giờ cũng dùng AI vào công việc nhiều rồi.
TQB103
ĐẠI BÀNG
11 ngày
@SieuBanana
Cười vui vẻ
ThànhYx
ĐẠI BÀNG
11 ngày
Quả cuối tạo nhân vật và lời thoại, chuyển dộng các kiểu bằng Ai thì đúng là bóp cổ artist thật 😆 Tương lai con pc chắc nó nói chuyện với mình như thằng bạn thân được luôn ấy nhỉ 😃)
ThànhYx
ĐẠI BÀNG
11 ngày
Mà không biết cái Super resolution để coi phim có nâng cấp gì không nhỉ? Có nhiều bộ chất lượng kém quá, kéo mức 4 rồi vẫn không ăn thua 😔
@ThànhYx nhiều khi còn tệ hơn phim gốc, pixel nó gai hạt lên hẳn và nhiễu ở vùng tối nếu không phải chất lượng video quá thấp thì không cần bật cái này lên đâu.
ThànhYx
ĐẠI BÀNG
11 ngày
@namnguyen1011 Tốt lên nhiều mà ông, anime thì nét thấy rõ, nhưng 480p hoặc 720p online chất lượng quá thấp thì nó không rõ lên mà kiểu là mịn các vùng sáng/tối thôi, coi vẫn bị mờ. 😔 Không biết mấy ông upscale mấy vid chất lượng thấp bằng app gì mà nét khiếp.
Quan trọng là tốc độ render
Nvidia sắp vượt vốn hóa của Táo rồi, vớ vẩn vượt luôn cả MS ko chừng

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019