Tham dự Tech Lounge

Tham dự Tech Lounge


Nvidia: Card đồ họa gaming có thể ế ẩm, nhưng GPU nghiên cứu AI thì có thể làm không đủ bán

P.W
13/2/2023 4:44Phản hồi: 57
Nvidia: Card đồ họa gaming có thể ế ẩm, nhưng GPU nghiên cứu AI thì có thể làm không đủ bán
Như đã đề cập trong bài tổng hợp trước, khi nói về nhu cầu GPU nghiên cứu AI đang giúp Nvidia thành công rực rỡ, những đơn vị nghiên cứu machine learning hầu hết đều phải dựa vào sức mạnh xử lý của chip chuyên biệt phục vụ nhu cầu huấn luyện thuật toán. Đó chính là lúc Nvidia phô diễn được sức mạnh công nghệ.

Và theo dự báo của nhiều nhà phân tích thị trường, rất có thể nhu cầu ứng dụng trí thông minh nhân tạo sẽ gây ra một cơn sốt GPU xử lý AI trong những tháng tới.

FierceElectronics dẫn nguồn tin cho biết, để vận hành ChatGPT, OpenAI đã phải dựa vào sức mạnh của 10 nghìn GPU của Nvidia trong quá trình huấn luyện mô hình ngôn ngữ. Nghe con số đó tưởng là đáng sợ, nhưng kể từ khi ChatGPT thu hút sự chú ý của cả thế giới, thì lượng GPU này lại trở nên hụt hơi trong quá trình phục vụ cả trăm triệu người dùng. Đó là một phần lý do OpenAI phải giới thiệu gói cước 20 USD một tháng mang tên ChatGPT Plus. Mua gói này, người dùng sẽ được ưu tiên sử dụng ChatGPT trong giờ cao điểm, cũng như dùng trước những tính năng mới cũng như AI được cải thiện hơn.

Tinhte_Nvidia1.jpg

“Hoàn toàn có khả năng ChatGPT hay những mô hình deep learning khác sẽ được vận hành nhờ GPU của các hãng khác trong tương lai. Nhưng hiện giờ, GPU của Nvidia đang được sử dụng rất rộng rãi trong cộng đồng nghiên cứu và phát triển deep learning nhờ hiệu năng rất cao và khả năng hỗ trợ CUDA. Đó là một nền tảng điện toán và mô hình lập trình được chính Nvidia tạo ra, cho phép tính toán hiệu quả trên GPU của hãng. Nhiều thư viện thuật toán deep learning và framework như TensorFlow và PyTorch đều hỗ trợ CUDA, đều được tối ưu cho GPU của Nvidia," FierceElectronics viết.


Cả Microsoft lẫn Google đều đã có kế hoạch tích hợp mô hình ngôn ngữ giống ChatGPT vào công cụ tìm kiếm hay thậm chí là cả trình duyệt Edge và Chrome của họ. Tính sơ sơ sức mạnh điện toán Google cần để phục vụ tích hợp chatbot vào mọi cú tìm kiếm trực tuyến của người dùng, thì Dylan Patel của Semianalysis đưa ra con số dự đoán:

“Ví dụ ứng dụng ChatGPT cho mọi câu lệnh tìm kiếm trên Google sẽ cần 512.820 máy chủ HGX, tổng cộng 4.102.568 GPU A100 bên trong những máy chủ ấy. Tổng giá trị của chúng, cộng thêm cơ sở hạ tầng mạng vận hành có thể tiêu tốn tới 100 triệu USD vốn đầu tư, con số đó Nvidia sẽ nhận về đa số. Điều này khá chắc sẽ không thể xảy ra, mà chỉ là một ước tính vui nếu trong tương lai không có những tiến bộ vượt bậc về hiệu năng xử lý AI của phần cứng lẫn phần mềm.”

Tinhte_Nvidia2.jpg

Như đã nói ở trên, trong quá trình phát triển và huấn luyện mô hình ngôn ngữ GPT-3, OpenAI dùng khoảng 10 nghìn GPU. Còn phiên bản hiện tại mà họ đang phát triển, mô hình GPT-5, có thể đang dùng tới sức mạnh của 25 nghìn GPU của Nvidia sản xuất. Ước tính trị giá toàn bộ hệ thống có thể chạm ngưỡng 225 triệu USD.

Cần nhớ, sản lượng chip bán dẫn toàn cầu là có hạn, bao gồm cả chip phục vụ doanh nghiệp lẫn người tiêu dùng. Nếu Nvidia, một tập đoàn không có fab tự gia công chip, tập trung đặt hàng GPU nghiên cứu AI, thì có thể đơn hàng GPU chơi game hay workstation sẽ bị ảnh hưởng. Đã có những thông tin nói rằng nguồn cung GPU cho máy tính để bàn trong dịp Tết Nguyên đán vừa rồi có dấu hiệu giảm.

Dù nguồn cung vẫn đang vượt nhu cầu, chí ít là đối với thế hệ GPU mới nhất, ra tiệm vẫn sẵn hàng, không bị ép giá, nhưng khả năng cầu vượt cung trong tương lai gần là điều có thể xảy ra, nhất là khi Nvidia nhìn ra tỷ suất lợi nhuận GPU nghiên cứu AI vượt xa tiềm năng của GPU máy tính để bàn, giữa thời điểm nhu cầu máy tính cá nhân đang thấp chưa từng có trong vòng 3 thập niên trở lại đây.

Theo WCCFTech
57 bình luận
Chia sẻ

Xu hướng

Nhất trí. Cái card tốn điện như 2-3 cái tủ lạnh thì người dùng thừa tiền mới dám mua, còn GPU cho doanh nghiệp thì các doanh nghiệp sợ gì tốn điện đâu mà ko dám chơi.
Nói chung các ông làm ăn cho tử tế, nhìn Intel sắp ra đi vì chíp nóng, tốn điện là phải hiểu chứ.
@tinhdg chính bọn doanh nghiệp mới sợ tốn điện ấy
@giuloihua Một công ty biết làm ăn thì điện chỉ là một khoản chi phí nhỏ nhoi. Sợ tốn điện nhất là mấy ông start-up mini company đào coin ấy 🙄
@kevin2012 1 con thì nhỏ chứ trăm con, nghìn con thì nó lại khác đó bạn ơi
DÙNG card để chạy AI xử lý như vậy nói chung vẫn đem lại lợi ích xã hội hơn đi đào COIN chỉ tốn điện, tác hại môi trường và gây bong bóng tiền ảo
@Meo_ham_choi Ông nói vậy là sao ?? Tui đang mua vô BTC đây
@tjmban8phuong thôi mấy coin bày trò để dụ nhau trading rồi ăn thịt nbau thôi. giờ ko xài coin thì xài khác cũng bày trò được
@ragefighter Thì nhiw đánh bạc thôi, hên xui
Thôi ông bốc phét vừa thôi. Toàn những thằng chơi game như bọn T nuôi sống các ông ấy……….Lại nhớ 14 năm về trước. T chơi game ở cổng trường đại học. Bọn sinh viên ra thực hành mét cơ cét gì đó. Lúc đó bọn chủ quán lại cho bọn T nghỉ chơi để giành máy cho bọn kia. Mà nó cả năm chắc dùng được 10h. Ko bằng T chơi game trong quán nó 3 ngày.
@dlv.thickgame Ừ thì tôi cũng tưởng thế 😔
@P.W Đang nói bọn viết báo cáo này mày. Có đụng chạm gì tới bạn đâu. Bạn chỉ copy paste thì liên quan gì?
ZenDz
ĐẠI BÀNG
một năm
@dlv.thickgame câu này còn đau hơn câu trước =))
Tinhte xuất hiện quá nhiều bot gây war nó làm mất đi tính kỹ thuật mà thành cái chợ tinhte. Những công sức của những người post bài mất dần giá trị.
@XuyenViet2019 Công nhận.
@Sher Xả stress hay rước thêm bực vào người đây???
@XuyenViet2019 Chèn ơi không có bot thì không lẻ thuê người câu tương tác , thế sao mà còn lợi nhuận . Bot nhiều , tranh cãi nhiều tương tác cao mới bán được quảng cáo giá tốt =)) . Ít tương tác thì chủ tịch lấy tiền đâu mua xe hơi , sắm nhà lầu =))
Sher
ĐẠI BÀNG
một năm
@nghaimin Tuỳ cách bạn nhìn nhận thôi!
Đang dùng Bing AI. Thế mới thấy bá đạo của con AI này khi được cập nhật dữ liệu luôn tục
LBCông
ĐẠI BÀNG
một năm
bán đắt quá thì chả ế con Gpu đắt gấp đôi Cpu
Đây là hậu quả của sai định hướng
GPU sinh ra để làm việc, xử lí ảnh, render video làm content cho xã hội
3 cái game tốn điện, vô ích cho xã hội
Apple đi theo hướng quá chính xác
@Sói Ca! Coin mới tốn điện vô ích. Game cũng có công dụng của nó
@hp2013 hồi trước Apple làm máy nghe nhạc, điện thoại người ta cũng nói như vậy.
@Carl @Carl Nếu bạn trực tiếp làm AI thì khá chắc là: cuộc chơi AI từ lâu đã chỉ còn google và facebook. Đến microsoft còn chả có cửa chứ nói gì đến apple.
pikupi
TÍCH CỰC
một năm
@Sói Ca! ný nuận rất là mâu thuẫn, lấy đâu ra lý do làm game là không phải làm content cho xã hội? con người có nhu cầu giải trí, làm content cũng là một phần trong đó, làm game cũng là tạo ra content (cốt truyện, art...) cũng là phục vụ nhu cầu đó, và làm game cũng phải render hình ảnh, animation, render càng đẹp thì cần sức mạnh của VGA và ifan cho rằng nó vô nghĩa? bưng bô cho Apple nghe còn hợp lý.
Doanh nghiệp nhà anh đầy tiền lo đếch gì.
mấy con avx cùi bắp của intel và mấy gpu cùi intel ko ai ngó nhỉ?
@kkzbanana trong trang web techpowerup, mình kiếm không ra bài nào có cái hình láo toét này ......
vào trong hardwaretimes xem lại phần cmt đi nhé, bị người ta chửi quá trời vì tin xạo lol này kìa
@sunny_summer Đây bác. Mình nghi do driver thôi. Mà cũng đáng cười là ai cũng trash Intel khoản driver những Intel lại on top ở Hogwarts.
https://www.techpowerup.com/review/hogwarts-legacy-benchmark-test-performance-analysis/6.html
sentino
ĐẠI BÀNG
một năm
@kkzbanana Chí mạng 😆)
@kkzbanana mình không có mấy cái card để kiểm chứng; nhưng nếu bài biết đúng thì con gpu của intel cũng khá ổn, RT low ngon hơn rtx 3070; tuy nhiên tiếc là chỉ đúng với 1 game
Ráng bán đi nhé novideo. Tới khi bong bóng AI xì thì quay lại năn nỉ gamer xả kho hàng tồn 😆
@htux Vẫn giàu to. Như đợt coin ấy, ko có card bán. Giờ có xả vẫn giàu
@htux Tôi nói thật chứ lúc nó xả rẻ card trâu thấy được thì mua thôi giống đợt 2018 khi giá coin sập card trâu rẻ đầy tràn lại có nhiều ông lên tiếng ko nên mua card này nọ , kết quả đói card mà mấy cha lên tiếng ấy ko chừng âm thầm hốt . Giờ giá card trâu đang tăng giá rồi , cũng may mình cũng hốt đc : 2 Rx 570 ( 550k ) , 1 Rx 580 ( 550k ) , gtx 1660 ti ( 1700k ) , RX 5600 xt ( 1500k ) , toàn mua trên shopee lúc sale còn đc hoàn xu lại nữa chứ , giờ muốn mua cũng ko còn giá này .
hp2013
TÍCH CỰC
một năm
AMD nằm ngoài cuộc chơi AI này rồi
@hp2013 AMD tuyên bố luôn chỉ support cho datacenter mà
Cứ bú tiền khách hàng lớn miết ntn rồi nó xem khách hàng cá nhân là dbrr thôi
Gía ổn là quất
Nếu dư ta sẽ bóp sản lượng để giữ giá
giờ các bố mới biết AI là tương lai à, chứ ở tinhte đã áp dụng AI từ năm trước rồi, AI gây war, AI chính trị, AI Apple, AI giả ngu, AI lỗi ngu thật…
mùa coin nó còn kéo dài đc vài năm chứ mùa AI thì chả mấy mà tàn. Âu cũng chỉ là tác vụ phụ trợ thôi, dần dần sẽ tích hợp vào CPU luôn. Các hãng toàn vẽ ra mấy cái tên mĩ miều NPU các kiểu chứ thực chất nó chả khác gì 1 nhân tùy biến tiết kiệm điện.
@AZwarrior phép tính nó khác nhau bác ơi, có mà nó tách thành chip riêng để chạy AI thì có. Như google làm TPU, còn Apple cũng làm core AI riêng
@dual blade Máy tính thì chỉ có 1 phép tính chứ lấy đâu ra nhiều mà khác 😁 b toàn ăn bánh vẽ thôi, giống retina hay ultra,max, max pro các kiểu ấy, nó đẻ ra tên mới để ngta nghĩ là đột phá và chấp nhận bỏ tiền.
@AZwarrior Để tính đc thì đúng là giống nhau, nhưng để tính nhanh và trở thành các cty như NVIDA, ... thì chắc là k giống nhau r, bánh vẽ gì mà các datacenter của bigtech cả tỉ đô nó mua đến mức k đủ mà bán =))
AI sắp tới chắc ứng dụng nhiều
mrsunb
ĐẠI BÀNG
một năm
Theo tôi ChatGPT cũng chỉ sốt tức thời thôi, những thứ đơn giản có thể nhờ ChatGPT, nhưng những thứ tìm kiếm rõ ràng vẫn phải google seach cho đảm bảo,ChatGPT cũng chỉ là một người do nhà phát triển tổng hợp cho nó thôi trong khi dùng tìm kiếm có thể hiện lên rất nhiều kết quả để người dùng chọn lựa, sau này nếu ChatGPT thương mại hóa thì nó còn nguy hiểm hơn là quảng cáo có thể được chèn vào câu trả lời ChatGPT, khi đó con người sẽ bị chính công cụ nhà phát triển ChatGPT dắt mũi, tôi vẫn mong google seach vẫn mãi tồn tại
@mrsunb chat gpt làm trợ lý ảo thỉ ok chứ ko thể xem là tool search được vỉ mình ko thể so sánh các content nó đưa ra đúng hay sai hay thiếu.

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019