Tham dự Tech Lounge

Tham dự Tech Lounge


RAM HBM3 phục vụ GPU nghiên cứu AI trở nên khan hiếm, giá cao gấp 5 lần so với DRAM tiêu dùng

P.W
15/2/2023 10:17Phản hồi: 30
RAM HBM3 phục vụ GPU nghiên cứu AI trở nên khan hiếm, giá cao gấp 5 lần so với DRAM tiêu dùng
Không chỉ nhu cầu chip GPU phục vụ quá trình huấn luyện những thuật toán deep learning và trí thông minh nhân tạo có dấu hiệu tăng, mà những chip nhớ công nghệ HBM (High Bandwidth Memory) cũng đang tăng giá đến mức chóng mặt. Bằng chứng là các nhà sản xuất chip DRAM đã nâng giá bán chip HBM phục vụ trong những hệ thống nghiên cứu AI.

BusinessKorea đưa tin, những con chip RAM HBM do SK Hynix và Samsung sản xuất đã tăng giá khá cao, cá biệt RAM HBM3 hiện giờ giá đã gấp 5 lần so với những chip DRAM tiêu dùng tốc độ cao nhất hiện tại.

Bản thân Nvidia cũng đã đề nghị SK Hynix tăng sản lượng chip HBM3 để đủ đáp ứng nhu cầu thị trường. Cùng lúc, những đơn vị khác như Intel cũng đang tìm cách ứng dụng HBM3 với băng thông bộ nhớ tối đa lên đến 819 GB/s. Hoàn toàn có khả năng SK Hynix sẽ không đáp ứng kịp nhu cầu của các đối tác.

BusinessKorea viết: “Sự ra mắt của ChatGPT đã tạo ra cơ hội lớn cho những nhà sản xuất chip nhớ bán dẫn của Hàn Quốc. ChatGPT có quy trình học dựa vào khối lượng dữ liệu khổng lồ thông qua thuật toán AI, từ đó trả lời câu hỏi của con người theo cách tự nhiên nhất. Vì thế tốc độ xử lý dữ liệu đã trở thành yếu tố quan trọng để tạo ra hiệu năng xử lý mô hình ngôn ngữ tốt và nhanh hơn. Và hiện tại toàn bộ những con chip nhớ phục vụ các hệ thống trung tâm dữ liệu vận hành AI đều được các công ty Hàn Quốc sản xuất.”

Kể cả những chuẩn HBM và HBM2, vốn được trang bị trên những mẫu GPU phục vụ nghiên cứu AI kiến trúc cũ như Ampere và Volta cũng tăng giá, vì bản thân những kiến trúc cũ này vẫn tạo ra hiệu năng xử lý machine learning đáng nể. Về mặt thị phần, SK Hynix hiện tại đang chiếm từ 60 đến 70% thị phần chip RAM HBM.

Theo WCCFTech
30 bình luận
Chia sẻ

Xu hướng

năm nay là một năm của AI. hóng các dự án hay ho tiếp theo để trãi nghiệm
@Dr.Son À cái bác nói chỉ là quan sát hiện tượng. Lập luận suy đoán trên kinh nghiệm và suy nghĩ của cá nhân. Cảm ơn b đã chia sẻ. Và việc phân biệt dấu cũng không đòi hỏi phải “giỏi”.
@Demah Khiếp bắt bẻ vcl
@andymarshall Haha. Nói thì phải đúng thì thôi. Chớ m không thích những người luộm thuộm câu chữ.
Kinh quá
Vậy hàn quốc lại kiếm dc nhiều rồi.
Ram này cho ae gắn vô desktop dùng thì sướng lắm
@Sói Ca! RAM này băng thông cao nhưng latency cũng cao. DRAM thông thường cho PC thì băng thông thấp hơn nhiều nhưng latency cũng thấp. Mỗi loại sd cho một mục đích khác nhau.
@Micron C Xem cái này cho dễ hiểu.
bandwidth-demands-1024x559.png
@nguyenlinh712 Bro hơi nhầm nhé: ddr X thường éo có gì solo đc hbm3 này nên mới phải đẫy xung lên cao: nhằm bù đắp cho độ trễ nhé: nếu dđr6x trễ là 18ns: thì hbm3 chĩ có 3ns: theo bro: cái nào ghê hơn:
@nguyenlinh712 Chán bố này quá: team specs mà éo hiễu gì: thế ddr6x nó chạy bao bit dữ liệu: chứ riêng con hbm3 thì dễ sơ sơ cũng 1024 hoẵk 2048 bit
"BusinessKorea đưa tin, những con chip RAM HBM do SK Hynix và Samsung sản xuất đã tăng giá khá cao, cá biệt RAM HBM3 hiện giờ giá đã gấp 5 lần so với những chip DRAM tiêu dùng tốc độ cao nhất hiện tại."

=> cần lắm bài thông não vì sao bản tốc độ cao nhất giá lại thấp hơn cái này nhiều lần, vì đã "cao nhất" rồi thì còn gì hơn nó nữa 😃 ?
heront
ĐẠI BÀNG
một năm
@megatroll Băng thông = tốc độ * độ rộng BUS.
tốc độ cao không chắc băng thông cao nếu BUS width thấp.
tụi GPU nó có cả vài chục nghìn nhân(tốc độ mỗi nhân lại thấp), mỗi nhân khi tính toán lại cần 1 lượng RAM riêng. nếu tất cả nhân đó mà cùng hoạt động thì cùng thời điểm nó cần một lượng băng thông cực lớn -> đây là lý do tụi HBM ra đời.
CPU thường có 4,8,16 nhân nhưng tốc độ nó lại cao -> nó cần RAM tốc độ cao
@zoro1tuoi Nói như ko nói thì ngưng mẹ đi. Cao hơn nữa là cái gì cao cũng ko biết còn thể hiện.
Ram có nhiều loại và mỗi loại phục vụ các nhiệm vụ khác nhau.
bandwidth-demands-1024x559.png
@nguyenlinh712 Cũng có công đi tìm là tốt rồi chứ gõ phím không không là dở 😁
RAM ddr5 chưa có dịp trãi nghiệm. Giờ lại ra RAM HBM3
@nebazoc Chiếc đầu tiên là từ 2013 chứ không phãi mới. Mình cũng chĩ trãi nghiệm ddr3 thôi. Nhưng 2 cái này bãn chất sữ dụng khác nhau ạ.
Máy bác Hàn năm nay lại trúng đậm
Mua cổ phiếu của mấy tập đoàn "tốc độ" này thế nào nhể?
Hóng một con vga chấn chính với hbm3 lai ddr6x : và đặk biệt có công nghệ infi catch to từ 128MB đến 256mb hoặc hơn càng tót

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019