Hết thời đào coin, chuẩn bị đến thời mua GPU số lượng lớn về huấn luyện AI?

P.W
4/8/2023 10:41Phản hồi: 47
Hết thời đào coin, chuẩn bị đến thời mua GPU số lượng lớn về huấn luyện AI?
Thời kỳ các dân cày cryptocurrency ôm hàng trăm, hàng nghìn GPU tiêu dùng, phần lớn phục vụ chơi game của AMDNvidia để đào tiền mã hóa vừa trôi qua được có hơn một năm, kể từ thời điểm thị trường crypto tụt dốc quãng tháng 3/2022. Kể từ thời điểm đó, giá card đồ họa trên thị trường tự do, cũng như bản thân thị trường GPU nói chung đã trở về mức giá ổn định, ngang ngửa, thậm chí có khi còn thấp hơn cả giá khuyến nghị của các hãng.

Nhưng có vẻ cơn sốt GPU tiêu dùng tiếp theo đang đến rất gần. Bằng chứng là mới đây, hacker nổi tiếng George Hotz vừa đăng một tấm hình lên mạng xã hội X, khoe 60 chiếc card đồ họa AMD Radeon RX 7900 XTX, và nói rằng ngần này card đồ họa tương đương 7.38 petaflops sức mạnh xử lý số thực dấu phẩy động. Ở dưới phần bình luận của bức hình này thậm chí còn có người tính toán, nói con số 7.38 petaflops kể trên là chính xác ở độ chính xác dấu phẩy động FP16, dựa trên sức mạnh xử lý 122.8 Teraflops của mỗi chiếc RX 7900 XTX.

Tinhte-GPU1.jpg

Nếu anh em thấy cái tên George Hotz nghe quen, thì anh này chính là người từng đảo ngược mã nguồn để bẻ khóa cỗ máy PlayStation 3 vào năm 2009, cũng như có công sức tạo ra công cụ jailbreak iOS 3 hồi năm 2007. Hiện tại, Hotz đang làm chủ tịch và nhà sáng lập hai đơn vị AI. Một là Comma AI, nghiên cứu thuật toán mã nguồn mở phục vụ xe tự hành. Còn 60 chiếc card đồ họa trong hình trên sẽ được trang bị cho máy chủ của Tinygrad, một đơn vị triển khai nền tảng phục vụ nghiên cứu, xử lý và vận hành thuật toán machine learning, trong đó bao gồm cả những mô hình ngôn ngữ, thứ đang tạo ra cơn sốt trên thị trường công nghệ.

Đến đây một vấn đề nảy sinh. Khi cả AMD lẫn Nvidia đều đang không thể đáp ứng được 100% nhu cầu mua GPU của thị trường AI, thì hệ quả tất yếu là các đơn vị làm việc trong ngành AI sẽ chuyển qua chọn card đồ họa tiêu dùng, những sản phẩm anh em đã quá quen thuộc, thậm chí đang dùng hàng ngày để chơi điện tử.

Chi phí là một chuyện, để những GPU được tạo ra phục vụ nhu cầu chơi game này xử lý vector và tensor hiệu quả, để chạy machine learning, số lượng card chơi game cần để đáp ứng mục tiêu hiệu năng cũng là một vấn đề khác.

Lấy một ví dụ nhỏ, 60 chiếc card trong tấm hình trên, cứ cho là Hotz mua với giá 1.000 USD như giá chính hãng, chi phí sẽ là 60.000 USD cho 7.38 petaflops. Hotz từng đề cập đến chuyện muốn hệ thống của Tinygrad đạt sức mạnh 2 exaflops, tức là 2000 petaflops. Nếu chỉ chọn RX 7900 XTX thì chi phí sẽ là khoảng 20 triệu USD, tương đương 20 nghìn card đồ họa. Muốn scale tiếp lên 8 exaflops, chi phí là 60 triệu USD. Vấn đề nằm ở chỗ, khi tính đơn hàng card đồ họa theo con số hàng vạn như thế này, chắc chắn nó sẽ ảnh hưởng tới thị trường tiêu dùng.

Với anh em gamer và người dùng cá nhân, 60 nghìn USD hay hàng triệu USD là con số không tưởng. Nhưng với các doanh nghiệp và đơn vị nghiên cứu, 60 nghìn USD chỉ mua được đúng 1 GPU H100 mới nhất của Nvidia mà thôi.

Nguy cơ là có thật, và chúng ta sẽ phải đợi vài tháng nữa để đưa ra nhận định chính xác, rằng liệu cơn sốt AI có ảnh hưởng trực tiếp tới thị trường card đồ họa chơi game hay không, vì cái nguy cơ này giống hệt như những gì đã từng xảy ra khi crypto đang đạt đỉnh giá trị trong khoảng thời gian từ cuối năm 2020 tới đầu năm 2022.

Theo ExtremeTech
47 bình luận
Chia sẻ

Xu hướng

trungkn
TÍCH CỰC
8 tháng
Chịu, ngoài phạm trù người phàm như toy
Ngầu đấy
maisonhai3
ĐẠI BÀNG
8 tháng
Mua VGA về training model như thế này, mình nghĩ có hai khả năng.

1. Mua về cấp cho một số researchers thử nghiệm model ở mức PoC, hoặc sản phẩm nhỏ.

2. Do không thuê / mua được chip chuyên AI, nên phải dùng tạm VGA để dựng server. Nói là dựng tạm, bởi đúng như bài viết có nói, khi scale lên, thì chi phí của giải pháp này là quá cao so với việc dùng TPU, A100 hoặc H100.

3. Mua về chơi game. Hihi.
@maisonhai3 Đọc bài hôm trước thấy GPU chơi game với AI không khác nhau là mấy. Chơi game thì thêm một số nhân đặc biệt như đổ bóng, ray tracking... Còn lại kiến trúc tương tự nhau.
k có cửa , crypto bọn nó còn tham đào ra cash out liền , còn AI có cái vẹo gì đâu mà ăn tiền tươi thóc thật . Bán hình sex hay gì , mấy thằng làm card nó ra đòn gió thôi
Nhớ những ngày tháng 3060ti 30 củ
IMG_0810.jpg
@iCừu 01 không chơi 5800x 3d ngon hơn nhiều kìa bác
@haobcyqhdvb 13600k giờ rẻ lắm bác 5tr6, đơn nhân đa nhân đều mạnh hơn 5800x3d
AyBee
TÍCH CỰC
8 tháng
@dấu-tên-nhưng-dấu-luôn-năm-sinh nghĩ thời đấy sợ thật. Đồ điện tử tăng phi mã
@dấu-tên-nhưng-dấu-luôn-năm-sinh mình mua đập hộp còn có 11 củ, sau bán lại có 6tr5
p/s: trước đó mua rx680 giá 13 củ bán lại 2tr5 😔)
Hy vọng sớm có card đồ hoạ dành riêng cho AI với giá bình dân hơn.
Hỏi ngu cái tại sao là card amd? Card nvidia dù để chơi game vẫn có nhân tensor tăng tốc AI mà
Mấy quả trainning AI GPU và CPU đều khỏe, hơn nữa trainning AI nó còn thuật toán train từng sp chứ ko có mục đích đại trà như coin. Làm gì tính toán dc dự trù lợi nhuận như coin mà dám train
Song Sanh
ĐẠI BÀNG
8 tháng
Mình thấy có vẻ nhiều người ko nghĩ đến cá nhân hay tập thể nhỏ rất cần mua card để train AI nhằm mục đích lừa đảo kiếm tiền hoặc chi phối thông tin:
- tạo ảnh, video giả
- tạo chữ viết chữ ký giả
- tạo giọng nói giả
- tạo giấy tờ, văn phong giả
..........
Riêng mình, chỉ với card 2060, khoảng 15 tấm hình chụp các góc của 1 người lấy trên facebook, mình đã có thể tạo 1 tấm ảnh giả gần giống 70% bằng stable diffusion rồi. Sau đó ra lệnh AI vẽ 1 ngữ cảnh nào đó để làm xấu người đó, ví dụ ảnh đồi trụy, hoặc hình tay họ cầm số tiền lớn mượn từ tay người khác, hoặc hình tai nạn gửi gia đình....
Nếu mình card đủ mạnh, mình có thể mày mò tạo ta cả video, âm thanh.... mờ ảo nhưng đủ để lừa đảo kiếm tiền tư nạn nhân nhẹ dạ.

Nên mình thấy mọi người đánh giá quá thấp vụ nhu cầu card train AI quá
Song Sanh
ĐẠI BÀNG
8 tháng
@-_-...apple Hiểu ý bạn.
Song Sanh
ĐẠI BÀNG
8 tháng
@-_-...apple Khó ở chỗ. Hiện nay phương pháp và nền tảng họ cập nhật phiên bản mới liên tục, rất nhanh, youtuber họ hướng dẫn xong thì tuần sau lại có thêm cái mới Kkkk. Với lại mình ko chuyên ngành IT, nên câu chữ ko đạt. Đang chờ mấy mods chuyên viết bài để học thêm đây.
Coin thì ngta vẫn đào thôi, đợt này thì đào coin về AI 😆
Mấy con 3090 24gb vram vẫn giữ giá vcd, 1 phần chắc cũng do mấy thằng AI này
Nó sẽ không hot như đào coin vì người thường đâu có nhu cầu train AI
@Nam Air Nói chung giờ hang GPU cho AI đang hot quá, các doanh nghiệp lớn đang đi gom GPU. Mấy ông vừa vừa toàn ngồi chờ nhỏ giọt. Nhất mấy con DGX của NVIDIA hoặc dòng card HGX tỷ lệ đặt hàng toàn tính bang mấy tháng mới có hàng.
@Nam Air train al thì chỉ có mấy công ty công nghệ hay làm về IT gom hàng thôi . mấy thằng bán linh kiện hù để thổi giá thôi
tekar
ĐẠI BÀNG
8 tháng
@Nam Air Nếu bạn nhìn vào doanh số sẽ thấy, 1 năm đỉnh cao, doanh thu từ crypto (card đào coin và cả VGA dân game) cũng chưa tới 10 tỷ đô / năm nhưng doanh số GPU AI của Nvidia của quý vừa rồi thì dư sức thổi bay doanh thu toàn ngành thì bác sẽ hiểu cái nào khiếp hơn cái nào. Và GPU AI thì mức độ tinh hoa cao hơn nên thời gian chế tạo ( quy về công sức quy mô chế tạo cao hơn) thế nên các hãng nó cũng cân nhắc, dập nhiều quá cái 1-2 quý nữa xẹp thì chi phí đầu tư lỗ nặng.
GPU cho AI còn tạo ra hiệu quả trong sản xuất, cung cấp kĩ thuật phục vụ nhu cầu thực tế. Chứ GPU đào coin thấy nó tốn kém tiền + năng lượng cho một thứ ảo ma.
Khó hot như coin được vì coin ai có vốn mua máy về đào là được. Ra tiền tươi ngay. còn A.I đâu phải ai cũng rành. và nó liệu có ra tiền ngay như coin không ?
Hên là coin nó không hấp dẫn để đào nữa chứ tốn tài nguyên vô ích vãi chưởng;
Cười vô mặt
@Dr.Son Chuẩn rồi, nhiều người tiếc không mua, chứ nói thật cái người tiếc vì đã mua có khi cũng nhiều không kém 😆; Bấy giờ tôi tính đào coin bằng laptop ngày vài đồng mà mới là định chứ đâu có đào, có đào thì được vài triệu chắc cũng bán rồi 😁; chả ai đợi được lên vài tỷ đâu; trừ mấy bố quên mật khẩu =))
Xưa mua 2080 đâu 20 củ. H 20 củ ko rớ đc 4080. Tính ra card vẫn còn cao giá nhỉ 😔
longhons
TÍCH CỰC
8 tháng
@tringuyenxp1603 20 củ giờ nếu chỉ game tới 2k thì 3080 quá đủ rồi 😁
vụ này hay
Ồ, nhìn mà nhớ cái ngày con card ở nhà lăn ra chết và mình phải mua con 3060 với mức giá 17 củ khoai 😁
longhons
TÍCH CỰC
8 tháng
@junior1506 Hồi mùa cách ly e cũng phải cắn răng build máy lấy con 3060ti 18tr = )))
Hết thời dùng tiền thật để mua tiền ảo. Sắp tới các thím chuyển sang dùng tiền vàng mã.

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019