Intel khoe benchmark chip AI Gaudi2: Mạnh hơn Nvidia A100 khi nghiên cứu mô hình ngôn ngữ

P.W
28/6/2023 10:50Phản hồi: 32
Intel khoe benchmark chip AI Gaudi2: Mạnh hơn Nvidia A100 khi nghiên cứu mô hình ngôn ngữ
Intel và startup nghiên cứu chip Habana Labs của họ vừa công bố kết quả benchmark MLPerf của con chip nghiên cứu machine learning Gaudi2. Với những con số được công bố, và khi Instinct MI300X của AMD chưa chính thức ra mắt, hiện giờ Nvidia (A100 và H100) chỉ có một đối thủ duy nhất cạnh tranh trên thị trường chip nghiên cứu AI, đấy chính là Intel, hay đúng hơn là Habana Labs Gaudi2.

Sử dụng giải pháp benchmark của họ, Intel cho rằng Gaudi2 có tỷ lệ hiệu năng/giá thành ngon hơn chip A100 thế hệ cũ của Nvidia, xét đến tác vụ tính toán FP16. Đến tháng 9, Habana Labs muốn hiệu năng FP8 của Gaudi2 phải vượt qua H100 mới nhất. Để dễ so sánh thì A100 giờ có giá bán khoảng 10 nghìn USD mỗi chip, và một chip H100 có giá tận… 40 nghìn USD.

Tinhte-Gaudi1.jpg
Tinhte-Gaudi2.jpg
Tinhte-Gaudi3.jpg

Kết quả benchmark Gaudi2 được Intel chia sẻ cụ thể như thế này:

  • Sử dụng 384 chip tăng tốc xử lý, thời gian huấn luyện GPT-31 là 311 phút.
  • Khả năng scale quy mô hệ thống: Train mô hình GPT-3, hiệu năng khi dùng 384 chip tăng tới 95% so với khi dùng 256 chip xử lý cùng lúc.
  • Phần mềm đã hoàn thiện hơn, sử dụng chip Gaudi2 xử lý mô hình BERT và ResNet, hiệu năng tăng lần lượt 10 và 4% so với số liệu benchmark tháng 11/2022.
  • Những số liệu kể trên thu được mà không cần ép xung hay tùy chỉnh custom cho chip Gaudi2, tức là khách hàng doanh nghiệp và tổ chức nghiên cứu sẽ có được sức mạnh tương tự những gì Intel và Habana Labs đã làm được ngay sau khi mua chip về trang bị cho hệ thống train AI.

Không có phép so sánh cụ thể và chính xác, vì Nvidia quảng cáo A100 có thể train mô hình GPT-31 trong vòng 45 phút, nhưng cần số lượng GPU nhiều gấp mấy lần, tương ứng là chi phí để đầu tư phần cứng vận hành. Cách duy nhất để so sánh Gaudi2 và A100 không chỉ đơn giản là so benchmark một chip đơn lẻ như các sản phẩm tiêu dùng, mà phải so tổng chi phí vận hành, bao gồm cả tiền mua chip, tiền xây dựng hệ thống, chi phí vận hành hệ thống, điện năng tiêu thụ cho cả chip lẫn hệ thống làm mát…

Vấn đề lại nằm ở chỗ, bây giờ mọi phép so sánh đều không có mấy giá trị vì Nvidia làm chip không đủ bán, còn nhu cầu nghiên cứu AI nhờ cơn sốt ChatGPT thì vẫn đang phát triển rất mạnh. Dám chắc là sẽ có những đơn vị sẵn sàng chọn AMD Instinct MI300X hay Intel Gaudi2, vì không mua được Nvidia A100 hay H100.

Theo WCCFTech
32 bình luận
Chia sẻ

Xu hướng

AI này thì chưa biết ai ăn ai vì cả Nvidia đều mới ra chip cho AI
anfang
TÍCH CỰC
một năm
@centernc nhảm
Mảng này sắp tới cạnh tranh khốc liệt
Cạnh tranh là tốt, tương lai sẽ có những cổ máy tự hành bằng AI hoàn toàn.
“Sử dụng giải pháp benchmark của họ”
@iamvuanhson tức là bench đối thủ trước, được bao nhiêu điểm thì cứ +90% vô là ra kết quả chip intel , phải hôn?
Thằng Intel này hút máu người dùng như kotex. Bây h nó đem cái tỷ số hiệu năng/ giá thành ra mà khoe được kể cũng lạ. Vậy là nó ko biết nhục rồi.
TKNRCT
ĐẠI BÀNG
một năm
@dlv.thickgame chip này cho doanh nghiệp chứ người dùng mấy ai mua, nên intel sẽ cạnh tranh về pp
@dlv.thickgame toàn lùa gà hút máu bác nhỉ
Cũng giống hãng A, ra mắt chip tự thiết kế tập trung chủ yếu vào 1 lĩnh vực nào đó, rồi đem so sánh với đối thủ thôi. Chưa kể dùng phần mềm benchmark chính chủ, thì bảo sao các hãng khác nó không tối ưu so với cùng hãng.
Nói chung ra thì tại người dùng không thông thái thôi.
Ấy Em Đi nó cũng ra chip 3D V cache, nếu so sánh đơn thuần thì thua Intel cùng năm, nhưng chơi game đố em nào đú lại với dung lượng chip nhớ khủng khiếp đó.
Hãng nào bây giờ cũng chiêu trò cả. Chán.
@pphuctv nividia thì người ta đang xài, còn ai biết thím inteo này xài sao đâu mà thấy ghi xài 384 chip tăng tốc xử lý thì ko biết hiệu quả tiêu thụ điện giá thành cái này lợi hơn mà thím intel chém gió kinh luôn.
@pphuctv Và hãng A chỉ so sánh đúng với con sản xuất 2019 trên sản phẩm của mình. Và sản phẩm sau này nó so sánh với con nào nữa?
Nói chung trên giấy tờ thì bố muốn gì chả đc hả bố.
Đến lúc ra thật thì lại như kiến so với voi thôi
đó bữa con gpu phế là arc giờ chìm nghỉm thấy thiên hạ làm ai cũng bon chen chạy theo mà phần cứng benchmark toàn xạo khác xa thực tế ko.
LuxiTD
TÍCH CỰC
một năm
Ùi tự benchmark và giá 10.000 - 40.000 đô một con lẻ, đắp 256 - 384 con đổ nợ luôn, để xây hệ thống trainning AI này phải chính phủ hay cả một khối liên minh mới mần nổi
@LuxiTD Nhiều thằng dùng chứ, đâu phải mỗi MS, nó không đặt hết hệ thống của nó vào 1 hãng hay 1 loại chip gì đâu
LuxiTD
TÍCH CỰC
một năm
@lucky10000 Tiền như lá mít nhỉ, đó chỉ là chi phí vận hành, còn đầu từ xây cái phòng chứa, bảo mật 6 lớp, thuê người nữa
LuxiTD
TÍCH CỰC
một năm
@D.H.17 AI mà dùng ba rọi Nvidia + Gaudi2 này chung chắc chỉ có suy nghĩ kỹ sư Việt mần thôi, quá nhiều sản phẩm ba rọi như vậy ở VN rồi. Hệ thống lớn không có ba rọi đâu nhá
@LuxiTD Tiền nào mà như lá mít được. Tiền vẫn là tiền, có điều có nơi có rất nhiều tiền, có nơi có rất ít tiền.
Anh Tèo giỏi vẽ bánh lắm. Cẩn thận trước khi tin nha.
kog00003
ĐẠI BÀNG
một năm
Muốn ủng hộ Intel/AMD nhưng khổ nỗi đa số lib/soft chỉ hỗ trợ cuda của Nvidia. Nên GPU Nvidia gần như là bắt buộc khi mua máy mới...
thangft
ĐẠI BÀNG
một năm
Ngon
dạo này sinh ra thế hệ đàn bà, thù vặt, cứ có chữ intel, meta, .. apple, vin, musk,.... thì auto chửi cho sướng miệng trước..đã.. dù éo có trãi nghiệm, kiến thức thậm chí chưa đọc kĩ nội dung bài viết. Mạt hạng tư duy
Kidszone
ĐẠI BÀNG
một năm
@odysseyntn Nói vậy là xem thường đàn bà đó bạn. Cứ nói thẳng cái thứ tiêu cực, đầu óc có sạn, có u não và u nhọt ngón tay cào phím 😃😃 tuy nhiên có mấy thứ này để cho ngta cải thiện chứng minh năng lực và mạnh lên từng ngày 😃
Người người AI, nhà nhà AI. Tương lai tích hợp luôn bộ não con người chuyển qua dạng số >>> Bất tử
@Belolem89 Cấy chip vào não người thì elon musk dc chính phủ cấp phép rồi đó
@Crazylove4u Ko! Chuyển toàn bộ trí tuệ, kí ức của mình ở dạng số để lưu trữ dữ liệu rồi nạp vào các cơ thể nhân tạo trong tương lai, cơ thể đó hư cứ tiếp tục nạp vào cơ thể khác, lặp đi lặp lại
Công nghệ làm bằng mõm

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019