Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel
bk9sw
4 nămBình luận: 19
Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel
Tại hội nghị Hot Chips đang diễn ra tại Cupertino, California, Microsoft đã gây bất ngờ khi ra mắt một nền tảng phần cứng dành riêng cho AI với tên gọi Brainwave. Microsoft cho biết các mô hình máy học (Machine Learning) sẽ chạy nhanh hơn với độ trễ thấp trên Brainware và nền tảng này cho phép các nhà phát triển tích hợp mô hình máy học trực tiếp lên chip bán dẫn, từ đó đạt được hiệu năng cao hơn cả CPU hay GPU.

Các nhà nghiên cứu tại Microsoft đã cho chạy một mô hình máy học có tên Gated Recurrent Unit trên chip lập trình (FPGA) Stratix 10 mới của Intel ở tốc độ xử lý 39,5 TFLOPS mà không định loạt tiến trình, nhờ đó hệ thống máy học có thể đạt được hiệu năng xử lý theo thời gian thực.

Mô hình được Microsoft chọn có tỉ lệ lớn hơn nhiều lần so với các mạng thần kinh ảo như Alexnet và Resnet-50 vốn được nhiều công ty khác sử dụng để đánh giá hiệu năng phần cứng được họ phát triển. Do đó, độ trễ thấp là yếu tố cực kỳ quan trọng để có thể triển khai các hệ thống máy học ở tỉ lệ lớn như vậy bởi người dùng dĩ nhiên không hề mong muốn phải chờ đợi quá lâu để ứng dụng phản hồi.

Doug Burger - kỹ sư tại Microsoft Research cho biết: " Chúng tôi gọi đây là AI thời gian thực bởi ý tưởng ở đây là khi bạn gởi một chỉ thị vào chip, bạn sẽ muốn có được câu trả lời ngay lập tức."

Microsoft hiện đang sử dụng Brainwave với rất nhiều chip lập trình FPGA trang bị cho các trung tâm dữ liệu của hãng. Theo Burger, Brainwave sẽ cho phép các dịch vụ của Microsoft hỗ trợ nhanh hơn với các tính năng AI. Thêm vào đó, công ty cũng đã có kế hoạch cung cấp nền tảng Brainwave cho các khách hàng phía thứ 3 thông qua nền tảng đám mây Azure.


Stratix 10.jpg
Brainwave nạp một mô hình máy học đã qua huấn luyện vào bộ nhớ của chip Stratix 10 và nó sẽ nằm ở đây suốt vòng đời của hệ thống. Phần cứng này sau đó có thể được dùng để tính toán những gì có bên trong một mô hình được thiết kế tạo ra dữ liệu, chẳng hạn như các đoạn văn bản dự đoán trước. Trong tình huống một mô hình máy học quá lớn để có thể chạy trên một con FPGA riêng lẻ, phần mềm sẽ triển khai và thực thi nó trên nhiều phần cứng khác.

Microsoft hiện không phải là công ty duy nhất đầu tư vào phần cứng giúp tăng tốc quá trình xử lý của máy học. Google hồi đầu năm cũng đã công bố thế hệ 2 của Tensor Processing Unit - một con chip dành riêng cho mục đích thực thi và huấn luyện cho các mô hình máy học. Kéo theo sau đó là một loạt các công ty khởi nghiệp cũng bắt đầu phát triển các phần cứng tăng tốc dành riêng cho máy học.

Nhắc đến chip lập trình FPGA, nhiều ý kiến cho rằng nó không nhanh hay không thể đạt hiệu suất như các con chip được phát triển riêng cho tác vụ thực thi hoạt động của mô hình máy học. Thế nhưng Burger cho rằng mốc hiệu năng đạt được qua hệ thống demo của Microsoft Research chứng minh rằng FPGA có thể đạt hiệu năng cao tương tự.

Thêm vào đó, hiệu năng mà Microsoft Research đạt được dựa trên một nền tảng phần cứng mới và Burger nói sẽ còn rất nhiều điều mà Microsoft và Intel có thể làm để tối ưu hóa hiệu năng phần cứng lẫn phần mềm chạy trên Brainwave. Với những cải tiến trong tương lai, việc Microsoft đạt được năng lực tính toán đến 90 TFLOPS với chip Stratix 10 của Intel điều có thể xảy ra.

Hiện tại Brainwave hỗ trợ các mô hình máy học được huấn luyện sẵn được phát triển từ thư viện Microsoft CNTK và TensorFlow của Google. Burger cho biết nhóm nghiên cứu hiện đang mở rộng khả năng tương thích với các công cụ khác như Caffe. Công ty vẫn chưa đưa ra lộ trình phát hành Brainwave cho khách hàng nhưng đã bắt đầu phối hợp với các đối tác phía thứ 3 để có thể hỗ trợ mọi mô hình máy học để chúng có thể chạy trên Brainwave.

Theo: VentureBeat
Home Brainwave.jpg
truongflying
ĐẠI BÀNG
4 năm
"AI càng phát triển nhanh thì sự diệt vong của loài người càng đến gần" -- Một thanh niên nhìn xa trông rộng như Elon Musk cho hay.
ntquyet1802
ĐẠI BÀNG
4 năm
@truongflying Không phải cứ nhìn xa trông rộng thì nói cái gì cũng đúng!!!
caochau199
ĐẠI BÀNG
4 năm
@truongflying đơn giản vì cái tiến bộ thay thế cái lạc hậu thôi
cái này giống với Pc không cài Win vào chạy được không @@
ntquyet1802
ĐẠI BÀNG
4 năm
@uochuý1489Quốc Huy nó là board để xử lý các thuật toán chuyên biệt thôi, gắn vô PC rồi giao tiếp với nó!!!
Azkan
TÍCH CỰC
4 năm
@uochuý1489Quốc Huy FPGA khác hoàn toàn PC bác ơi -_- Mỗi thành phần của PC là 1 loại phần cứng được thiết kế chuyên biệt cho mục đích của nó. Ví dụ CPU là là vi xử lý chính, GPU chuyên xử lý đồ họa, RAM lưu trữ dữ liệu tạm thời bla bla bla. Nhưng FPGA thì lại là nền tảng để phát triển phần cứng. Việc người ta làm với PC là viết code phần mềm (C/C++/C#/Java/...) rồi chạy trên PC, còn với FPGA thì là viết code để sau đó chuyển thành mạch điện tử nạp lên FPGA, hay nói cách khác là lập trình phần cứng.

Cái board kia nếu không nạp gì vào thì nó sẽ chẳng làm được gì hết. Nếu nạp binary của Brainware thì nó sẽ thành 1 board chạy Machine Learning, còn nếu nạp birany bác tự viết thì nó sẽ làm theo ý bác :v

Cũng nói luôn hiệu năng của phần cứng bao giờ cũng cao hơn hiệu năng phần mềm.
cái này giống card màn hình (có cổng pci ex kìa) gắn vào máy tính cài win, cài phần mềm vào chạy (giống chơi game vậy :v)
Hiepsitemple
ĐẠI BÀNG
4 năm
Không giới thiệu đôi chút về con chíp của Intel nhỉ, đúng là ad chỉ dịch thôi, thiếu sáng tạo quá
quocviet319
ĐẠI BÀNG
4 năm
Hiệu năng cao vậy có cài coin được ko các bác?
Juztapose
ĐẠI BÀNG
4 năm
@quocviet319 mấy con này thuộc dạng corporation infrastructure. bạn mua 1 cục 1080ti về cày còn rẻ hơn mua con này cỡ 5-10 lần. mà bản thân ko có API mapping adapter thì cũng chẳng chạy được. :v
Juztapose
ĐẠI BÀNG
4 năm
đã test performance trên recurrent lại chọn gru thay lstm?
quocviet319
ĐẠI BÀNG
4 năm
Ngày xưa thời mà 30btc đổi ra có 25cent. Có bạn lấy ps3 cài cũng được đó.
AI sẽ còn nhanh hơn trc kia, tốc độ của AI lên tầm cao mới:rolleyes:o_O
Aduckuba signature
Vậy là mai mốt ngoài card màn hình, card âm thanh...chúng ta có thêm CARD AI nữa
ntquyet1802
ĐẠI BÀNG
4 năm
@Béo Khùm Bây h có rồi chứ chưa cần mai mốt, quan trọng là ai có nhu cầu làm việc với nó thôi! Còn nhu cầu không quá chuyên nghiệp thì người ta xài VGA xử lý cho nhanh!
Hy vọng nó giải quyết đc vấn đề thắt cổ chai CPU trên Windows
TiaMi
TÍCH CỰC
4 năm
ôi gần tới ngày mà máy móc tự sinh mã code tự phân tích tình huống dc r,sắp tuyệt chủng
Kevin Power
ĐẠI BÀNG
4 năm
Tìm cách biến khỏi Trái đất nhanh ko chết hết giờ
Năm ngoái Intel mua lại Altera, năm nay họ ra mắt dòng FPGA Stratix10. Dòng này có thể là dòng SoC với cấu trúc FPGA kết hợp với quad-core ARM cortex A53. Trong thế giới của FPGA hiện giờ có Xilinx và Intel (Altera) đang canh tranh nhau cũng không thua kém gì Intel và AMD.

Mình đang làm việc với FPGA chỉ mong một lần được trải nghiệm con này. Chạy con Stratix IV thôi mà thấy kinh khủng rồi. Vài năm nữa AI sẽ suy nghĩ và làm việc với tốc độ nhanh hơn nhiều lần so với con người
Cá nhân
Bạn
Hi bạn!
Điểm Reward Store: 
Tuổi Tinh tế: 
Cấp độ thành viên Tinh Tế


Tải app Tinh tế

Tải app Tinhte - Theo dõi thông tin mà bạn yêu thích

Tải app TinhteTải app Tinhte
Tải app Tinh tế cho Android trên Google PlayTải app Tinh tế cho iPhone, iPad trên App Store






  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2021 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: 209 Đường Nam Kỳ Khởi Nghĩa, Phường 7, Quận 3, TP.HCM
  • Số điện thoại: 02862713156
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019