Intel Aurora genAI: Mô hình AI 1 nghìn tỷ tham số, chạy trên siêu máy tính mạnh nhất thế giới

Tại sự kiện ISC23, chuyên ngành máy tính hiệu năng cao, machine learning và điện toán lượng tử đang diễn ra tại Hamburg, Đức, Intel đã công bố mô hình AI chạy trên hệ thống siêu máy tính Aurora. Mang tên Aurora genAI, mô hình tạo nội dung này sẽ phục vụ cho những nhu cầu nghiên cứu khoa học, tạo ra văn bản, dữ liệu khoa học và những dòng code phục vụ cho quá trình nghiên cứu tìm cách chữa ung thư, giải quyết biến đổi khí hậu, nghiên cứu vũ trụ, phân tích chuỗi protein, nghiên cứu vật liệu mới,…

Sức mạnh của Aurora genAI nằm ở tham số tạo nội dung của thuật toán machine learning. Nếu như ChatGPT phiên bản anh em đang dùng hàng ngày sở hữu 175 tỷ tham số, thì genAI, dựa trên nền tảng của Megatron và DeepSpeed, sở hữu 1 nghìn tỷ tham số.

[IMG]

Đọc thêm: https://tinhte.vn/thread/my-len-ke-hoach-tao-ra-sieu-may-tinh-manh-nhat-the-gioi-vao-nam-2021.2931481/

Mỹ lên kế hoạch tạo ra siêu máy tính mạnh nhất thế giới vào năm 2021

Bộ Năng lượng Mỹ mới đây đã giao cho Intel cùng Cray Computing một hợp đồng sản xuất hệ thống siêu máy tính mới mang tên Aurora trị giá 500 triệu USD. Dự kiến Aurora sẽ được hoàn thiện và lắp đặt tại phòng nghiên cứu Argonne…

tinhte.vn

Năm 2019, bộ Năng lượng Mỹ đã giao cho Intel cùng Cray Computing một hợp đồng sản xuất hệ thống siêu máy tính mới mang tên Aurora trị giá 500 triệu USD. Ban đầu dự kiến Aurora sẽ được hoàn thiện và lắp đặt vào năm 2020 tại phòng nghiên cứu Argonne, dưới sự điều hành của đại học Chicago. Tuy nhiên vì COVID-19, dự án Aurora bị hoãn tới tận năm nay dự kiến mới hoàn thành lắp đặt để đi vào vận hành.

Sau khi hoàn thiện, Aurora sẽ là hệ thống siêu máy tính thứ hai đạt ngưỡng sức mạnh xử lý exascale của Mỹ, sau Frontier, đặt ở phòng thí nghiệm quốc gia Oak Ridge, cũng thuộc quyền quản lý của Bộ năng lượng Mỹ.

Chính bản thân Aurora và Frontier cũng sẽ mô tả sức mạnh của hai thương hiệu đồng hương, Intel và AMD. Frontier sử dụng 9.472 CPU AMD Epyc 7453 64 nhân, chạy ở xung nhịp 2 GHz, tên mã Milan, kiến trúc Zen 3. Mỗi node của siêu máy tính trang bị 1 CPU, 4 GPU, mỗi GPU xử lý có 128GB RAM hàn trên PCB.

Còn trong khi đó, trên thiết kế của Intel, Aurora, sẽ sở hữu 10.624 node, mỗi node là 2 chip Xeon CPU Max kiến trúc Sapphire Rapids mới ra mắt hồi tháng 1, 6 chip Xeon GPU Max kiến trúc Ponte Vecchio, sử dụng RAM dạng unified memory. Tổng cộng, hệ thống sắp vận hành sở hữu 21.248 chip CPU, 63.744 chip GPU, băng thông bộ nhớ 2,12 petabyte/s.

Với mỗi node tạo ra sức mạnh xử lý 130 teraFLOPs, tổng cộng đạt ngưỡng sức mạnh kỳ vọng 2 exaFLOPs. Con số này đủ sức chiếm ngôi đầu bảng xếp hạng TOP500 của Frontier.

Thực tế Frontier, do Hewlett Packard lắp ráp, cũng mới chỉ hoàn thành vào tháng 5/2022, nhưng đến giờ, với sức mạnh 1,102 exaFLOPs, Frontier vẫn đang là hệ thống siêu máy tính mạnh nhất hành tinh, theo xếp hạng TOP500, cùng lúc xếp luôn vị trí thứ nhất trong bảng xếp hạng Green500, tổng hợp những siêu máy tính sử dụng điện hiệu quả nhất.

Theo WCCFTech

noctunalguy

CAO CẤP

một năm

Cũng hàng US nhưng sao không dùng chip M nhỉ? Bất công cho Apple quá 😤

@zoro1tuoi Đúng rồi, văn hóa này khó hấp thụ lắm. Đừng lây vào =))))))

Carl

VIP

@noctunalguy Rồi mấy thằng cung ứng cho ba cái hợp đồng này thằng nào doanh thu, lợi nhuận, vốn hoá bằng Apple vậy? Có biết nội chuyện thiếu chip đã làm cho Apple thiệt hại 6 tỉ đô, phải thu hẹp sản xuất iPad để ưu tiên sản xuất iPhone không? Apple mà thay đổi mô hình kinh doanh đang hiệu quả nhất hệ mặt trời của họ làm theo chuyên gia Tinh Tế chắc vài năm thôi vốn hoá còn 300 tỷ chứ không phải gần 3000 tỷ như bây giờ

@Carl Cái đó là chuyện bán lẻ cho consumer, đây là dự án DN & chính phủ thì liên quan gì ít nhiều mà nhạy cảm thế? Có chắc tiền bán sản phẩm của bàn thờ nhà chú em bằng bao nhiêu lợi nhuận các dự án y tế hay nghiên cứu mang lại thông qua xử lý bằng siêu máy tính không? Đã có so sanh chi phí các dự án này có thể tiết kiệm & chi phí sản xuất mấy cái đồ điện tử tào lao chú em đề cập chưa? Chú em sai từ câu mở bài rồi đừng làm khôn ở đây ngàn tỏi hay trăm tỏi =)))))

@noctunalguy Để anh cắt nghĩa cho em thấy liên quan ở chỗ nào nhé. Chuyện không đủ chip đã làm Apple thiệt hại 6 tỷ đô trong 1 quý. Đó chỉ là thiệt hại trực tiếp, tính trên doanh số phần cứng, còn những thiệt hại gián tiếp như không bán được các dịch vụ kèm theo với số phần cứng đó, để mất thị phần vào tay đối thủ, giảm giá cổ phiếu, hay giảm độ hài lòng của khách hàng thì khó thấy hơn nhưng cũng sẽ rất lớn. Vậy thì tại sao Apple phải lấy sản lượng chip đang rất cần cho mô hình kinh doanh thành công nhất trong giới công nghệ của họ để đem sang mô hình kinh doanh kém sinh lời hơn của các tập đoàn sản xuất chip? Cái kiểu tư duy "sao không làm cái này có tiền này" là kiểu tư duy thiển cận, thấy cây không thấy rừng của những tấm chiếu mới thôi chứ người giàu họ luôn biết cách lựa chọn việc làm sao cho sinh lợi tối đa.

binhminh931

ĐẠI BÀNG

Góp ý bài viết xíu là con ChatGPT chạy trên mô hình góc là GPT3 là 175 tỷ parameters nha bạn. Có gì bạn tham khảo lại thử các nguồn thử.

P.W

@binhminh931 đúng đúng, em sửa rồi

rongxike

@P.W Chatgpt 4 không có công bố cụ thể bao nhiêu params, theo dự đoán là 1000 tỷ params so với 175ty của gpt3.5. Cho nên cái chatgpt mà anh em bỏ tiền ra xài có thể đã đạt 1000 tỷ params rồi mod ơi. Bài viết trên wccf bị xai mà mod dịch lại làm gì cho mệt vậy?

21stAugust

@rongxike chạy KPI k đủ bài thì sao có lương haha

laiviet

TÍCH CỰC

chatGPT có 175 tỷ chứ không phải 175 triệu

@laiviet à đúng ạ đúng ạ

Hot.Buns

Nhìn mấy sợi cáp là thấy uy tín rồi

Cuong Nb

Quá là ghê gớm luôn 😁

king_of_mar1311

Mấy lão #1 não ngắn troll gây war à, lôi chip M1 vào làm gì??? Kiếm cmt dạo hay to ra là mình thượng đẳng hơn ae xài apple???

1. M1 nó là SOC, có ai dùng SOC chạy sever không???? Đó là về mặt kỹ thuật
2. Về mặt thương mại thì apple cũng chả rảnh đang bán thiết bị cá nhân đầu cuối đi chen vào bán mảng sever
3. Phần mềm sever nó cũng khác biệt, chạy hđh riêng chả phải hđh cá nhân đó là về mặt pm

Mà có giả dụ apple lấy M2 tinh chỉnh lại chạy sever thì đến lúc đó sever nó thu nhỏ lại cỡ cái cont rồi khỏi cần dùng quạt luôn thì mấy ae intel với amd phá sản, lúc đó lại bị gắn mác độc quyền. Thôi cứ vui vui bán thu lãi nghìn tỏi đô cho khoẻ

htux

king_of_mar1311 đã nói: ↑

@king_of_mar1311 Gây war thôi. Thị trường nó rõ ràng. M1 làm consumer, x86 làm datacenter. Còn việc ông nào khác lôi ARM & RISC-V thì mới có chuyện để nói. Apple nó có làm mảng này đâu mà cũng lôi nó vào

cloud5trike

@htux Thằng top 2 server nó dùng CPU kiến trúc ARM đó.

https://www.top500.org/system/179807/

Supercomputer Fugaku - Supercomputer Fugaku, A64FX 48C 2.2GHz, Tofu interconnect D | TOP500

top500.org

The A64FX is a 64-bit ARM architecture microprocessor designed by Fujitsu. The processor is replacing the SPARC64 V as Fujitsu's processor for supercomputer applications.
https://en.wikipedia.org/wiki/Fujitsu_A64FX

Fujitsu A64FX - Wikipedia

en.wikipedia.org

Được sx bởi TSMC.

Thực tế thì mọi người đều thấy Apple có thể sx chip tốt đến thế nào, nền tảng linh hoạt từ iOS đến MAC. Thì chẳng có lý do gì không thể có 1 con chip của Apple để chạy Super Computer cả. Quan trọng là Apple muốn làm hay không thôi.

para-hạ-sốt

@king_of_mar1311 Bọn seeder suốt ngày chỉ nâng bi cái x86 lỏ thôi. Chứ cơ bản thì chip M đấm cho đám x86 chạy ko kịp nên bọn nó cay 😁

GLES

@cloud5trike Có hiểu gì ko vậy?
CPU là tính toán scalar
GPU là tính toán vector

AI server cần nhất là tính toán vector, mà M series mãi mãi ko có GPU external thì ko bao giờ lên được server AI

còn Server Service và Server Datacenter thì có thể vì mặt lý thuyết càng nhiều core càng phục vụ được nhiều user hơn trong 1 thời điểm + tiết kiệm điện hơn khi ở idie.

thanhlonghp

Có nghĩa là Intel cũng làm dc GPU đấy chứ 😁

PaulNguyen1977

Sẽ có ngày server toàn chip M thôi

Kidszone

Mấy bài vậy các Anti bảo là chém gió thông số đấy nha 😃 nên dịch tiết chế lại bớt :v

Võ Thành Quân

Anh kia ngóng mà thèm

XuyenViet2019

Nói chứ mấy mảng lòng vòng này IBM/Intel/AMD/Nvidia tính ra Mỹ nó trùm mẹ mảng này, giờ còn cảng ko cho thằng khác chơi chip thì biết đến khi nào, cần lắm vài ngàn quả Hạt Nhân để reset thế giới.

SoGetSu

Vn cũng có chíp mà, tương lai cũng có siêu máy tính như vắc xin covi, bộ test, smartphone, .. cũng có thể là bê nguyên 1 cục từ TQ về gắn mác là xong.

MinhTriND

Máy này chơi GTA được không ạ

Hoàng Hải.

gấu quá gấu rồi

Pnghuy

Nước Mỹ quá gắt

Intel Aurora genAI: Mô hình AI 1 nghìn tỷ tham số, chạy trên siêu máy tính mạnh nhất thế giới

Mỹ lên kế hoạch tạo ra siêu máy tính mạnh nhất thế giới vào năm 2021

CHỦ ĐỀ TƯƠNG TỰ

Kiến trúc đồ họa Intel Battlemage sẽ có bộ điều khiển hiển thị với UHBR13.5

Acer ra mắt Predator Helios Neo 14, đối thủ của ROG Zephyrus G14 và Razer Blade 14, giá từ 1799 USD

Việt Nam đứng đầu Đông Nam Á về số cơ sở sản xuất cho Apple

Từ ThinkPad X13s, mình mong chờ gì ở laptop Windows chạy Snapdragon X Elite?