Honda winner x


Apple, Qualcomm về chỉ số TOPS, nó có ý nghĩa gì?
Duy Luân
4 thángBình luận: 29
Chip Apple A14 Bionic có sức mạnh 11 TOPS khi nói về sức mạnh machine learning, Snapdragon 865 thì 15 TOPS “khi chạy các tác vụ AI”. Vậy số TOPS này có nghĩa là gì?

Chỉ số TOPS là gì?


TOPS là một thông số rất đơn giản, rất dễ hiểu: một con chip có thể tính toán được bao nhiêu phép tính mỗi giây. (Teraoperations per second). Nói cách khác, con số này cho biết chip có thể giải được bao nhiêu phép tính trong một thời gian cực ngắn.

1 TOPS có nghĩa là 1 nghìn tỉ phép tính mỗi giây.

Chỉ số TOPS có thể dùng cho bất kì con chip nào, nhưng các nhà sản xuất hiện nay dùng nó để nói về con chip hoặc bộ phận xử lý chuyên về AI của họ. Ví dụ, nếu dựa theo thông số của Qualcomm thì con Snapdragon 865 của họ mạnh hơn Apple A14 Bionic 1,3 lần, giả định là tất cả mọi yếu tố khác đều như nhau. Nhưng tất nhiên là con chip từ 2 hãng khác nhau, thiết kế khác nhau, cách sản xuất khác nhau… thì làm sao mà như nhau được, và hiệu năng tính toán thực tế sẽ còn dựa vào nhiều yếu tố khác lắm.

Quảng cáo


Một trong những yếu tố quan trọng ảnh hưởng đến hiệu năng thực tế của các bộ xử lý AI đó là nó được tối ưu cho loại tác vụ nào. Một con chip tối ưu cho việc xử lý computer vision, hoặc dùng để chạy các mô hình deep learning phức tạp, có thể sẽ tốt hơn so với một con chip chung chung làm gì cũng tốt nhưng không phải cái nào cũng xuất sắc. Việc chỉ nhìn vào 1 con số duy nhất để đánh giá là không đầy đủ, không nói lên được hết bản chất của vấn đề.

Những chỉ số đơn giản như TOPS cũng có mặt lợi về marketing, nhưng theo thời gian lợi ích đó sẽ dần mờ nhạt. Ví dụ, máy chơi game từng được quảng cáo với số “bit”, cho đến khi chiếc Atari Jaguar xuất hiện với “64-bit” thì nó chứng minh rằng chỉ tập trung vào một con số sẽ chẳng có ý nghĩa gì mấy trong khi hiệu năng tổng thể của cả hệ thống mới là quan trọng. Cuối cùng thì chiếc PlayStation “32-bit” của Sony bán chạy hơn so với chiếc Jaguar với tỉ lệ 400 máy PS : 1 máy Jaguar. Hay như chiếc Nintendo 64-bit cũng phải thua PlayStation. Ngày xưa người ta cũng thường hay nói về chỉ số GHz của CPU, cho đến khi CPU bắt đầu có nhiều nhân, nhiều chế độ chạy khác nhau thì con số này cũng không còn quan trọng như xưa nữa khi người tiêu dùng ra quyết định mua.

5592868_5528572_cover_snapdragon888.jpg


TOPS khác gì so với TFLOPS


TOPS đại diện cho số phép tính bất kì có thể được tiến hành trong 1 giây, bao gồm phép tính với số nguyên, số thập phân, trong khi đó TFLOPS có nghĩa là Tera floating point operations per second - tức là bao nhiêu nghìn tỉ phép tính với số nguyên (thường là 1 dấu chấm thập phân) có thể được thực hiện trong một giây.

Hiện tại các kiến trúc chip mới hỗ trợ rất nhiều loại dữ liệu khác nhau, nên việc so sánh số TFLOPS hay TOPS của 2 nhà sản xuất có thể không chính xác, vì mỗi ông có thể sẽ có cách đo khác nhau. Cách tốt nhất là xem thử định nghĩa về số TOPS và TFLOPS của mỗi hãng thì mới đảm bảo.

Apple nói về số TOPS


Apple là hãng ít dùng các con số nhất, ví dụ như chip di động của họ thì họ không nói gì về xung nhịp, pin cũng không nói về dung lượng mAh, chỉ nó thời gian sử dụng. Họ chỉ dùng các từ như “rất mạnh”, “nổ tung cả não” (mind-blowing) để nói về những chi tiết trên máy của mình.

Nhưng cũng có ngoại lệ, khi họ cần dồn sự chú ý của thế giới về khả năng xử lý AI của chip Apple A-Series, Apple dùng số TOPS để quảng bá cho chip. Ví dụ, con A14 Bionic dùng trong iPad Air 2020, iPhone 12 có “nhân xử lý AI thế hệ kế tiếp với 16 nhân” và hiệu năng xử lý 11 TOPS, “tăng 2 lần so với thế hệ trước về hiệu năng machine learning” (8 nhân Neural Engine, 5 TOPS).

Quảng cáo



Apple-A14-Bionic.jpg

Trước đó, Apple từng nói rằng Neural Engine của A13 dành riêng cho machine learning, ngoài ra còn có 2 bộ tăng tốc ML trong CPU, cùng với Machine Learning Controller để tự cân bằng giữa hiệu năng và thời gian dùng pin. Tùy theo tác vụ đang chạy và lượng tài nguyên đang có, controller này sẽ phân phối việc giữa CPU, GPU hoặc Neural Engine cho phù hợp, mục tiêu là tác vụ AI hoàn thành nhanh nhất có thể.

Apple cũng nói rằng A14 mạnh hơn 10 lần so với A12 về machine learning, nhưng khi đó thực ra hãng nói về bộ tăng tốc machine learning trên CPU. Apple không nói chính xác cách mà tác vụ AI được phân phối.

Qualcomm nói về số TOPS


Cách Qualcomm làm lại trái ngược với Apple, Qualcomm công bố rất nhiều thông số lên quan đến con chip Snapdragon của mình, kể cả những thành phần dùng để xử lý tác vụ AI. Ví dụ, Snapdragon 865, sức mạnh AI được Qualcomm quảng cáo là 15 TOPS, hay như Snapdragon 8cx thế hệ thứ hai dành cho laptop thì có hiệu năng AI là 9 TOPS.

Giống một số chip Snapdragon trước đó, 865 có một bộ phận gọi là “Qualcomm AI Engine” để tổng hợp khả năng tính toán AI từ nhiều bộ phận khác nhau: CPU Kyro, GPU Adreno, bộ xử lý tín hiệu số (DSP) Hexagon. Trên con Snapdragon 865, bộ xử lý đồ họa Adreno 650 có số TOPS khi xử lý AI cao hơn 2 lần so với thế hệ trước, còn Hexagon 698 DSP thì cao hơn 4 lần, nó còn có tính năng “giảm băng thông cần thiết khi dùng các mô hình deep learning”. Có vẻ như Qualcomm cộng số từ 4 linh kiện này lại để ra con số 15 TOPS. Kiểu như mua 1 bịch kim cương, mỗi viên nhỏ nhỏ, hay mua nguyên 1 cục kim cương lớn với cùng trọng lượng.

Quảng cáo


Huawei, MediaTek, Samsung nói về số TOPS


Chip Kirin 990 và 990 5G có nhân xử lý trí tuệ nhân tạo tên là Da Vinci với thiết kế 1 nhân nhỏ kèm thêm 1 nhân thứ hai. Trên Kirin 990 thì nó là 1 nhân “to” hơn với hiệu năng cao hơn, trong khi bản 5G thì dùng 2 nhân “to”. Công ty nói cái nhân nhỏ có thể mang đến hiệu quả nhận diện gương mặt cao hơn 24 lần so với nhân to, để cho nhân to xử lý các tác vụ AI nặng hơn. Chúng ta không biết về số TOPS của Kirin 990.

Mediatek Dimensity 1000+, trong đó có bộ phận xử lý AI APU 3.0, có số TOPS là 4,5 khi chạy với các ứng dụng như trợ lý ảo, AI camera, các ứng dụng AI trong app và AI trên mức hệ thống. Số này không phải là quá cao, nhưng cũng không phải ngạc nhiên vì chip MediaTek thường dành cho các máy tầm trung mà thôi.

Samung Exynos 990 thì có số TOPS là 15.

Các con chip di động không phải là những sản phẩm duy nhất có nhân AI hay được tối ưu cho AI. Chip Apple Silicon cũng có nhân Neural Engine dùng cho máy tính. NVIDIA, Google đều tự làm những GPU cực mạnh của mình dành để xử lý các tác vụ AI nặng như xử lý video, xử lý hình ảnh, phân tích giọng nói và rõ ràng chúng mạnh hơn nhiều so với một con chip di động bé tí. Ví dụ, con TPUv3 của Google dùng cho server có sức mạnh 90 TOPS.

Nhưng nói gì thì nói, số TOPS chỉ để tham khảo 1 phần thôi, nó không nói lên được hết vấn đề, anh em nhớ lưu ý vụ đó.

Nguồn: VentureBeat
29 bình luận
Giờ mới hiểu, cám ơn mod
hunggh
TÍCH CỰC
4 tháng
ok, cảm ơn Luân đã nghiên cứu + chia sẻ, đã thông
Hổng biết con i9 cho máy chủ nó mạnh cỡ nào nhỉ anh em !!
@Apple Love Paradise I9 thường dùng cho máy trạm, ít ai dùng cho máy chủ
@Apple Love Paradise Bổ sung: những con xeon hay threadriper hiệu năng đơn nhân không kinh khủng như i9, vì cpu máy chủ tập trung vào xử lý song song hơn.
Quan trọng hdh nữa
Đọc xong kết luận: tiền nhiều mua iPhone, tiền ít hơn xíu thì mua Android với Snapdragon, ít hơn xíu nữa mua Xiaomi, cạch mặt Exynos.
Chấm hết.
Wantobe
ĐẠI BÀNG
4 tháng
@dustonthewind Kết luận cực kỳ liên quan tới bài viết .... khác.
travadu
ĐẠI BÀNG
4 tháng
Không biết thông số TOPS của chip 888 và exynos 2100 là bao nhiêu nhỉ, mấy con chíp 865 đã khá cũ để so với A14 rồi.
Ráng sắm cho được con Air mới được, thấy anh em bàn riết cũng thèm hehe
Cười vui vẻ
Tuanpht
TÍCH CỰC
4 tháng
Đọc xong vẫn ko biết ý nghĩa là gì
Vậy chỉ số TOP với BOT có liên quan ko nhỉ 😆
@kobebryant Anh TOP em BOT = trai trên gái dưới, ở nhà mình là vậy còn các cặp khác k biết. Dịch dã thế này hại thận quá 😔((
Sáng mới thấy mọi người thắc mắc về cái này, tối đã có bài để tìm hiểu. Cảm ơn mod Luân đã giải thích.
Lép1102
ĐẠI BÀNG
4 tháng
Có thể theo lý thuyết chip apple ko mạnh = các hãng khác, nhưng họ có hđh ios tuyệt vời ông mặt trời thì iphone cân được hết. Cũng giống như xe 50cc ( chip iphone) chạy trên đại lộ (ios) và xe 100cc (chip hãng khác) chạy đường hỗn hợp (android) vậy 😂😂😂
NewAngle
ĐẠI BÀNG
4 tháng
@Lép1102 Ios căn bản là đơn giản không nhiều tính năng hiệu ứng bằng android. Đang dùng ip12 mua về hối hận đây. Thà dùng android chậm vài phần trăm giây mà nhiều tính năng
boom94
ĐẠI BÀNG
4 tháng
@NewAngle Bán iPhone mua lại Android đi bác. Ez mà nhỉ.
đến khi thua lại bảo ko quan trọng, rồi list ra hàng tá lý do này kia
t cũng lạy mod Luân, trở chiều còn nhanh hơn cả người yêu cũ lật mặt 😁
@kungfu9999 1. Bài ghi rõ là chỉ một chỉ số, không đánh giá được, chứ không nói là không quan trọng
2. Mình đã từng đánh giá chip chỉ dựa vào chỉ số duy nhất này hay chưa?
3. Mình chưa từng quan tâm số này, hôm nay được hỏi nên đi tra về định nghĩa thôi

Đừng nhét chữ vào mồm mình :D
renovatio
ĐẠI BÀNG
4 tháng
@Duy Luân Dỗi thực sự :D
Đối vs người dùng cơ bản thì mấy chỉ số này ko quan trọng lắm.
quan trọng có hỗ trợ hdr10+ đuọc không
kệ đi , cứ iphone mới ra thì mua là được khỏi quan tâm thông số mệt
Cười vô mặt
Tera floating point operations per second - tức là bao nhiêu nghìn tỉ phép tính với số nguyên? mình tưởng là số thập phân chứ ?
@tung.dq Đúng rồi bạn, cũng đang thắc mắc. Floating Point number, chứ ko phải Integer number.
Mình thì thấy con số này khá rõ ràng đấy chứ. Nó cho thấy khả năng của con choip, còn chuyện thực tế chỉ là khả nặng vận dụng con chip của từng hãng mà thôi. Kiểu như đưa cho vdv 1 cái xe đạp cùi thì ổng cũng dư sức thắng 1 thằng nhóc xài touring loại xịn
Ma trận thông số @@
haizz cũng phức tạp, cứ đem ra benchmark làm thước đo chuẩn mà kiểm chứng vì mỗi hãng quảng cáo 1 kiểu mà








  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2021 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: 209 Đường Nam Kỳ Khởi Nghĩa, Phường 7, Quận 3, TP.HCM
  • Số điện thoại: 02862713156
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019