Trên tay NVIDIA Jetson Nano: mạch xử lý AI (trí tuệ nhân tạo) trong lòng bàn tay

Duy Luân
1/9/2020 23:9Phản hồi: 110
Trên tay NVIDIA Jetson Nano: mạch xử lý AI (trí tuệ nhân tạo) trong lòng bàn tay
Đây là một chiếc máy tính nhỏ gọn, được NVIDIA sinh ra dành cho các ứng dụng AI, cụ thể hơn là những tác vụ nào liên quan tới xử lý hình ảnh, video theo thời gian thực. Chiếc Jetson Nano ở đây là loại nhỏ nhất trong series Jetson, bạn có thể mang nó đi đây đó, vứt nó vào một cái balo, có thể dùng pin dự phòng cấp nguồn (bên cạnh việc gắm điện) để tiện dùng ngoài đường. Tâm điểm của Jetson Nano là bộ xử lý đồ họa (GPU) Maxwell với 128 nhân CUDA, thứ giúp nó khác biệt so với những chiếc máy tính nhỏ gọn khác như Raspberry Pi. Ngoài ra máy còn có CPU Quad-core ARM A57 1.43 GHz và RAM 4GB.



Mình mua chiếc Jetson Nano này cũng được vài tháng rồi, mình dùng cho một số ứng dụng về hình ảnh ở công ty mình làm (gọi là Computer Vision - CV). Giá của nó lúc mình mua là 2,9 triệu VND (mình mua ở link này), ngoài ra còn phải mua thêm vài phụ kiện lặt vặt như thẻ nhớ, cục sạc, và cả 1 cái webcam Logitech để dùng chung nữa.

cover_home_tren_tay_nvidia_jetson_nano.jpg

Thực ra gọi tắt là Jetson Nano cho gọn, chứ tên đầy đủ của bộ này là NVIDIA Jetson Nano Dev Kit, còn riêng Jetson Nano chỉ là một cái mạch xử lý mà thôi. Dev Kit của mình bao gồm cái mạch này được gắn lên một bo mạch lớn hơn, có đầy đủ cổng kết nối USB, HDMI trên đó, có cổng nguồn, và nhiều linh kiện khác để bạn sẵn sàng dùng ngay. Với một số nhà sản xuất có làm ra sản phẩm vật lý, họ sẽ mua Jetson Nano rồi tự làm phần mạch, vỏ, cổng kết nối này kia chứ không dùng Dev Kit như thế này đâu.


Bản thân chiếc Jetson Nano Dev Kit không có chip Wi-Fi, mình phải mua thêm 1 cái đầu USB của D-Link giá 200-300 nghìn gì đó để bắt sóng Wi-Fi cho con máy này. Ngoài ra bạn cũng có thể dùng card Wi-Fi Intel gắn vô cổng M.2 của Jetson Nano Dev Kit cũng được, mà mình không thích mua cái card, dùng USB Wi-Fi là đủ rồi.

jetson_nano_mach.jpg

Để dùng với bộ này, mình dùng 1 cái màn hình nhỏ để nối ra cho tiện (qua cổng HDMI), và gắn cả chuột, bàn phím vào thì mới dễ thao tác. Tuy nhiên cái này chỉ dùng để setup khúc đầu vậy thôi, chứ khi chạy thì không gắn các thiết bị ngoại vi này vào làm gì trừ webcam. Thậm chí lúc nó vận hành mình còn không có mặt ở đó, chỉ đơn giản ghim điện nguồn vào rồi để máy chạy, sau đó đợi xem dữ liệu mà nó bắn về thôi.

Công nhận sức mạnh GPU của Jetson Nano khác hẳn so với Raspberry Pi (đương nhiên rồi, đắt hơn và chuyên dùng cho đồ họa thì nó phải khác chứ). Cùng một ứng dụng xử lý hình ảnh mà mình viết ra, khi chạy trên RPi thì bị chậm dữ lắm, còn trên Jetson Nano thì ổn hơn nhiều. Tất nhiên, các đoạn code viết ra cũng phải tối ưu cho GPU thì mới khai thác hết hiệu quả của chiếc máy này.

Rất tiếc mình không cho các bạn xem cái mà mình làm được, nhưng mình có thể cho các bạn xem vài dự án mà người ta đang làm với Jetson Nano đã public, ví dụ như dự án OpenDataCam này dùng để đo lưu lượng xe đi qua một con đường. Họ dùng cái mạch to, đắt tiền hơn là Jetson Xavier, nhưng cũng có hỗ trợ cho Jetson Nano nữa.





Một số dự án khác thì dùng để kiểm kê hàng trên kệ, nhận diện gương mặt, thậm chí cảnh báo người đi đường không đeo khẩu trang. Như trong hình bên dưới là ví dụ sử dụng hệ thống camera để xác định vị trí và cảnh báo khi người ta lại gần nhau quá, một ứng dụng rất hữu ích trong mùa COVID-19.

Quảng cáo



du_an_covid_19.gif

Rồi còn có người dùng Jetson Nano để làm robot, để làm xe tự hành nữa kìa. NVIDIA đang cung cấp những mạch xử lý tương tự như Jetson cho một số đơn vị làm xe hơi để họ làm những chức năng như tự động định vị làn đường, cảnh báo va chạm, cảm nhận môi trường khi de xe và nhiều trò khác hay ho lắm.

Những dự án như thế này ngày xưa phải lấy hình ảnh từ camera đẩy về server, sau đó server xử lý rồi mới trả về kết quả. Điều đó làm tăng độ trễ do phải truyền hình ảnh về máy chủ, rồi chờ xử lý, rồi gửi lại dữ liệu. Ngoài ra chi phí để scale hạ tầng cũng khủng khiếp lắm nên ngày nay người ta chuyển dịch sang xu hướng xử lý trước dữ liệu tại các thiết bị lắp tại “hiện trường”, gọi edge computing. Sau khi tính toán xong, tự bản thân thiết bị có thể đưa ra quyết định cần làm gì (với những cái liên quan tới báo động, tự động hóa, robot…), hoặc chỉ đơn giản là bắn dữ liệu đã xử lý về server, như vậy sẽ nhẹ nhàng hơn nhiều mà lại đáp ứng được yêu cầu real time.

Khi cung cấp con Jetson Nano này, NVIDIA không chỉ bán phần cứng, họ cùng hỗ trợ cả về phần mềm thông qua nhiều bài hướng dẫn, nhiều công cụ, thư viện AI để bạn có thể dùng cho việc xử lý ảnh, video. Những thứ này đương nhiên được tối ưu để chạy với bộ xử lý đồ họa trên các máy Jetson. Phần này thì mình nói sơ thôi, anh em nào có làm AI, ML thì có thể lên trang chủ của NVIDIA để biết thêm chi tiết nhé.

NVIDIA_Jetson_nano.JPG

Cơ bản thì NVIDIA Jetson Nano không phải là một cái máy tính mà bạn sẽ mua về để xài, thậm chí để làm mini PC hay hệ thống giải trí tại gia cũng không luôn (cho tình huống này thì Raspberry Pi phù hợp hơn). Jetson Nano sinh ra là để dùng cho các ứng dụng AI, ứng dụng công nhiệp, đo đạc, xử lý ảnh / video, nên nếu ai đó dụ bạn mua thì đừng mua nếu như bạn chưa rõ mình cần nó để làm gì nhé 😁

Quảng cáo

110 bình luận
Chia sẻ

Xu hướng

Prystal
ĐẠI BÀNG
4 năm
Em cũng làm một máy chấm công bằng face trên con này, Tối ưu DL hơi cực. RAM hơi yếu 😁
@laiviet Mình thấy có các IO nên mới có ý hỏi, để biết làm thế nào cotrol được IO đó?
Có vẻ bạn rành? Bạn có thể share 1 vài trang diển đàn ở Vietnam để mình tham khảo về nó.
nforce
TÍCH CỰC
4 năm
@nbqvdp Mấy cái này nên mua dạng card cắm vào board mẹ, nhiều thằng làm lắm và đạt chuẩn CN nha.
@nforce Đang mon men chơi vụ này, bạn biết chổ, địai chỉ cụ thể cho mình xin.
@nbqvdp Trong document của con Jetson có hướng dẫn để giao tiếp với IO đấy bạn, nên đọc document là được. Hoặc Google ra cũng nhiều
hoan-dn
ĐẠI BÀNG
4 năm
Công ty cũng đang dùng con này cho Face Reg. Sắp tới chuyển sang Xavier 😁
gazaphat
ĐẠI BÀNG
4 năm
Mod Luân có thể làm 1 bài so sánh rasperry, arduino và nvidia jetson để thấy sự khác nhau và nhu cầu của từng sản phẩm không?
Mình chỉ tìm hiểu lập trình nên muốn xem sản phẩm nào phù hợp với nhu cầu.
Cám ơn
Tune Pi
ĐẠI BÀNG
4 năm
@Duy Luân ích kỷ
@Duy Luân Anh em vẫn biết là cái kia dùng áp dụng để nhận diện/Xử lý hình ảnh như trên youtube bạn tìm và share. Nhưng ý nghĩa thực tế đang được áp dụng tại các doanh nghiệp nó lại khác hoàn toàn, nên anh em vẫn hóng share từ thực tiễn đó bác 😃)
@gazaphat Bác mới chỉ tìm hiểu lập trình thì máy tính là dư nhu cầu rồi. kể cả 3 cái bác nêu trên thì máy tính nó cũng giả lập tốt cho bác 😆
amd3k5
ĐẠI BÀNG
4 năm
Dùng nó kèm với 1 con camera làm camera an ninh, có thể nhận diện chuyển động cây cỏ, chó mèo và phân biệt người quen để khỏi báo động nhầm... được ko Duy Luân? Các camera security hiện nay đều báo động rất lung tung vì thiếu AI. Nếu làm được thì xin hướng dẫn chi tiết hơn. Cảm ơn DL nhé.
@jedi9 Dùng YOLO tiny 😁 được 12-13fps đấy
jedi9
TÍCH CỰC
4 năm
@Duy Luân tiny v4 lên được 39 fps rồi nhưng độ chính xác 40% thì có vẻ ko được security cho lắm =)) https://www.reddit.com/r/MachineLearning/comments/hu7lyt/p_yolov4tiny_speed_1770_fps_tensorrtbatch4/
@jedi9 Hmmm thật ra với ứng dụng mà mình đang làm, 40% là cũng được, vì nó cũng chỉ đếm object. Để xem thêm về v4, bữa h xài pre-trained của v3 không à 😆)
@amd3k5 bạn có biết lập trình ko? Nếu ko biết lập trình thì thua, mướn ai đó làm, còn nếu biết lập trình thì ko mất nhiều thời gian đâu, chừng vài tuần để ứng dụng những thư viện có sẵn, chỉnh sửa cho phù hợp & được rồi.
johorbaru
ĐẠI BÀNG
4 năm
hay qua.... cac giai phap AI cang ngay cang re do phan cung re
Ông không có tô vít nam châm ah 😆)
@bomduc Nhà mới chưa mua 😃)
@Duy Luân 😃) Nghĩ nó cực, ông mua cái tô vít có mô tơ mà vặn cho nhàn, nhưng nhẹ tay thôi cái nhỏ nhỏ thì vặn tay không nhờn ốc.
@bomduc Uh nhà mới còn phải mua thêm nhiều lắm
minhcanh4312
ĐẠI BÀNG
4 năm
thấy a có đề cập đến webcam a cho e hỏi hdh tizen os của samsung trên tivi có cách nào cài Facebook và cho nó gọi video dk không anh
@minhcanh4312 Ông lắp 1 con pc khủng cắm thêm dây dài ra tivi vừa chơi games vừa facebook tẹt. Thêm cái screen saver video bể cá, ẩn tivi vào trong tường, lúc không dùng nó thành bể cá.
minhcanh4312
ĐẠI BÀNG
4 năm
@bomduc có đường link kểu thiết kế tivi bể cá gì ko anh .chứ sd thêm pc thì em biết ak .ý e là ko cần thêm pc chỉ sài hdh của tivi thôi ak
minhcanh4312
ĐẠI BÀNG
4 năm
@bomduc ak screen của tivi có sẵn cho nó chạy video hả bác
@minhcanh4312 uh 😆 vui mắt.
Công ty mình cũng sử dụng mấy con Jetson này để làm nhận diện khuôn mặt 😁
@BlackBerryz 😆 Thế có chuẩn không, chính ra mua con Iphone tháo ra lắp vào nhận diện nhanh mà chuẩn nhất.
@bomduc Ý bác là Face ID hả, nếu là Face ID thì chưa có đủ tuổi đâu bác 😆
@bomduc Chuẩn chứ 😁
nguoikhach90
ĐẠI BÀNG
4 năm
Xem video mà nhìn thấy bạn Duy Luân vặn mấy con ốc thôi mà toát hết cả mồ hôi 😁
@nguoikhach90 Cái tua vít cùi quá + tay to huhu
ngoanrazo
TÍCH CỰC
4 năm
Giá cũng rẻ nhỉ
Với bộ của mod giới thiệu mình muốn ứng dụng trong công nghiệp tự động hóa thì cần các món đồ sau:
1. Màn hình cảm ứng để tương tác
2. Có các cổng input, output digital (on/off các cổng)
3. Cổng analog input và output
4. Giao tiếp truyển thông các chuẩn modbus rtu, modbus tcp/ip
5. Dùng làm server để chưa web
6. Và cuối cùng phần mềm nào xử lí hết các yêu cầu trên? Cơ chế nó giống arduino?
@huybm Cám ơn bạn đã tạm khai sáng.
Không như mình tưởng. Giống các board arduino, có phần mềm tương ứng arduino đi kèm mới điều khiển phần cứng được.
- Bạn có biêt tên phần mềm để điều khiển card NVIDIA Jetson Nano?
laiviet
TÍCH CỰC
4 năm
@nbqvdp Jetson nó chạy đc Linux luôn bác, nên nó như một cái máy tính thực thụ. Bác thích code gì thì code
@nbqvdp Nó là linux, đã nói trong bài rồi. LINUX. Bạn muốn chạy phần mềm gì trên đó là chuyện của bạn. Mình cũng có nói trong video rồi, nó là một cái máy tính bạn muốn làm gì thì làm. Bạn muốn code bằng Python, bằng C, bằng JS... hay cái gì cũng được.

Còn chi tiết hơn, thì viết nó ra trên tinhte là không phù hợp vì đối tượng quan tâm rất ít, này bạn tự Google hoặc coi trên trang chủ NVIDIA nhé
@laiviet Cám ơn bạn đã nhiệt tình trả lới.
Mình tưởng giống arduino, có phần mềm riêng code cho nó.
Phải có gì đó để code chớ?
Vãi cả video đàn ông với nghịch đồ đàn ông 😁
Foxbit
ĐẠI BÀNG
4 năm
Mình cũng thích con này,. Đang dùng Raspberry Pi4 8GB + Google USB Coral nhưng có vẻ hơi đuối cho các ứng dụng A.I khi triển khai thực tế, để nghiên cứu thì được.
@hoangtu_jedi Mới biết con này 😁 Hay ho phết, mà chắc đoạn interface sẽ cần điều chỉnh chút. Dùng với hàng google thì chắc tối ưu cho Tensorflow
Foxbit
ĐẠI BÀNG
4 năm
@Duy Luân Đúng rồi bạn, dùng Tensorflow nhưng có vẻ cũng đuối, không realtime mượt được. Chắc phải chuyển qua jetson thử.
@hoangtu_jedi Sure, chắc chắn không thể ngon bằng 1 con chuyên sinh ra để làm CV
cứ mỗi năm nvi ra sp ,thì lượt view lại tăng vài triệu : )))

mà vision thì gãi đúng chỗ ngứa của python 😁
@kixx Fuck you NVIDIA 😆) Mà dạo này NVIDIA cũng xài Linux nhiều rồi hahaha, chứ không thì không được đón nhận bởi cộng đồng làm CV hay AI
Hóng anh Luân trên tay con NVIDIA DGX A100
bozvot
ĐẠI BÀNG
4 năm
Nghe có vẻ AI nhưng thực tế lại rất OpenCV =))
@bozvot Lại chẳng đúng
Mod Duy Luân cho xin link mua Kit với Case nhé! Đang cần triển khai cho khách hàng mà khách hàng ko muốn data gửi lên cloud. Thk mod
@Bùi Thiện FTI Mình mua ở đây: https://www.proe.vn

Có nhiều phụ kiện lắm, bạn tha hồ mua 😆
Hiểu biết lập trình vọc mấy e kit này vui lắm nhỉ, tiếc là mình ko rành chỉ biết đọc xem

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019