Trên tay Developer Kit NVIDIA JETSON Xavier AGX cho các tác vụ AI
trong1610
6 thángBình luận: 0
Xin chào những ai quan tâm với lĩnh vực trí tuệ nhân tạo AI , đặc biệt là Computer Vision ( Thị giác máy tính). Như mọi người đã biết , lĩnh vực này đang là một trong những đề tài được quan tâm và phát triển nhiều nhất bởi các công ty công nghệ. Ứng dụng của Computer Vision phải kể đến là về xe tự hành , máy bay không người lái hay các hệ thống giám sát nhận diện khuôn mặt bằng AI. Trong bài viết này mình xin giới thiệu một nền tảng hardware đến từ NVIDIA có thể giúp các lập trình viên tiếp cân với Computer Vision để thử nghiệm hoặc build sản phẩm từ AI dễ dàng hơn
NVIDIA Jetson là một family của NVIDIA bao gồm Jetson Nano, Xavier NV, Xavier AGX. Nền tảng NVIDIA Drive dùng cho các xe tự lái của Tesla hay Mercedes cũng có cấu trúc tương tự. NVIDIA Jetson là các bo mạch hay được gọi là developer kit sở hữu sức mạnh đồ họa mạnh và được tối ưu cho các tác vụ xử lý hình ảnh. Trên tay mình đang có developer kit Jetson Xavier AGX cũng là một trong những bộ kit sở hữu sức mạnh đồ họa lớn nhất trong họ Jetson này.

AGX chứa đựng tất cả phần cứng của máy tính trong một module nhỏ gọn bao gồm power supply, tản nhiệt và quan trọng hơn hết là bo mạch chủ. Các cổng kết nối bao gồm USB-C 3.1 , HDMI, cổng kết nối đặc biệt cho cmaera MIPI CSI-2 và các đầu kết nối thông dụng 40 pins GPIO


Về cấu hình , thiết bị nãy sỡ hữu 512 Tensor Cores GPU, 8 Core CPUS ARM với 1 bộ nhớ đệm L2 8MB và L3 4 MB. Bộ nhớ trong là 32GB có thể mở rộng bằng ổ SSD NVMe. Cấu hình chi tiết ở dưới đây
GPU512-core Volta GPU with Tensor Cores
CPU8-core ARM v8.2 64-bit CPU, 8MB L2 + 4MB L3

Quảng cáo


Memory32GB 256-Bit LPDDR4x | 137GB/s
Storage32GB eMMC 5.1
DL Accelerator(2x) NVDLA Engines
Vision Accelerator7-way VLIW Vision Processor
Encoder/Decoder(2x) 4Kp60 | HEVC/(2x) 4Kp60 | 12-Bit Support
Size105 mm x 105 mm x 65 mm
DeploymentModule (Jetson AGX Xavier)
Chip của Jetson Xavier theo NVIDIA thì đây là một trong những con chip SoC lớn và phức tạp nhất hiện nay. Với 9 tỉ bán dẫn với kích thước 350 nm2 mang đến tổng sức mạnh cho tác vụ xử lí đồ hoạc là 22.6 8-bit TOP hoặc 11.3 FP16 TOP. Trong quá trình sử dụng cho các dự án của mình thì mình không gặp trở ngại gì. Ở các tác vụ nhận dạng hình ảnh như người và vất , thiết bị cho FPS khá tốt sau khi inference ( Một tác vụ analyze và phát hiện các chủ thể trong bức ảnh).

Ngoài ra việc NVDIA cung cấp cho các developer các framework giúp việc lập trình các ứng dụng và train các AI model, trở nên đơn giản bao giờ hết. NVIDIA cung cấp các model đã được train sẵn nên bạn có thể deploy lên AGX để thử nghiệm ngay mà không cần phải tự train vì quy trình này đỏi hỏi một hệ thống máy tính khá mạnh mà nhiều người có thể không tiếp cận được. Các model có sẵn cho phép thiết bị có thể phát hiện các vật thể thông dụng như người ,xe hơi từ đó tích hợp vào các ứng dụng của riêng mình như camera thông minh, xe tự hành.
Một dự án trong trường học mà mình đang làm là phát triển một drone có thể phát hiện và cứu người chết đuối. Qua một số thử nghiệm với các video thu thập được thì hệ thống cho tốc độ xử lý khá tốt. Mình dùng framework Yolo v5 để train AI Model rồi dùng library TensorRT của NVIDIA cung cấp để tối ưu hóa phần mềm với phần cứng của Jetson AGX thì cho kết quả rất khả quan. FPS 28 có thể cho phép drone mình bay với tốc độ 50-60 dặm một giờ nhưng vẫn detect được object tốt mà không bị trễ khung hình.

Jetson AGX khá nhỏ gọn nên có thể tích hợp vào thân máy bay không người lái, xe tự hành hay các thiết bị tự hành khác mà không gặp trở ngại gì. Tuy nhiên AGX khác nặng nên trọng lượng của các thiết bị vận hành bằng pin phải được tính toán kĩ để đạt được thời gian on flight tối ưu nhất. Còn rất nhiều thứ để nói về bộ kit này nhưng có lẽ phải đợi post kế tiếp
Nguồn: Cyberspacevn.com








  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2022 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02862713156
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019