工具套件 – JetPack

工具套件

NVIDIA JetPack

NVIDIA JetPack是NVIDIA專為其Jetson系列嵌入式AI和運算平台開發的軟體開發工具包。JetPack包含了操作系統、CUDA工具包、深度學習、視覺庫、加速編解碼工具等軟體組件,使開發者能夠高效地在Jetson設備上開發、部署和優化AI應用。NVIDIA Jetpack提供預先建構的雲端原生軟體服務,可加速開發和部署精密的邊緣人工智慧應用環境,例如生成式人工智慧、電腦視覺和先進的機器人。

JetPack的主要功能

  •  操作系統:基於Ubuntu Linux 的自定義操作系統。
  •  CUDA:支援高性能並行計算的NVIDIA CUDA 工具包。
  •  深度學習框架:預裝了TensorFlow、PyTorch等流行的深度學習框架。
  •  電腦視覺運算:包含OpenCV和VisionWorks等 電腦視覺庫。
  •  多媒體處理:提供加速的視頻和音訊編解碼工具。
  •  工具和範例:包括各種開發和調試工具,以及範例代碼和應用程序。

JetPack 的功能與優勢

  • 全方位的開發支持:JetPack含了操作系統(Ubuntu)、CUDA工具包、TensorRT、cuDNN、深度學習和電腦視覺庫等。這些組件使得開發者可以從設備驅動層到應用層進行全方位的開發。
  • 優化和加速:它提供了針對Jetson平台的深度學習推理加速技術,比如TensorRT 和DeepStream SDK,這些技術能夠顯著提升AI模型在邊緣設備上的性能。
  • 機器學習支持:JetPack支持各種常用的機器學習框架,如TensorFlow、PyTorch和ONNX Runtime,使得開發者能夠在Jetson設備上快速部署和優化模型。
  • 多媒體支援:JetPack包含了一些多媒體處理工具,如NVIDIA的Jetson多媒體API,它們支援高效的視訊編碼、解碼和圖像處理。
  • 豐富的開發工具:包含了許多開發和調試工具,比如Nsight Systems和Nsight Graphics,幫助開發者進行性能分析和圖形應用的調試。
  • 跨平台支持:JetPack讓開發者可以輕鬆地從桌面系統轉移到嵌入式系統,並在多個Jetson平台上進行開發和部署,包括Jetson Xavier NX、Jetson AGX Xavier和Jetson Nano。

NVIDIA JetPack 6.0 堆疊

JetPack SDK安裝和設定

NVIDIA SDK Manager是一款一體化工具,捆綁了開發人員軟體,並為 NVIDIA SDK提供點對點的開發環境設定解決方案。

更多詳細資訊,請瀏覽如何安裝與設定 JetPack SDK

NVIDIA Jetson Linux 36.3

Jetson Linux 36.3 是一個生產品質版本,支援所有 Jetson AGX Orin、Jetson Orin NX 和 Jetson Orin Nano生產模組以及Jetson AGX Orin 開發人員套件和 Jetson Orin Nano開發人員套件。它包括 Linux核心 5.15、基於Ubuntu 22.04 的根檔案系統、基於UEFI 的引導程式以及作為可信任執行環境的OP-TEE。

Jetson Linux 36.x

更多詳細資訊,請瀏覽Jetson Linux開發人員指南

Jetson平台的雲端原生 (Cloud-native)

NVIDIA Jetson的雲端原生大大提升了邊緣AI設備的開發效率和靈活性。透過容器編排(container orchestration)、Kubernetes和Metropolis微服務,開發者可以更快地構建、部署和擴展他們的AI應用。NVIDIA 提供了豐富的資源和工具來支援這一過程,使Jetson成為邊緣AI開發的強大平台。

Jetson平台的雲端原生工作流程

更多詳細資訊,請瀏覽NVIDIA Jetson Cloud-Native頁面

Jetson平台服務

NVIDIA Jetson平台服務為邊緣AI設備的開發提供了強大的支援,透過雲端原生技術和全面的開發工具,簡化了AI應用的部署和管理過程。它適用於多種應用場景,幫助開發者在邊緣環境中高效地實現複雜的AI工作負載。

Jetson平台服務架構圖

Jetson平台服務包含:

  • 超過15種服務,包括生成式AI服務、基礎服務等
  • 用於視覺語言模型和零樣本檢測的串流生成AI服務,具有用於動態提示和串流更新的API
  • 基於DeepStream的AI感知服務,用於物件偵測和跟踪,並使用API進行串流更新
  • 支援RTSP和WebRTC等串流協定的媒體管理和存儲服務
  • IoT閘道、API閘道、監控與系統匯流排等核心基礎服務
  • 用於安全邊緣到雲端連線和遠端API呼叫的IoT服務

更多詳細資訊,請瀏覽 NVIDIA Jetson平台服務頁面