工具套件
NVIDIA JetPack
NVIDIA JetPack是NVIDIA專為其Jetson系列嵌入式AI和運算平台開發的軟體開發工具包。JetPack包含了操作系統、CUDA工具包、深度學習、視覺庫、加速編解碼工具等軟體組件,使開發者能夠高效地在Jetson設備上開發、部署和優化AI應用。NVIDIA Jetpack提供預先建構的雲端原生軟體服務,可加速開發和部署精密的邊緣人工智慧應用環境,例如生成式人工智慧、電腦視覺和先進的機器人。
JetPack的主要功能
- 操作系統:基於Ubuntu Linux 的自定義操作系統。
- CUDA:支援高性能並行計算的NVIDIA CUDA 工具包。
- 深度學習框架:預裝了TensorFlow、PyTorch等流行的深度學習框架。
- 電腦視覺運算:包含OpenCV和VisionWorks等 電腦視覺庫。
- 多媒體處理:提供加速的視頻和音訊編解碼工具。
- 工具和範例:包括各種開發和調試工具,以及範例代碼和應用程序。
JetPack 的功能與優勢
- 全方位的開發支持:JetPack含了操作系統(Ubuntu)、CUDA工具包、TensorRT、cuDNN、深度學習和電腦視覺庫等。這些組件使得開發者可以從設備驅動層到應用層進行全方位的開發。
- 優化和加速:它提供了針對Jetson平台的深度學習推理加速技術,比如TensorRT 和DeepStream SDK,這些技術能夠顯著提升AI模型在邊緣設備上的性能。
- 機器學習支持:JetPack支持各種常用的機器學習框架,如TensorFlow、PyTorch和ONNX Runtime,使得開發者能夠在Jetson設備上快速部署和優化模型。
- 多媒體支援:JetPack包含了一些多媒體處理工具,如NVIDIA的Jetson多媒體API,它們支援高效的視訊編碼、解碼和圖像處理。
- 豐富的開發工具:包含了許多開發和調試工具,比如Nsight Systems和Nsight Graphics,幫助開發者進行性能分析和圖形應用的調試。
- 跨平台支持:JetPack讓開發者可以輕鬆地從桌面系統轉移到嵌入式系統,並在多個Jetson平台上進行開發和部署,包括Jetson Xavier NX、Jetson AGX Xavier和Jetson Nano。
JetPack SDK安裝和設定
NVIDIA SDK Manager是一款一體化工具,捆綁了開發人員軟體,並為 NVIDIA SDK提供點對點的開發環境設定解決方案。
更多詳細資訊,請瀏覽如何安裝與設定 JetPack SDK
NVIDIA Jetson Linux 36.3
Jetson Linux 36.3 是一個生產品質版本,支援所有 Jetson AGX Orin、Jetson Orin NX 和 Jetson Orin Nano生產模組以及Jetson AGX Orin 開發人員套件和 Jetson Orin Nano開發人員套件。它包括 Linux核心 5.15、基於Ubuntu 22.04 的根檔案系統、基於UEFI 的引導程式以及作為可信任執行環境的OP-TEE。
更多詳細資訊,請瀏覽Jetson Linux開發人員指南
Jetson平台的雲端原生 (Cloud-native)
NVIDIA Jetson的雲端原生大大提升了邊緣AI設備的開發效率和靈活性。透過容器編排(container orchestration)、Kubernetes和Metropolis微服務,開發者可以更快地構建、部署和擴展他們的AI應用。NVIDIA 提供了豐富的資源和工具來支援這一過程,使Jetson成為邊緣AI開發的強大平台。
更多詳細資訊,請瀏覽NVIDIA Jetson Cloud-Native頁面
Jetson平台服務
NVIDIA Jetson平台服務為邊緣AI設備的開發提供了強大的支援,透過雲端原生技術和全面的開發工具,簡化了AI應用的部署和管理過程。它適用於多種應用場景,幫助開發者在邊緣環境中高效地實現複雜的AI工作負載。
Jetson平台服務包含:
- 超過15種服務,包括生成式AI服務、基礎服務等
- 用於視覺語言模型和零樣本檢測的串流生成AI服務,具有用於動態提示和串流更新的API
- 基於DeepStream的AI感知服務,用於物件偵測和跟踪,並使用API進行串流更新
- 支援RTSP和WebRTC等串流協定的媒體管理和存儲服務
- IoT閘道、API閘道、監控與系統匯流排等核心基礎服務
- 用於安全邊緣到雲端連線和遠端API呼叫的IoT服務
更多詳細資訊,請瀏覽 NVIDIA Jetson平台服務頁面。