NVIDIA Jetson

NVIDIA Jetson je rodina vestavěných (embedded) výpočetních platforem od společnosti NVIDIA, navržených specificky pro Edge AI (umělou inteligenci na okraji sítě). Jedná se o výkonné systémy na modulu (SoC), které kombinují procesory ARM s vysoce výkonnými grafickými čipy (GPU) architektury NVIDIA.

Hlavním přínosem Jetsonu je schopnost spouštět moderní modely hlubokého učení lokálně, s nízkou spotřebou energie, bez nutnosti odesílat data ke zpracování do cloudu (např. na GCP).

Architektura a technologie

Klíčem k výkonu Jetsonu je sdílená paměťová architektura mezi CPU a GPU a přítomnost specializovaných jader:

CUDA Cores: Tisíce malých jader pro paralelní výpočty, která urychlují grafiku a matematické operace.
Tensor Cores: Specializovaný hardware pro násobení matic, což je základní operace neuronových sítí. Drasticky zrychluje trénování a inferenci AI.
NVDLA (NVIDIA Deep Learning Accelerator): Dedikovaný čip pro energeticky efektivní běh AI modelů.

Hlavní produktové řady

Řada	Cílové použití	Výkon (AI)
Jetson Nano	Výuka, základní robotika, chytré kamery.	472 GFLOPS
Jetson TX2	Průmyslové drony, pokročilé brány IoT.	1.3 TFLOPS
Jetson Xavier	Autonomní stroje, doručovací roboti.	Až 32 TOPS
Jetson Orin	Špičková robotika, autonomní vozidla, lékařské přístroje.	Až 275 TOPS

Softwarový ekosystém: NVIDIA JetPack

Hardware Jetsonu by byl nevyužitelný bez softwarového balíku JetPack SDK, který obsahuje:

Linux for Tegra (L4T): Operační systém založený na Ubuntu.
CUDA Toolkit: Pro vývoj aplikací využívajících GPU.
TensorRT: Knihovna pro vysoce výkonnou inferenci (běh) neuronových sítí, která optimalizuje modely pro konkrétní hardware Jetsonu.
cuDNN: Knihovna primitiv pro hluboké neuronové sítě.

Praktické využití v AI

Autonomní drony: Zpracování obrazu z kamer v reálném čase pro vyhýbání se překážkám bez latence internetu.
Inteligentní video analýza (IVA): Sledování počtu osob, detekce obličejů nebo rozpoznávání SPZ přímo v kameře.
Průmysl 4.0: Automatická kontrola kvality na výrobních linkách pomocí počítačového vidění.
Zdravotnictví: Přenosné diagnostické přístroje využívající AI k okamžité analýze snímků.

Srovnání: Jetson vs. Raspberry Pi

Zatímco obě zařízení jsou SBC na bázi ARM, Jetson je v oblasti AI řádově výkonnější díky svému GPU. Raspberry Pi postrádá Tensor jádra, a proto je pro náročné modely (jako detekce objektů v 60 FPS) nevhodné, zatímco Jetson tyto úlohy zvládá s rezervou.

— Související pojmy: Hluboké učení, SBC, SoC, Architektura ARM, TSMC (výrobce čipů NVIDIA)