Menjalankan CV di edge itu soal keseimbangan: akurasi vs latensi, performa vs konsumsi daya, dan stabilitas jangka panjang. Berikut checklist produksi agar deployment Jetson berjalan mulus.
Performa Model & Optimisasi
- Export ke ONNX → TensorRT, uji FP16/INT8 (kalibrasi representatif).
- Profil latensi p50/p95 & throughput di resolusi produksi.
- Gunakan batch kecil (1–4) untuk real-time; hindari jitter.
- Kurangi post-processing berat; pilih arsitektur anchor-free bila cocok.
Power & Thermal
- PSU stabil + headroom 30%; gunakan UPS jika perlu.
- Pastikan heatsink/fan memadai; uji throttling pada ambient tinggi.
- Set nvpmodel sesuai target konsumsi & performa.
Penyimpanan & Media
- Pakai media yang industrial-grade (eMMC/SSD) untuk write endurance.
- Rotasi log & batasi retensi; pisahkan partisi untuk data & OS.
- Hati-hati dengan corruption saat power loss; pertimbangkan journaling FS.
OS, Kernel, dan Driver
- Lock versi L4T/JetPack; dokumentasikan dependency.
- Uji kompatibilitas kamera (V4L2/GStreamer), codec, dan driver.
- Nonaktifkan servis yang tidak perlu untuk mengurangi jitter.
Deployment & Update
- Gunakan container (Docker) untuk reproduktibilitas.
- Siapkan OTA update dengan rollback aman.
- Konfigurasikan device provisioning & identitas unik per node.
Observabilitas
- Log terstruktur + metrics (latensi, fps, suhu, memori/VRAM).
- Tracing untuk jalur kritikal (capture → inferensi → output).
- Alarm/alert untuk anomali (drop FPS, suhu tinggi, kamera offline).
Reliability & Fallback
- Mode degradasi: turunkan resolusi/model bila resource menipis.
- Auto-restart untuk proses penting; watchdog kesehatan.
- Buffer antrian & retry untuk output ke jaringan tidak stabil.
Keamanan
- Aktifkan secure boot / signed image bila memungkinkan.
- Enkripsi at-rest (data sensitif) & in-transit (TLS); harden SSH.
- Least-privilege untuk servis & container; audit log akses.
Checklist Ringkas
- Model ONNX→TensorRT (FP16/INT8) ✔
- Profil latensi/throughput di hardware target ✔
- Power supply + UPS ✔
- Heatsink/fan memadai, uji throttling ✔
- Media storage industrial-grade ✔
- Rotasi log & retensi ✔
- Lock JetPack & dependency ✔
- Containerized + OTA rollback ✔
- Metrics/Tracing/Alert aktif ✔
- Degraded mode & watchdog ✔
- Secure boot / TLS / hardening ✔
- Provisioning identitas per device ✔
Uji soak test minimal 24–72 jam untuk menangkap issue laten (memory leak, thermal creep, network flap).
FAQ
Model apa yang cocok untuk Jetson Nano/Orin Nano? Mulai dari varian YOLO ringan (quantized). Untuk kasus kompleks, pertimbangkan varian transformer yang dioptimalkan—uji trade-off latensi.
Butuh GPU eksternal? Tidak untuk Jetson. Namun untuk training atau orchestrasi skala besar, gunakan server/GPU cloud.
Bagaimana jika kamera sering putus? Tambahkan health check per stream, retry backoff, dan alarm; log reason code (device, kabel, driver).