NVIDIA Jetson : 아키텍처, 작업 및 애플리케이션

문제를 제거하기 위해 도구를 사용해보십시오





NVIDIA Jetson과 같은 세계 최고의 플랫폼은 주로 자율 기계 및 기타에 사용되는 일련의 임베디드 컴퓨팅 보드입니다. 임베디드 애플리케이션 . 이 보드에는 주로 고성능 컴퓨터인 Jetson 모듈이 포함되어 있습니다. Jetson은 다른 NVIDIA 플랫폼에서 사용되는 유사한 AI 소프트웨어 및 클라우드 네이티브 워크플로에 매우 적합하며 고객이 소프트웨어 기반 자율 머신을 구축할 수 있도록 전력 효율적인 성능을 제공합니다. NVIDIA Jetson은 컴퓨터 비전 애플리케이션에 사용됩니다. 따라서 이 기사에서는 NVIDIA Jetson의 작동 및 응용 프로그램에 대한 개요를 설명합니다.


NVIDIA Jetson이란 무엇입니까?

NVIDIA Jetson은 고급 임베딩 시스템 여러 산업 분야에서 혁신적인 AI 제품을 만드는 데 사용되는 보드입니다. NVIDIA Jetson은 기술 애호가와 학생들이 다양한 혁신적인 AI 프로젝트를 통해 실습 경험을 얻는 데 매우 유용한 선도적인 하드웨어 플랫폼 중 하나입니다. 이 보드는 모듈형, 소형 폼 팩터 및 고성능 에지 컴퓨터를 포함하는 AI를 위한 매우 효율적인 보드입니다. 또한 이 보드에는 소프트웨어 가속에 사용되는 JetPack SDK와 맞춤형 AI 프로젝트의 개발 절차를 늘리는 데 도움이 되는 완전한 에코시스템도 포함되어 있습니다.



  NVIDIA Jetson 모듈
NVIDIA Jetson 모듈

NVIDIA Jetson 아키텍처

우리는 Nvidia의 Nvidia Jetson 모듈이 일련의 임베디드 컴퓨팅 보드라는 것을 알고 있습니다. Jetson TX1, TX2 및 TK1의 모든 모델에는 ARM 아키텍처 CPU를 통합하는 Nvidia의 SoC 또는 Tegra 프로세서가 탑재되어 있습니다. 여기서 Jetson은 주로 기계 학습 애플리케이션을 가속화하도록 설계된 저전력 시스템입니다.

NVIDIA Jetson Xavier NX 아키텍처는 아래와 같습니다. 에지 컴퓨팅 장치에 사용되는 가장 진보된 소형 AI 슈퍼컴퓨터입니다. 자율 로봇 . 이 모듈은 견고한 70x45mm 폼 팩터 내에 서버급 성능을 배치할 수 있는 용량이 있으며 15W 미만의 전력에서 최대 21 TOPS의 컴퓨팅을 제공하거나 10W 미만에서 최대 14 TOPS의 컴퓨팅을 제공합니다.



  NVIDIA Jetson Xavier NX 아키텍처
NVIDIA Jetson Xavier NX 아키텍처

위 다이어그램에는 통합된 384코어 NVIDIA Volta가 포함되어 있습니다. GPU 6코어 NVIDIA Carmel ARMv8.2 64비트 CPU, 48 Tensor 코어, 8GB 128비트 LPDDR4x, 4K 비디오 인코더 및 디코더, 듀얼 NVDLA(NVIDIA Deep Learning Accelerator) 엔진, 최대 6개의 순간 고해상도 카메라 센서 스트림, 듀얼 디스플레이 포트 또는 HDMI 4K 디스플레이, PCIe 3세대 확장, I2C, SPI, I2S, UART 및 CAN 버스가 있는 USB 3.1 및 GPIO.

NVIDIA Jetson의 사양은 다음과 같습니다.

  PCBWay
  • 전원은 10W 또는 15W 모드와 5V 입력입니다.
  • CPU는 1400MHz에서 6코어 NVIDIA Carmel 64비트 ARMv 8.2입니다.
  • GPU는 48개의 Tensor 코어를 통해 1100MHz에서 384코어 NVIDIA Volta입니다.
  • DL은 듀얼 NVDLA 엔진입니다.
  • 메모리는 1600MHz에서 8GB 128비트 LPDDR4x입니다.
  • 16GB eMMC 5.1 스토리지.
  • 카메라는 12x MIPI CSI-2 레인입니다. | 3×4 또는 6×2 카메라.
  • 최대 6대의 카메라(가상 채널을 통한 36대).
  • -25°C ~ 90°C의 열.
  • 디스플레이는 4Kp60에서 DP 1.4 또는 eDP 1.4 또는 HDMI 2.0 a/b입니다.
  • 이더넷은 10 또는 100 또는 1000 BASE-T 이더넷입니다.
  • USB 3.1 및 USB 2.0.

이 모듈은 NVIDIA의 전체 CUDA-X 소프트웨어 스택과 AI 개발용 JetPack SDK에서 지원됩니다. 완전한 데스크톱 Linux 환경 내에서 실시간 컴퓨터 비전, 그래픽 및 멀티미디어 응용 프로그램 외에도 여러 고해상도 센서 스트림에서 한 번에 매우 인기 있는 기계 학습 프레임워크 및 어려운 DNN을 실행합니다.

현재 개발자들은 Jetson AGX Xavier 개발자 키트의 도움을 받아 Jetson Xavier NX용 AI 애플리케이션을 설계하기 시작했습니다. JetPack 근처에 장치 패턴 패치를 적용하면 장치가 Jetson Xavier NX로 작동합니다. 이것은 소프트웨어를 통해 얻을 수 있는 GPU 및 CPU 코어의 수를 수정하고 시스템 전체의 코어 전압과 클록 주파수를 설정합니다.

이 패치는 Jetson Xavier NX 성능을 근사화하는 데 활용되는 완전히 뒤집을 수 있습니다. 이 모듈은 활성 모드를 기반으로 14~21 TOPS 피크 성능을 달성하는 10W 및 15W의 기본 전력 모드를 분류합니다. nvpmodel 도구는 다양한 CPU 클러스터와 함께 GPU, CPU, 기타 SoC 클록 및 메모리 컨트롤러에 대한 최고 CLK 주파수를 조정하기 위해 전원 프로필을 처리하는 데 사용됩니다.

워크로드에 따라 DVFS(Dynamic Voltage & Frequency Scaling) 거버너는 활성 nvpmodel에 설명된 대로 런타임의 주파수를 최대 제한까지 균형을 유지하므로 유휴 상태 및 프로세서 작동에 따라 전력 사용이 감소합니다. nvpmodel 도구는 TDP 및 애플리케이션 요구 사항을 기반으로 새로운 전원 모드를 만들고 수정하는 데 도움이 됩니다.

NVIDIA Jetson 모듈은 소형 폼 팩터 SOM(system-on-module) 내에서 슈퍼컴퓨터의 성능을 에지로 가져옵니다. 가속 컴퓨팅의 21 TOPS에 해당하는 성능으로 현재 신경망을 병렬로 실행하고 다양한 고해상도 센서의 데이터를 처리할 수 있습니다. 이 모듈은 의료 기기, 상업용 로봇, AIoT 임베디드 시스템, 스마트 카메라, 자동 광학 검사, 고해상도 센서, 스마트 공장 등과 같은 고성능 기반 AI 시스템에 이상적입니다.

소프트웨어

NVIDIA Jetson 모듈은 결합된 소프트웨어 아키텍처를 통해 간단하게 지원되므로 소프트웨어 개발자의 작업이 훨씬 쉬워집니다. 이 결합된 접근 방식은 개발자가 다른 Jetson 모듈의 구성을 개선하면서 반복적인 코딩의 번거로움을 줄여줍니다.

NVIDIA JetPack SDK는 컴퓨터 비전, 딥 러닝 등과 같은 다양한 기계 학습 분야를 위한 Linux OS, CUDA-X 가속 라이브러리 및 API와 함께 사용할 수 있습니다. 또한 Caffe, TensorFlow, Keras 및 OpenCV 컴퓨터 비전과 같은 기계 학습 프레임워크를 지원합니다. 도서관.
NVIDIA Jetson은 아래에서 설명하는 모듈에 대해 다양한 소프트웨어 도구를 제공합니다.

엔비디아 제트팩 SDK

TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV 및 Visionworks와 같은 Jetson 플랫폼 소프트웨어 번들은 모두 LTS Linux 커널을 통해 L4T 위에 조립됩니다.

NVIDIA Jetson Linux 드라이버 패키지

플랫폼 Jetson을 위한 Linux 커널, NVIDIA 드라이버, 부트로더, 샘플 파일 시스템, 플래싱 유틸리티 등을 제공합니다.

엔비디아 딥스트림 SDK

개발자가 Jetson 플랫폼에서 강력한 IVA(지능형 비디오 분석) 솔루션을 설계하고 준비하는 데 도움이 되는 일련의 API 및 라이브러리입니다. 인코딩, 이미지 캡처, 디코딩, TensorRT를 사용한 추론 등과 같은 복잡한 애플리케이션을 구축하는 데 사용됩니다.

엔비디아 아이작 SDK

탐색, 인식 및 조작을 위해 차세대 로봇에 AI를 추가하는 라이브러리, API, 드라이버 및 기타 도구 세트입니다. 따라서 AI 기반 로봇을 만들고 배포하는 데 도움이 됩니다.

NVIDIA Jetson 유형

NVIDIA Jetson 모듈에는 메모리, GPU, CPU, 고속 인터페이스, 전원 관리 등이 함께 제공됩니다. 이러한 모듈은 다양한 성능, 전력 효율성 및 다양한 폼 팩터로 제공되어 다양한 산업에서 활용할 수 있습니다. 아래에서 설명하는 다양한 NVIDIA Jetson 장치를 사용할 수 있습니다.

엔비디아 젯슨 나노

NVIDIA Jetson Nano 모듈은 주로 실습 학습 및 교육을 위해 설계되었기 때문에 개발자나 학생 및 초보자에게 적합합니다. 이 모듈의 크기는 작지만 전력 효율과 성능이 높아 현재 여러 개의 병렬 신경망, AI 워크로드 및 고해상도 센서의 데이터 처리를 한 번에 모두 실행할 수 있습니다. 따라서 Jetson Nano 모듈은 임베디드 AI 제품 및 솔루션을 만드는 데 사용되는 매우 인기 있는 에지 장치입니다.

  엔비디아 젯슨 나노
엔비디아 젯슨 나노

이 모듈은 AI 기반 컴퓨터 비전 애플리케이션에 적합하며 물체 감지, 이미지 분할, 이미지 분류 등과 같은 AI 비전 작업을 수행합니다. 이 모듈은 오픈 소스 컴퓨터 비전 소프트웨어 및 OpenCV 기계 학습 라이브러리와 매우 호환됩니다.

엔비디아 젯슨 TX2 시리즈

NVIDIA Jetson TX2 시리즈 모듈은 신용카드 크기로 설계되었습니다. 이 모듈의 기능에는 주로 NVIDIA Pascal GPU, 최대 8GB 메모리, 59.7GB/s의 메모리 대역폭 및 표준 하드웨어 인터페이스가 포함됩니다. 이 모듈은 NVIDIA Jetson Nano 모듈에 비해 최대 2.5배의 성능을 제공합니다.

이 모듈은 에지 장치에서 심층 신경망을 매우 효율적으로 실행하여 더 높은 정확도를 달성합니다. 이 시리즈에서 사용할 수 있는 모듈에는 주로 Jetson TX2 4GB, Jetson TX2i, Jetson TX2 및 Jetson TX2 NX가 포함됩니다. NVIDIA Jetson TX2 NX 모듈은 Jetson Xavier NX 및 Jetson Nano를 통해 핀 및 폼 팩터 호환성을 공유합니다.

  엔비디아 젯슨 TX2 시리즈
엔비디아 젯슨 TX2 시리즈

나머지 3개 모듈은 원래 Jetson TX2 모듈의 폼 팩터를 공유합니다. TX2 시리즈의 용도는 농업, 제조, 생명 과학, 소매 등과 같은 다양한 산업에 걸쳐 있습니다. 나머지 모듈의 Jetson TX2i 모듈은 의료 장비, 머신 비전 카메라 및 산업용 로봇과 같은 고성능 AI 장치에 가장 적합합니다. 그것의 강한 디자인의.

이 모듈은 7.5W와 같은 높은 전력 효율성, 주로 에지 AI 장치를 위한 슈퍼컴퓨터 기능, 다양한 제품 및 폼 팩터에 쉽게 통합할 수 있는 다양한 하드웨어 인터페이스를 제공하는 매우 빠른 임베디드 AI 컴퓨팅 어플라이언스입니다.

엔비디아 젯슨 자비에 NX

NVIDIA Jetson Xavier NX 모듈은 고성능 및 전력 효율성을 갖춘 신용 카드에 비해 매우 작습니다. 이는 세계에서 가장 작은 에지 및 임베디드 시스템용 AI 슈퍼컴퓨터로도 알려져 있습니다. 이 모듈은 특히 완전한 AI 시스템을 실행하는 데 도움이 됩니다.

  자비에르 NX
자비에르 NX

Jetson Xavier NX의 기능은 클라우드 네이티브 기술도 지원하므로 개발자가 AI 제품을 쉽게 업그레이드하고 관리할 수 있습니다. 이 모듈은 널리 사용되는 모든 AI 모델 및 프레임워크를 지원합니다. 따라서 이 모듈은 스마트 카메라, AI 기반 고해상도 비전 시스템, 드론, 상업용 로봇 또는 의료 장비와 같은 고성능 AI 시스템에 완벽하게 적합합니다.

NVIDIA Jetson Xavier NX 모듈은 초당 21테라 연산(TOPS)을 제공하여 10W의 전력을 소비하여 현재 AI 워크로드를 실행합니다. 이 모듈의 폼 팩터는 신용 카드에 비해 더 작습니다. Xavier NX 모듈은 다양한 신경망을 한 번에 실행하고 다양한 고해상도 센서의 데이터를 처리합니다. 이 유형의 모듈은 무게, 크기 및 전력 제약이 크지만 고성능이 필요한 임베디드 및 에지 컴퓨팅 장치용 애플리케이션을 설계하는 데 사용됩니다.

NVIDIA Jetson AGX 자비에르 시리즈

NVIDIA Jetson AGX Xavier 시리즈 모듈은 주로 차세대 자율 지능형 기계용으로 개발되었습니다. 이 모듈은 최소 10와트를 사용할 때 AI 성능의 초당 최대 32 TOPS 또는 Tera 작업을 제공합니다. 소프트웨어 개발자는 NVIDIA의 AI 소프트웨어 도구 세트를 사용하여 신경망을 신속하게 배열할 수 있습니다.

  AGX 자비에르 시리즈
AGX 자비에르 시리즈

이 모듈은 개발자가 안전 또는 산업 인증 제품을 만들 수 있도록 다양한 사양 및 기능 보안 기능을 제공합니다. 이 모듈의 고성능은 물류 및 산업용 로봇, 공장 시스템 및 대형 드론과 같은 수많은 자율 기계에 적합하도록 만들 수 있습니다.

Jetson Xavier NX 개발자 키트

jetson xavier nx 개발자 키트에는 AI 기반 에지 장치에 사용되는 견고한 전력 효율적인 Xavier NX 모듈이 포함되어 있습니다. 이 모듈은 클라우드 네이티브 지원과 같은 몇 가지 기능을 갖추고 있으며 Jetson TX2 성능의 10배 이상으로 단 10W로 NVIDIA 소프트웨어 스택을 가속화합니다. 이 개발자 키트는 지능형 기계 제조업체, AI 스타트업 및 애플리케이션 개발자가 작고 매우 정확한 AI 추론 및 전력 효율적인 폼 팩터를 갖춘 최신 제품을 설계하는 데 사용됩니다.

  NX 개발자 키트
NX 개발자 키트

Jetson AGX 자비에르 인더스트리얼

Jetson AGX Xavier 산업용 모듈은 AGX Xavier 시리즈의 일부입니다. 이 모듈의 설계는 까다로운 애플리케이션에서 최신 AI 모델을 제어하는 ​​핀 호환 폼 팩터입니다. 이 모듈은 확장된 진동, 충격, 온도 사양, 고급 보안 기능, 최대 4배의 메모리 및 TX2i 모듈의 20배 성능을 제공합니다.

  자비에르 인더스트리얼
자비에르 인더스트리얼

이 모듈은 설계자가 자동화, 로봇 및 기타 지능형 제품을 설계하는 데 매우 유용합니다. 또한 견고하고 전력 효율적인 폼 팩터의 디자인으로 산업용 AI 내장 기능 및 보안 애플리케이션에 고성능을 제공하기 위해 안전 인증 및 견고한 제품을 설계합니다.

장점

그만큼 NVIDIA Jetson의 장점 다음을 포함하십시오.

  • NVIDIA Jetson은 학생, 개인 개발자 및 다양한 조직에 적합합니다.
  • Jetson 플랫폼은 모듈식 유연성, 통합 소프트웨어 및 클라우드 네이티브 기술 지원과 같은 다양한 이점을 제공하기 때문에 매우 인기가 있습니다.
  • 이 보드는 기본 AI 애플리케이션에서 매우 복잡한 AI 구동 장치에 이르기까지 모든 것에 매우 유용한 모듈 세트를 제공합니다.
  • 이 보드는 반복적인 코딩에서 개발자를 돕는 통합 소프트웨어 아키텍처를 통해 전력 구동됩니다. AI/ML 용량이 필요하면 관련 Jetson 모듈을 장치에 포함할 수 있으며 무거운 작업을 처리합니다.
  • NVIDIA Jetson 플랫폼은 단순히 오케스트레이션 및 컨테이너화와 같은 클라우드 네이티브 기술 및 워크플로를 지원하여 개발자가 AI 제품을 빠르게 개발하고 확장할 수 있는 기능을 제공합니다.
  • NVIDIA JetPack SDK는 컴퓨터 비전 및 딥 러닝과 같은 다양한 기계 학습 도메인을 위한 Linux OS, API 및 CUDA-X 가속 라이브러리와 함께 사용할 수 있습니다. 또한 Caffe 및 Keras, TensorFlow 및 컴퓨터 비전의 OpenCV 라이브러리와 같은 기계 학습 프레임워크에 대한 지원을 제공합니다.

단점

가격을 고려할 때 단점이 거의 없습니다.

  • NVIDIA Jetson 나노 모듈은 내부 Wi-Fi와 함께 사용할 수 없습니다.
  • NVIDIA Jetson 나노 모듈에는 보드에 2개의 PWM 핀만 포함되어 있습니다.

애플리케이션

NVIDIA Jetson의 애플리케이션에는 다음이 포함됩니다.

  • NVIDIA Jetson 모듈은 다양한 시나리오를 위한 AI 제품을 만드는 데 사용되는 우수한 임베딩 시스템을 제공합니다. 이것은 고성능, 모듈식 및 소형 폼 팩터 에지 컴퓨터를 포함하는 AI에 사용되는 전력 효율적인 모듈입니다.
  • Nvidia Jetson 보드는 주로 소형 폼 팩터 내에서 강력한 처리가 필요한 드론, 로봇 및 기타 장치와 같은 임베디드 시스템에 사용하도록 설계되었습니다. Jetson 보드의 일반적인 애플리케이션에는 주로 의료 기기, 자율 주행 차량, 디지털 사이니지, AR/VR 헤드셋, 스마트 시티 애플리케이션 등이 포함됩니다.
  • 이 모듈은 통합 소프트웨어 아키텍처를 지원하여 소프트웨어 개발자의 작업을 훨씬 간단하게 만듭니다.
    NVIDIA Jetson 모듈 및 장치는 Edge AI 시스템을 개발하는 데 사용되는 최적화된 에지 장치입니다.
  • NVIDIA Jetson Nano 개발자 키트는 물체 감지, 이미지 분류, 음성 처리 및 세분화와 같은 다양한 애플리케이션을 위해 여러 신경망을 병렬로 실행하는 매우 강력하고 작은 컴퓨터입니다.
  • NVIDIA Jetson Nano 모듈은 AI 기반 컴퓨터 비전 애플리케이션에 적합하며 이미지 분할, 이미지 분류, 객체 감지 등과 같은 AI 비전 작업을 실행합니다.
  • NVIDIA Jetson의 Nano 모듈은 수천 개의 전력 효율적인 소형 AI 시스템에 놀라운 새 기능을 제공합니다.
  • NVIDIA Jetson Nano 모듈은 OpenCV 기계 학습 라이브러리 및 오픈 소스 컴퓨터 비전 소프트웨어와 호환됩니다.

큐). Jetson 모듈의 전력 소비량은 얼마입니까?

ㅏ). Jetson 모듈의 전력 소비는 모델 및 용도에 따라 다릅니다. 예를 들어 Jetson Xavier 모듈은 일반적으로 약 15w~30w의 전력을 소비하는 반면 Jetson TX2는 7w~15w를 소비할 수 있습니다.

큐). Jetson을 실시간 개체 감지 및 추적에 사용할 수 있습니까?

ㅏ). 예, Jetson 플랫폼은 비전 감지 및 추적을 처리할 수 있습니다. 나노 모듈은 에지 컴퓨팅 플랫폼이 있는 고성능 GPU로 주로 감지, 계산 및 추적에 사용할 수 있습니다.

큐). Jetson은 어떤 유형의 센서와 인터페이스할 수 있나요?

ㅏ). 비전 센서는 Jetson을 USB, MIPI CSI 및 이더넷과 같은 다양한 카메라 인터페이스와 인터페이스하는 데 사용됩니다. 또한 I2C, SPI 등과 같은 다양한 유형의 인터페이스를 사용하여 LiDAR, 초음파 센서 및 기타 유형과 인터페이스할 수 있습니다.

큐). Jetson과 Raspberry Pi의 차이점은 무엇입니까?

ㅏ). 이 두 보드의 주요 차이점은 다음과 같습니다. NVIDIA Jetson은 까다로운 AI 및 컴퓨터 비전 작업을 처리하기 위해 개발된 반면 Raspberry Pi 4 보드에는 범용 컴퓨팅 및 교육에 사용되는 저전력 기반 멀티미디어 GPU가 있습니다. Jetson은 강력한 GPU(Graphical Processing Unit) 및 CPU(Central Processing Unit)를 사용하여 하드웨어 가속 비디오 디코딩 및 인코딩과 같은 고급 기능에 사용할 수 있습니다.

큐). Jetson을 자율 로봇 애플리케이션에 사용할 수 있습니까?

ㅏ). 미래의 자율 로봇 공학 및 산업은 지능형 기계 및 로봇 공학을 위한 NVIDIA Jetson을 통해 전력으로 구동될 것입니다.

따라서 이것은 NVIDIA Jetson 개요 – 장점과 응용. 이 모듈은 개발자가 모든 산업 분야에서 고급 AI 제품을 만드는 데 사용하는 전 세계 최고의 플랫폼입니다. 이 모듈은 또한 학생 및 매니아가 놀라운 프로젝트를 만들기 위해 AI 학습에 대한 실습 경험을 얻기 위해 사용합니다. Jetson의 플랫폼은 주로 전력 효율적인 소형 개발자 키트 및 생산 모듈로 구성됩니다. 여기 당신을 위한 질문이 있습니다. NVIDIA는 무엇입니까?