Jetson Xavie NX开发人员套件将超级计算机的性能带到了边缘。它包括一个功能强大的紧凑型Jetson Xavier NX模块,用于AI边缘设备。它受益于新的云原生支持,可将NVIDIA软件堆栈加速至10W,其性能是其广泛采用的前身Jetson TX2的10倍以上。具有精确的多模式AI推理功能,可以开发和测试高能效,小尺寸解决方案,这为新的突破性产品打开了大门。开发人员现在可以利用云原生支持的优势,转变将AI软件开发和部署到边缘设备的经验。NVIDIA NGC提供的经过预先训练的AI模型以及NVIDIA Transfer Learning Toolkit,为经过训练和优化的AI网络提供了更快的途径。到Jetson设备的容器化部署还允许灵活,无缝的更新。整个NVIDIA软件堆栈都支持该开发人员工具包,包括加速的SDK和用于应用程序开发和优化的最新NVIDIA工具。当与紧凑型Jetson Xavier NX结合使用时,此强大的堆栈可帮助您为智慧城市,零售,制造业,物流,医疗保健,农业等领域创建创新的解决方案。
XAVIER 般的性能,NANO 般的大小。Jetson Xavier NX 只有 70 毫米 x 45 毫米,可以将 NVIDIA Xavier SoC 的强大性能封装到 Jetson Nano 大小的模块中。这个小巧的模块将卓越性能和功率优势与一组丰富的 IO(从高速 CSI 和 PCIe 到低速 I2C 和 GPIO)相结合。利用小巧体型、传感器丰富的接口和卓越性能,为您的所有嵌入式 AI 系统和边缘系统带来新功能。
Jetson Xavier NX 在 10 瓦功率下可提供 14 TOPS,而在 15 瓦功率下可提供 21 TOPS,非常适合在大小和功率方面受限的系统。凭借 384 个 CUDA 核心、48 个 Tensor Core 和 2 个 NVDLA 引擎,它可以并行运行多个现代神经网络,并同时处理来自多个传感器的高分辨率数据。
借助 Jetson Xavier NX,您可以使用完整的 NVIDIA 软件堆栈,通过加速库来运行现代 AI 网络和框架,从而实现深度学习以及计算机视觉、计算机图形、多媒体等。而且,它仍然能为当今嵌入式应用程序所需的传感器和外围设备留出更多功率预算。
Jetson Xavier NX 适用于无人机、便携式医疗设备、小型商业机器人、智能摄像头、高分辨率传感器、自动光学检测和其他 IoT 嵌入式系统等高性能 AI 系统。
硬件总览见下图
具体规格参数见下图
Jetson可用于以高性能推理将各种流行的DNN模型和ML框架部署到边缘,以执行诸如实时分类和对象检测,姿势估计,语义分段和自然语言处理(NLP)之类的任务。 Jetson和NVIDIA离散GPU共同拥有JetPack SDK和NVIDIA CUDA-X,这意味着您可以轻松地将性能和尺寸,重量和功耗(SWaP)消耗降低至5W,而无需重新编写应用程序。图3显示了在Jetson Nano,Jetson TX2,Jetson Xavier NX和Jetson AGX Xavier以及JetPack 4.4 Developer Preview和TensorRT 7.1上流行的视觉DNN的推理基准,这些结果可以通过运行GitHub上打开jetson_benchmarks项目来重现。
在Jetson Xavier NX和Jetson AGX Xavier上,NVIDIA Deep Learn Accelerator(NVDLA)引擎和GPU以INT8精度同时运行,而在Jetson Nano和Jetson TX2上,GPU以FP16精度运行。Jetson Xavier NX的性能与Jetson TX2相比高出10倍,而功率却相同,占地面积却减少了25%。在这些基准测试期间,每个平台都以最高性能运行(Jetson AGX Xavier为MAX-N模式,Xavier NX和TX2为15W,Nano为10W)。这些基于视觉的任务的最大吞吐量是在批处理大小不超过15ms的延迟阈值的情况下获得的。—否则,对于平台超过此延迟阈值的网络,批处理大小为1。这种方法在实时应用程序的确定性低延迟要求与多流用例场景的最大性能之间取得了平衡。