×
嵌入式 > 技术百科 > 详情

英伟达Jetson Xavier NX成为Edge上最小的AI超级计算机

发布时间:2020-06-17 发布时间:
|

NVIDIA在11月6日推出了Jetson系列的最新成员-Jetson Xavier NX。该模块的大小小于信用卡,非常实用。

今年早些时候,NVIDIA推出了Jetson Nano,这是最小但功能最强大的基于GPU的边缘计算设备。先进的边缘计算设备Jetson Xavier NX与Jetson Nano具有引脚兼容性,从而可以移植部署在Nano上的AIoT应用程序。它还支持所有主要的AI框架,包括TensorFlow,PyTorch,MXNet,Caffe等。

根据NVIDIA的说法,Jetson Xavier NX以10W的速度每秒提供多达14 terra运算(TOPS)或以15W的速度提供每秒21 terra运算,并行运行多个神经网络,并以Nano尺寸同时处理来自多个高分辨率传感器的数据。与其他Jetson产品一样,Xavier NX在CUDA-X AI软件上运行,可轻松优化深度学习网络以进行边缘推理。与Jetson Nano和Jetson TX2相似,Xavier NX由JetPack软件提供支持,该软件随附了训练和推断神经网络所需的所有组件。

在CPU方面,Xavier NX由6核Carmel Arm 64位CPU,6MB的L2和4MB的L3高速缓存提供支持。该设备最多可以在12条MIPI CSI-2通道上支持六个CSI摄像机。它带有8GB的128位LPDDR4x RAM,能够以51.2GB /秒的速度执行数据传输。该设备运行基于Ubuntu的Linux操作系统。

Jetson Xavier NX设备的价格为399美元,预计将于2020年3月发货。

在最近宣布的MLPerf推理基准测试结果中,Jetson Xavier帮助NVIDIA领先了推理基准测试结果。根据NVIDIA的说法,在商用边缘和移动SoC中,Xavier在以边缘为中心的方案(单流和多流)中均排名最高。

尽管Google,Intel和Qualcomm提供了AI加速器,但NVIDIA与众不同之处在于软件堆栈的兼容性。随着GPU内核数量的增加,Jetson系列设备不仅可以用于推理,还可以在设备上进行训练。CUDA兼容性确保了在主流框架(例如TensorFlow,Caffe,PyTorch和MXNet)中训练的神经网络可以在这些设备上运行,而无需进行转换或优化。但是为了提高性能,NVIDIA提供了SDK和工具,可将经过训练的模型转换为TensorRT,后者是为推理优化的软件层。

Jetson Nano和Xavier NX是市场上最实惠,功能最强大的边缘计算设备。借助CUDA-X AI软件并支持流行的深度学习框架,开发人员可以采用Jetson系列在边缘运行AI。

明年年初上市时,Jetson Xavier NX将使开发人员和企业可以在边缘运行融合了AI的复杂应用程序。

NVIDIA通过其AI战略正在快速发展。NVIDIA通过K80,P100和T4 GPU占领了大部分AI培训部分,现在NVIDIA通过Jetson系列产品着眼于推理部分。


『本文转载自网络,版权归原作者所有,如有侵权请联系删除』

热门文章 更多
ADI 高精度低功耗精密放大器