英伟达宣布推出首款面向边缘设备的人工智能平台

编辑:站酷工作室 发布于2019-07-05 10:38

  英伟达公司周一早些时候推出了新的英伟达EGX平台,将人工智能引入网络边缘,该平台能够实时感知、理解和处理数据,而无需首先将数据发送到云端或数据中心。
  将人工智能应用于智能手机、传感器和工厂机器等边缘设备是该技术不断发展的下一个阶段。最早的人工智能算法非常复杂,只能在云数据中心运行的强大机器上处理,这意味着需要通过网络发送大量信息。但这是不可取的,因为它需要大量带宽并导致更高的延迟,而且使得“实时”人工智能难以实现。
  企业真正想要的是可以在数据产生的地方执行的人工智能,无论是制造工厂、零售商店还是仓库。几家科技公司都在试图解决这个问题,最近的尝试是英特尔公司今天推出的 “冰湖”芯片——这是该公司首款10纳米芯片,此外还有数十家创业公司也瞄准了这个领域。
  但是英伟达进入人工智能边缘是值得注意的,因为该公司的图形处理单元被广泛认为是最好的人工智能处理硬件。其中包括用于深度学习的Tesla V100和Quadro GV100,它可以实时进行光线跟踪,即创建逼真图像的过程。
  新的英伟达EGX平台可以从基于Jetson Nano处理器的轻型服务器——能够以几瓦的功耗每秒钟处理0.5万亿次操作,扩展到基于边缘服务器NVIDIA T4机架的微型数据中心——可以每秒完成10,000万亿次操作。芯片的节能功能对于人工智能来说非常重要,因为传统的硬件运行此类任务时,耗电量非常巨大。
  在媒体简报中,英伟达企业和边缘计算高级主管Justin Boitano表示,对NGX之类的平台的需求将会很大,因为到2025年,世界上将有大约1500亿台机器传感器和“物联网”设备。他表示有很多这样的传感器将被用于“智能城市”等计划,并将生成需要在现场进行处理的数据——这主要是出于更低延迟和实时响应的需求,数据主权法规的要求或对隐私问题的考虑。
  Boitano表示: “人工智能确实是所有行业在视觉和言语方面的杀手级应用。”
  如果真的想要充分利用这些芯片,合作伙伴关系也很重要。处于这个原因,英伟达正在整合NVIDIA Edge Stack软件,而不是让EGX运行在Red Hat的OpenShift Kubernetes容器编排平台上以实现与现代软件应用程序的兼容。
  该平台还集成了Mellanox Technologies股份有限公司的安全、存储和网络技术,英伟达计划在年底前以69亿美元的价格收购Mellanox Technologies股份有限公司。
  Mellanox首席技术官Michael Kagan 表示:“Mellanox Smart NIC和交换机为数据访问提供了理想的I / O连接,可从边缘扩展到超大规模数据中心。”
  英伟达正在与至少13家不同的服务器制造商合作销售EGX平台,包括思科系统公司、戴尔EMC、惠普企业公司和联想集团控股有限公司等大牌制造商。
  NGX还兼容运行在主要云基础架构服务(如Amazon Web Services和Microsoft Azure)上的人工智能应用程序,并且可以连接到物联网服务,例如AWS IoT Greengrass和Azure IoT Edge。