NVIDIA知乎精彩问答甄选|解读NVIDIAGTC2024发布的新技术(五)

原创 英伟达NVIDIA中国 2024-05-20 18:10
NVIDIA 带来知乎精彩问答甄选系列,将为您精选知乎上有关 NVIDIA 产品的精彩问答。

本期是解读 NVIDIA GTC 2024 发布的新技术第五期。


以下四个知乎甄选问答将为您带来更多关于 NVIDIA 微服务的信息

Q:谁了解新发布的 NVIDIA NIM 微服务?


A:

NVIDIA NIM 微服务提供基于 NVIDIA 推理软件的预构建容器,包括 Triton 推理服务器™ 和 TensorRT™-LLM,使开发者能够将部署时间从几周缩短至几分钟。NVIDIA NIM 微服务适用于 NVIDIA 及合作伙伴生态系统中 20 多个热门的 AI 模型进行推理优化。为语言、语音和药物发现等领域提供行业标准 API,使开发者能够使用安全托管在自己的基础设施中的专有数据,来快速构建 AI 应用。这些应用可按需扩展,从而为在 NVIDIA 加速计算平台上运行生产级生成式 AI 提供灵活性和性能。NIM 微服务为部署 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型,以及谷歌、Hugging Face、Meta、微软、Mistral AI 和 Stability AI 的开放模型提供了快速且性能出色的生产级 AI 容器。



Q:NVIDIA 在生成式 AI 微服务有什么新进展吗?


A:

NVIDIA 于 GTC 2024 推出数十项企业级生成式 AI 微服务,企业可以利用这些微服务在自己的平台上创建和部署定制应用,同时保留对知识产权的完整所有权和控制权。包括 CrowdStrike、SAP 和 ServiceNow 在内的多家领先应用和网络安全平台提供商都正在采用 NVIDIA 微服务。



Q:有人听说过 NVIDIA cuOpt 微服务吗,有什么优势?


A:

NVIDIA cuOpt 微服务是 NVIDIA AI Enterprise 软件平台的一部分,可以为任何企业提供用于实时动态路径规划、工厂优化和机器人仿真方面的加速优化。在 GTC 2024 大会上,NVIDIA 创始人兼首席执行官黄仁勋宣布 cuOpt 即将全面上线。

NVIDIA cuOpt 微服务主要特性包括:

  • 动态重新规划路线:重新运行模型并进行调整,以便应对车辆无法操作、交通中断/恶劣天气和新增订单等变化,而且所有这些都会在服务等级协议(SLA)时间限制内完成。 
  • 创下世界纪录的准确性:体验在 Li & Lim 和 Gehring & Homberger 准确性基准方面创下世界纪录的性能。 
  • 无缝扩展:可扩展到执行 15,000 个路线规划任务,为计算密集型用例提供助力。
  • 实时分析:规划 1,000 个包裹的路线所需的时间从 20 分钟缩短到了 10 秒,速度提高了 120 倍,准确性则保持不变。 
  • 降低成本并减少碳足迹:行程时间和燃料成本降低了 15%,云资源成本降低了 87%,而且数据中心使用量也减少了。 
  • Enterprise 产品组合:访问安全的生产就绪型微服务,该微服务是 NVIDIA AI Enterprise 的一部分,可部署在任意位置,并能够加快价值实现。

NVIDIA cuOpt™ 能够借助加速计算更快地做出更好的决策,从而优化运营。cuOpt 能够帮助团队解决具有多重约束的复杂路线规划问题,并且能够提供动态重新规划路线、作业调度和机器人仿真等新功能,同时实现亚秒级求解器响应时间。凭借 23 项创下世界纪录的基准,cuOpt 包揽了过去三年内最大路线规划基准方面的世界纪录。

cuOpt 使用依赖于启发式算法、元启发式算法和优化技术且经由 GPU 加速的物流求解器,来计算具有各种约束的复杂车辆路线规划问题。cuOpt 可以部署在任何数据中心或云端。它支持具有不对称模式的距离和时间矩阵,因此可以与热门地图引擎无缝集成。

cuOpt 在研究最深入的路径优化基准测试中,使用知名解决方案进行持续测试,测试结果比基于 CPU 的方案提速 100 倍。cuOpt 在 Gehring & Homberger 车辆路径基准测试中创造了 15 项记录,在 Li & Lim 取货和送货基准测试中创造了 8 项记录,展现出全球最佳的准确性与最快的速度。


Q:NVIDIA cuOpt 微服务有什么应用场景?


A:

在依赖复杂自动化系统、精准物料流程以及人机交互的设施(如汽车工厂、半导体代工厂、仓库等)中同时采用 cuOpt、Omniverse 和 NVIDIA Metropolis for Factories,将有助于优化和创建安全的设施与环境以应对大量的物流处理。


川崎重工是一家拥有一百多年大型机械制造历史的制造企业。该公司正与 Slalom 合作,开发由 AI 驱动的川崎轨道维护平台,并在这一过程中利用 cuOpt 实现高效率的路径规划。该平台能够为维护团队提供轨道状况的相关数据,以便于确定维修的优先顺序,从而提升运营的安全性和可靠性。


一家全球汽车座椅制造领域的领先企业采用了由 Omniverse 和 cuOpt 驱动的 SyncTwin 的数字孪生功能,借助 AI 以改善运营。cuOpt 与 SyncTwin 的连接可实现高效的路径规划,优化了庞大装卸码头网络中包括车辆、机器人托盘升降机等在内的所有动态部分。


更多精彩问答,点击下方小程序,
关注 NVIDIA 知乎账号


NVIDIA 知乎精彩问答甄选往期精彩内容

NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(四)
NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(三)
NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(二)


更多精彩仍在继续... 

敬请关注



点击 “阅读原文”,或扫描下方海报二维码,北京时间 6 月 2 日 19:00 观看 NVIDIA 创始人兼 CEO 黄仁勋在 COMPUTEX 2024 的现场主题演讲直播,一同揭开新工业革命序幕!


评论 (0)
  • 二代SiPM测试板的能谱及2Dmap测试1概述 二代SiPM板子经过硬件检测后,电子信号基本达到要求,接下来一项很关键的测试任务就是2Dmap测试。该测试在验证硬件电路功能外,还可以验证后级FPGA逻辑功能,尽管逻辑功能继承于上一代PMT系统,但是SiPM系统相关逻辑功能需要进行调整,已完成的逻辑是否符合要求需要进行实测。实测逻辑功能外,还需要将对应的Labview以及C++测试程序进行验证。二代SiPM读出测试系统验证能谱 后级数字系统对SiPM读出测试板输出的模拟进行数字化转换,然后对采集到
    coyoo 2024-06-19 10:46 44浏览
  • 方式2:SDKAPI 接口兼容 OpenAI 的 Python SDK,只需要简单配置即可使用。安装 OpenAI SDK。请确保使用的 Python 版本至少为 3.7.1,OpenAI SDK 版本不低于 1.0.0。以下是我花了一天终于调通的:PS D:\> python - vPython 3.12.4 (tags/v3.12.4:8e8a4ba, Jun  6 2024, 19:30:16) [MSC v.1940 64 bit (AMD64)] on win32Type "
    丙丁先生 2024-06-17 21:12 108浏览
  • “我们自己就是自己人生的记者”这句话,是对个体在人生历程中的主动性与创造性的一种肯定。它意味着每个人都是自己人生故事的记录者和叙述者,强调了个人在塑造自己的人生经历中的主导作用。下面通过几点来探讨这句话的深意及其对个人发展的启示: 一、主动记录与反思 - 自我观察:作为自己人生的记者,我们可以通过日记、社交媒体等形式记录下每天的生活点滴和心情变化。 - 反思总结:定期回顾和反思这些记录,有助于我们从经验中学习,对自己的行为和决策进行评价。 二、构建人生叙事 - 故事化表达:将个人经历编织
    丙丁先生 2024-06-19 05:25 56浏览
  • 一 . 引言在当今快速发展的汽车行业中,车载以太网正逐步成为推动汽车智能化、网联化浪潮的核心技术之一。作为传统以太网技术在汽车领域的创新应用,车载以太网不仅继承了以太网的开放性、成熟性和互操作性,还针对车辆特有的环境和需求进行了优化与定制,为车载内部的复杂数据传输提供了高速、可靠、低延迟的通信平台。在复杂的车载网络拓扑中,主机间通信最初只知道目标设备的IP地址,那如何获取目标设备的MAC地址呢,这就不得不提到一个关键协议——ARP协议。二.ARP概念ARP协议(Address Resoluti
    北汇信息 2024-06-18 10:29 83浏览
  • 目前常用的微波、毫米波EDA软件有Microwave Office, ANSYS HFSS, Keysight ADS, Cadence, Sonnet。国外这几款主要的EDA软件也没有内置强大的实景负载 牵引测试及优化功能。但是通用EDA仿真软件有一定的局限性,在研制微波毫米波芯片、模块及系统过程中, 如仅采用通用EDA软件,则存在一些问题,具体难点有以下几点;难点一、最优点的确定输入、输出阻抗均为复数,无法在Smith圆图上的成千上万个复数点中找到产品需要的最优点,传统方法均借助软件仿真或有
    Bluetecmws 2024-06-18 15:44 88浏览
  • 有人说,2024年是全球经济的“分化年”,也是中国经济突围的“关键年”。当前,我国经济恢复仍处在关键阶段,长期向好的基本趋势没有改变,但也需要克服一些挑战,而巩固和增强经济复苏的良好势头,离不开政策的有效衔接、接续发力。近期,财政政策和货币政策相继实施,其中两项备受关注。一是,超长期特别国债发行,一经上市就被抢购,可谓“一券难求”。5月13日,财政部公布了2024年一般国债、超长期特别国债发行有关安排。截至6月17日,超长期特别国债已完成两期发行,共发行800亿元。二是,央行在二级市场开展国债买
    刘旷 2024-06-18 10:27 68浏览
  • 激光激发3D视觉感知,细腻勾画工业自动化版图的智能经纬,引领科技与效率的和谐共鸣。在现代智能化的浪潮中,工业机器人已成为推动产业升级、提升作业效率的关键力量。它们穿梭于繁忙的生产线乃至复杂的仓储空间,执行着从精密装配到大规模物流搬运的多样化任务。然而,这些无人勇士在追求高效运作的同时,面临着一个核心挑战——如何在纷繁复杂的环境中精准识别并有效规避障碍物,确保任务的顺利完成及周边安全。这就凸显了机器人避障技术的重要性:它是机器人自主导航的灵魂,是决定机器人能否在真实世界中安全、灵活作业的基石。1、
    艾迈斯欧司朗 2024-06-18 17:35 52浏览
  • 2024年6月18日 调研咨询机构环洋市场咨询出版的《2024年全球市场18650锂电池总体规模、主要生产商、主要地区、产品和应用细分研究报告》只要分析全球18650锂电池总体规模,主要地区规模,主要企业规模和份额,主要产品分类规模,下游主要应用规模以及未来发展前景预测。统计维度包括销量、价格、收入,和市场份额。同时也重点分析全球市场主要厂商(品牌)产品特点、产品规格、价格、销量、销售收入及发展动态。历史数据为2019至2023年,预测数据为2024至2030年。 据GIR (Global I
    GIRtina 2024-06-18 10:53 72浏览
  • OTA即空中下载技术(Over-the-Air Technology),它指的是通过网络从远程云服务器下载软件更新包,对终端系统进行更新升级的一种技术。 OTA技术在汽车领域被广泛应用,它能够远程升级车辆的软件和固件,从而优化车辆性能、修复系统漏洞、增加新功能,提升消费者的用车体验。同时,OTA技术也存在于智能手机、物联网设备等多个领域,为各种设备的持续升级和维护提供了极大的便利性。Sub-G OTA 是面向Sub-G Mesh协议产品开发的一种空中下载技术(Over-the-Air Tech
    丙丁先生 2024-06-19 11:06 32浏览
  • 注意事项 ☆:请使用原装配件,请不要尝试打开仪表或进行改装。分选仪供电工作电压是DC:5V:严禁输入高于5.5V电压!分选仪量程:0.5-9.999V:请 勿 超 量 程 测 试!如果需要打开底部的支架,请先按住支架上半部分固定部位再打开。分选仪测试时区分正负极,正负极接反不会开启测试。一:概述VT-10S+ 电压分选仪是一款专门测试电压的仪表,其测试速度超快、精度高、并能设置范围,声光报警提示。通过测得电压值来快速判断和筛选电池的优劣状态。测试效率高,操作简便,大大节省了人工和生产成
    hongda123 2024-06-18 20:04 53浏览
  • 一、设计思想设计一个交流信号的检测装置,对输入进行前期处理,经过A/D采样后数模转换,将测量结果显示出来,并具有一定的测量辅助及扩展功能。设计分别采用了LM324运算放大器进行信号放大,把被测输入正弦波信号最小幅度为有效值10毫伏,频率为100HZ~10KHZ的正弦信号通过两级放大,放大成接近2伏但不超过2伏的正弦信号。然后,分为两支。一支接LM2903比较器以地为零点进行过零比较,输出数字信号接相应的FPGA用以测量频率。另一支接峰值保持电路用来保证采样到波形的最大值,再接数模转换器转换成模拟
    wonharvey 2024-06-19 10:06 60浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦