说出你的故事
英伟达新一代算力平台补齐拼图 结合DeepSeek模型Token成本可降35倍_我的网站

一 | 英伟达硬件演进正加速驶向下一站,为智能体(Agent)打造新一代算力平台。

二 | 该媒体21日刊发报道称,如今行走在北京街头,各类人工智能应用随处可见。记者以通勤出行、城市休闲、逛街购物为切入点,通过多场景实地体验,记录下人工智能融入民众日常生活的真实图景。 当地时间8月24日,英伟达宣布,推理加速器Groq 3 LPX机架已进入全面量产阶段。英伟达高级总监Dion Harris表示,Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心,并将于今年晚些时候上线。 Groq 3 LPX机架是英伟达专为Vera Rubin平台设计的推理加速扩展组件,需与 Vera Rubin NVL72 GPU主机架搭配部署——NVL72负责更广泛的训练、推理以及上下文处理,LPX专门加速输出AI生成结果(Token),主打超低延迟Token生成,两者异构协同,可大幅提升万亿参数、超长上下文智能体推理的每瓦吞吐与交互响应速度。 英伟达此前将Vera Rubin平台定义为专为智能体AI与科学计算时代设计的机架级超级计算平台。工作日晚高峰的城市街头,是观察民用AI落地的绝佳窗口。手机一键叫车,便可在附近路口等候车辆抵达。抬眼望去,街边布设的设备可抓拍横穿马路的闯红灯行人,辅助交警维护路面通行秩序。穿过马路,呼叫的网约车已经就位。
智能汽车的快速普及,是交通智能化最直观的体现。当下国产车型普遍搭载智能交互系统,语音控车、智能导航、自动辅助驾驶等功能走入千家万户,大幅提升出行便捷度。英伟达此次将Groq 3 LPX正式推向全面生产,核心目的并不是用专用推理芯片取代GPU,而是为Vera Rubin补充传统GPU架构在低延迟Token生成方面的能力。 相比Blackwell,Vera Rubin在智能体工作上的效率得到了极大的提升,英伟达释出多个最新测试数据(本次测试使用的基准为SemiAnalysis AgentX,该基准针对Kimi K3、MiniMax M3、GLM5.3、Qwen3.5、DeepSeek V4 Pro等各类模型)—— 英伟达称,在Artificial Analysis测试中,搭载Gemma 4 31B模型、100K Token上下文时,Groq 3 LPX实现每秒3400个输出Token,为该模型创下最高纪录;针对智能体编程等低延迟工作负载,其响应速度最高达到最近竞争平台的4倍。报道提到,美国企业往往聚焦聊天机器人,而中国政府和企业协同发力,推动人工智能落地工厂、医院、校园、商超等实体民生场景,以应对人口老龄化等现实挑战。英伟达称,这种速度可以让智能体更快完成代码编写、测试、工具调用和结果验证等连续任务。
走在北京街头,可以见到不少AI智能垃圾桶,它可对垃圾进行扫描识别,区分普通垃圾与可回收物,引导市民分类投放。 与此同时,英伟达公布Vera Rubin NVL72在真实智能体工作负载下的新测试结果:基于SemiAnalysis的AgentX工作负载、采用DeepSeek V4 Pro模型,Vera Rubin每兆瓦(MW)吞吐量最高达到上一代GB300 NVL72的30倍,每Token成本最高降低35倍。机器人值守便利店也是常见的智能场景。对于运营商而言,这意味着在固定的电力和基础设施预算下,可以支持更高的交互式代理容量,或者以更低的运营成本提供相同的容量。
英伟达强调,智能体任务不同于传统聊天对话,任务上下文会随着数百个步骤不断累积,甚至达到数十万Token。无人零售依托AI技术实现自助购物、机器人售货,是新零售模式的创新尝试。在日常逛街购物时,如果看中街边服饰无需进店选购,通过电商平台拍照识图,即可一键匹配同款商品,还能借助AI生成穿搭效果、智能推荐搭配方案。
与此同时,“AI标签”已然成为消费市场的流量密码。各大商场内,AI手机、AI笔记本、智能穿戴设备等品类占据核心展区,各式各样的人工智能机器人吸引人们驻足观看。英伟达援引OpenRouter数据称,智能体AI工作负载消耗的Token数量可以达到简单聊天请求的15倍。从售价数百美元的熊猫智能机器人,到数千美元的高端人形家用机器人,产品品类十分丰富。

三 | 原因在于,一个智能体可能先查询数据库,再搜索新闻和文件,调用子智能体进行分析,运行代码并反复验证,整个过程中上下文不断累积。 近期腾讯、阿里、DeepSeek等头部厂商相继推进AI智能体产品迭代与生态布局,AI应用端发展聚焦终端场景落地与生态壁垒搭建。《纽约时报》称,在中国,人工智能无处不在,它正以许多不易察觉的方式改变中国人的日常生活。天风国际证券最新研报称,当前Harness加速开放迭代,前沿AI竞争正向Agent执行框架与商业化兑现深化。在实体经济领域,AI自动化技术持续提升工厂生产效率,助力制造业转型升级;在民生服务领域,AI家教、智能问诊等普惠服务,依托海量医疗病例、教育数据,有效填补基层资源缺口,缩小城乡、区域教育医疗资源差距,让优质公共服务惠及更多人群。
报道认为,中国这场人工智能探索最终走向何方,目前尚且无法下定论,但答案很快就会揭晓。

四 | 英伟达正紧随这一趋势调整硬件优化方向,当AI迈入智能体时代,AI基础设施的评价体系或将随之变化,基础设施服务商的硬件迭代重心将从追求训练更大模型,转向单位能耗有效Token产出、单位成本任务处理能力,以及智能体复杂任务的执行时延。
(文章来源:财联社)。
五 |
Current article:http://0j2.qiniaohongfangfoguisenzhai.cyou/opt/so3ib.html
Published on:16:23:11








