查看: 65857|回复: 337
打印 上一主题 下一主题

英伟达新一代算力平台补齐拼图 结合DeepSeek模型Token成本可降35倍_我的网站

[复制链接]
跳转到指定楼层
楼主

大秦帝国之纵横

英伟达新一代算力平台补齐拼图 结合DeepSeek模型Token成本可降35倍_我的网站

请回答1988

一 |     K图 NVDA_0  英伟达硬件演进正加速驶向下一站,为智能体(Agent)打造新一代算力平台。  当地时间8月24日,英伟达宣布,推理加速器Groq 3 LPX机架已进入全面量产阶段。英伟达高级总监Dion Harris表示,Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心,并将于今年晚些时候上线。    络捷斯特(834832):公司拟转让西安北慧信息科技有限公司100%的股权 每经讯,络捷斯特8月24日发布公告称,西安北慧信息科技有限公司是北京络捷斯特科技发展股份有限公司的全资子公司,根据公司战略发展规划及子公司实际经营情况,公司拟将其持有的西安北慧信息科技有限公司100%的股权转让给程鑫先生。鉴于西安北慧信息科技有限公司2026年1-6月的经营状况及净资产水平,经双方友好协商,本次股权转让价格为人民币0元。本次股权转让完成后,公司将不再持有西安北慧信息科技有限公司股权,该公司不再纳入公司财务报表合并范围。  Groq 3 LPX机架是英伟达专为Vera Rubin平台设计的推理加速扩展组件,需与 Vera Rubin NVL72 GPU主机架搭配部署——NVL72负责更广泛的训练、推理以及上下文处理,LPX专门加速输出AI生成结果(Token),主打超低延迟Token生成,两者异构协同,可大幅提升万亿参数、超长上下文智能体推理的每瓦吞吐与交互响应速度。  英伟达此前将Vera Rubin平台定义为专为智能体AI与科学计算时代设计的机架级超级计算平台。    (记者曾健辉)     免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。英伟达此次将Groq 3 LPX正式推向全面生产,核心目的并不是用专用推理芯片取代GPU,而是为Vera Rubin补充传统GPU架构在低延迟Token生成方面的能力。  相比Blackwell,Vera Rubin在智能体工作上的效率得到了极大的提升,英伟达释出多个最新测试数据(本次测试使用的基准为SemiAnalysis AgentX,该基准针对Kimi K3、MiniMax M3、GLM5.3、Qwen3.5、DeepSeek V4 Pro等各类模型)——   英伟达称,在Artificial Analysis测试中,搭载Gemma 4 31B模型、100K Token上下文时,Groq 3 LPX实现每秒3400个输出Token,为该模型创下最高纪录;针对智能体编程等低延迟工作负载,其响应速度最高达到最近竞争平台的4倍。英伟达称,这种速度可以让智能体更快完成代码编写、测试、工具调用和结果验证等连续任务。据此操作,风险自担。  与此同时,英伟达公布Vera Rubin NVL72在真实智能体工作负载下的新测试结果:基于SemiAnalysis的AgentX工作负载、采用DeepSeek V4 Pro模型,Vera Rubin每兆瓦(MW)吞吐量最高达到上一代GB300 NVL72的30倍,每Token成本最高降低35倍。对于运营商而言,这意味着在固定的电力和基础设施预算下,可以支持更高的交互式代理容量,或者以更低的运营成本提供相同的容量。imageimage  英伟达强调,智能体任务不同于传统聊天对话,任务上下文会随着数百个步骤不断累积,甚至达到数十万Token。英伟达援引OpenRouter数据称,智能体AI工作负载消耗的Token数量可以达到简单聊天请求的15倍。原因在于,一个智能体可能先查询数据库,再搜索新闻和文件,调用子智能体进行分析,运行代码并反复验证,整个过程中上下文不断累积。  近期腾讯、阿里、DeepSeek等头部厂商相继推进AI智能体产品迭代与生态布局,AI应用端发展聚焦终端场景落地与生态壁垒搭建。

二 | 天风国际证券最新研报称,当前Harness加速开放迭代,前沿AI竞争正向Agent执行框架与商业化兑现深化。    每日经济新闻     。  英伟达正紧随这一趋势调整硬件优化方向,当AI迈入智能体时代,AI基础设施的评价体系或将随之变化,基础设施服务商的硬件迭代重心将从追求训练更大模型,转向单位能耗有效Token产出、单位成本任务处理能力,以及智能体复杂任务的执行时延。(文章来源:财联社)。

Current article:http://uvkd.zhanggengsenchaiweikeng.cfd/yobu8/qnid.html

Published on:03:26:37


点击获取礼包
沙发
发表于 06:03:06 | 只看该作者
三体 功夫足球 无证之罪
板凳
发表于 02:26:40 | 只看该作者
秘密 戏说乾隆 战国
地板
发表于 18:06:04 | 只看该作者
走西口 绿野 少年四大名捕
5#
发表于 13:26:18 | 只看该作者
特搜战队刑事连者 年代秀 兵临城下
6#
发表于 13:33:08 | 只看该作者
海豚湾恋人 五感图 闪电侠
7#
发表于 16:53:20 | 只看该作者
田径女神走红 春日 疯狂的麦克斯
8#
发表于 05:27:49 | 只看该作者
造梦者 珠光宝气 断头谷
9#
发表于 18:11:19 | 只看该作者
小产权房 春妮的周末时光 古剑奇谭
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

我的网站是互联网最大的搜索引擎优化研究中心,是致力于培养学员用户体验意识和提供专业技术解答的专业培训机构, 成立于2007年,2008年第一家入驻歪歪的培训机构,2014年成为腾讯课堂战略合作机构。
© 2007-2016 我的网站 湘ICP备13004652号-1 Powered by Discuz!X Template by 我的网站 
快速回复 返回顶部 返回列表