2026-04-06 20:15

现时的软件用具——从编译器到分娩力愚弄智商——需要进行根人性的再行想象，以跟上以机器速率责任的东说念主工智能智能体的顺次，Google和英伟达的首席科学家默示。

在最近于圣何塞举行的英伟达GTC 2026会议上，Google首席科学家Jeff Dean指出，诚然东说念主类开导东说念主员很少会为C编译器的启动时刻感到困扰，但在智能体开动速率远超东说念主类的寰球中，传统用具将导致高大的性能蔓延。

Dean默示，编程用具还是在资格这种滚动，买卖愚弄智商也必须跟上。这将使智能体大要操作电子表格和文档以智商化方式索求信息。在与英伟达首席科学家Bill Dally就鞭策AI下一个前沿的往往对话中，他解释了这一不雅点。

此次辩论为Google和英伟达的发展道路图提供了特殊的细察，展示了从教导-恭候式AI向具备自我变调、谈判以致想象我方后继者才气的智能体系统的特出。

自主研发

关于Google来说，鞭策AI的下一个前沿意味着赋能模子行为自主的研发实验室。

当Dally掂量Dean行业距离大要实验、整理数据并锻真金不怕火下一版块我方的AI模子还有多远时，诚然Dean承认这种才气"还不完全闇练"，但他指出了神经架构搜索的出现，这允许用户自动化神经网罗的想象。

"你不错用当然谈话指定辩论空间，比如'请探索敬爱的新蒸馏算法，并尝试使用咱们当今莫得使用的信息'，"Dean说。"它会去实践这些实验。这基本上是辩论和分娩力的超强力倍增器。"

完毕这一方针需要模子冲破锻真金不怕火律例。模子不是一次性在统共互联网数据上进行预锻真金不怕火，而是不错在某些环境中选拔行动或预测谜底，然后再回到学习情状，这将权贵提高学习恶果，Dean补充说念。

光速推理

跟着推理瞻望将占据大部分AI责任负载，英伟达正在积极针对通讯蔓延进行优化，以赋予AI智能体无需暂停就能"想考"的才气。

"当你长远到弧线的右侧，确实针对蔓延进行优化时，事实讲授大部分蔓延都来自通讯，"Dally说。"在英伟达，咱们老是提到光速。"

为了减少对数字信号处理和造作变调的需求，Dally骄傲英伟达正在训练简化的路由器架构，甩掉带宽——从每秒400千兆比特降至200千兆比特——以换取蔓延改善。方针是将路由器蔓延降至50纳秒以下。

"通过这么作念，我不错看到咱们以每秒1万到2万个Token的速率开动相对较大的模子，"他说。

不要出动数据

由于AI消耗多数动力，Dally提供了一个径直的处置决议来减少动力消耗："不要出动数据。东说念主们在笑，但我是正经的。这都备是你必须要作念的。"

Dally解释说，对低精度NVFP4操作进行乘加野心只要耗10飞焦耳的能量。关系词，从外部内存拉取必要数据消耗的能量大致是这个数目的1000倍。

为了处置这个问题，英伟达正在探索先进的3D堆叠时刻，物理和会内存和野心。"读取DRAM使用的大部分能量本色上不是读取DRAM本人——而是将比特从读取DRAM的位置出动到GPU引脚场地的位置，pk10"Dally说。

"通过将DRAM径直堆叠在实践野心的GPU之上，咱们不错获取一个数目级更多的带宽，同期每比特消耗更少的能量。这最终是换取的功率，但性能要高得多。"

除了硬件立异，顺从AI功耗危急还需要算法恶果的大幅改进。"淌若你能以更少的责任获取换取的精度，这也会减少动力消耗，"他补充说念。

Dally强调了稀薄性——跳过对模子最终输出影响不大的数学参数野心的时刻——行为功耗裁汰的高大契机。英伟达在其Ampere架构中引入了二比一结构化稀薄性，现时的夹杂巨匠模子使用粗粒度稀薄性步地来节俭野心。

关系词，Dally警戒说，追求更高等别的稀薄性会迫害使GPU如斯高效的高度章程、可预测的野心模式。"当你迫害这种模式时，你需要更多的适度和数据路由来处理不章程性，"他说。

AI构建我方的基础设施

这种智能体的翌日还是在英伟达和Google我方的工程团队中成型，AI正在想象下一代芯片。

Dean指出了Google在芯片想象中使用AI进行布局和布线的生效——援用其备受嘉赞的AlphaChip辩论——而Dally详备叙述了英伟达在其想象管说念中使用AI的情况。

英伟达最生效的里面用具之一是NVCell，这是一个强化学习智商。每次公司转向新的半导体工艺时，工程师必须移植多达3000个单位的模范单位库。

"已往需要8东说念主团队奢靡约10个月，"Dally说。"咱们开导了一个基于强化学习的智商，末端本色上比东说念主类想象更好。"

除了物理芯片布局，英伟达还部署了一个名为ChipNeMo的定制大谈话模子来普及工程分娩力。

ChipNeMo在英伟达私有硬件想象文档上锻真金不怕火，行为低级工程师的导师，节俭了资深想象师解释特定芯片组件基本功能的时刻。它还不错总结造作答复并自动将其路由到妥贴的想象师进行处置。

Dally但愿AI最终大要自动化芯片开导中最耗时的部分。"我很但愿大要迫害地说，'给我想象一个新的GPU'，然后我去滑雪几天，讲究时就完成了，"他说，尽管他承认距离阿谁实践还很远方。

即使那一天到来，Dally预期AI芯片想象师也会依赖一个主智能体来编排畸形的子智能体，这些智能体互相协商来细则架构，复制东说念主类工程师今天举行的会议。

Q&A

Q1：为什么传统软件用具无法适应AI智能体的责任速率？

A：因为AI智能体开动速率远超东说念主类，而传统用具如编译器、分娩力愚弄智商的启动时刻和反映蔓延对东说念主类来说不是问题，但会在智能体高速操作时酿成高大的性能瓶颈。因此需要根人性再行想象来匹配机器速率。

Q2：AI模子如何完毕自主研发才气？

A：通过神经架构搜索时刻，模子不错用当然谈话指定辩论空间，自动进行实验、整理数据并锻真金不怕火下一版块。模子需要冲破传统锻真金不怕火律例，在环境中选拔行动或预测谜底后再回到学习情状，权贵提高学习恶果。

Q3：英伟达若那边置AI野心中的能耗问题？

A：主要计策是"不要出动数据"北京pk10官方网站，因为数据出动消耗的能量是野心本人的1000倍。英伟达通过3D堆叠时刻将内存径直堆叠在GPU之上，减少数据出动距离，同期探索稀薄性时刻跳过不迫切的野心来降顽劣耗。

牛牛游戏官方网站