英特尔创始人之一戈登·摩尔(Gordon Moore)提出的摩尔定律(Moore's law)，是指集成电路上的晶体管数目每两年(或18个月)会增加一倍，该定律已经被奉为半导体产业圭臬。

即使摩尔定律这几年一直遇到瓶颈与挑战，半导体大厂仍是努力以各种方式延续该定律的生命，让半导体技术持续延展创新。

在AI领域，我们也常听到“黄氏定律 (Huang’s Law)”，是预测 GPU 将推动 AI 性能实现逐年翻倍;该定律是由英伟达 NVIDIA 首席执行官黄仁勋名字命名。

在英伟达 2020 年的 GTC 中国线上大会中，首席科学家 Bill Dally 指出，英伟达的研究人员致力于打造速度更快的 AI 芯片，并将其用于具有更高带宽的系统，从而简化编程。

Dally 以三个项目为例，讲述了自己带领的 200 人的研究团队如何成功实现“黄氏定律(Huang’s Law)”。

所谓的“黄氏定律”是以英伟达首席执行官黄仁勋名字命名的定律，预测 GPU 将推动 AI 性能实现逐年翻倍。

Dally 表示，如果我们真想提高计算机性能，黄氏定律就是一项重要指标，且在可预见的未来都将一直适用。

图说：英伟达帮助 AI推理性能每年提升一倍以上

为实现这一突破，英伟达研究人员专门开发了一种名为 MAGNet 的工具，其生成的 AI 推理加速器在模拟测试中，能够达到每瓦 100 tera ops 的推理能力，比目前的商用芯片高出一个数量级。

MAGNet 采用了一系列新技术来协调并控制通过设备的信息流，最大限度地减少数据传输，而数据传输正是当今芯片中最耗能的环节。这一研究原型以模组化实现，因此能够灵活扩展。

另外，研究团队还开展了一项研究，试图以更快速的光链路取代现有系统内的电气链路。

Dally 在 2009 年加入英伟达之前，曾任斯坦福大学计算机科学系主任，个人拥有 120 多项专利。他表示，可以将连接 GPU 的 NVLink 速度提高一倍，也许还会再翻番，但电子信号最终会消耗殆尽。

该团队正在与哥伦比亚大学的研究人员密切合作，探讨如何利用电信供应商在其核心网络中所采用的技术，通过一条光纤来传输数十路信号。

这种名为“密集波分复用”的技术,有望在仅一毫米大小的芯片上实现 Tb/s 级数据的传输，是如今互连密度的十倍以上。

除了更大的吞吐量，光链路也有助于打造更为密集型的系统。Dally 举例展示了一个未来将搭载 160 多个 GPU 的 NVIDIA DGX 系统模型。

图说：工程师借助光链路，在单一系统中可搭载160多个GPU

软件方面，英伟达的研究人员开发了全新编程系统原型 Legate。开发者借助 Legate，即可在任何规模的系统上，运行针对单一 GPU 编写的程序——甚至适用于诸如 Selene 等搭载数千个 GPU 的巨型超级计算机。

Legate 将一种新的编程速记融入了加速软件库和高级运行时环境 Legion，目前它正在美国国家实验室接受测试。

除上述三项研究，Dally 还在主题演讲中谈到了英伟达特别针对医疗健康、无人驾驶汽车和机器人等众多行业打造的平台。他表示，经过几代人的努力，英伟达的产品将通过基于物理渲染的路径追踪技术，实时生成令人惊艳的图像，并能够借助AI构建整个场景。

此外，他还首次公开展示了英伟达的对话式 AI 框架 Jarvis 和 GauGAN的完美组合。GauGAN利用生成式对抗网络，只需简略构图就能创建风景图。

再者，光线追踪领域的进展都始于英伟达研究院打造的原型。2011年，Dally 委派研究员 Bryan Catanzaro 与斯坦福大学教授 Andrew Ng 共同合作一个项目，后来打造 出 CuDNN 软件，让深度学习领域大量的研究工作成为可能。