在9月17日的上海,华为正式发布了其全新的 Peerium 计算架构,其宗旨非常明确:使得数以百万计的处理器能够像一个整体计算机进行协同运作。中文官网的描述中出现了“突破冯诺依曼单机架构”的字样,而英文版则表述为“extends the von Neumann single-machine architecture”,即扩展冯诺依曼单机架构。这两个说法的差异显而易见。前者暗示着对现有体系的颠覆,而后者则表明新架构仍依赖于已有的基础。更有趣的是,相关研究论文的标题为“嵌套并行冯诺依曼架构(Nested Parallel von Neumann Architecture and Nested BSP)”,这进一步表明冯诺依曼的概念依然是该研究的一部分。那么,这到底意味着什么?华为究竟是实现了真正的突破,还是仅仅是口号使然?
中文中使用“突破”,而英文中却用“扩展”,这引发了对华为技术意图的深入思考。在上下文中,中文稿提到突破了图灵范式,但在涉及冯诺依曼时却选择了扩展。这种表述上的不一致,让人不禁怀疑是否只是宣传口号的夸大,而非确实的技术定义。实际上,华为的研发团队可能并不想全盘推翻冯诺依曼架构,问题在于传播时将技术扩展误称为基础理论上的革命。尽管如此,扩展并不意味着没有价值,因为提升系统的可扩展性和效率始终是工程中的一项重要挑战。然而,若将扩展宣传为突破,容易导致外界对事物本质的误解。
冯诺依曼架构的核心原理在于程序与数据存储在内存中,处理器依照程序指令获取信息、进行计算并将结果写回。这一架构并不限制计算机只能配备单个中央处理器或所有运算只能排队进行。如今的现代 CPU 仍遵循冯诺依曼的基本原则,但也引入了乱序执行、多核处理、缓存等新方式。Peerium 架构同样维持了这一连结,依然结合了 CPU、NPU、内存、SSD、网卡和交换机的功能,表明其并未应会冯诺依曼的核心结构。
华为还指出,传统十万卡集群的算力利用率仅约20%。这也就是说,即使数量庞大的处理器在很多时候并未达到理论峰值,许多设备仍在等待数据或进行相应的同步与调度。因此,八万张卡并非失效,而是多半时间处于等待状态,这一现象在大型集群中尤为明显。
华为的“灵衢”工具极具创新性,它不仅仅是在提升网络传输效率,而是实现了 CPU、NPU、内存和其他设备之间的统一寻址方式,优化了程序在跨设备时的数据访问方式。华为表示,这种跨柜设备的响应时间有望从七微秒减少到两微秒,单跳延迟降至200纳秒,这些数字若能在实际系统中得到验证,将会对集群设计产生重大影响。
同时,华为对“批量同步并行”(BSP)模型进行了改进,而这一理念最早由 Leslie Valiant 提出。华为的创新在于将传统的全局同步转化为多个局部同步。
综上所述,华为在计算架构的创新上是否真有突破,仍需时间和实际应用的检验。然而,Peerium 架构显然是在冯诺依曼体系内进行的深度优化,不仅关注了硬件效率,也重视了软件通信的灵活性。