AI的隐藏英雄:让你的应用飞速运行的特殊芯片

【免责声明】 本文是基于外部来源的信息重新整理的。请在参考本文内容前核实原始来源。

新闻摘要
本站解析

新闻摘要

以下内容已在网上发布。下面提供了翻译后的摘要。有关详细信息,请参阅原文。

一种名为数据处理单元(DPU)的新型计算机芯片正在革新人工智能系统的工作方式,使其能源效率提高190倍,同时大幅提高性能。日本电信巨头软银使用NVIDIA的BlueField-3 DPU和F5的网络软件进行了测试,取得了令人瞩目的结果。DPU负责网络流量和安全任务,这通常需要30个常规计算机处理器,从而释放这些处理器进行实际的人工智能工作。这很重要,因为现代人工智能系统,特别是能够像人类一样进行规划和推理的”代理人人工智能”,需要许多不同的组件协同工作,例如语音识别、语言理解和决策系统不断进行通信。可以将其比作一家餐厅,DPU就像一个效率极高的服务员,处理所有的订单和桌子与厨房之间的通信,让厨师(常规处理器)专注于烹饪。软银的测试显示,该系统每秒可处理77吉比特的数据,而不使用任何主处理器,而传统系统最多只能达到65吉比特,同时消耗大量计算能力。随着人工智能系统变得越来越复杂,能源成本飙升,这一突破性进展至关重要。

来源: NVIDIA开发者博客

本站解析

背景和环境

要理解DPU的重要性,可以将您的计算机比作一个繁忙的办公室。CPU(主处理器)就像首席执行官做出重要决策。GPU(图形处理器)就像创意部门生产令人惊叹的视觉效果和计算。但是谁来处理电话、管理安全并在部门之间进行协调呢?这就是DPU的作用 – 它就像一个保持一切运转顺畅的办公室经理。

现代人工智能系统不是单一程序,而是协作的专业服务集合,就像手机上的应用程序相互通信一样。当您向人工智能助手提出问题时,它可能会使用一项服务来理解您的语音,另一项服务来处理含义,第三项服务来搜索信息,第四项服务来生成响应。所有这些通信都会产生大量数据流量,可能会使常规处理器不堪重负。

专家分析

向”代理人人工智能”的转变代表了人工智能工作方式的根本性变革。这些系统不仅能回答问题,还能进行规划、推理并通过分解步骤来解决复杂问题。这就像计算器给出答案与导师教您如何解决问题之间的区别。

随着人工智能的发展,能源效率已成为关键。训练和运行人工智能模型会消耗大量电力 – 一些数据中心的用电量相当于小城市。通过使系统的能源效率提高190倍,DPU可以帮助使人工智能更加可持续和可访问。这不仅关乎节省成本,也关乎确保人工智能的规模扩张不会过度影响气候变化。

补充数据和事实

软银测试的数据令人瞩目。他们的DPU增强系统每瓦功率可达57吉比特,而传统系统仅为0.3吉比特。从另一个角度来看,这就像一辆汽车的油耗从每加仑10英里提高到每加仑1,900英里。该系统还将响应时间缩短了11倍 – 想象一下,网站从1.1秒加载缩短到0.1秒。

这项技术对”主权人工智能”特别重要 – 各国正在建立自己的人工智能基础设施,而不是依赖外国科技巨头。日本通过软银等公司大力投资国内人工智能能力。拥有世界20大超级计算机中的两台,以及自己的语言模型Sarashina,他们需要高效的方式为数百万用户提供服务。

总结

DPU代表了计算架构的关键进化,增加了第三类专门用于现代人工智能系统所需的网络和安全任务的处理器。通过大幅提高效率和性能,这项技术有助于解决人工智能最大的挑战之一:巨大的计算和能源需求。对于有兴趣从事技术职业的学生来说,了解这种新的计算范式 – CPU用于一般任务,GPU用于并行处理,DPU用于数据移动 – 将在人工智能成为各行各业的核心时变得至关重要。

公众反应

科技爱好者庆祝效率的提高,认为DPU对于人工智能的可持续发展至关重要。环保倡导者欢迎能源消耗大幅降低。一些人担心计算机系统的复杂性增加。数据中心运营商看到了巨大的潜在成本节约。计算机科学专业的学生对DPU编程和优化方面的新就业机会感到兴奋。

常见问题解答

问:什么是DPU?
答:数据处理单元是一种专门的芯片,旨在处理网络、安全和数据移动任务,从而释放CPU和GPU专注于其专门的工作。可以将其视为数据的交通指挥员。

问:为什么能源效率对人工智能如此重要?
答:人工智能系统消耗大量电力。提高效率可以降低成本和环境影响,并使人工智能能够部署在更多地方而不会过度负荷电网。

问:DPU会如何改变我们在家中使用计算机的方式?
答:目前,DPU主要用于数据中心和企业系统。但随着人工智能在日常设备中变得更加普遍,未来可能会在游戏机或高端PC中出现面向消费者的版本。