人工智能浪潮的推动（dòng）下，AI相关产业的商用场（chǎng）景（jǐng）正逐步（bù）大规模落地，基于AI技术的（de）三大支柱：“算法＋大数据＋计算能力”智能应用（yòng）已成为计算机（jī）最主要的负（fù）载之一。我国（guó）在用户数（shù）据方面（miàn）拥有数量的先天优（yōu）势，但面对（duì）有（yǒu）限的规模、结构（gòu）固定、能耗受限的硬件制约下，如何（hé）用AI芯片处理（lǐ）海量的（de）并不断演进的深度学习算（suàn）法呢（ne）？跟随OFweek编辑一起来看看各大科技巨头们研发（fā）的（de）AI芯片吧。（排名按首字母顺序排列）

1.含光（guāng）800

2019年（nián）的杭州云栖（qī）大（dà）会（huì）上，达摩院院长张（zhāng）建（jiàn）锋现场展（zhǎn）示了这款全球最强（qiáng）的 AI芯片——含光800。在业界标准（zhǔn）的 ResNet－50 测试中，含（hán）光 800 推理性能（néng）达到 78563 IPS，比（bǐ）目前业界最好的 AI 芯（xīn）片性能高 4 倍；能效（xiào）比500 IPS／W，一个（gè）含光800的算力相当于10个GPU。

目前，含光800已（yǐ）经实现了大规模应用（yòng）于阿里（lǐ）巴巴集团内多（duō）个场（chǎng）景（jǐng），例（lì）如视频图像识别／分类（lèi）／搜（sōu）索（suǒ）、城（chéng）市大脑等，未来（lái）还可应用于医（yī）疗影（yǐng）像、自动驾驶等领域。以杭州城市大脑实时处理1000路视频为例，过去使用GPU需要（yào）40块，延时为300ms，单路视频（pín）功耗2．8W；使用含光800仅需4块，延时（shí）150ms，单路（lù）视（shì）频功耗1W。

2.Graphcore IPU

总部位于英国布里（lǐ）斯托（tuō）的Graphcore公（gōng）司日前（qián）推（tuī）出了一款（kuǎn）称为（wéi）智能处（chù）理单（dān）元（IPU）的新（xīn）型AI加（jiā）速处理器。芯片本身，即IPU处（chù）理器，是迄今为止最复杂（zá）的（de）处理器芯片：它在一个16纳米芯片上（shàng）有几乎240亿个（gè）晶体管，每个（gè）芯片提（tí）供125 teraFLOPS运算（suàn）能力。一个标准4U机箱中（zhōng）可插（chā）入8张卡，卡（kǎ）间通过（guò）IPU链（liàn）路互连。8张卡中的IPU可以作为（wéi）一个处理器元件工作，提供两个petaFLOPS的运算能力（lì）。与芯（xīn）片（piàn）在CPU和GPU中的存在（zài）形式不同，它为机器智能提（tí）供了更高（gāo）效的处理平（píng）台。

Graphcore公（gōng）司（sī）于2016年启动风（fēng）险投资计（jì）划，并在2018年12月的最后一轮融资中募集了2亿美元。基于其17亿美元的公司估值，Graphcore已成为西方半导体（tǐ）界的唯一“独角兽（shòu）”。它的投资（zī）者们包括戴尔、博（bó）世、宝马（mǎ）、微软和三星。

3.Inferentia芯片

2019年（nián），亚马逊的云（yún）服务业务AWS在其发布会AWS re：Invent上（shàng）带来（lái）了高性能机器学习加速芯（xīn）片Inferentia。据了解，AWS Inferentia 是一（yī）个由（yóu） AWS 定制设（shè）计的机器学习（xí）推理芯片，旨（zhǐ）在以（yǐ）极低成本交（jiāo）付高吞（tūn）吐（tǔ）量（liàng）、低延迟推理（lǐ）性能。该芯片将支持 TensorFlow、Apache MXNet 和 PyTorch 深度学习框架以（yǐ）及使用 onNX 格式的模型。

每个 AWS Inferentia 芯片（piàn）都能在低（dī）功率下支（zhī）持高达 128 TOPS（每秒数万亿次（cì）运行）的性（xìng）能（néng），从（cóng）而（ér）为每（měi）个（gè） EC2 实例启用多（duō）个芯片。AWS Inferentia 支持 FP16、BF16 和 INT8 数据类型。此外，Inferentia 可以采用 32 位训练模型，并使用 BFloat16 以 16 位模型的速度运行该模型。与EC4上（shàng）的常规Nvidia G4实例相（xiàng）比，借（jiè）助Inferentia，AWS可提供更低的延迟和三倍的吞吐量，且（qiě）每次推理成本降低40％。

4.昆仑芯片
   2019年尾声，百度宣布首款AI芯片昆仑已经完成研发（fā），将由三星代工生产。该芯片使（shǐ）用（yòng）的是三星（xīng）14nm工艺（yì）技术，封装（zhuāng）解（jiě）决（jué）方案采（cǎi）用（yòng）的（de）是（shì）I－Cube TM。

据悉，昆仑AI芯片（piàn）提（tí）供512Gbps的内（nèi）存带宽，在150瓦的（de）功率下实现（xiàn）260TOPS的（de）处（chù）理能力，能支持语音，图（tú）像，NLP等（děng）不同的算法（fǎ）模型，其中ERNIE模（mó）型的性（xìng）能是（shì）T4GPU的（de）三倍以上，兼容百度飞桨（jiǎng）等主流（liú）深度学习框架。该（gāi）款芯片主要用于云计算和边缘计（jì）算，预计在2020年初实现量产，

5.Nervana NNP 芯（xīn）片

2019 英特尔人工智能峰会（huì），英特尔推出面向训练（liàn） （NNP－T1000） 和（hé）面向推（tuī）理（lǐ） （NNP－I1000） 的英特尔 Nervana 神经网络处理器 （NNP）。据了解，Nervana NNP－T 代（dài）号 Spring Crest，采用了台（tái）积电（diàn）的 16nm FF＋ 制程工艺，拥有 270 亿个晶体管（guǎn），硅片（piàn）面积 680 平方毫米，能够支持 TensorFlow、PaddlePaddle、PYTORCH 训（xùn）练（liàn）框架，也支持 C＋＋ 深度学习软件库和编译（yì）器 nGraph。

Nervana NNP－I，代（dài）号为（wéi） Spring Hill，是一款（kuǎn）专（zhuān）门用于大型数据（jù）中心的推理（lǐ）芯（xīn）片。这款芯片是基于 10nm 技术和 Ice Lake 内核打造的，打造地点是以色列的 Haifa ，Intel 号（hào）称它能（néng）够利用最小的（de）能（néng）量来处理高负（fù）载（zǎi）的工作，它（tā）在（zài） ResNet50 的（de）效率（lǜ）可达 4．8TOPs／W，功（gōng）率范（fàn）围在 10W 到 50W 之间。

6.Orin芯片

2019年（nián）NVIDIA GTC中国大会中英（yīng）伟达发布了全新的软件（jiàn）定义（yì）自动驾驶平（píng）台——NVIDIA DRIVE AGX Orin，该（gāi）平台内置全新Orin系统级（jí）芯片（piàn），由（yóu）170亿个（gè）晶体管组成。

Orin系统（tǒng）级芯片（piàn）集（jí）成了NVIDIA新一代GPU架构和Arm Hercules CPU内核以及（jí）全新深度学习和计算机视觉（jiào）加速器，每秒可运行200万亿次计算，几乎是（shì）NVIDIA上一代Xavier系统级芯片（piàn）性能的7倍。此外，Orin可处理在自动（dòng）驾驶汽车和机（jī）器人（rén）中同时运（yùn）行的大量应（yīng）用和深度神经网（wǎng）络，并且（qiě）达到了ISO 26262 ASIL－D等系统安全标准。

7.邃思DTU

由腾讯领投（tóu）、融资累计超（chāo）过（guò） 6 亿（yì）元的 AI 芯片公司（sī）燧原科技，在2019年发布（bù）会中（zhōng）推出自主研发的首款（kuǎn） AI 训练芯片“邃思 DTU”。

据了解邃（suì）思DTU采用格罗方（fāng）德12nm FinFET工艺，480平方毫（háo）米主芯（xīn）片上（shàng）承载（zǎi）141亿个晶（jīng）体（tǐ）管（guǎn），实现2．5D高级立体封装，据称单卡单精度算（suàn）力为业界第一，达20TFLOPS，首次支持混合精度，半精度及混合精度下算力（lì）达80TFLOPS，最大功耗仅225W。

邃思芯片基于可重（chóng）构（gòu）芯片（piàn）的设计（jì）理念，其计算核心包含 32 个通用可扩展神经元处理器（SIP），每 8 个 SIP 组合（hé）成 4 个可扩展（zhǎn）智能（néng）计算群（qún）（SIC）。SIC 之间（jiān）通过 HBM 实现高速互联，通过（guò）片上调（diào）度算法（fǎ），数据在迁移中完成计算，实现了 SIP 利用率最大化。

8.思元220芯片

寒（hán）武纪（jì）在（zài）第（dì）21届（jiè）高交（jiāo）会正式（shì）发布边（biān）缘AI系列（liè）产品思元220（MLU220）芯片（piàn）及M．2加速卡产品，标志寒武纪在（zài）云（yún）、边、端实现（xiàn）了全方位、立体式的覆盖。

思元220芯片采用了寒武纪在处理器架构领域（yù）的一系列创新性技术，其架（jià）构为寒武（wǔ）纪最新一代智能处理器（qì）MLUv02，实现最大32TOPS（INT4）算（suàn）力，而功耗仅10W，可提供16／8／4位可配置的定点（diǎn）运算。作为通用处理器，支持各（gè）类深度（dù）学习技术，支持多模态智能处理（视觉、语（yǔ）音和（hé）自然语言处理（lǐ）），应用领域广（guǎng）泛，客户可以根据实际（jì）应用灵活的选择运算（suàn）类型来获得卓越的人工智能推理性能。

9.昇腾910

2019年8月，华（huá）为（wéi）在深圳总部发布（bù）AI处（chù）理器Ascend 910（昇腾910），据（jù）华（huá）为发布的参数（shù）显示，昇腾910是一款具有（yǒu）超高算（suàn）力的AI处理器（qì），其最大功耗（hào）为310W，华为自研的达芬奇架（jià）构大大提（tí）升了其（qí）能效比。八位整数精度（dù）（INT8）下的（de）性能达到（dào）512TOPS，16位浮点数（FP16）下的（de）性能达到（dào）256 TFLOPS。

作为一款（kuǎn）高集成（chéng）度的片上系（xì）统（SoC），除了基于达芬（fēn）奇架构的AI核（hé）外，昇腾910还集（jí）成了多（duō）个CPU、DVPP和任务调（diào）度（dù）器（Task Scheduler），因（yīn）而具有自我（wǒ）管理能力（lì），可以充分发挥（huī）其高算（suàn）力的优势。

昇腾910集（jí）成（chéng）了HCCS、PCIe 4．0和（hé）RoCE v2接口（kǒu），为构建横向（xiàng）扩（kuò）展（Scale Out）和纵（zòng）向扩（kuò）展（Scale Up）系统提供了灵（líng）活高效（xiào）的方法。HCCS是华（huá）为自研的高速互（hù）联接口（kǒu），片内RoCE可用于节点间直接互（hù）联。最新的PCIe 4．0的吞吐（tǔ）量（liàng）比上一代提升一倍。

10.征（zhēng）程二代

2019世界人工智能大会中，人（rén）工智（zhì）能（néng）芯（xīn）片（piàn）初创（chuàng）公司（sī）地平线（xiàn）正式宣（xuān）布量产（chǎn）中国首款（kuǎn）车规级人（rén）工（gōng）智能芯片——征程二代，并且获得五个国家市场客户的前装（zhuāng）定（dìng）点项目。

据介绍，征程二代于今（jīn）年初流片成功，搭载地平线自主（zhǔ）创新研发的高性能计算架构BPU2．0（Brain Processing Unit），可（kě）提供超过4TOPS的等效算力，典型功耗仅（jǐn）2瓦（wǎ），满足（zú）AEC－Q100标（biāo）准，算力利用率超过90％，每（měi）TOPS算力可（kě）以处理的（de）帧（zhēn）数可达（dá）同等算力GPU的10倍以上，识别精度超过99％，延迟少（shǎo）于100毫秒，多任务模式下可以同时跑超过（guò）60个分类任务，每秒钟识别目标数可以超过2000个。

此次地平线率（lǜ）先推出（chū）首（shǒu）款车规（guī）级AI芯片（piàn）不仅（jǐn）实（shí）现了中国车规级AI芯片量产零的突破，也补（bǔ）齐（qí）了国内自动（dòng）驾（jià）驶产业（yè）生态（tài）建设的关键（jiàn）环节（jiē）。

小结

目前通过CPU／GPU处（chù）理人工神经网络效率低下，谷歌大脑（nǎo）需要1．6万个（gè）CPU核跑数天方能完成猫脸识别训（xùn）练（liàn）；AIpha GO与李世（shì）石下（xià）棋时用了1000个CPU和（hé）200个GPU，AI芯片的（de）发展是第三次AI浪（làng）潮中极为明显的趋势（shì），算法已（yǐ）渗透到云服务器和（hé）智（zhì）能手机的方方面面，未来每台计（jì）算机可（kě）能都需要（yào）一（yī）个专门的（de）深度学（xué）习处理器。