评价一款AI芯片最关键的指标是什么?CCF

AI快速发展的当下,一款更符合应用需求的AI芯片将是加速AI与新经济社会各领域渗透融合、推动AI可持续发展的重要因素。目前,各种促进深度学习算法有效处理的新架构和新技术不断推向市场。那评价一款AI芯片最关键的指标到底是什么?

AI芯片分类的维度

“对于AI当下的发展,不能简单的说AI落地不如预期,典型产品已经成功进入大家的日常生活。当然,AI落地本身肯定会遇到各种困难和挑战。“

这其中很关键的就是AI芯片,我们目前所说的AI芯片通常是指可以运行深度学习算法的芯片。由于CPU、GPU、FPGA的通用性,能够运行深度学习算法,从广义角度来看,它们属于AI芯片的范畴。

从狭义角度看,AI芯片是指针对AI的算法、应用和场景定制优化的芯片。也就是说,AI芯片应该和CPU、GPU、FPGA区分开。除了CPU、GPU、FPGA、ASIC这个常用分类维度,还有一些其他维度。

尹首一表示,从宏观的角度看,可以把AI芯片架构分为这三类,当然从不同的侧面也可以有不同的分类,比如混合精度、稀疏处理等特点也可以成为分类维度。

AI芯片有哪些关键指标?

存算一体这个很早之前就被提出的技术成为了当下讨论较多的解决方案,有两种技术已经使用。一种把计算做到DRAM或SRAM存储器中,把计算和存储两部分的物理距离拉的特别近,另一种是把存储分散到计算的阵列中去。当前的另一个热点是采用新兴存储器RRAM来做,利用RRAM交叉开关阵列,用电压和电流的方式表达出矩阵相乘的结果。

尹首一认为,存算一体的思路是解决存储墙必然的一个趋势。但他也同时指出,内存墙的问题会长期存在。从AI芯片落地的角度看,内存墙问题是挑战之一、但不是全部,因为不同场景下内存墙的表现和影响不太一样,易用性是不可忽视的问题。

易用性既取决于芯片最初的定义和设计,后期的生态建设也非常关键。尹首一说:“芯片设计为了追求更高性能指标,通常设计决策会做一些折中,可能会牺牲掉一定的易用性。但反过来会发现,其实很多场景下,极致的性能并不一定会成为压倒性的要素,还是需要开发的便捷性,或者说配套的工具链完备性,这是AI芯片在落地过程中主要会碰到的困难。”

像自动驾驶应用,当下要解决从无到有的问题,因此会更加追求算力,功耗会放到第二位。而像家电的场景,成本则是一个很重要的因素。

“因此,功耗和性能如何去平衡,让AI芯片有足够的弹性去适应不同场景的需求,是AI芯片产品定义中比较重要的方面。”尹首一表示。

“可重构架构很大的优势就在于可以在灵活性和能量效率之间寻找一个比较好的平衡。还需要说的是,灵活性是为了适应AI算法的演进,但芯片追求更好PPA指标的目标是不会变的。”

AI芯片未来演进的关键是什么?

探索功耗和性能的平衡,适应AI算法的演进兼具良好的易用性是当下以及未来AI芯片发展的关键。“随着深度学习算法和人工智能应用的发展,AI芯片的问题肯定会不断涌现出来,我们现在能做的是提供足够灵活的方案,具备对未来算法一定程度上的可扩展性。”尹首一表示,“当然新的算法和需求可能会超出我们架构最初的一些设想,这需要架构不断演进。另一方面,当一些场景的需求足够大,就可以针对这些场景设计出更定制化的AI芯片。”

在这个过程中,很有利的一点是一些应用场景的需求已经基本稳定,当跨过这些场景所需的性能门槛后,AI芯片就未必需要去追求最新的算法。

这带来的好处是,当算法相对稳定后,可以把里面的要素分析的更透彻,通过不断迭代的软硬件协同优化,使AI芯片在具体场景中的优势更大程度上体现出来。

AI芯片的技术会跟随着时代的发展不断演进,只有技术和应用很好地结合才能更好地抓住AI的时代机遇。当前介绍人工智能和集成电路设计的书籍很多,但是针对人工智能芯片,长期以来缺乏一本系统性的专著。

尹首一教授借集成电路设计丛书编委会邀请的契机,撰写并出版了《人工智能芯片设计》,总结了人工智能芯片的发展历程以及当前面临的挑战和问题,分析了各项设计需求,介绍了人工智能芯片设计的新思路、新方法和新技术,展望了未来发展趋势。

尹首一接受采访时表示,“撰写《人工智能芯片设计》最大的感受就是AI芯片的发展很快,比如三四年前探讨混合精度计算还不多,现在芯片设计中已经普遍使用。因此我们的书也希望能够很快再版,保持内容的不断更新,希望和AI芯片一起不断成长。”

关于当下新基建的时代机遇。尹首一认为,“从宏观上看,新基建肯定利好AI芯片,但还要具体情况具体分析。如果你的芯片进展和新基建很吻合,那应该把握好这个转瞬即逝的机遇。如果交集不多,那就练好内功,芯片的竞争最终比拼的还是技术和产品的综合实力。

将于2020年8月7日-9日举行的2020年全球人工智能与机器人大会(CCF-GAIR2020)以AI新基建产业新机遇为主题,设置了针对新基建学术和产业的AI芯片专场、智能驾驶专场、AIoT专场、智慧城市专场、工业互联网专场、企业服务专场、医疗科技专场、机器人前沿专场、联邦学习与大数据隐私等15大专场。

2020年8月8日上午9:00-12:20,AI芯片专场的学术大咖和重要企业技术VP将共同探讨如何用创新的指令集、架构及商业模式抓住新基建给AI芯片带来的绝佳机遇。

目前,学术大咖已经确定。他是清华大学微纳电子系,教授,系主任,清华大学微纳加工平台主任,北京市未来芯片技术高精尖创新中心副主任吴华强。2009年,他加入清华大学微电子学研究所,研究领域为新型半导体存储器及基于新型器件的类脑计算。

清华大学微纳电子系,教授,系主任,清华大学微纳加工平台主任,北京市未来芯片技术高精尖创新中心副主任吴华强

英特尔首席工程师,人工智能技术中国首席架构师夏磊、地平线联合创始人黄畅也已经确认出席CCF-GAIR2020AI芯片专场。

THE END
1.投资者提问:请问开发ai芯片的聆思科技和贵公司什么关系?贵公司ai...请问开发ai芯片的聆思科技和贵公司什么关系?贵公司ai大模型预计什么时候发布 董秘回答(科大讯飞SZ002230): 您好,聆思科技是科大讯飞的生态合作伙伴之一。讯飞依托认知智能全国重点实验室(科技部首批20家标杆全国重点实验室之一)的长期积累,于2022年12月份启动生成式预训练大模型“1+N”任务攻关,其中“1”是通用认知智...https://finance.sina.cn/stock/relnews/dongmiqa/2023-03-25/detail-imynaxuw2584040.d.html
1.AI芯片最强科普机器之心GPU短期将延续AI芯片的领导地位。目前GPU是市场上用于AI计算最成熟应用最广泛的通用型芯片,在算法技术和应用层次尚浅时期,GPU由于其强大的计算能力、较低的研发成本和通用性将继续占领AI芯片的主要市场份额。GPU的领军厂商英伟达仍在不断探寻GPU的技术突破,新推出的Volta架构使得GPU一定程度上克服了在深度学习推理阶段的...https://www.jiqizhixin.com/articles/2018-12-24-5
2.ai芯片是什么东西ai芯片和普通芯片的区别ai芯片是什么东西 ai芯片和普通芯片的区别 AI芯片是专门为人工智能应用设计的处理器,它们能够高效地执行AI算法,特别是机器学习和深度学习任务。AI芯片可以根据设计和应用的不同,大致分为以下几类: 1.通用芯片:这类芯片经过软硬件优化,可以高效支持AI应用,例如GPU(图形处理单元)和FPGA(现场可编程门阵列)。https://www.elecfans.com/d/2558003.html
3.AI芯片是什么?这种技术如何推动人工智能的发展和应用?在当今科技飞速发展的时代,AI 芯片作为一项关键技术,正以前所未有的影响力推动着人工智能的进步,并在众多领域实现广泛应用。 AI 芯片,顾名思义,是专门为人工智能计算任务而设计的芯片。与传统芯片相比,它具有独特的架构和优化,能够高效处理大量的数据和复杂的算法。 https://funds.hexun.com/2024-09-25/214709992.html
4.什么是人工智能芯片,什么是人工智能芯片?人工智能大家好,今天小编关注到一个比较有意思的话题,就是关于什么是人工智能芯片的问题,于是小编就整理了6个相关介绍什么是人工智能芯片的解答,让我们一起看看吧。 什么是ai芯片? al芯片是指是能处理AI通用任务且具有核心知识产权(IP)的处理器; 是融合运营AI算法的普通处理器; ...http://www.92mobi.com/rgzn/9f1b30ca2539968d.html
5.所谓的AI芯片到底指什么?ai芯片是什么所谓的AI芯片到底指什么? 进入公司AI产业快有3个年头,AI芯片和传统芯片,甚至AI芯片和GPU,还有AI芯片的发展历史,面向未来场景的挑战都有很多话题,下面我们一起来聊聊AI芯片和传统芯片的区别哈。 芯片是半导体元件产品的统称,而集成电路,缩写是IC,就是将电路小型化,通过电子学和光学,将电路制造在半导体晶圆上面。https://blog.csdn.net/m0_37046057/article/details/121172739
6.AI芯片概念是什么?(附十大概念股)AI芯片概念是什么?(附十大概念股) 所谓的AI芯片概念,泛指专门用于处理人工智能应用中的计算任务的模块,是诞生于人工智能应用快速发展时代的处理计算任务硬件,广义来讲,凡是面向人工智能应用的芯片均被称为AI芯片。 主要的技术路线有三种:通用型(GPU)、半定制型(FPGA)、定制型(ASIC)。https://ee.ofweek.com/2023-04/ART-8500-2816-30594232.html
7.AI芯片概述四强科技CPU可以拿来执行AI算法,但因为内部有大量其他逻辑,而这些逻辑对于目前的AI算法来说是完全用不上的,所以,自然造成CPU并不能达到最优的性价比。因此,具有海量并行计算能力、能够加速AI计算的AI芯片应运而生。 二、什么是AI芯片 一般的说,AI芯片被称为AI加速器或计算卡,即专门用于加速AI应用中的大量计算任务的模块(...https://www.forthlink.com/gov/10788
8.什么是AI视觉感知芯片?视觉芯片作为从物理世界到数字孪生世界最重要的入口,受到了广泛的关注,尤其是那些能够恢复80%-90%物理世界的芯片AI视觉感知芯片。 那么什么是AI视觉感知芯片呢?从需求端的角度来看,AI视觉感知芯片需要具备两大功能:一是看得清楚,二是看得懂,其中AI-ISP负责的是看得清楚,AI-NPU负责看懂。 https://www.sensorexpert.com.cn/article/78508.html
9.英伟达价值1万美元的芯片是什么样的?它将成为AI行业的“主力...英伟达价值1万美元的芯片是什么样的?它将成为AI行业的“主力” 财联社消息,目前人工智能(AI)正在科技行业掀起一股淘金热。 正当微软、谷歌等大型科技公司着眼于将尖端的AI技术集成到他们的搜索引擎中、努力开发AI软件时,英伟达正试图在它最擅长的芯片领域开拓出一条新的道路。https://www.cqcb.com/shuzijingji/2023-02-24/5182646.html
10.什么是NPU:AI芯片的未来,你需要了解的一些事虽然GPU 和 CPU 也能执行 AI 计算,但 NPU 能将这些计算分解成更小的部分,从而实现更快速的处理。 推荐阅读:NPU 与 GPU 有什么区别? NPU 与 TPU Google Cloud TPU Google 开发的 TPU 同样专注于处理神经网络,与 NPU 功能相似。但它们在架构上有显著的不同。 https://www.sysgeek.cn/www.sysgeek.cn/what-is-npu/
11.AI芯片:前沿技术与创新未来本书从人工智能(AI)的发展历史讲起,介绍了目前非常热门的深度学习加速芯片和基于神经形态计算的类脑芯片的相关算法、架构、电路等,并介绍了近年来产业界和学术界一些著名的AI芯片,包括生成对抗网络芯片和深度强化学习芯片等。本书着重介绍了用创新的思维来设计AI芯片的各种计算范式,以及下一代AI芯片的几种范例,包括量...https://labs.epubit.com/bookDetails?id=UB77c78956e3aef