脑子是个好东西,芯片能模仿一下吗英特尔神经元处理器神经网络

出版于1968年的《仿生人会梦见电子羊吗?》曾大胆设想机器人也将拥有人的特质,这些仿生人会思考、会睡觉还会做梦,开启人们对于冰冷造物和生命间的思考。[1]

现在,那种充满赛博朋克色彩的世界似乎不再遥远。芯片结构已高度模仿生物大脑,开始拥有五感,并且越来越具备人的特征,它就是神经形态芯片,一种比现有CPU或GPU能耗比强一千倍以上的芯片。[2]

迄今为止,神经形态计算仍然在研究阶段,但接连而来产业化动作,昭示着这一技术将成就第一批吃螃蟹的人。[3]

从生物大脑到芯片

神经形态计算(NeuromorphicComputing)也被称为神经拟态计算,指的是参考生物大脑神经元结构和思考处理模式而搭建的架构,它是一种跳出传统冯·诺依曼架构的先进计算形式,据这一架构设计出来的芯片就是神经形态芯片。

简单解释,就是把人脑做进了芯片里。虽然乍听这样一个词语,非常晦涩难懂,但实际上,同样是借鉴人脑的人工智能(AI)技术早已进入千家万户[4]。只不过,神经形态芯片是一种架构更接近人脑的器件。

类脑芯片中的一种

神经形态计算也是一种类脑芯片(Brain-inspiredComputing,也被称为脑启发计算)。

目前,类脑芯片的精确定义及范围划分,学术界、产业界意见尚未统一。一般粗略分为神经形态芯片(基于脉冲神经网络SNN)和深度学习专用处理器(基于人工/深度神经网络ANN/DNN),前者是从结构层逼近生物大脑,侧重于参照人脑神经元模型及其组织结构来设计芯片结构,后者则非神经元组织结构,而是围绕成熟认知计算算法,设计芯片结构。[5]

简单解释二者原理,深度学习专用处理器是降维处理,把多维问题转换为一维信息流;神经形态芯片是升维处理,通过多维时空变换,以期更接近人脑思考方式,从而获得更好的能耗、算力和效率。[6]

冯诺依曼架构与神经形态架构的对比,图源丨NatureComputationalScience[7]

深度学习专用处理器属于另一个子行业,早在2012年,中科院计算所研制了当时国际上首个支持深度神经网络处理器架构芯片寒武纪[8],目前玩家包括Mythic、Graphcore、GyrfalconTechnology、Groq、HAILO、Greenwaves、谷歌、地平线、寒武纪等。

两大方向并非彼此独立或互斥,而是交叉融汇。对于深度学习已非常擅长的,如模拟人类视觉或自然语言交互任务,会继续使用深度学习网络去应对;对于其它不太适合用深度学习做的,如嗅觉、机器人操控、多模态甚至于跨模态间存储等,将会采用新架构的神经形态芯片。

类脑计算两大平台特性[9]

生物大脑的特点

生物大脑能够实现感知、运动、思维、智力等各种功能,但由于其复杂性,目前对大脑的认识与理解还非常有限,这对神经形态芯片从认知原理、硬件实现、智能算法到双脑融合等都带来了挑战。[10]

以目前研究来看,生物大脑中,神经元细胞会通过树突、突触等实现信号传递与调整等功能,同时,神经元间会以脉冲信号形式相互交流。实际上,单个神经元的结构和功能并不复杂,但通过突触互连的大规模神经网络,就能实现各种复杂的学习和认知功能。[11]

另外,生物大脑与主流的人造芯片结构极为不同:

神经元和突触的信息处理结构不仅拥有更高效率,还可实现大规模并行处理;[12]

生物大脑记忆并非一成不变,而是既有频繁重复的长时记忆,也有快速遗忘的短时记忆,两者互相转换表现在突触上,就是长/短时程可塑性的转变;[14]

计算机基本均为全数字信号的处理方式,而生物大脑则是混合信号,脑内通信使用数字信号快速传输,神经元和突触的处理使用更为有效的模拟化学形式。[15]

传统电路结构(左)对比人脑结构(右)[16]

但也不是说人造的器件就没有任何优点,假如能用CMOS构造出与生物大脑同等规模的器件,二者会呈现不同的优势领域,神经形态芯片最终一定是结合生物大脑和人造器件各自优点而设计制造。

生物大脑对比同等规模CMOS器件[16]

三种主流实现形式

早在1952年,就有研究将神经系统建模为等效电路[17],直到上世纪八十年代,超大规模集成电路(VLSI)发明者之一,加州理工大学的CarverMead以此为灵感,创造了神经形态(Neuromorphic)这一术语,描述模仿生物神经系统某些功能的设备和系统。[18]

一颗理想的神经形态芯片背后是多个学科的碰撞,包括在材料上追求类生物物质,在器件上构造神经元与突触,在电路上实现神经网络连接,在算法上实现大脑思考能力[19]。不同神经形态芯片的涉及材料、器件、工艺极多,而它也将会自下而上地从材料、器件、电路、架构带动算法和应用。[7]

神经形态芯片涉及的领域和机会,图源丨NatureComputationalScience,有改动[7]

目前为止,神经形态芯片的构造基本一致,包括神经元计算、突触权重存储、路由通信三部分,同时采用与脉冲神经网络(SNN)模型。[9]

但依据材料、器件、电路不同,分为模拟电路主导的神经形态系统(数模混合CMOS型)、全数字电路神经系统(数字CMOS型)、基于新型器件的数模混合神经形态系统(忆阻器是候选技术)三种流派。

两种基于CMOS的方式能够继续利用现有制造技术,搭建人工神经元及其连接人工突触,但模拟单个神经元或突触行为,需要由多个CMOS器件组成电路模块,因此集成密度、功耗和功能模拟准确度会有所限制;新型器件从底层器件仿生的角度出发,在器件层面模拟神经元和突触,在功耗、学习性能等方面有显著优势,但目前仍处在探索阶段。[12]

其中,数字CMOS型是目前最易产业化的形式。一方面,技术和制造成熟度高,另一方面,不存在模拟电路的一些顾虑和限制。

神经形态芯片的三种实现形式,制表丨果壳硬科技

如何衡量一颗神经形态芯片的好坏?主要从计算密度、能量效率、计算精度和学习能力四项指标来评价其竞争力。[20]

神经形态芯片的四项关键指标和现状,制表丨果壳硬科技

解决行业燃眉之急

为什么要做神经形态芯片?它的商业价值在于能在低功耗以及少量训练数据的条件下持续不断自我学习,并且在理想情况下,同样一个人工智能任务中,神经形态芯片的能耗较传统的CPU或GPU减少了一千倍以上。

数字时代下,计算机的计算速度越来越快,甚至下起象棋来,还能战胜世界冠军。因此,人们亲切地把计算机称作电脑,但它的能效和智能程度还远达不到生物大脑。[22]

比如,AlphaZero是由5000个谷歌的专用机器学习处理器(TPU)组成的巨无霸,但每个单元功耗高达200W[23]。再如,IBM曾在深蓝超级计算机平台上仿真一只猫的脑皮层模型(相当于人类大脑的百分之一),就需近15万块CPU和144TB主存,能耗高达1.4MW。[24]

反观人类的大脑,由约850亿个神经元组成,通过一千万亿(1015)个神经突触连接在一起,每秒能够执行一亿亿次操作,但如此庞大的系统处理起日常任务的功耗只有20W[25]。与此同时,一个两岁的小孩,在任何角度、距离和光照条件下,都能毫无困难地从许多人中认出他/她所熟悉的人,智慧程度远超现有任何计算系统。[22]

所以,把芯片做成大脑,通过模仿生物大脑结构,神经形态芯片也确实拥有了能效比的特性。其独有的事件触发运算机制,当没有动态信息生成时,不会触发运算行为。同时,它还善于做复杂的时空序列分析,虽然单个神经元速率很低,但由于它和生物大脑的机制类似,可进行大规模并行运算,响应速度会远远快于现有解决方案。

可以说,神经形态芯片有潜力成为现在的救世主,解决行业面前的三大问题:一是数据量级大;二是数字形态日趋多元化,很多数据已不能依靠手动编辑输入或人工处理解决,需要智能化处理;三是应用对延时要求愈加强烈,传统单一计算架构会碰到性能和功耗的瓶颈。

另外,神经形态芯片还契合了绿色计算的概念。算力成为电力之后又一经济指标,耗能巨大的计算方式难挑大梁,能量优化的方式才是破解问题的最优解。据估算,数据中心每年会消耗约200太瓦时(TWh)的电力,这一数据已经相当于一些国家一年全国的耗电量。[26]

大规模商业化怎么走

虽然神经形态芯片处处都好,但它只在特定领域发挥特长,不会取代传统计算平台。CPU、GPU等传统数字计算芯片擅长精确计算,而神经形态芯片擅长非结构化数据、图像识别、嘈杂及不确定数据集分类、新型学习系统和推理系统等领域。

能颠覆特定领域计算的量子计算,其实也是同样的逻辑,它也不能脱离现有计算系统。未来的先进计算系统必然要求传统数字芯片、神经形态芯片和量子计算三者相互协同作战。[27]

目前来说,神经形态芯片难设计、难制造,尚未形成规模化市场。同时,业界一致认可的结论是,投资在神经形态芯片上面的钱,远远落后于人工智能或量子技术。[27]

小小一颗芯片,蕴含着半导体制造技术、脑科学、计算神经科学、认知科学、统计物理等学科知识[28],制造出这一颗芯片,要牵扯到物理学家、化学家、工程师、计算机科学家、生物学家和神经科学家这些关键角色,让如此众多角色去做同一件事、说同一门语言,毫无疑问是有挑战性的。

但其颠覆性的价值,引得全球加速商业化进程。数据显示,神经形态芯片市场将由2021年的2274.3万美元提升到2026年的5.5亿美元,年复合增长率高达89.1%。[29]另外,如果基本技术问题在未来几年内得到解决,那么到2035年,全球神经形态芯片市场将占整体人工智能市场的18%,达到220亿美元。[30]

那么,想推进大规模商业化,要解决什么问题?

其一,设计问题:大脑在实时处理复杂信息的同时,只消耗极少的能量,如何更好地理解这种高效工作机制,并把这些机制用到芯片中去,很难。仅拿商业化路径最近的数字CMOS型来说,多块全数字异步设计的芯片互联、芯片连接的有效性和时效性以及软件层互连计算、分布式计算和灵活分区都是难于跨过的鸿沟;

其二,制造问题:利用硅基晶体管路线可以复用现有制造技术,而非硅基路线还要解决底层制程、制造良率以及支撑大规模生产等问题,就算问题都解决了,做出了实验芯片,还要继续考虑产品化量级的稳定供应问题;

其三,软件和生态问题:神经形态芯片与现有架构完全不同,而社区中不少开发者是在底层构造自己的脉冲神经网络算法,并通过底层库把软件烧写进硬件做试验,这显然不是规模化的方案。大规模商业化,软件工具链就非常重要了;

其四,缺乏杀手级应用:不论是机器人、自动驾驶还是工业大规模优化,本身的逻辑应该是以应用驱动技术发展,在此基础上再持续不断建设生态系统。目前比较公认的观点是,神经形态技术最先将在消费电子、移动终端、工业物联网找到应用。

神经形态芯片的玩家

全球范围内,参与神经形态计算芯片开发的机构主要包括三类:英特尔、IBM、高通等为代表的科技巨头企业,斯坦福、清华为代表的高校/研究机构以及初创企业。[31]

神经形态计算玩家不完全统计,图源丨智东西[32]

国外发展情况

国外在神经形态芯片上的研究力度极大,不乏麻省理工学院、斯坦福大学、波士顿大学、曼彻斯特大学、海德堡大学等名校。科技巨头以英特尔、IBM、高通、三星为代表,初创企业包括BrainChip、aiCTX、Numenta、GeneralVision、AppliedBrainResearch、BrainCorporation等。[32]

从研究和实施情况来看,英特尔和IBM的实验芯片最具代表性。

目前已知神经形态芯片详细参数对比,制表丨果壳硬科技

参考资料丨IEEE[33]

英特尔的Loihi是全数字设计的神经形态芯片。2017年,英特尔开发出第一款Loihi。2021年,英特尔在此基础上推出第二代Loihi2,采用Intel4制程工艺生产,单芯片神经元数量达到100万。

英特尔神经形态芯片目前在感知领域应用已取得很大进展,包括手势识别、视觉推理以及多达三千倍学习数据的气味传感。另外,英特尔还开发出了一台将768颗Loihi芯片集成在5台标准服务器大小的机箱中的PohoikiSprings数据中心机架式系统。

为了让神经形态芯片更好用,英特尔还推出了名为Lava的开源软件框架,它是一种无需使用专门硬件就可构建应用的软件,能在传统和神经拟态处理器的异构架构上无缝运行,并允许研究人员和应用开发人员在彼此取得的成果上进一步开发。[34]

英特尔并不急于将神经形态芯片商业化,与小公司维持特定应用不同,英特尔是把它当作一项通用技术,同时会以十亿美元以上的水平看待所有商业机会。

英特尔Loihi和Loihi2简介

TrueNorth则是IBM潜心研发将近10年的实验芯片,自从2008年起,美国DARPA计划就开始资助这项计划。2011年,IBM公司推出了第一代TrueNorth。

到2014年,IBM的第二代TrueNorth神经元数量由256个增加到100万个,可编程突触数量由262144个增加到2.56亿个,每秒可执行460亿次突触运算,总功耗为70mW(每平方厘米功耗为20mW),整体体积仅为第一代类脑芯片的十五分之一。[5]

值得一提的是,IBM在2019年还曾推出名为BlueRaven的神经形态超级计算机,拥有6400万神经元和160亿个突触的处理能力,功耗仅为40W,相当于一个家用灯泡。[35]

国内发展情况

国内研究包括清华大学、浙江大学、复旦大学、中科院等顶级学府和机构,同时近两年不断涌现初创公司,如灵汐科技、时识科技、中科神经形态等。其中以清华大学的天机芯和浙江大学的达尔文芯片最具代表性。

国内神经形态芯片初创企业不完全统计,制表丨果壳硬科技

清华大学的神经形态芯片是国内最具代表性的实验芯片。2015年开发的第一代天机芯采用110nm工艺,当时仅仅是一个小样。2017年,第二代天机芯开始取得先进成果,基于28nm工艺制成,由156个功能核心FCore组成,包含约4万个神经元和1000万个突触。相比第一代,密度提升20%,速度提高至少10倍,带宽提高至少100倍。[37]

为了让神经形态芯片更具实用性,清华大学还自主研发了软件工具链,支持从深度学习框架到天机芯的自动映射和编译。根据清华大学的计划,下一代天机芯将是14nm或更先进的工艺,且功能会强大更多。[38]

国内另一具有代表性的是,浙江大学联合之江实验室共同研制的类脑计算机,其神经元数量与小鼠大脑神经元数量规模相当。该计算机包含792颗达尔文2代芯片,支持1.2亿个脉冲神经元、720亿个神经突触,如此庞大规模之下,典型运行功耗仅为350W~500W。[39]

事实上,国内在神经形态芯片领域的技术实力已处于全球领先水平,全球玩家都处在这一领域的起跑线上。

可以说,这是值得布局的一项技术。但它也是一块难啃的骨头,是材料、器件、工艺、架构、算法缺一不可的庞大赛道,是一个摸黑走到底的领域,同时未来必然会遇到应用场景和投入产出比问题。

不过,市场就是这样,谁敢挑战空白的领域,谁就能成为第一批拿到红利的人。

References:

[1]菲利普·K.迪克.DoAndroidsDreamofElectricSheep[M].Doubleday,1968.[FirstEdition].

[5]陶建华,陈云霁.类脑计算芯片与类脑智能机器人发展现状与思考[J].中国科学院院刊,2016,31(07):803-811.

[9]邓磊.异构融合类脑计算平台的计算模型与关键技术研究[D].清华大学,2017.

[11]邓亚彬,王志伟,赵晨晖,李琳,贺珊,李秋红,帅建伟,郭东辉.类脑神经网络与神经形态器件及其电路综述[J].计算机应用研究,2021,38(08):2241-2250

[12]王宗巍,杨玉超,蔡一茂,朱涛,丛杨,王志衡,黄如.面向神经形态计算的智能芯片与器件技术[J].中国科学基金,2019,33(06):656-662.

[15]SterlingP,LaughlinS.Principlesofneuraldesign[M].MITpress,2015.

[21]刘星,李星宇.神经形态计算芯片产业化发展前景分析[J].新经济导刊,2021,(03):31-34.

[22]师汉民.科学的睿智与美妙——数蕴玄学与面对复杂[M],高等教育出版社,2010:103–105

[25]WuKJ.Google’snewAIisamasterofgames,buthowdoesitcomparetothehumanmind[J].Smithsonian,2018,10.

[31]施路平,裴京,赵蓉.面向人工通用智能的神经形态计算[J].人工智能,2020,4(01):6-15.

THE END
1.人工智能芯片和普通芯片区别人工智能芯片和普通芯片区别 ; 人工智能(AI)是当前最热门的技术领域之一,并且在全球范围内受到越来越多人的关注。AI的应用范围从图像识别、语音识别、自然语言处理、智能控制等多个领域,人工智能芯片(AI芯片)作为支持这些功能的核心组件之一,被广泛应用于各种领域。那么,AI芯片和普通芯片有什么区别呢?本文将详细介绍AI...https://m.elecfans.com/article/2213379.html
2.什么叫AI芯片,和普通芯片有何区别?AI芯片有的把它称其为(人工智能处理器)!也有的厂商把它称其为NPU: 也就是神经网络处理单元(Neural Network Processing Unit)! 那么NPU有什么作用? NPU的作用就是帮助处理大量的数据和图像方面的识别等,主要目的就是为了减轻CPU和GPU的负荷! AI和普通芯片有什么区别? 那么我们先看看普通处理器都包括什么,拿手机处...https://wd.znds.com/15646_1.html
3.ai芯片和gpu芯片有什么区别?一文讲清AI芯片和GPU芯片的区别可以从不同的角度进行分析,包括功能特性、用途、硬件结构和计算能力等四个方面。 一、功能特性 AI芯片是针对人工智能应用开发的特殊处理器,旨在通过软件算法、深度学习技术、神经网络等技术,来处理大规模自适应、实时的数据,实现自动数据分析及决策,从而实现智能的调用和响应功能。相比传统芯片来说...https://www.sgpjbg.com/info/b00c3785a9dd1d646b5d77ca28b9c6c5.html
4.人工智能产业名词解释编者按:为深入学习贯彻党的十九届五中全会和中央、省市委经济工作会议精神,落实江敦涛书记批示要求,助推以人工智能赋能“四强”产业推动新经济发展走深做实,近日,市人大常委会以人工智能赋能“四强”产业推动新经济发展推进落实领导小组与市工业和信息化局联合制作了《人工智能产业名词解释》,今日在淄博人大网、淄博人大APP...http://www.zbrd.gov.cn/e/action/ShowInfo.php?classid=34&id=10317
5.爱思唯尔云论坛:变革性信息技术芯片本次论坛由上海交通大学集成量子信息技术研究中心金贤敏教授主持,特邀上海交通大学人工智能研究院首席科学家徐雷教授、浙江大学光电科学与工程学院副院长戴道锌教授、北京大学人工智能研究院类脑智能芯片研究中心主任杨玉超教授以及上海交通大学物理与天文学院副研究员唐豪、爱思唯尔核心内容客户顾问许靖博士,围绕芯片研究领域内最...https://lib.bupt.edu.cn/a/zuixingonggao/2021/0326/3895.html
6.芯片设计和芯片制造(芯片设计和芯片制造的区别)本篇文章给大家谈谈芯片设计和芯片制造,以及芯片设计和芯片制造的区别对应的知识点,希望对各位有所帮助,不要忘了收藏本站喔。 今天给各位分享芯片设计和芯片制造的知识,其中也会对芯片设计和芯片制造的区别进行解释,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧! https://fastonetech.com/newszblog/post/38503.html
1.AI芯片和普通芯片区别AI芯片主要有哪几类XinAI芯片也被称为AI加速器或计算卡,即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。当前,AI芯片主要分为 GPU 、FPGA 、ASIC。下面小编给大家介绍一下“AI芯片和普通芯片区别 AI芯片主要有哪几类” 1.AI芯片和普通芯片区别 ...https://blog.51cto.com/u_15708244/6111071
2.AI芯片和普通芯片区别AI芯片主要有哪几类人工智能(AI)是当今最热门的科技领域之一,而AI芯片作为支撑AI算法和应用的核心组件,则是当前IC设计领域中最重要的一个分支。与普通芯片相比,AI芯片在处理性能、功耗、数据通信等方面有着显著的优势。下面我们将详细介绍AI芯片与普通芯片的区别以及AI芯片主要的几个分类。 https://www.eefocus.com/e/1413633.html
3.AI芯片与普通芯片的区别与应用3.在医疗影像分析、金融风控和智能安防等领域,AI芯片也发挥着重要的作用。它能够在短时间内处理巨量的数据,并通过深度学习算法提取关键信息,为决策提供科学依据。 总之,AI芯片与普通芯片在计算能力、能效比和并行计算能力等方面存在明显区别。AI芯片在人工智能、机器学习和深度学习等领域具备广泛的应用前景,为各行各业...https://www.iotrouter.com/news/1722.html
4.AI芯片和传统芯片有何区别?人工智能芯片,尤其是神经网络处理器,旨在优化深度学习网络的计算效率并降低功耗。这些芯片可以从通用性、技术以及应用三个方面进行详尽的解析: 1. 从通用性的视角来看: 人工智能芯片可被归为通用芯片和专用芯片。通用芯片采用了普遍适用的算法和结构,实现各种AI算法;而专用芯片则针对某一类或特定任务进行加速,以符合目...https://www.yoojia.com/ask/17-14102018114325455547.html
5.AI芯片和传统芯片有何区别AI芯片人工智能(AI)的迅猛发展推动了芯片技术的演进,为了满足日益增长的计算需求,专门设计用于处理AI任务的AI芯片应运而生。与传统芯片相比,AI芯片在架构、性能和适用领域等方面存在明显的区别。本文将深入探讨AI芯片和传统芯片之间的差异。 1. 架构设计的不同 https://www.icanic.cn/news/2284.html
6.量子芯片与普通芯片:性能革命与日常应用腾讯云开发者社区随着科技的飞速发展,芯片已经成为了我们日常生活中不可或缺的一部分。从智能手机、电脑到家用电器,芯片无处不在。然而,随着科技的进步,芯片也在不断地演变,其中最具代表性的就是量子芯片与普通芯片之间的区别。 量子芯片与普通芯片的主要区别在于其工作原理和性能。量子芯片利用量子力学原理进行计算,而普通芯片则采用...https://cloud.tencent.com/developer/news/1156442
7.新时代证券:华为全球首款AI移动芯片,AI芯片产业链迎来...敬请参阅最后一页免责声明 -1- 证券研究报告 2017年 09 月 04日 计算机行业 华为全球首款 AI移动芯片,AI芯片产业链迎来投资大机遇 ——人工智能系列报告 行业专题研究 ? 华为发布全球首款智能手机 AI 芯片,AI 芯片发展史上里程碑事件 9 月 2 日华为公布全球第一款智能手机 AI 芯片——麒麟 NPU(内臵于...https://doc.mbalib.com/view/09721a9e4c7e65c5cd7591ca5c92f3d3.html
8.深度:32家公司决战云端AI芯片!2019年,新的云端AI芯片战场正风起云涌。 过去几年,人工智能(AI)从一个被轻视的学术冷门研究突然爆红,一路狂奔到商业化的最前沿,在安防、金融、教育、制造、家居、娱乐等各个与人们生活息息相关的领域掀起了一股智能化升级和万物互联的飓风。 这场前所未有的技术革命的直接推动者,是国外谷歌微软Facebook、国内BAT...https://zhidx.com/p/149619.html
9.芯片百科芯片如何分类半导体芯片制造流程芯片和集成电路有...这项新成果将有助于科学家们制造出能同周围环境实时交互的认知系统,为神经网络计算机和高智能机器人的研制提供强有力的技术支撑。 欧盟、美国和瑞士目前正在紧锣密鼓地研制模拟大脑处理信息的神经网络计算机,希望通过模拟生物神经元复制人工智能系统。这种新型计算机的“大脑芯片”迥异于传统计算机的“大脑芯片”。它能...https://www.maigoo.com/goomai/220417.html