2022年底ChatGPT引爆社交网络，人工智能行业进入到以大模型为主的快速发展阶段。OpenAI在GPT-3.5版本的基础上，通过3个步骤实现基于人类反馈的强化学习微调（RLHF），得到人机对话模型ChatGPT。通过与人类答案的对齐过程，显著提升了大模型的人机对话体验。GPT-4具备卓越的文本处理能力，初步融合多模态能力，能力再度升级。2023年3月15日，OpenAI发布多模态预训练大模型GPT-4，相较于过去的GPT系列模型，提升包括几个方面，GPT-4相较于ChatGPT有更强的高级推理能力，相较于过去的GPT系列模型，GPT-4在更多应用领域成为专家，包括为机器学习模型评判标准和为人类设计的专业测试，从“百科全书”逐步成为文理通吃的“专家”。GPT-4在可控性和真实性方面较ChatGPT有大幅提升。
2023年9月25日，OpenAI再度开放了带视觉能力的GPT-4V，用户能够指导GPT-4分析用户提供的图像。在输入GPT-4V支持格式方面，其支持处理图像、子图像、文本、场景文本和视觉指针（visualpointers）等多种输入。此外，GPT-4V还支持LLMs中支持的技术，包括指令跟随、思维链和上下文少样本学习等。GPT-4V在处理任意交错的多模态输入方面具有前所未有的能力，并且其功能的通用性共同使GPT-4V成为强大的多模态系统。11月7日，OpenAI首次开发者大会发布了最新模型GPT-4Turbo，其作为一个标准化的AIAgent，初步具备了规划和工具选择的能力，可以自动选择接入互联网、进行数据分析、图像生成等诸多功能，真正进化为了统一智能体。除了标准化的GPT-4以外，定制版的GPTs可以为用户在日常生活、特定任务、工作或家庭中提供帮助，用户无需编写代码就可以创建属于自己的定制化的智能助理，诸多定制化的GPTs的使用体验显著优于GPT-4，GPTs开启了一个全民定制个人智能助理的浪潮。OpenAI同时还将推出GPTstore和AssistantsAPI，不断打造GPTs开发者生态。
Google：深度学习研究的引领者，AI技术产业落地先行者
在上一轮深度学习的AI革命中，AI逐步达到了与人类媲美、甚至超越人类（部分场景）的水平，逐步走入大众视野，而Google和Deepmind是其中的的引领者。由Google和Deepmind提出的Word2Vec、AlphaGo等模型以及sequencetosequence、深度强化学习等技术是上一轮AI革命乃至这一轮AI浪潮的开创性、奠基性工作，推动着AI技术的成熟与发展。在这一轮预训练大模型的AI浪潮中，AI展现出在更多具体场景中强大的应用性能，逐步从学术研究走向商业化落地。Google在2022年4月推出了PaLM模型，其具有5400亿参数，基于Transformer的Decoder设计，PaLM模型在多个下游任务中具有优异性能。5月11日，Google在最新一届I/O开发者大会上官宣大语言模型PaLM2，称其在部分任务上超越GPT-4。PaLM2在超过100种语言的多语言文本上进行了训练，这使得它在语言理解、生成和翻译上的能力更强，并且会更加擅长常识推理、数学逻辑分析。PaLM2在大量公开可用的源代码数据集上进行了预训练，这意味着它擅长流行的编程语言，如Python和JavaScript，但也可以用Prolog，Fortran和Verilog等语言生成专门的代码。
META：通过开源LLaMa等大模型，引领大模型开源生态
LLaMA：2023年2月25日，Meta官网公布了一个新的大型语言模型LLaMA（LargeLanguageModelMetaAI），从参数规模来看，Meta提供有70亿、130亿、330亿和650亿四种参数规模的LLaMA模型，并用20种语言进行训练。Meta推出的LLaMA参数规模有70亿（7B）、130亿（13B）、330亿（33B）和650亿（65B）四种。LLaMA-13B在大多数基准测试中，参数仅为十分之一，但性能优于OpenAI的GPT-3（175B），而且能跑在单个GPU上。LLaMA-65B与DeepMind700亿参数的Chinchilla-70B和谷歌5400亿参数的PaLM-540B不相上下。
LLaMA2：2023年7月19日，Meta发布了免费商用版开源大模型LLaMA2，各个企业能够以相对低廉的价格在该模型上开发应用，为客户提供自主的大模型。Meta发布的LLaMA2模型系列包含70亿、130亿和700亿三种参数变体，训练数据采用了更新之后的混合数据，模型方面采用文本输入与文本输出，预训练模型在2万亿token上进行训练，训练token总数相较于LLaMA1增加了40%。LLaMA2学术基准测试优于LLaMA1，专业场景中能力进一步提升。公布的测评结果显示，LLaMA2在包括推理、编码、精通性和知识测试等方面均优于相近训练参数下的LLaMA1。LLaMA2模型最大的变化除了性能提升，还体现在B端可以助力企业开发自己的大模型，C端可以丰富AIGC应用，改变了以往大模型由多家科技巨头垄断的格局，AI应用实现加速落地。目前，用户已经能够在Azure平台上微调和部署7B、13B和70B参数的LLaMA2模型。
Meta与微软达成合作，联手推动AI应用的商业化落地。Meta正式开源了LLaMA2版本，可免费用于商业用途，微软宣布携手。最新版本的模型将在微软的Azure和Windows平台上线并开源，用户可以在云服务中使用Llama2作为基础模型，快速构建适用于自身业务的专用大模型。目前，用户已经能够在Azure平台上微调和部署7B、13B和70B参数的LLaMA2模型。未来，LLaMA将进行优化，以在Windows上本地运行。
1.1.3国内大模型发展现状
百度
从2010年的百度搜索开始，百度成立了自然语言部门，初步研究互联网机器翻译技术，2013年推出百度语音助手，2014年推出智能搜索小度机器人，2017年推出智能客服。在长期的布局和发展中，百度构建了完整的语言与知识技术布局，包括知识图谱、语言理解与生成技术，以及上述技术所支持的包含智能搜索、机器翻译、对话系统、智能写作、深度问答等在内的的应用系统。2023年3月16日，百度发布了生成式人工智能大模型“文心一言”。作为文心大模型家族的新成员，文心一言在文心知识增强大模型ERNIE及对话大模型PLATO的基础上研发。文心一言包含六大核心技术模块，包括：1）有监督精调；2）基于人类反馈的强化学习；3）提示；4）知识增强；5）检索增强；6）对话增强，前三类技术在目前流行的对话大模型如ChatGPT中都有所应用，而后三类技术则是百度基于自身技术积累的再创新，它们共同构成了模型的技术基础。
文心一言成为首个国内面向C端收费的大模型产品。文心一言专业版的分为单独订阅和联合会员两种收费模式。单独订阅模式下，会员月付59.9元，选择连续包月可以享受49.9元的优惠价格；该模式下会员可以使用文心一言大模型3.5和4.0两个版本，而非会员只可使用免费的文心大模型3.5版本。联合模式下，用户月付99元，可以同时具有单独订阅模式的全部功能，并获得文心一格白银会员资格，享受AI修图改图等功能。
科大讯飞
随着大语言模型爆火网络，公司自主研发了对标ChatGPT的星火大模型。星火大模型是基于深度学习、以中文为核心的自然语言大模型，在跨领域多任务上具备类人的理解和生成能力，可实现基于自然对话方式的用户需求理解与任务执行。公司大模型不断迭代进步，能力实现全方位提升。2022年12月15日，科大讯飞启动了“1+N认知智能大模型专项攻关”。2023年5月6日，讯飞推出星火认知模型的1.0版本，七大核心能力发布，同时发布大模型评测体系。6月9日，星火升级至1.5版本，突破开放式问答、多轮对话能力和数学能力；8月发布2.0版本，实现多模态能力，同时代码能力显著提升。
星火3.0全面对标ChatGPT。10月24日，星火推出3.0版本，在语义理解、时效把握、代码生成能力等基础功能上都有很大提升；在时空感知能力上表现突出；专业性能力基本无实时性错误，尤其医疗能力水平，可以给出适时的诊疗提醒。全面对标chatGPT，中文能力客观测评超过ChatGPT，英文能力对标ChatGPT48项任务结果相当。根据国务院发展研究中心经济研究院测评报，星火大模型3.0综合能力达到国际一流水平，在医疗、法律、教育行业表现突出。讯飞同时发布十二个行业大模型，涵盖金融、汽车交互、运营商、工业、传媒、法律、政务、科技文献、住建、物业、文旅、水利十二个领域。讯飞正式启动对标GPT-4的大模型训练，2024年上半年对标GPT-4。
智谱
智谱AI致力于打造新一代认知智能大模型，专注于做大模型的中国创新，通过认知大模型链接物理世界的亿级用户。基于完整的模型生态和全流程技术支持，智谱AI一方面重视研发超大规模训练模型，并基于此推出对话模型chatGLM；另一方面践行ModelasaService（MaaS）的市场理念，推出大模型MaaS开放平台。2023年3月14日，ChatGLM1.0开启邀请制内测。ChatGLM参考ChatGPT的设计思路，在千亿基座模型GLM-130B中注入代码预训练，通过监督微调等技术实现人类意图对齐，具有支持双语、高精度、快速推理、可复现性和跨平台等优势。同期开源的还有具有62亿参数、支持中英文双语对话的ChatGLM-6B，虽然规模不及千亿模型，但大大降低了推理成本。2023年6月27日，第二代ChatGLM正式发布。在保留初代模型对话流畅、部署门槛低的基础上引入更加强大的性能、允许更多轮次的对话和更长的上下文、进行更高效的推理、允许更开放的协议。2023年7月15日，智谱AI宣布ChatGLM允许免费商用。
商汤科技
1.1.4大模型行业整体发展评述
国外大模型发展趋势：美国人工智能企业引领行业发展。美国OpenAI的基础大模型性能领先，目前已经在基础大模型上开始快速构建开发生态，Google也在发力追赶过程中，Meta通过开源大模型构建开源生态。美国在研发能力、人才储备、算力支持方面仍然占据一定优势。我们预期，海外大模型将沿着多个维度持续演进。
更多的模态到来，开启全新的多模态时代。文本、语音、图片等单模态人工智能模型已经相对成熟，大模型正在朝着多模态信息融合的方向快速发展。图文多模态技术已经取得了显著的进步，未来大模型不止满足文字和图像，开始向着音频、视频等领域拓展。
大模型的逻辑思维能力可能看到飞跃式提升。大语言模型在文本的理解和生成上表现出色，但是涉及到数理逻辑推理时表现仍然有待提升。通过思维链、思维树的提示词工程设计，大语言模型能够将大型任务分解为较小且易于管理的子目标，内部的逻辑一致性显著增长，从而高效地处理复杂任务。
AIAgent将成为我们接触大模型的主要媒介。AIAgent是有能力主动思考和行动的智能体，它们能够使用传感器感知周围环境，做出决策，然后使用执行器采取行动，甚至与别的agent合作实现任务。OpenAI应用研究主管LilianWeng提出了AIAgent的重要组成公式：Agent=大语言模型（LLM）+规划能力（Planning）+工具（Tool）+记忆（Memory）。AIAgent相比大语言模型的提升在于：与环境交互、个性化记忆、主动决策、合作机制。在生成式AI的不同应用等级中，AIAgent是比聊天机器人更高层级的应用形态。
国内大模型格局：具备技术持续领先能力的大模型：优秀的大模型人才、充足的算力资源、海量的优质数据、足够的研发投入是人工智能企业具备酝酿大模型的先决条件，在快速的迭代发展过程中，部分大模型展现出持续的技术领先优势，典型如百度文心一言、科大讯飞星火大模型。具备技术优势的闭源大模型具备较强的变现能力。开源大模型：开源大模型与顶尖的闭源大模型相比有一定的技术差距，其参数量和上下文窗口长度普遍相对较小。但是开源模型借助社区的创新力量，实现了技术的快速迭代和应用拓展，成为大模型行业发展的重要支撑。具备垂类场景优势的大模型：通用大模型可以帮助用户解决一般性问题，而当企业需要处理其特定行业的数据和任务时，往往需要针对其行业数据库来对基本模型进行微调，垂直行业的特性和需求不尽相同，垂类场景中的垂类数据是专业大模型竞争中的核心要素，专业数据驱动垂类模型百花齐放。
大模型商业模式：大模型C端商业模式：1）以纯软件的形态输出聊天机器人、包含大模型能力的各类软件（例如copilot）、AIAgent（GPTs）等产品；2）融合大模型能力的各类智能硬件，例如AIpin、智能音响、翻译机、学习机等。大模型B端商业模式：1）出售大模型API接口，向公司或开发者按照调用次数收费；2）直接卖大模型开发服务，向传统企业输出大模型行业解决方案获得收入；3）大模型配合AI服务器形成软硬一体的产品，打包向传统企业输出大模型行业解决方案；4）用大模型改造现有业务，提高产品的竞争力获得更多商业回报，即Model-As-A-Service(MaaS)模型即服务。
1.2AI前沿技术趋势展望
1.2.1AIAgent（AI智能体）
以下举例几个在不同领域应用的智能体实例：
1）自然科学领域AutoGPT&XAgent
AutoGPT是一种开源的完全自动化智能体。AutoGPT通过API结合了GPT-3.5和GPT-4，允许用户创建使用语言模型来生成和改进文本。它可以阅读、写作和浏览网络，它根据任务目标自己创建prompt，然后再完成这个任务，接下来重复这个过程直到达到最终目标。它还可以使用GPT-4编写自己的代码，并执行Python脚本以递归调试、开发、构建和自我改进。目前已开发的应用场景包括：进行市场调研、生成博客大纲、开发应用程序、搭建网站、为客户提供服务、管理社交媒体账号、成为财务顾问。但目前AutoGPT的缺点也非常明显，比如GPT4费用较高，对于一个小任务，如果按照平均50个步骤来算的话，成本大概为50*0.288=14.4美元（约人民币98.5元），此外GPT3.5非常容易逃逸或者陷入死循环。
2）工程学领域MetaGPT
MetaGPT是一个基于GPT-4的多智能体合作框架，该框架将人类的SOP(标准化作业流程）编码为LLM智能体，并从根本上扩展了解决复杂问题的能力。设计了一个新的元编程机制，包括角色定义、任务分解、流程标准化和其他技术设计。这样，MetaGPT能够使用SOP开发复杂的软件。核心优势：1.引入元编程框架：在构建多智能体系统时具有极高的便利性和灵活性。2.整合人类SOP过程设计：减少了基于LLM的多智能体协作中的错误，显著提高了稳健性，使系统具备了系统化工程解决复杂任务的能力。3.实现最先进的性能：经过对python游戏生成、CRUD2代码生成和与AutoGPT、AgentVerse、LangChain以及MetaGPT一起的简单数据分析任务进行了全面实验。整体结果显示MetaGPT在代码质量和预期工作流的一致性方面都优于其对手。并且，MetaGPT有潜力解决LLM中的幻觉问题，从而引导协作的LLM系统朝更有效的设计方向发展。
3）自然科学领域HumanoidAgents
以往的Agents会根据环境制定严格的计划，但事实上这一过程与人类的思维方式并不完全相似。大多数人不会提前制定计划，然后在日常生活中一丝不苟地精确执行这些计划，原因就在于Agent并没有真正反映出人类的基本需求、真实情感及人际间微妙的距离感。为了减轻这一缺点的影响，研究者基于ChatGPT3.5提出了仿人类机器人—HumanoidAgents，该模型引入了基本需求（饱腹感、健康和能量）、情感和关系亲密程度三大概念，来让Agent表现得更像人类。利用这些元素，Agents就能调整自己的日常活动，以及和其他Agent的对话,而且也会像人一样，遵守马斯洛需求理论。实验表明HumanoidAgents对于活动是否增加饱腹感和能量；活动中表达的情感；对话是否拉近了参与者之间的关系都能够进行很好的预测，但是在分类活动是否满足乐趣、健康和社交等基本需求方面略显吃力。在陪伴场景下（如虚拟恋人），更了解人类情感的Agent可以带给人更优秀的情绪价值，提出更人性化的建议，更好得满足当代人的情感需要。
1.2.2混合专家模型技术
混合专家模型(MoE)是一种稀疏门控制的深度学习模型，主要由一组专家模型和一个门控模型组成。MoE的基本理念是将输入分割成多个区域，并对每个区域分配一个或多个专家模型。每个专家模型可以专注于处理输入的一部分，从而提高模型的整体性能。门控模型：稀疏门网络是混合专家模型的一部分，它接收单个数据元素作为输入，然后输出一个权重，这些权重表示每个专家模型对处理输入数据的贡献。例如，如果模型有两个专家，输出的概率可能为0.7和0.3，这意味着第一个专家对处理此数据的贡献为70%，第二个专家为30%。专家模型：在训练的过程中，输入的数据被门控模型分配到不同的专家中进行处理，如右图所示，不同的专家被分配到处理不同种类的输入数据；在推理的过程中，被门控选择的专家会针对输入的数据，产生相应的输出。这些输出（可以是标签或者数值）最后会和每个专家模型处理该特征的能力分配的权重进行加权组合，形成最终的预测结果。混合专家模型在训练过程中通过门控模型实现“因材施教”，进而在推理过程中实现专家模型之间的“博采众长”。
混合专家模型通过仅激活少数专家模型处理输入数据，提高训练和推理效率。在传统的密集模型中，对于每一个输入都需要在完整的模型中进行计算。在稀疏混合专家模型中，处理输入数据时只有少数专家模型被激活或者使用，而大部分专家模型处于未被激活状态，这种状态便是“稀疏”。稀疏性是混合专家模型的重要优点，也是提升模型训练和推理过程的效率的关键。对于稀疏性的控制，主要通过调整门控网络的设计和参数来实现。在参数选择上，如果门控网络单次选择的专家模型数量较多，则模型的稀疏性就会降低。单次选择专家的数量越多，模型的表现能力可能有所提升，因为更多的专家模型处理输入数据，所以导致稀疏性有所下降，增加计算的复杂性和耗时。因此，MoE模型的稀疏性在效率和表现能力之间存在权衡。根据不同的应用需求和资源限制，需要适当调整门控网络的设计和参数，来找到最佳的效率和表现能力之间的平衡。
在自然语言处理领域中，2017年，谷歌首次将MoE引入自然语言处理领域，通过在LSTM层之间增加MoE实现了机器翻译方面的性能提升。2020年，Gshard首次将MoE技术引入Transformer架构中，并提供了高效的分布式并行计算架构。而后的SwtichTransformer和GLaM则进一步挖掘MoE技术在自然语言处理领域中的应用潜力，实现了优秀的性能表现。SwitchTransformer：通过MoE技术对模型进行拓展，最大版本的SwitchTransformer的参数量高达1.6万亿。因其优秀的稀疏性，在计算资源相同的情况下，74亿版本的SwitchTransformer训练速度可以达到T5模型的7/2.5倍（对应T5模型的不同版本，Large为7.7亿，Base为2.2亿）。同时在多任务的表现上也取得了相比密集模型更为优秀的结果。GLaM：最大的GLaM拥有1.2万亿个参数，大约是GPT-3的7倍。然而，它只消耗了训练GPT-3所需能量的1/3，并在推理时只需要一半的计算浮点运算量，计算效率更高。在零样本、单样本和少样本学习任务上也实现了更好的性能，在七个具体任务中分别实现了平均10.2%、6.3%和4.4%的性能提升。
在多模态领域中，2022年的LIMoE是首个应用了稀疏混合专家模型技术的多模态模型，模型性能相较于CLIP也有所提升。LIMoE原理：将输入的图像/文本通过门控网络分配到不同的专家模型中，鸭子（drake）的图片和对应的文字描述的token被分配到不同的专家中进行处理，每个专家处理完后通过输出层为图像或文本生成一个统一的向量表示。LIMoE性能：在零样本和10样本的ImageNet分类任务中，LIMoE的绝对平均性能相较于CLIP实现了10.1和12.2%的提升，在CocoT2I（文本到图像检索）任务上，LIMoE也实现了较为明显的性能提升，其中在小规模模型上这一提升更为显著。
1.2.3机器人大模型
1.2.3.1人工智能模型推动机器人控制革新
机器人控制系统相当于机器人的大脑，机器人控制算法则是其中的软件核心。其核心功能是处理来自传感器的检测信号，给出机器人下一步应该怎么做的指示。与传统的机械系统控制算法相比，机器人控制算法是非线性、多变量、时变的，且相较于传统机械，机器人面临的应用环境也更为复杂和多样，这意味着机器人控制算法有相当高的设计难度。早期机器人控制算法主要采用PID算法，后续复杂的运动控制算法如MPC和WBC逐渐成为主流。PID算法早在1932年由物理学家哈利奈奎斯特，而后便被广泛应用在各类控制领域中，包括机器人控制领域中。但由于PID方法本质上是线性控制器，因此无法处理较为复杂的任务。而后1987年提出的MPC算法和2004年提出的WBC算法逐渐成为主流，让更为复杂任务的处理成为可能，但同时也还存在着计算复杂度高、算力需求高的问题。
1.2.3.2谷歌：机器人大模型引领者
1.2.3.3Meta：持续探索在有限数据集情况下实现更优秀机器人控制的方法
2.1AI+教育是人工智能落地的黄金赛道
教育行业因为其个性化学习诉求强、数据丰富度高、付费意愿强，成为人工智能的优质落地领域。不同地区、学校和学生具备“因材施教”强个性化学习需求，教育领域的高数据丰富度为垂直大模型的训练提供可能，同时，教育作为刚需领域，学生、家长付费意愿普遍较强。AI的发展使得以低成本的方式建设自适应学习系统成为可能。具备较强理解能力的生成式人工智能可以持续为学生提供个性化教学服务，且随着教学规模的扩大，其人均成本逐渐下降，显著降低了个性化学习的成本。
AI+教育主要有以下三点优势：一、教学环境及课程形式的灵活化。AI技术的引入使得教学不再局限于课堂，学生可以随时随地获得最新、优质的学习资源，向AI助手请教。利用AI的高效多模态生成力，还可以呈现不同的课程形式营造更多的沉浸感。二、学习过程的个性化。AI教育平台往往具有教学、考试、批改、解答、集错等多重功能，通过分析学生在考试过程中的用时分配、错题分类，发现学生薄弱环节，针对性提供学习资源、个性化的学习方案和改进方案，即时给予反馈和评估。借助AI技术，针对性辅导成本大大降低，教育更好地适应每个学生的独特需求和能力水平。三、教学活动的降本增效。对于教育资源有限的地区，相对较低成本的AI教育应用使得高质量资源更加触手可及，进一步促进教育公平；对于教学者，AI软件的批阅、评估功能大大减少了机械化劳动，使教师有更多的精力投入到创造性的教学活动中，提高了教学效率。随着生成式人工智能技术的爆发，AI+教育迈向全新的发展阶段。根据MarketResearch数据，生成式人工智能在教育领域的市场规模将从2022年的2.15亿美元上升至2030年的27.4亿美元，CAGR为37.5%，其中面向学生端的市场规模大致占到全部市场规模的一半。
国家出台AI+教育的纲领性文件，顶层规划驱动行业稳步发展。2018年4月，教育部发布《教育信息化2.0行动计划》，在行动规划上提出不断推动人工智能与教育深度融合，加快面向下一代网络的高校智能学习体系建设。2022年8月，科技部发布《支持建设新一代人工智能示范应用场景》，针对青少年教育中“备、教、练、测、管”等关键环节，运用学习认知状态感知、无感知异地授课的智慧学习和智慧教室等关键技术，构建虚实融合与跨平台支撑的智能教育基础环境。2023年6月，教育部发布《基础教育课程教学改革深化行动方案》，强调探索利用人工智能、虚拟现实等技术手段改进和强化实验教学以及遴选一批富有特色的高水平科学教育和人工智能教育中小学基地。
2.1.1AI+教育软件
2.1.2教育信息化
2.1.3教育智能硬件
智能硬件是指通过将硬件和软件相结合对传统设备进行智能化改造，对硬件与软件的优势进行了充分融合。我国智能硬件在政策加持、技术赋能、消费升级等因素驱动下，市场规模以较高增速增长。智能硬件产品广泛应用于个人穿戴、养老陪伴、教育娱乐、运动健康等场景，为人民生活带来智能化和便利化。智能学习设备服务市场指旨在为学生提供教育服务的硬件设备市场，其最重要的特点是在提供教育服务过程中应用智能技术，如OCR技术、AI大模型应用及信息技术，以向学生及家长、教师提供更个性化的教育体验。
从应用场景的角度来看，市场可以分类为主要服务于个人终端用户的ToC市场及提供数字校园教学解决方案的ToB市场。2021年，中国的智能学习设备总市场规模达到659亿元，预计到2026年，中国智能学习设备的总市场规模将为1450亿元，2021年至2026年的复合年增长率为17.1％。在政府持续支持并投入实现校园数字化及智慧课堂升级的背景下，ToB分部于2017年至2021年经历高速增长，2021年我国B端市场规模达到330亿，2026年有望达到709亿。相比而言，ToC学习市场目标人群较多，且辅助教育涵盖从早教到成人教育，有庞大及持续的需求。2021年ToC分部的市场规模为329亿元，预计ToC分部持续稳健增长至2026年的741亿元。
从学习机市场结构来看，以步步高和读书郎为代表的传统主流智能教育设备厂商，仍占据市场的主要份额。以科大讯飞和网易有道为代表的新型品牌凭借人工智能技术的支持和高科技属性迅速扩大了市场规模。此外，教育属性极强的学而思和有道等转型厂商也加入了市场竞争。根据IDC数据，2021年国内市场占有率最高的步步高学习机占比高达28.9%，第二名读书郎份额6.1%，科大讯飞以4.0%位列第五。
2.2自动驾驶：算法架构优化，高阶辅助驾驶渗透率预期提升
2.2.1端到端模型实现算法架构优化，自动驾驶性能提升
2021年，端到端驾驶算法出现了重要转折点。算法集中在多模态和Transformer等高级架构的结合，如TransFuser和其他变体。基于传感器对环境的精确捕捉，闭环CARLA基准性能逐步提高；为了提升自动驾驶系统的可解释性和安全性，NEAT、NMP和BDD-X等方法明确纳入了多种辅助模块。2023年，研究强调优先生成关键数据，即预先训练一个大型策略学习基础模型，如UniAD，同时引入了新的CARLAv2和nuPlan基准。
特斯拉FSDV12在算法层面实现端到端。FSDBetav12完全是由神经网络训练而成，没有任何一行人工写的规则代码。马斯克称，控制是全自动驾驶最后一个难题，FSDBetav12使用AI替代传统控制模块使得控制代码减少约2个数量级。特斯拉原先的自动驾驶算法HydraNets，也被成为九头蛇网络，是将每一个任务划分为单独模块，虽然在工程学上对每一个模块进行优化，但却没法从全局提升汽车自动驾驶性能。我们认为端到端将感知、预测与规划集成在同一个网络流程中，将自动驾驶建模成一个神经网络驱动任务。端到端使得算法中的所有模块都直接服务于规划，使得最终汽车做出规划的效率提高，避免了模块分散导致的数据重复流转。马斯克表示HW4.0硬件目前暂时不受支持，主要原因是两者数据不兼容，未来仍需针对HW4.0进行重新训练。马斯克称目前制约训练的因素不是工程师，而是训练算力。特斯拉在7月份投产Dojo，规划到2024年100E算力（相当于30万颗A100算力），预计2024年2月自身算力规模将进入全球前五；同时特斯拉新到一批英伟达机器，训练算力将大幅增强。
2.2.2国内自动驾驶车厂势头依旧，高阶辅助驾驶渗透率预期提升
国内自动驾驶车厂布局迅速，L3级别及以上渗透率有望逐步提升。2023年1-10月，理想、小鹏销售量持续走高，其中理想10月交付量达到40422辆，远超其他两家；蔚来自7月起回落幅度较大。伴随智能化策略推进、辅助驾驶功能强化，蔚小理三家英伟达Orin芯片占比将持续提升。在具体配置路线上，理想更为清晰，其分Pro和Max两大车型向下向上渗透市场，其中Max车型提供全场景智能驾驶，标配英伟达双OrinX芯片渗透率将继续上升。2023年交付量预测方面，理想预计全年销售30万辆，蔚来预计全年销售24.5万辆，小鹏预计全年销售20万辆。
9月12日，华为正式发布问界新M7系列。硬件层面问界新M7配备1个顶置激光雷达、3个毫米波雷达、11个高清视觉感知摄像头及12个超声波雷达等27个感知硬件。问界新M7通过搭载ADS2.0，汽车感知能力有明显提升：通过GOD2.0系统，对车外物体进行识别；通过RCR网络，进行道路拓扑推理，摆脱高精度地图。问界新M7在安全性方面亦有较大提升。根据发布会介绍，主动安全方面，问界新M7首发全向防碰撞系统，问界包揽各类主动安全评测第一名；被动安全方面，问界新M7车身结构匹配开模，重新改造焊装产线，有效提高车身刚度和碰撞安全性。ADS2.0自2023年4月发布以来，在AI训练集群上构建了丰富的场景库，每天深度学习1000万+km，持续优化迭代智能驾驶算法和场景策略，模型每五天迭代一次，训练算力达到1.8EFlops。截至2023年9月数据，长距离NCA领航MPI高达200km，城市高架汇入汇出成功率高达99%+。到23年年底，ADS2.0无图城区商用计划扩展到全国。11月9日，华为宣布其问界新M7实现86000大定，其中70%以上用户选择智驾版，智能驾驶功能已成为消费者购车的重要决策因素之一。另外，11月15日，小米汽车第一款车型SU7申报，预计2024年上半年正式量产。
2.3AIPC/Phone：端侧AI发展，AIPC/Phone将开启新时代
2.3.1技术升级带动端侧AI发展，推理精度提升
当前云侧AI呈现向端侧AI的转型趋势。端侧智能化的核心在于数据、底层软硬件、智能力三个方面。端侧设备搭载的传感器、芯片、算法模型赋予其数据采集、计算、分析与推理能力，使其能够在端侧完成数据处理闭环，形成感知、计算、推理三个智能力。首先，大模型轻量化带动端侧AI发展。多个大模型均已推出“小型化”和“场景化”版本，提供了端侧运行基础。例如，GooglePaLM2中包含4个大模型，按照参数规模，从小到大排列为：独角兽（Unicorn）、野牛（Bison）、水獭（Otter）和壁虎（Gecko）。其中，最轻量的“壁虎”可实现手机端运行，且速度足够快，不联网也能正常工作。另一方面，“小型化”大模型加速生成式AI垂直方向发展，加速大模型商业化场景落地。
其次，支持INT4、INT8精度推理，端侧AI能力进一步提升。定点表示和浮点表示是计算机中常用的数据格式。其中，定点表示中小数点位置固定不变，常用的定点表示有INT4和INT8；浮点表示中包括符号位、阶码部分、尾数部分。符号位决定数值正负，阶码部分决定数值表示范围，尾数部分决定数值表示精FP64(双精度)、FP32(单精度)、FP16(半精度)的数值表示范围和表示精度依次下降，运算效率依次提升。高通产品管理副总裁Asghar曾表示，如果将32位浮点模型转化为INT4整数模型，端侧AI能效将提升64倍。为满足端侧AI的计算需求，业内已有产品支持AI模型以INT精度推理，例如高通人工智能引擎AIEngine支持INT8的数据格式。
2.3.22024或成AIPC/Phone元年，AIPC/Phone趋势刺激行业回暖
疫情以来，由于消费需求疲软和库存调整，全球智能手机出货量下滑，2023年前三季度为8.4亿部，仅为2022年同期的85%，但可以看出，22年年底以来，全球智能手机销量下降幅度开始缩窄，今年三季度，全球智能手机销量重回正增长；另一方面，从微软财报可以看到，其个人电脑业务，也在24财年1季度（23Q3）实现同比正增长，这也是从23财年2季度以来微软个人电脑业务重新回归正增长。可以看到全球手机与电脑业务有复苏迹象，预计AI+Phone/PC能进一步推动行业颓势逆转的同时也有助于带动其自身起量。
伴随AIPC逐渐出货且PC换机周期已至，2024或成AIPC元年。根据群智咨询预测，到2027年，AIPC出货量将达到1.5亿套，市场渗透率达到79%，并逐步取代传统PC。当前，各大主要PC厂商都对AIPC业态进行展望，AIPC将成PC行业拐点成为共识。戴尔将推出带有Copilot的新版Windows，联想首批搭载英特尔MeteorLake芯片的AIPC也已推出。业界将逐步追加AIPC领域投资，重塑PC生产力。
我们看好由AIPC/Phone带来的产业革新。将手机集成AI，不仅可以实现语音助手、智能相机等基本功能，还可以通过AI算法实现更加智能化的应用，如智能推荐、智能翻译等，可以极大提升用户的体验，在智能办公、智能教育领域预计将有广泛应用；AIPC不仅可以进行高效的数据处理和计算，还可以通过机器学习和深度学习等技术进行自我学习和优化，从而为各种行业提供更加智能化的解决方案；除此之外，AIPC、AIPhone通过统一的大模型，实现全系统互联，具有主动智能、全模态感知能力，在人机交互效果上有明显提升，将成为人们最直接的AI助手。
2.4AI+工业是大势所趋
从需求端看，不断增长的降本增效需求与多变的市场环境为“AI+工业”带来广阔的市场空间。目前，我国工业的大部分行业仍处于劳动密集型发展阶段，较低的智能化渗透率带来包括误差率高、生产效率低、生产成本高等一系列痛点。1）降本增效需求驱动“AI+工业”需求：中国单位劳动产出在国际比较中处于较低水平，2018年美国劳动生产率为11.3万美元，而中国仅为1.4万美元。且国内老龄化趋势显著，根据国务院《国家人口发展规划》，2030年，我国14-45岁人口占比将降至32%，人口规模的减少将对企业生产成本带来全新挑战，降本增效需求愈发成为企业竞争甚至生存的重要条件之一，在此背景下展望未来，“AI+工业”这一降本增效的重要工具将被越来越多工业企业使用。2）市场变化大，精准化生产成为刚需：工业行业整体面对利润率低，市场需求变化快的压力，智能化与精准化生产将成为未来大趋势，而这背后离不开人工智能的强大分析能力。根据德勤预测，2018-2025年中国制造业人工智能市场有望实现51%的CAGR，并在2025年达到141亿元规模。
2.4.1工业机器视觉
2.4.1.1机器视觉产业宏观分析
工业机器视觉是软硬件一体化的集成系统，它的目的是代替人眼对被测物进行观察和判断。从组成上，机器视觉系统硬件设备主要包括光源、镜头、相机等，软件主要包括传统的数字图像处理算法和基于深度学习的图像处理算法。
成像、算法、算力、应用接力驱动机器视觉行业，AI算法的发展有望推动行业进入新时代。每经历约十年，机器视觉技术与应用都会产生一次深刻变革，近年来，AI算法有望推动行业爆发式扩展。
除人工智能技术的变革外，2D到3D的变革同样带来技术能力和应用范围的提升。相较于2D机器视觉，3D机器视觉可以提供三维信息，从而实现更广泛、准确的检测与分析。3D机器视觉可以完成许多2D机器视觉无法完成的任务。3D相机可以得到表面凹凸的深度信息，从而准确的判定划痕和边缘的凹陷。3D机器视觉覆盖场景全面，市场空间广阔。目前3D视觉技术在高精度检测、高精度测量（例如弯管、不规则件）、智能分拣、装配（引导机械臂在三维空间内避障和定位）、物流车导航等更多场景中实现了相较于2D机器视觉更为广泛的应用覆盖，具有广泛的市场空间，根据GGII测算，中国工业3d视觉2021年市场规模11.51亿元。随着我国高端制造业的发展，国内3D视觉的应用需求仍将持续保持高增长势头，预计到2025年达到57.52亿的市场规模。
2.4.1.2机器视觉产业链分析
机器视觉行业上游环节价值量大。关键零部件和软件系统约占工业机器视觉产品总成本的80%。工业相机、底层软件算法等技术壁垒高，利润率高。对机器视觉上游环节的掌握是目前市场竞争的关键。同时，相机、镜头、光源等核心零部件部件在机器视觉产品中的占比超过50%。国产低端零部件逐步实现国产替代，高端部件有待突破。技术门槛相对较低的零部件如光源，国产厂商凭借性价比优势及逐步体现的产能优势在市场竞争中逐渐实现对于国外品牌的替代。技术门槛较高的零部件如光源及相机，我国企业进入较晚，目前产品仍主要布局中低端市场，高端市场仍主要被国外品牌占据。
下游应用场景中，机器视觉在锂电行业的渗透率逐步提升。随着锂电池制造智能化、自动化程度的提升，机器视觉产品开始广泛地应用于锂电池设备生产的各个工段。从前段工艺的涂布辊压，到中段工艺的电芯组装，再到后段化成分容之后的检测以及模组PACK段，机器视觉应用渗透率在逐步提升。品质管控需求明确，早期的锂电行业扩产往往较少考虑质量管控，但随着行业逐步从高速发展转向高质量发展以及用户对于锂电安全的更高需求，机器视觉已经成为锂电池生产企业解决质量和效率问题的必然选择，据GGII预测，锂电机器视觉检测系统市场规模将保持高速增长，未来5年年复合增长率在40%。竞争格局优秀，在3C电子和汽车等行业中的机器视觉中海外巨头有着更加强的技术积累和长期合作关系，对于我国机器视觉企业的市场拓展产生一定阻碍，但锂电池行业是近年来在我国发展起来的新兴产业，因此其中锂电企业与我国机器视觉企业协同配合发展而来，国产化程度较高。我们认为，锂电行业行业整体增速较快，且锂电中的机器视觉具备行业增速高、需求明确、竞争格局优秀的优势，在未来两三年内有望维持高增速，是最具潜力的下游应用市场。
2.4.2工业机器人
2.4.2.1移动机器人
AGV(AutomatedGuidedVehicle)，即移动机器人，是工业机器人中的重要种类。AGV可以在没有人工干预的情况下，按照可配置的导引路径进行移动和定位；糅合了导航、移动、多传感器控制、网络交互等一系列功能。AGV在制造业、仓储物流等工业场景有着广泛的应用，可以提高生产效率、降低劳动成本、减少产品损坏、提高安全性。其主要应用场景仍然在搬运领域。随着人工智能技术发展，AGV的环境感知能力与灵活运动能力不断提升，新一代自主移动机器人AMR（AutonomousMobileRobot）应运而生。相比AGV，AMR可以融合多重传感器，具备深度感知能力和强大计算能力，安全性和行驶的效率相对更高。
行业持续高速增长，发展势头强劲。从总量来看，2015年到2022年，中国工业应用移动机器人市场规模保持7年连续增长，CAGR为35.14%，2022年中国工业应用机器人市场规模达到76.8亿元。从增量来看，中国工业应用移动机器人产量逐年增加，2022年增量为93000，同比增长29.17%。
海外销售规模不断增长，中国AGV/AMR产品全球影响力进一步提升。2022年，中国AGV/AMR企业在海外市场的销售规模进一步提升，2022年，中国AGV/AMR企业海外销售规模为36亿，同比增长44%，占比19%。从2019年中国AGV/AMR海外销售额首次突破10亿人民币到2022年的36亿人民币，中国企业整体海外销售占比取得显著提升。
行业集中度高，大型企业占比接近九成，过亿企业数逐年增长。2022年度，中国工业应用移动机器人企业中，年销售规模亿元以上的大型企业占据了89.19%的市场份额，行业集中度高。行业向上的发展态势带动销售过亿企业数量逐年增长，从2018年的10家增长至2022年的42家。截至2022年，中共工业应用移动机器人企业中，有4家越过10亿门槛，分别是新松机器人、极智嘉、海康机器人以及海柔创新。
2.4.2.2焊接机器人
焊接机器人是一种能够自动执行焊接（包括切割和喷涂）任务的工业机器人。根据焊接方式、结构形式、负载能力、工作范围等因素的不同，焊接机器人业有不同种类。焊接机器人广泛应用于钢结构、航空、造船、电子、机械等行业，可以提高焊接质量、效率和安全性，涉及的技术包括焊接电源技术、传感器技术、离线编程技术、智能控制技术、仿真技术等。
国内弧焊焊接机器人市场由外资主导，国产替代需求大。根据高工机器人研究所统计，2022年外资弧焊机器人仍占据主要份额，占比54.97%，在汽车整车和零部件领域应用较多，主要分日系、欧系、国产三大派系。日系品牌主要有安川、发那科、OTC、松下、川崎重工等，欧系品牌包括KUKA、CLOOS和ABB等；而国产品牌则在程机械、二三轮车、五金家具、钢结构等一般工业行业应用较为广泛。国内自主品牌弧焊工业机器人市场份额逐步提升，与外资品牌差距逐渐缩小。2022年，国产弧焊机器人份额已达45.03%，同比增长23.71%，国产替代速度加快。目前市场上尚未有成熟应用于钢结构行业领域的智能焊接机器人，主要潜在竞争产品为示教焊接机器人和进口智能焊接机器人。
智能化焊接市场需求迫切。1）钢构产业焊接技工招工难且成本高，供给需求缺口大，对自动化、智能化焊接方案的需求迫切。国内钢结构产业渗透率持续提高，产品产量增加带动钢结构焊接市场需求。而钢结构主要应用于建筑、船舶、重工行业非标小批量工件多的工业场景中，焊接工序自动化程度低，基本大部分依赖大量焊接工人完成焊接。人工焊接技术要求高、技工培训周期长、焊接工作环境恶劣，已成为行业中最紧缺的劳动力之一，焊接工人缺口量逐年递增，复合增长率高达50%。2021年国内熟练焊工的年薪已达18万元，对企业带来较大的成本压力。2）智能化焊接可以保证焊接质量稳定，提高生产效率。传统人工焊接受人为因素影响较大，焊接质量稳定性差，生产效率低，且钢结构加工涉及组立、矫正、装配、打磨、抛丸、表面防腐等多道工序，整个生产过程不透明，对生产进度、生产质量和生产异常的处理缺乏信息化管控，产品交付时常延期，实现智能化焊接是提高生产效率和产品质量。
免示教智能焊接机器人符合钢结构行业需求。钢结构产业是典型非标生产行业，产品基本全为非标定制化生产。钢结构生产原材料基本为钢板、钢管等，但由于规格、性能指标等因素的存在，原材料种类多，且受到客户需求、政策和设计师习惯的影响，每个部件的加工内容、方式及尺寸都有特定的要求。钢构行业以中厚板焊接为主，对设备精度和机器人技术要求高。大多应用弧焊机器人。免示教机器人适合钢构行业小批量非标柔性加工场景。传统示教再现型机器人通过执行示教程序进行重复性工作，对焊接工件一致性要求较高，且需要人工引导机器人进行预期动作编辑，多用于重复、标准化加工中，如汽车、摩托车加工，对非标产品操作耗时长、效率低。免示教智能焊接机器人融合智能感知、智能规划、智能控制等技术，构成以知识和推理为核心的智能焊接系统，通过与智能技术、工艺数字化技术等先进技术融合，实现了面向不同作业场景、作业任务、作业工艺，与钢构行业焊接需求高度契合。
2.4.3工业软件
2.4.3.1工业软件行业总览
工业软件是工业创新知识长期积累、沉淀并在应用中迭代进化的软件产物。工业软件的根基仍然是工业行业本身，有赖于正向创新和行业创新知识的积累，是一个长期系统工程。任何工业知识都必须先形成完整的体系，搭建出知识库和模型库，并在实践中反复应用、更改，与工程紧密结合并不断更新迭代，才有可能形成工业软件。因此，工业软件是工业创新知识的载体，依靠软件化这一关键过程，通过强大的软件工程能力才得以实现。软件平台与架构将直接决定工业软件产品的生命力。工业软件可分为四大类，分别为研发设计软件、生产控制软件、信息管理软件和嵌入式软件，在工业生产流程中发挥着不同的作用。1）研发设计软件：面向各类工业品研发、设计、加工的基础软件，提高开发效率、降低开发成本、缩短开发周期。2）生产控制软件：基于工业生产的流程，负责生产的流程调度、流程控制、流程监控，提升产品生产的自动化和智能化程度。3）信息管理软件：服务于产品的“进销存”环节信息以及企业整体的业务管理信息助力企业实现数字化管理。4）嵌入式软件：嵌入在硬件中的操作系统或开发工具软件，提高生产装备智能化水平。
根据工信部、中国电子信息产业统计年鉴数据，我国工业软件增速持续领先于全球工业软件市场。2022年，我国工业软件产品收入2407亿元，同比增长14.29%。2018年至2022年，我国工业软件产品收入年复合增长率高达16%。目前制造业企业信息化率仍较低，未来仍有较大发展空间。从现阶段看，我国制造业企业信息化率仍较低，《2018年中国制造业痛点分析报告》数据显示，制造业企业的数字化设备联网率仅为39%、MES普及率只有18.1%。而《智能制造装备产业“十三五”发展规划》指出，到2020年，重点领域数字化研发设计工具普及率达到70%以上，关键工序数控化率达到50%以上，数字化车间/智能工厂普及率达到20%以上，我国工业软件行业未来仍有较大发展空间。从ERP的普及率来看，Gartner的数据显示，我国ERP的普及率（ERP/GDP）仅为0.015%，远低于美国的0.059%。目前3C、汽车、家电、化工、电力等行业是IT投入主要领域。其中，3C行业前五大企业连续三年IT投入成本最大，达到450亿元。
2.4.3.2工业软件行业聚焦：CAD——计算机辅助设计
CAD发展有赖于技术革命，关键技术的研发将是未来CAD行业竞争焦点，国产CAD软件进步空间大。CAD行业发展史也是技术革命史，从2-2.5D模型到三维框线模型，从曲面造型技术到实体造型技术，从参数化技术到变量化技术，不同时点的技术进步既带来行业的腾飞，也造就新的行业龙头，放眼未来，CAD行业的发展仍将聚焦于关键技术的研发上。
CAD与AI结合是产业新趋势，可以提高设计效率、优化设计质量、创造新的设计形式。第四范式的“式说”大模型是一个基于生成式AI的新型开发平台，具备文本、语音、图像、表格、视频等多模态交互及企业级Copilot能力，以生成式AI重构企业软件（AI-GeneratedSoftware），提升企业软件的体验和开发效率。式说大模型可以用来辅助或自动生成CAD3D模型，用户通过自然语言交互就可以调用工业软件的功能，辅助完成设计。
随着大语言模型能力不断升级，生成式AI带来个人生产力革命，大语言模型爆发出巨大的应用潜力，模型参数持续提升带来更高的模型训练算力需求，大模型的商业化落地催生了更大的推理算力和通信能力需求。从需求端出发，我们测算了大模型带来的GPU增量空间。测算原理：从模型的（1）参数规模入手，根据（2）训练大模型所需的Token数量和（3）每Token训练成本与模型参数量的关系估算总算力需求，再考虑（4）单张GPU算力和（5）GPU集群的算力利用率推导得出GPU总需求。
3.1国产算力迎来高速发展期
2023年10月17日美国商务部和安全局（BIS）发布一揽子规则，旨在更新对中国的先进计算芯片的出口管制。出口管制清单CCL中的ECCN3A090修正，该规则将于2023年11月16日起生效。以下条件，满足一个就受到出口限制：3A090a：针对最高性能芯片(1):TPP超过4800(2):TPP超过1600，且PD超过5.92。3A090b：针对次高性能芯片(1):TPP处于［2400,4800)，且PD处于［1.6,5.92)；(2):TPP在［1600,+∞）区间，且PD处于［3.2.5.92）区间。其中TPP为总算力性能，PD为性能密度，性能密度定义为：总处理性能/芯片面积。
2023年10月17日的芯片出口管制禁令更为严格，虽然消除了之前的带宽限制，但是算力限制更为严格。主流的英伟达H100、H800、A100、A800、L40S、RTX4090等均在出口管制范围内。
英伟达和AMD是目前全球GPGPU的领军企业。英伟达的通用计算芯片具备优秀的硬件设计，通过CUDA架构等全栈式软件布局，实现了GPU并行计算的通用化，深度挖掘芯片硬件的性能极限，在各类下游应用领域中，均推出了高性能的软硬件组合，逐步成为全球AI芯片领域的主导者。AMD2018年发布用于数据中心的RadeonInstinctGPU加速芯片，Instinct系列基于CDNA架构，如MI250X采用CDNA2架构，在通用计算领域实现计算能力和互联能力的显著提升，此外还推出了对标英伟达CUDA生态的AMDROCm开源软件开发平台。国内AI芯片厂商正逐步缩小与英伟达、AMD的差距，出口管制下国产芯片快速发展势在必行。英伟达凭借其硬件产品性能的先进性和生态构建的完善性处于市场领导地位，国内厂商虽然在硬件产品性能和产业链生态架构方面与前者有所差距，但正在逐步完善产品布局和生态构建，不断缩小与行业龙头厂商的差距。国内主要AI芯片包括昇腾、寒武纪、海光信息、天数智芯等。
3.2服务器：AI时代全球服务器市场高速增长
3.2.1AI时代全球服务器市场高速增长，AI服务器出货量占比进一步提升
AI服务器为算力基础设施最重要硬件之一，与普通服务器的绝大多数空间分配给CPU相比，AI服务器采用异构形式，可根据应用的范围采用不同的组合方式，一般采取CPU+多颗GPU的架构，也有CPU+TPU、CPU+其他的加速卡等组合。相较普通服务器，AI服务器更擅长并行运算，具有高带宽、性能优越、能耗低等优点。对比CPU和GPU的内部架构，CPU采用整块的ALU(运算单元)，且大量空间用于控制单元和缓存，串行计算能力强；而GPU采用分立的大量ALU，很少空间分配给控制单元和缓存，并行计算能力强。而由于图像识别、视觉效果处理、虚拟现实、大模型训练等任务都包含大量的简单重复计算、矩阵计算等，更适合用搭载GPU更多的异构型AI服务器进行处理，而随着企业的智能化变革和通用大模型的兴起，以GPU为核心的异构型AI服务器将在算力基础设施建设中占据愈发重要的地位。
IDC预计，全球AI服务器市场将从2022年的195亿美元增长到2026年的347亿美元，五年年复合增长率达17.3%；其中，用于运行生成式人能的服务器市场规模在整体人工智能服务器市场的占比将从2023年的11.9%增长至2026年的31.7%。随着数据量的持续提升，大模型参与玩家和单个模型参数量提升，以及数字化转型推进等多因素影响，AI服务器市场规模将继续保持较快增长；2022年中国AI服务器市场规模67亿美元，同比增长24%。其中GPU服务器占据主导地位，市场份额为89%至60亿美元。同时，NPU、ASIC和FPGA等非GPU加速服务器以同比12%的增速占有了11%的市场份额，达到7亿美元。预计2023年，中国人工智能服务器市场规模将达91亿美元，同比增长82.5%，2027年将达到134亿美元，五年年复合增长率为21.8%。
3.2.2AI服务器市场集中度有望提升，国内厂商呈现一超多强格局
据IDC数据，2022年上半年全球AI服务器市场中，浪潮信息、戴尔、惠普、联想、新华三分别以15.1%、14.1%、7.7%、5.6%、4.7%的市场份额位居前五位。市场格局相对分散，龙头厂商份额较为接近。此外，由于以北美云厂商为主的需求方偏向于采用ODM模式，因此非品牌商份额占比较高，接近50%。据IDC数据，2022年我国AI服务器市场按销售额统计市场份额中，浪潮信息、新华三、宁畅位居前三位，市场份额分别为47%、11%、9%。市场格局呈现一超多强局面，除浪潮外其与厂商份额相对接近。由于国内头部厂商采用类ODM模式服务互联网客户，因此ODM厂商份额占比偏低。
EDA行业保持稳定增长，国内增速更快。根据赛迪数据，2020年全球EDA行业实现总销售额72.3亿美元，同比增长10.7%。预计至2024年，全球市场规模有望达到105亿美元，2020-2024年复合年均增长率为7.8%。2020年国内EDA市场规模为66.2亿，预计至2024年，我国EDA工具市场规模有望达到115亿元人民币，2020至2024年的市场规模符合年均增长率近17%。
EDA结合人工智能是趋势。EDA问题具有高维度、不连续、非线性和高阶交互的特性，机器学习等算法能够显著提高EDA的自主程度，提升IC设计效率，缩短研发周期。人工智能赋能EDA主要从Inside和Outside两方面实现，从Inside方面，通过机器学习对DRC、能耗、时序等预测，在参数模型建立过程中实现参数的优化，同时实现更高效的物理空间设计。Outside方面，通过机器学习方式，减少人工干预，极大释放劳动力。