文章很有深度，比较长，可以二倍速听读！
目前大模型能力仍处于 Emerging AGI 水平，就模型成熟度而言，措辞大模型>多模态大模型>具身智能大模型。根据DeepMind 的定义，AGI 应能够广泛学习、实行繁芜多步骤的任务。
模型的 AGI 水平可分为 Level-0 至 Level-5 共 6个等级，现阶段大模型在处理任务的广泛性上还有很大提升空间，纵然是国际顶尖的大模型也仍处于 Level-1Emerging AGI 阶段。
不同类型大模型成熟度差异较大，目前大措辞模型能力相对完善，落地运用处景丰富，底层技能路线较为成熟；多模态大模型已经能够面向 BC 端推出商业化产品，但细节优化空间较大；具身智能类大模型还在探索阶段，技能路线尚不清晰。
现阶段谈论 AGI 能力提升仍需聚焦于多模态大模型的演习和运用。目前学界和业界重点关注 Scaling Law 的有效性，以及模型算法的可能改进方向。
Scaling Law 仍有深入空间。根据 OpenAI 研究，随模型参数量、数据集规模、演习利用的打算量增加，模型性能能够稳步提高，即 Scaling Law。从演习样本效率、演习时长、各种资源对模型的贡献维度来看，目前 ScalingLaw 仍是提高模型性能的最优方法。OpenAI 测算在模型参数量扩展到 88 万亿及之前，Scaling Law 依旧有效，则中短期仍可延续此路线进行演习。
模型骨干网络架构尚未演化至结局，微调及稀疏构造成为提升模型性能的主要方法。目前主流大模型均采取Transformer 作为底层骨干网络，但针对编码器解码器选择、多模态领悟、自把稳力机制等方面的探索仍在持续推进。微调利用更小的数据量、更短的演习韶光，让模型能够适应下贱任务，以降落边际落地本钱。以 MoE 为代表的稀疏构造通过分割输入任务并匹配专家模型，能够提高模型的整体性能。
开源模型性能优化速率快于闭源模型。我们认为，目前第一梯队 AI 大模型纷纭进军万亿参数，且不远的将来大模型将逐步逼近十万亿参数收敛值，对付本轮 AI 浪潮而言，找场景或优于做模型。
在场景选择方面，对“幻觉”容忍度高且能够替代人工的场景可实现运用率先落地，如谈天机器人、文本/图像/视频创作等领域；而对“幻觉”容忍度较低的行业须要等待大模型能力提升或利用更多场景数据演习。
2022 年 11 月 ChatGPT 推出后，自然措辞处理领域取得重大打破，正式进入大模型时期，2023 年被称为“大模型元年”；
2023 年 3 月,具备多模态能力的 GPT-4 惊艳发布，海内外科技巨子、研究机构等纷纭跟进；
至 2024 年 2 月 Sora 面世，大模型在视频天生领域实当代际跃迁，虚拟现实成为可能。
在此背景下，学界和业界对付大模型结局，即是否能够实现 AGI（Artificial general Intelligence，通用人工智能）的谈论热度日益提升。
本文紧张盘点目前各种主流大模型性能情形，试图谈论大模型性能提升并终极实现 AGI的可能路径，并剖析在实现 AGI 过程中的干系家当链投资机会。
1. 间隔 AGI 还有多远：措辞大模型较为成熟，处于 Emerging AGI 水平
根据 DeedMind 的创始人兼首席 AGI 科学家 Shane Legg 的定义，AGI 能够实行一样平常人类可完成的认知任务、乃至超越这个范围。详细而言，AGI 应能够学习广泛任务，能够实行繁芜、多步骤的任务。DeepMind 根据 AI 模型性能和学习处理任务的广泛性对 AGI 水平进行分类，从 Level-0 无人工智能，到 Level-5 超越人类共 6 个等级。
图表1：AGI 可以根据性能和广泛性划分为 6 个等级
现阶段大模型在处理任务的广泛性上还有很大提升空间，虽然 GPT-4、Gemini 1.5、Claude3 等模型已经能够处理文本、图像、视频等多模态输入，但尚未具备独立决策和实行行动的能力。
此外，现阶段更多的模型仍聚焦在某单一领域进行性能提升，比如 Kimi 在处理长文本输入领域表现突出，但尚不能进行图片天生；Sora 能够高质量完成文生视频任务，但不具备问答功能。因此，现阶段评价大模型性能情形、剖析模型演进方向，仍需根据模型专长领域进行分类。
图表2：大模型可根据功能进行分
在措辞大模型以及侧重问答能力的多模态模型领域，自 2020 年 GPT-3 发布后进入爆发期，各主流玩家加速模型迭代，包括 OpenAI 的 GPT 系列、Google 的 Gemini系列、Meta 的开源 LLaMA 系列等。
目前定量测评分数最高的为 Anthropic 旗下的Claude 3 Opus，在 MMLU（Undergraduate Level Knowledge）、GSM8K（GradeSchool Math）、MGSM（Multilingual Math）等多个测试项目中准确率超过 85%；模型参数量最高的为 23 年3 月谷歌发布的 PaLM-E，参数量达到 5,620 亿，是 ChatGPT的 3.2 倍，模型能够理解自然措辞及图像，还可以处理繁芜的机器人指令；谷歌于24 年 2 月发布的 Gemini 1.5 能够处理的高下文长度高达 100 万 tokens（相称于 70万单词，或 3 万行代码，或 11 小时音频，或 1 小时视频），为目前长文本处理能力的上限。
图表3：海内外措辞及多模态大模型进展概览
文生图、文生视频类模型可追溯至 2014 年的 GAN 框架，2021 年 OpenAI 发布DALL-E 后图像天生类模型开始爆发，包括谷歌的 Imagen、OpenAI 的 DALL-E 2、Stability 旗下的 Stable Diffusion；至 2023 年文生图功能与大措辞模型相结合，并涌现文生视频技能，24 年 2 月 OpenAI 发布文生视频模型 Sora，在天生视频长度和质量上均为目前最优水平。
图表4：海内视觉及其他大模型进展概览
机器人模型包括感知、决策、掌握、交互 4 个部分，涉及视觉、图像、声音、导航、动作等多个模态，在实际运用中须要根据特定的环境、动作、障碍、反馈等数据进行决策，因此，机器人对算法的跨模态、泛用性哀求更高。
图表5：机器人涉及到的模型种类较多
将措辞大模型的底层框架和演习办法运用于机器人的感知、决策、掌握成为现阶段主要趋势。2021 年 OpenAI 推出基于 Transformer 架构和比拟学习方法的 VLM（视觉-措辞模型）CLIP；2022 年起，谷歌先后推出 RT-1/RT-2/RT-X/RT-H 系列模型，同样采取 Transformer 架构，能够将措辞描述的任务映射为机器人行动策略；24 年 3月，初创公司 Figure 与 OpenAI 互助推出机器人 Figure01，由 OpenAI 供应视觉推理和措辞理解能力，Figure01 能够描述看到的统统情形、方案未来的行动、语音输出推理结果等。
图表6：将 Transformer 架构运用于机器人决策、掌握等成为现阶段主要趋势
按照 DeepMind 的 6 级 AGI水平分类，目前国际顶尖大模型仍处于 Level-1 Emerging AGI阶段。详细而言，各种大模型成熟度：措辞大模型>多模态大模型>具身智能类大模型。
措辞大模型能力相对完备，底层技能路线大多选择 Transformer Decoder-only 架构，结合MOE和多模态embedding，算法细节优化方向差异较小。以GPT-4、Gemini 1.5、Claude 3 为例，措辞大模型在推理、长文本、代码天生领域已经能够完成低级任务，但距繁芜、专业水平仍有差距；
多模态大模已经能够面向 BC 端供应商业化产品，底层技能路线紧张采取 DiffusionTransformer，但细节优化空间较大，高质量和成规模的数据集仍在发展初期；
具身智能类大模还在探索阶段，底层技能路线尚不清晰，数据网络、演习方法、测评方法等都处于发展初期。在实际运用处景中准确率较低。
图表7：各种大模型能力现状
2. 如何实现 AGI：Scaling Law 仍有深入空间，底层算法框架有待升级
参考 OpenAI 的大模型研发布局，实现 AGI 的过程可以分为 3 个阶段，目前处于多模领悟的第 2 阶段。AGI 发展路径与当下各种模型水平相对应，即在措辞大模型、视觉大模型相对成熟的根本上发展多模态大模型，而后探索具身智能类运用。
第一阶段为单模态系统，包括措辞模型、视觉模型、声音模型等，各个模态独立发展；
第二阶段为多种模态、多种任务模型相领悟。但根据模型的能力侧重点不同仍可分为两类：一因此 GPT-4 等为代表的多模态理解模型，二是更强调天生性能的多模态天生模型，如 Sora 等。估量这两种能力会在后续的大模型发展中进一步领悟。
第三阶段将进一步强调模型与外部环境的交互，以及面对繁芜任务的处理能力，将以机器人或者一个设备的大脑为载体，进一步靠近乃至实现 AGI。
因此，现阶段谈论 AGI 能力提升仍需聚焦于多模态大模型的演习和运用，在多模理解和多模天生能力较好领悟后，再推演具身智能的模型框架、演习方法会更加清晰。
图表8：以 OpenAI 布局为例，看 AGI 发展路径
多模态大模型与措辞大模型的演习流程相似，包括数据工程和模型工程两部分。个中数工程包括数据洗濯、分词、位置编码等，模型工程包括模型框架选择、演习方法选择、算法选择、模型预演习、微调等。模型的预演习、微调、推理等环节均须要算力支持。
图表9：大模型演习紧张环节
模型架构及神经网络层数决定模型参数量，常日将参数规模千万量级及以上的深度学习模型称为“大模型”；演习利用的数据集大小须要与模型参数规模相匹配，避免产生过拟合或演习不充分等问题；算力需求与模型算法构造、参数规模等紧密干系。因此当我们谈论模型性能提升时，可以重点从神经网络架构和演习方法、数据量、算力等维度入手。本文后续章节姑息目前学界和家当界重点关注的问题进行谈论：
在保持现有模型架构不变的情形下，增加神经网络层数，进而扩大参数规模、演习数据集规模的 Scaling Law 的天花板在哪里？
当仅凭 Scaling Law 不能进一步提升模型性能时，算法层面有哪些可以改进的方向？
图表10：多重成分决定模型性能
2.1 Scaling Law：中短期内，持续扩大参数量仍能改进模型表现
OpenAI 通过研究证明，随着模型大小、数据集大小和演习所用打算量的增加，措辞模型的性能也会稳步提高。为了得到最佳性能，这三个成分必须同时放大：1）当不被其他两个成分瓶颈限定时，模型性能表现与每个单独的成分之间存在幂律关系；2）在其他两个成分充足的条件下，模型表现和第三个成分成幂方关系。
图表11：模型性能随着模型大小、数据集大小和演习所用打算量的增加呈现幂律提升
从演习样本效率、演习时长、各种资源对模型的贡献维度来看，目前 Scaling Law 仍是提高模型性能的最优方法：
参数规模更大的模型在演习过程中的样本效率更高、性能提升更快。当打算量固定（比如固定要进行 n 次浮点打算）而数据集大小 D 和模型参数量 N 不固定时，OpenAI创造演习大模型的性价比更高。紧张由于随着模型规模的增加，每个优化步骤所需的数据点数量减少，从而提高了样本效率。
图表12：参数规模更大的措辞模型在演习过程中的样本效率更高且性能提升更快
模型参数规模对付性能提升的贡献度更高。研究表明，在有限的资源下，为了达到最佳的演习效果，应该优先考虑扩大模型参数量 N，同时合理调度其他演习参数以保持演习效率和避免过拟合。
图表13：模型参数规模对付性能提升的贡献度更高
OpenAI 对 Scaling Law 的适用空间进行测算，认为模型参数量在扩展到 88 万亿及之前Scaling Law 仍会发挥浸染。目前业界预测 OpenAI 下一代大模型 GPT-5 参数量估量达到10 万亿级别，神经网络层数或达 1,300 层，相较 88 万亿的“天花板”仍有扩充空间。因此，中短期来看持续扩大模型参数量仍有望改进模型表现。
2.2 算法改进：骨干网络架构仍有创新空间，微调及稀疏构造能够提升性价比
我们曾经在 2023 年 3 月发布报告《大模型时期，AI 技能向效率提升演进》，对大模型演习方法、数据效率、开拓效率、算力效率、工程化效率的发展趋势进行梳理，本节将结合过去一年的大模型迭代情形，进一步谈论可能的算法演进方向。
2.2.1 基于 Transformer，在架构选择、多模态领悟、自把稳力机制方面进行创新
2017 年谷歌将把稳力机制引着迷经网络，提出了新一代深度学习底层算法 Transformer。由于其在物体分类、语义理解等多项任务中准确率超过 CNN、RNN 等传统算法，且能运用于 CV、NLP 等多个模态，Transformer 的提出使得多任务、多模态的底层算法得到统一目前主流大模型均采取 Transformer 作为底层骨干网络，但在编码器解码器选择、多模态领悟、自把稳力机制等方面有所创新。
图表14：Transformer 模型构造及自把稳力机制事理
针对 Transformer 的编码器-解码器（Encoder-Decoder）构造进行拆分选择：
Transformer 模型采取编码器-解码器构造，个中编码器卖力从输入内容中提取全部有用信息，并利用一种可以被模型处理的格式表示（常日为高维向量）；而解码器的任务是根据从编码器处吸收到的内容以及先前天生的部分序列，天生翻译后的文本或目标措辞。
目前主流大模型可以根据骨干网络架构的差异分 Encoder-only、Encoder-Decoder、Decoder-only 共 3 类，个中 Encoder-only 紧张为谷歌的 Bert 及其衍生优化版本；利用 Encoder-Decoder 架构的模型有谷歌的 T5 以及清华智谱的 GLM 等；OpenAI 的GPT 系列、Anthropic 的 Claude 系列、Meta 的 LLaMA 系列等均采取 Decoder-Only架构。
图表15：根据底层骨干网络差异可以将大模型分为三类
Decoder-Only 架构更适宜天生类任务且推理效率更高，为大模型厂商所青睐：
1）功能方面，Encoder-Only 架构更善于理解类而非天生类任务，以采取 Encoder-Only 架构的 Bert 为例，其学习目标包括 Masked LM(随机遮盖句子中多少 token 让模型规复)和 Next Sentence Prediction(让模型判断句对是否前后相邻关系)，演习目标与文本天生不直接对应；
2）推理效率方面，Encoder-Decoder 和 Decoder-Only 架构均能够用于文本天生，但在模型效果靠近的情形下，后者的参数量和占用的打算资源更少，且具有更好的泛化能力。
图表16：三种骨干网络特点比拟
利用 Encoder-Decoder 亦可演习出成熟的多模态大模型，或将凭借架构上风在多任务领悟领域实现反超。
清华大学和智谱 AI 公司共同研发的 GLM 系列模型采取Encoder-Decoder 架构，于 24 年 1 月发布 GLM-4 最新版本，模型在根本能力（英文）、指令跟随能力（中英）方面能够达到 GPT-4 90%以上的水平，在对齐能力（中文）、长文本能力方面超过 GPT-4，在文生图方面能力逼近 DALLE-3。
目前 GLM4支持根据用户意图，自由调用网页浏览器、代码阐明器和文生图模型，并上线个性化智能体定制功能。
图表17：智谱 GLM-4 在多项任务中能力比肩 GPT-4
Transformer+其他现有算法，推进多模态性能提升：
自把稳力机制（Self-Attention）使得 Transformer 架构能够处理多模态任务。自把稳力机制将输入数据进行线性映射创建三个新向量，分别为 Q/K/V，个中 Q 向量可以看作是某个人的关注点，V 向量可以看作是详细的事物，而 K 向量可以看作是人对不同事物的关注程度。通过打算 Q 向量和 K 向量的点乘，可以得出一个值，表示这个人对某个事物的关注程度，然后将这个关注程度与 V 向量相乘，以表示事物在这个人眼中的表现形式。这种办法使得模型能够更好地捕捉长序列中不同部分的关联性和主要性，而各种模态的信息均可以通过一定办法转化为一维长序列，因而Transformer 具备处理多模态问题的能力。
以上海 AI Lab 和喷鼻香港大学联合推出的 Meta-Transformer 为例，该模型通过一个多模态共享的分词器，将不同模态的输入映射到共享的数据空间中，进而实现了处理 12种非成对的模态数据，包括文本、图像、点云、音频、视频、X 光、红外等。
图表18：Meta-Transformer 模型能够处理 12 种非成对的模态数据
将 Transformer 与其他模态领先算法领悟，能够显著提升多模态处理能力，有望加速大模型多模态领悟趋势。24 年 2 月 OpenAI 发布文生视比年夜模型 Sora，紧张根据Diffusion Transformer（DiT）框架设计而成。个中，扩散模型（Diffusion）是一种图像天生方法，通过逐步向数据集中添加噪声，然落后修如何逆转这一过程。
扩散模型能够天生高质量的图像和文本，但仍存在可扩展性低、天生效率低等问题。
DiT 模型在扩散模型根本上引入 Transformer 架构，通过将图像分割成小块（patches），并将这些块作为序列输入到 Transformer 中，DiT 能够有效地处理图像数据，同时保持了Transformer 在处理序列数据时的上风，能够显著改进扩散模型的天生效率。此外，将自动驾驶领域的 BEV（鸟瞰视图）模型与 Transformer 相结合，已经成为目前自动驾驶领域主流感知框架，并在浩瀚赞助驾驶产品中量产运用。
图表19：扩散模型示意图
图表20：Diffusion Transformer 模型构造
基于 Transformer 的细节创新已成为学界重点研究方向，非 Transformer 构造的探
索持续推进，有望推动骨干网络升级。
Transformer 自 2017 年发布后对深度学习领域产生颠覆性影响，学界在持续探索改变框架细节以实现模型性能进一步打破。目前针对 Transformer 的创新考试测验包括模块改进、架构改进、效率优化等方面。
华为诺亚方舟实验室等联合推出新型大措辞模型架构盘古-π，通过增强非线性，在传统 Transformer 架构上做出改进，由此可以显著降落特色塌陷问题。在利用相同数据演习的情形下，盘古-π（7B）在多任务上超越 LLaMA 2 等同规模大模型，并能实现 10%的推理加速。
图表21：针对 Transformer 的创新研究持续推进
2.2.2 微调方法的改进促进模型性能和落地效率提升
“根本模型+微调”已成为大模型开拓范式，通过微调让根本模型针对特界说务类型、运用处景进行二次演习，能够极大提升大模型在实际运用中的智能水平。相较于过去“一场景、一任务、一模型”的演习办法，微调能够是利用更小的数据量、更短的演习韶光使模型能够适应下贱任务，显著降落了边际落地本钱。
目前大模型的微调方法可以分为全量微调（Full Fine-tuning）和参数高效微调（PEFT，Parameter-Efficient Fine-Tuning）两种：
1）全量微调：利用特界说务数据调度预演习模型的所有参数，以充分适应新任务。它依赖大规模打算资源，但能有效利用预演习模型的通用特色。
ChatGPT（InstructGPT）利用的基于人类反馈的强化学习微调 RLHF 即为全量微调，通过利用 RLHF 模型输出内容能够更加符合人类措辞习气。23 年 7 月，Meta 旗下的开源模型 Llama-2-chat 对 RHLF进行了改进，通过创建两个褒奖模型、增加额外的谢绝采样步骤，使得天生内容在安全性和有用性方面表现更好。
图表22：InstructGPT 中的 RLHF 技能
图表23：Llama-2 对 RHLF 的褒奖模型进行改进
2）参数高效微调：旨在通过最小化微调参数数量和打算繁芜度，实现高效的迁移学习。它仅更新模型中的部分参数，显著降落演习韶光和本钱，适用于打算资源有限的情形。常见的 PEFT 技能包括 LoRA、Prefix Tuning、Prompt Tuning、Adapter Tuning 等多种方法。个中 LoRA 是微软推出的低秩自适应技能，它相称于在原有大模型的根本上增加了一个可拆卸的插件，模型主体保持不变，随插随用，轻巧方便，利用 LoRA 时可以节省 33%的 GPU 内存。
图表24：针对 Transformer 架构大模型的 PEFT 微调方法
2.3.3 利用 MoE 进行任务分割，更高效地利用打算资源
AI 大模型的打算架构决定了模型中人工神经网络的各神经元之间相互浸染的办法。打算架构可分为稠密构造和稀疏构造 2 种：1）利用稠密构造的大模型在打算时须要激活全体神经网络，算力和内存花费较大，紧张运用于 GPT-3 等早期 AI 大模型中；2）稀疏构造许可系统的某些特定部分单独实行打算，根据输入的特定特色或需求，只有部分参数凑集被调用和运行。
稀疏构造的代表是 MoE 稠浊专家模型，通过将输入数据根据任务类型分割成多个区域，并将每个区域的数据分配一个或多个专家模型。每个专家模型可以专注于处理输入这部分数据，从而提高模型的整体性能。
图表25：MoE 构造中只激活部分网络
只管 MoE 供应了多少显著上风，例如更高效的预演习和与稠密模型比较更快的推理速率，但仍有连续改进的空间:
演习寻衅: 虽然 MoE 能够实现更高效的打算预演习，但它们在微调阶段每每面临泛
化能力不敷的问题，长期以来易于引发过拟合征象。
推理寻衅: MoE 模型虽然可能拥有大量参数，但在推理过程中只利用个中的一部分，
这使得它们的推理速率快于具有相同数量参数的稠密模型。然而，这种模型须要将所有参数加载到内存中，因此对内存的需求非常高。
3. 如何商业落地：借力模型开源及 B 端互助，探求高人工替代率的场景
3.1 开源模型 vs 闭源模型？——Scaling Law 不再 work 之后，找场景或优于做模型
本轮 AI 底层模型创业需求依赖成本密集的人才与算力持续投入。据 BofA GLOBALRESEARCH，2023 年，环球天生式 AI 公司融资额度高达 218 亿美元，同比 22 年提升 4倍，超过 19~22 年 4 年融资总额；2023 年环球天生式 AI 公司融资笔数多达 426 笔，同比提升 65.8%。我们认为，融资笔数同比增速大幅低于融资额度解释 2023 年 AI 创业公司均匀融资额度较大，可能与 AI 大模型创业公司对人才、算力需求较大所致，变相解释本轮 AI 模型创业相对成本密集，对付持续高额融资的需求较为兴旺。
图表26：2023 年天生式 AI 融资额度与融资笔数快速提升
源模型快速追赶闭源模型，开源模型性能优化速率快于闭源模型。AI 底层模型创业客不雅观上、依托投资人的持续投入，以支撑模型演习对付尖端人才与大规模算力的需求。
一方面，性能卓越的爆款运用（killer app）每每须要基于足够强大的模型能力，乃至
于会有 MaaS（Model as a Service，模型即做事）说法的涌现——“好模型即是好运用”每家 AI 公司都该当自研大模型；
另一方面，在国内外浩瀚创业者投身底层模型研发的过程中，AI 大模型第一梯队的领跑者也会阶段性地开源已有的较前辈的模型，以塑造环绕自身的开拓者生态——在Scaling Law 不再 work 的天下中，开源模型迟早会追平（或无限靠近）闭源模型性能不必重新造轮子，中长期看找运用处景优于卷大模型。
据 BofA GLOBAL RESEARCH，目前开源模型性能优化速率快于闭源模型，我们认为，目前第一梯队 AI 大模型纷纭进军万亿参数，且不远的将来大模型将逐步逼近十万亿参数收敛值，对付本轮 AI 科技浪潮而言，找场景或优于做模型。
图表27：开源模型性能改进速率快于闭源模型
3.2 如何定义一个好场景？——“幻觉”尚未肃清的天下，高人工替代率或为重点
基于未来开源模型性能表现终将追平或靠近闭源模型能力这一假设，我们认为以中长期视角来看，找到一个能够将 AI 落地且可以产生商业化收入的场景对付大多数 AI 厂商而言或将成为更优的投入方向。
结合我们上一篇 AI 行业研究报告——《AI 运用落地的商业模式探索》与本篇报告前述章节的谈论，我们认为 AI 落地场景大致可以分为 5 类：
第一类-真实天下中基于具身智能的运用处景。
第二类-虚拟天下中场景更须要“天生”为主，且现阶段可以替代人工的场景。
第三类-虚拟天下中场景更须要“天生”为主，且现阶段不可以替代人工的场景。
第四类-虚拟天下中场景更须要“剖析”为主，且容错率较低的场景。
第五类-虚拟天下中场景更须要“剖析”为主，且容错率较高的场景。
已经落地的场景每每对“幻觉”具备一定的容忍度。只有第二类和第五类场景是目前 AI能够运用落地且可以产生商业化收入的。第二类场景例如天生某种风格类型的小说/插画/音乐以及基于 Sora 等多模态模型得到的短片。第五类场景例如 ChatGPT 或者Character.ai 等知足效率工具与角色扮演需求的谈天机器人，以及例如 Perplexity 等 AI赞助搜索。
我们认为，以上两类场景之以是能够在现阶段落地的核心缘故原由是它们均能够在一定程度上容忍“幻觉”（Hallucination，指在 AI 天生或反馈结果当中存在的不符合常理的情形），个中，对付第二类场景所对应的文本/图像/音乐/视频创作（错题天生也可以被视作文本创作的一部分）而言，其本身便不存在唯一性的最优解；而对付第五类场景所对应的问答互动与信息总结需求而言，固然存在更优的回答与更有效率的信息归纳办法，但用户对付 AI 偶尔涌现不符合常理的反馈仍有一定的宽容度。
图表28：AGI 演进过程中的运用处景分类
尚无法落地的场景须要办理“幻觉”所产生的问题。对付尚无法运用落地或至少不能形成商业化收入的第一/三/四类场景而言，我们认为最主要的是要办理“幻觉”所带来的问题。
对付第一类场景而言，基于具身智能的机器人置身于真实的物理天下当中，其每一个行为动作都可能会对工厂与居家安全带来风险（比如，一个缺点的参数反馈可能导致生产事件，一个缺点的指令理解可能侵害到居家住户），因此天然对付“幻觉”的容忍度很低。
对付第三类场景而言，只管多数依赖天生式 AI 的创意事情都已经得到落地，但我们依然可以在 Sora 对外表露的视频中看到不符合物理天下知识的画面涌现，涉及大量物理天下规律的长视频制作目前依然无法完备取代人工。
对付第四类场景而言，部分直接涉及人类生命安全的领域，如自动驾驶与医疗诊断也天然对“幻觉”具有较低的容忍度。
综合前述，我们认为，如果第三类场景中的“幻觉”得以办理或至少掌握在足够低的范围内，将有助于反哺第一与第四类场景进行数据演习，从而加速 AI 的落地进展。
3.3 如何处理“幻觉”？——Scaling Law 崇奉派 vs 引入知识图谱改良派
在处理模型幻觉、进而实现 AGI 的路径方面，学界紧张存在着两派声音——基于连接主义的“Scaling Law 崇奉派”与基于符号主义的“引入知识图谱改良派”：
连接主义（Connectionism）：又称为神经网络或并行分布处理，是一种模拟人脑神经网络构造和功能的人工智能方法。它的核心思想是通过大量大略的、相互连接的处理单元（类似于神经元）来实现繁芜的智能行为。这些处理单元之间的连接强度代表了信息的权重，而智能则表示在这些单元如何通过学习和调度连接强度来处理信息。用一个大略的比喻，连接主义就像是一张由许多节点（神经元）组成的大网。每个节点都可以吸收和发送旗子暗记，而节点之间的连接则决定了旗子暗记如何通报。当这张网吸收到输入旗子暗记时，它会通过调度节点之间的连接强度来学习新的模式和任务，就像人脑学习新知识一样。连接主义认为，现阶段的“幻觉”只是模型参数与演习数据集的规模未达到空想情形导致的，Scaling Law 将会持续改进模型效果直至“肃清”“幻觉”。
符号主义（Symbolism），也称为逻辑主义或规则主义，是一种基于符号处理的人工智能方法。它的核心思想因此为智能行为可以通过对符号的操作和处理来实现。这些符号代表了现实天下中的工具、观点或事宜，而智能则表示在如何通过逻辑规则对这些符号进行有效的组合、推理和转换。举个例子，符号主义就像是我们利用的措辞和数学公式。我们通过笔墨和公式来表达思想和解决问题，而符号主义 AI 则通过预设的规则和逻辑来操作这些符号，从而实现智能行为。比如以 Yann LeCun 为代表的Meta、Google、Stanford 等科学家认为目前的天生式 AI 模型没有真正理解内容。
图表29：连接主义 VS 符号主义
“改良派”认为，知识图谱可能用以减轻“幻觉”问题。知识图谱是一种存储信息并展示干系信息源之间关系的方法。知识图谱具有一个集中准确的知识来源，并且能够将不同格式的信息进行构造化的组织。
AI 大模型有时会“很有信心”供应一些不准确的信息。知识图谱从多个来源摄取大量事实信息，并在它们之间建立联系，将知识图谱与大模型整合，将匆匆使大模型内部的观点之间形成逻辑连接。
空想状况下，AI 大模型可以利用包括构造化和非构造化数据在内的各种信息来源，天生更准确的输出。知识图谱不像 AI 大模型那样的概率引擎，其基于一个准确的知识中央进行推理和解释，进而也可以减少 AI 大模型演习对大量标记数据集的需求。
图表30：知识图谱通过机器学习和自然措辞处理来构建节点、边和标签的全面视图
4. 展望
目前大模型正处在 Emerging AGI 阶段，多模态领悟是现阶段发展的重点方向。在模型性能提升方面，无论是连续沿 Scaling Law 推进，还是探索神经网络骨干架构和细分算法的创新，均须要大模型厂商与数据工程类、算力支持类公司互助推进。
图表31：大模型向 AGI 演进，模型演习家当链有望持续收益
大模型厂商：海内头部 AI 大模型上市公司包括科大讯飞、商汤等。个中科大讯飞于2023 年 5 月发布讯飞星火大模型，至 24 年 1 月模型已升级至 V3.5 版本，根据公司测评，在七大核心能力上都得到了全面提升，在数学、措辞理解和语音交互能力上还超越了 GPT-4 Turbo。商汤于 23 年 4 月发布日日新系列大模型，24 年 2 月模型更新至 V4.0 版本，个中日日新商量大措辞模型支持 128K 语境窗口长度，综合整体评测成绩水平比肩 GPT-4。
数据工程厂商及拥有丰富垂类数据的公司：海天瑞声是我国语音类根本数据做事领域头部企业，目前公司已推出 DOTS-LLM 大模型做事平台，平台包括数据采标、数据管理、模型演习和模型评测四大功能，旨在为千行百业数字化转型赋能。此外，在微调环节须要利用垂类行业数据，以提升模型在详细运用中的性能，拥有丰富行业数据积累的公司也有望收益。
算力家当链：上游包括芯片和元器件，中游包括做事器和网络设备，下贱包括 IDC以及云做事等。个中，浪潮信息是算力系统供应商，支持多元异构算力、可适配多种架构的 AI 加速芯片；中科曙光积极培植“全国一体化算力做事平台”，致力于链接遍布各地各种算力中央；宝信软件多年专注于自主研发工业互联网平台宝联登 xln3 Plat和 AI 中台。我们在《算力深度报告一：算力研究框架-家当链全梳理》进行了详细投资标的梳理。
图表32：算力家当图谱
对付 AI 下贱运用厂商而言，选择基于开源模型开拓，或者与海内外顶级模型厂商进行互助，即能够实现大模型技能赋能已有业务。由于，选择得当的落地场景更为主要。目前虽然大模型在实际运用中仍存在“幻觉”问题，但已经在教诲、企业做事、办公、金融等浩瀚领域落地运用，建议持续关注。
理解AI更多方面资讯，请关注巴特星球"大众年夜众号：
