AI 大模型的四阶技术和我们的机会

今天主要给大家介绍一下AI 大模型的四阶技术和我们的机会。

1. AI 的发展历程

关于 AI（人工智能）的发展历程，我们可以将其划分为四个关键阶段，每个阶段都会有标志性的重大技术突破和应用领域的扩展。

  • Artificial Intelligence（弱人工智能）
  • Machine Learning（机器学习）
  • Deep Learning（深度学习）
  • Large Language Model（大语言模型）

AI 发展历程图示

1.1. 四个关键阶段的技术特点对比

阶段 时间范围 代表性技术成果 数据规模 技术栈
弱人工智能 1950 年~1990 年 基于人工设计的规则系统 数百规则集 -
基于专家知识和规则的系统机器学习 1990 年~2012 年 HMM，CTF，SVM，反向传播，卷积网络 百万级标注数据 统计机器学习算法 + 算法包（scikit-learn，XGBoost）
深度学习 2013 年~2018 年 ImageNet，ResNet，Word2vec，Attention，Transformer 十亿级标注数据 深度神经网络 + 开发框架（TensorFlow，PyTorch）
大语言模型 2018 年~至今 BERT，PaLM，LLaMA，GPT-5，GLM 全网万亿级数据，十亿用户反馈 预训练 + 微调 + 开源社区

1.2. Artificial Intelligence（弱人工智能）阶段

  • 关键词：symbolic（符号主义）、基于规则、专家系统、图灵测试。
  • 核心特点：以理论基础建立为核心，采用符号主义方法，受限于计算与数据，系统多针对特定简单问题，泛化能力不足。
  • 代表成果：约翰·麦卡锡提出"人工智能"概念以及 DENDRAL 专家系统在化学领域的成功应用，这两者共同奠定了 AI 发展的基础。

1.3. Machine Learning（机器学习）阶段

机器学习阶段图示

  • 关键词：基于统计、数据驱动、机器学习算法、特征工程。
  • 核心特点：以数据驱动和统计学习为核心，通过优化模型参数提升预测和分类准确性，并成功拓展至语音识别、图像识别等多个应用领域。
  • 代表技术：支持向量机（SVM）、决策树、随机森林等算法的出现，以及神经网络的复兴（尽管面临规模和训练上的挑战），共同推动了机器学习领域的显著进步。

1.4. Deep Learning（深度学习）阶段

深度学习阶段图示

  • 关键词：connectionist（连接主义）、深度神经网络、PyTorch、Tensorflow。
  • 核心特点：在大数据、高性能计算和算法创新的推动下实现了神经网络的复兴，通过端到端学习直接从数据中提取特征，广泛应用于图像识别、自然语言处理和语音识别等领域，推动了 AI 技术的飞跃。
  • 代表成果：AlphaGo 在围棋领域的卓越表现彰显了 AI 的深度学习能力，而 Transformer 模型的诞生则极大地推动了自然语言处理（NLP）技术的飞跃发展。

1.5. Large Language Model（大语言模型）阶段

大语言模型阶段图示

  • 关键词：scaling law（缩放定律）、AIGC、超大规模参数、PLM、SFL。
  • 核心特点：超大规模参数、零样本/少样本学习能力以及广泛的应用前景，这些特点共同赋予了它们对自然语言的深刻理解和生成能力，推动了 AI 技术的革新与发展。
  • 代表成果：GPT 系列（GPT-3、ChatGPT、GPT-4）凭借超大规模与强生成力重塑 NLP，LLaMA 开源则加速了 LLM 技术的普及与应用创新。

2. AI 大模型的四阶技术

我们可以将 AI 大模型的技术划分为四阶技术

  • 提示工程（Prompt Engineering）
  • AI 智能体（Agents）
  • 大模型微调（Fine-tuning）
  • 预训练技术（Pre-training）

2.1. AI 大模型的四阶技术对比

技术阶段 面向人群 技术积累 应用场景 特征总结
提示工程（Prompt Engineering） 终端用户 对 ChatGPT 等应用的提示词有基础的了解和使用 文本生成、机器翻译等 门槛低、易上手
AI 智能体（Agents） 大模型应用开发人员 了解大模型基础原理和理论，熟悉特定领域的业务逻辑和流程 自动克服、虚拟助手 侧重于交互性和用户体验
大模型微调（Fine-tuning） 领域模型研发、私有化团队 掌握神经网络和机器学习概念，有数据处理和模型训练经验 语义理解、领域知识学习 通用性强、性价比高
预训练技术（Pre-training） 大模型研究人员、数据科学家 熟悉深度学习原理和网络架构，有大规模数据处理和模型训练经验 多模态学习、语言模型预训练 前期投入大、效果显著

2.2. AI 大模型四阶技术资源投入和预期效果趋势

技术趋势图

2.3. 提示工程（Prompt Engineering）

提示工程（Prompt Engineering）是大模型时代的沟通话术。我们可以将大模型当做自己的工作伙伴，共同解决工作中的种种问题。

2.3.1. 基于 GPT 的 Prompt 技巧最佳实践

1. 角色设定：擅于使用 System 给 GPT 设定角色和任务，如：资深架构师；
2. 指令注入，在 System 中注入常驻任务指令，如：解决各种架构设计问题；
3. 问题拆解：将复杂问题拆解成子问题，分布执行，如：把大象装进冰箱，第一步打开冰箱门，第二步把大象放进去，第三步后关上冰箱门；
4. 分层设计：创作长篇内容，分层提问，先概览再章节，最后补充细节，如：生成小说；
5. 编程思维：将 Prompt 当做编程语言，主动设计变量、模板和正文，如：评估模型输出质量；
6. Few-Shot：基于样例的 Prompt 设计，规范推理路径和输出样式，如：构造训练数据。

LangChain Hub 上有很多 Prompt 值得学习和参考：

LangChain Hub

2.4. AI 智能体（Agents）

AI 智能体（Agents）的基础是 ReAct（Reason + Act）范式，即推理 - 行动范式。
它的核心思想是使用大模型（LLM）来决策一系列要执行的动作，以完成目标。

AI Agent 架构

我们可以使用 LangChain、Coze、Dify、FastGPT 等去开发搭建自己的 AI Agent。

2.5. 大模型微调（Fine-tuning）

大模型微调（Fine-tuning）是在预训练大模型（如：DeepSeek、LLaMA、Qwen 等）的基础上，用特定领域或任务的数据集对模型参数进行二次训练，让大模型"从通才变成专家"。

大模型微调的本质是通过参数优化、数据适配与领域约束，将通用大模型的能力"聚焦"到特定场景，使其在保持基础能力的同时，精准适配行业需求。

2.5.1. 大模型微调的技术路线

  1. 全量微调（Full Fine-Tune，FFT）
  2. 高效微调（Parameter-Efficient Fine-Tune，PEFT）
    • 有监督微调（Supervised Fine-Tune，SFT）
    • 基于人类反馈的强化学习（RLHF）
    • 基于 AI 反馈的强化学习（RLAIF）

2.5.2. 全量微调（FFT）存在的问题

  1. 训练成本高；
  2. 灾难性遗忘。

2.5.3. 高效微调（PEFT）的主流技术方案

2.5.3.1. 围绕 Token 做文章：语言模型（PLM）不变

  • Prompt Tuning
  • Prefix Tuning
  • P-Tuning

2.5.3.2. 特定场景任务：训练"本质"的低维模型

  • LoRA
  • QLoRA
  • AdaLoRA

2.5.3.3. 新思路：少量数据、统一框架

  • IA3
  • UniPELT

2.6. 预训练技术（Pre-training）

预训练技术（Pre-training）是现代人工智能的核心基础，通过在大规模无标注数据上学习通用特征，为模型注入先验知识，显著提升下游任务的性能与效率。

2.6.1. 预训练技术的核心价值

  1. 泛化能力：将通用知识迁移至多样下游任务；
  2. 数据效率：小数据集也能高性能微调；
  3. 计算优化：避免从头训练的资源消耗。

3. 我们的机会

随着 AI 的崛起，原先遵循固定模式的技能正在加速贬值，如："搬砖"式（机械化的 CRUD）的编码工作。
而跨领域整合、系统性思考、创造性解决问题、价值判断的技能随着 AI 的发展正在不断地升值，如：

  • AI Agent 架构师（能系统设计 AI 应用）、
  • 垂直领域 AI 专家（具备领域知识，能够用 AI 赋能行业）、
  • AI 产品经理（能洞察"人性"和"市场"，具备商业嗅觉和价值判断）、
  • 高级提示工程师（能深刻理解和运用大模型的能力）。

我们的机会就在随着 AI 不断发展价值能不断升值的地方，具体的还是需要我们在学习和使用 AI 的过程中，结合自身的情况和 AI 大模型的四阶技术，不断地去探索，从而找到自己的位置。

4. 结语

相信你现在已经知道 AI 大模型的四阶技术，希望你能够结合自己的实际情况分阶段地掌握它们，并将它们应用到自己的实际工作和生活中，找到属于自己的机会。