大模型产品化若干思考

前段时间，发表的《以AI产品经理的视角，谈谈对chatgpt们的理解》，算是对chatgpt为代表的大模型初步认知。过去几个月，工业界和学术界又产生了非常多的实践和洞察，带动对于大模型边界和商业落地有了更新的认知与思考。

大模型能力认知

这里讲的大模型默认是这次浪潮核心的自然语言大模型，能力认知也不限于chatgpt这类对话机器人表现出的能力。

以gpt为代表的大模型具有非常多的能力，理解大模型如何获取这些能力，是理解和从事大模型相关工作的基础。一些学者做了许多实验，大模型在给出一些答案时，是对答案「理解」并且能给出思考逻辑的。

因此即便大模型的结构存在不可解释的问题，仍然能够相信大模型具备各种能力都是基于海量语言数据训练出了「世界」模型，达到了对世界的认知与理解，并且训练世界模型前提是达到一定的模型参数量和模型大小，即达到涌现的临界点。

训练大模型步骤通常是经过预训练、微调和对齐等阶段。通常来讲，预训练阶段大模型能力就已经具备了，微调和对齐阶段更多是将对模型能力激发、释放和满足人类伦理下使用。对齐阶段受限于人类社会伦理问题，实际上是牺牲能力换安全合规的过程。

在预训练阶段，很多垂直任务已经被隐含的训练，因此大模型才具备很多垂直任务。一些业界评估发现，大模型隐含的垂直任务并非都能比之前单独训练垂直任务小模型效果要好，因此在很多垂直领域，小模型或者NLP算法人员仍然有用武之地。

大模型输出仍然是个概率问题，因此会出错，会出现「幻觉」，因此在高风险决策场景仍然需要人机协同，从这点来看，大模型想把人工完全取代还谈不上。

从AIGC到AIGA

这波大模型浪潮里，通过AI做内容生产（AIGC）非常普遍，吃瓜群众也乐此不疲。但问题在于通过大模型开一家淘宝店如果大模型只是提供文案和图片素材，还是有大量的决策工作需要淘宝店主来决策，远远达不到成为「自动赚钱机器」的地步。因此从AI内容生产（AIGC）到AI决策生产（AIGA）就是真正改变世界的关键。

前段时间出来的autoGPT 就是希望通过决策命令利用GPT自动完成决策任务，而实际执行下来可用性并不太高。GPT通过调用插件和编程能力可以具备一定的决策能力，但对于复杂决策仍然能力有限。并且通过思维链方式多步引导chatgpt比一步效果要好，这倒类比《思考，快与慢》中对于人类大脑系统一和系统二的区别。

市面上解决决策任务通常的技术路径是用强化学习训练智能体，智能体具备执行特定任务的最优策略，智能体存在任务迁移差和不可解释的问题。传统的有监督和无监督机器学习前提假设所有样本同概率同分布，不会改变数据的空间分布，而强化学习是通过权值构造不同的数据空间分布，找出最优策略。在垂直决策场景中，强化学习仍然是AIGA绕不开的技术手段。

大模型商业化

最近光年之外王慧文抑郁和光年之外被美团收购，促成了大模型创业首波商业变现。但大模型创业商业化仍然能够困难重重。三四个月之前，业界和大众普遍对大模型研发怀有敬畏，而如今仅中国市场上已经有70+公司发布了大模型，而且模型效果还不错，并没有想象地与美帝同行差距那么大，看起来技术壁垒不如之前业界认为的大，同时大模型开源进一步降低基础大模型的壁垒，云厂商提供大模型开发底座更进一步降低大模型研发门槛。起初百度李彦宏希望通过大模型，带动搜索和云计算的产生绝尘效果显然不够理想，大模型的稀缺性被打碎。

傅盛和朱啸虎大模型之争，其实是大模型美好理想和现实落地的冲突。大模型具备各种能力，但考虑商业落地，仍然绕不开场景、增量价值和ROI的问题，这些问题之前一波AI浪潮也经历过，并且至今仍然一地鸡毛。

大模型落地首先要寻找落地场景，直觉上大模型可以解决很多问题，而落地在商业场景上又需要解决可用问题，上述介绍大模型能力边界决定着场景不能涉及高风险决策的问题，而低风险决策又会面临低人力成本痛点不足的问题。

另外大模型很多落地场景，并非等着大模型去填充空白，而往往是垂直小模型已经在服役的状态，大模型的增量价值是否能够更好做任务也是绕不开的问题，如上所述，大模型并非在所有任务上都能优于垂直模型。

当然只要无限数据和无限算力，大模型总可以超过垂直模型效果，但商业社会另外的边界就是ROI问题，客户采购大模型或应用，采购成本和后续资源成本能否远低于带来的价值仍然是个挑战，花大价钱采购锦上添花的大模型或应用显然有违常理。

以上问题，目前所有大模型厂商和应用厂商仍然在探索和回答，大概3-6个月相信会经过一轮自然筛选，然后筛选下来的有价值场景，将进入惨烈的同类价格竞争，经过这两轮筛选，仍然能够存活的才迈出了商业化的第一步。有商务优势和行业基础工具优势的选手具有更大概率能够存活下来。

大模型进一步落地发展仍然值得期待。