大模型引发软件开发模式变革

之前三篇文章《以AI产品经理的视角，谈谈对chatgpt们的理解》、《当我们谈通用人工智能，我们在谈什么？》、《大模型产品化若干思考》，循序渐近介绍了chatgpt为代表的大模型带来的变化，如今不到半年时间，大众已经对大模型快速经历了从狂热、失望、理性恢复的阶段。本篇从产品落地角度，谈谈大模型引发的软件开发模式的变革。

向量数据库

伴随大模型火爆的名词之一是「向量数据库」，其实在之前AI圈内为了更好对机器表征，也对数据进行向量化。

机器只能接收0或1的信号，需要将现实的文本或视频表征成为机器更容易理解的向量数据。之前做智能推荐系统时，将文本标题和摘要向量化存储，并用于训练和推理早已经比较成熟。图像搜索也是先实现向量化，再求搜索目标相似度高的图像向量。

这次大模型的火爆，带火了向量数据库，主要还是由于大模型作为基础服务，训练和微调成本都比较高，且涉及企业私有数据安全问题，将自有数据向量化后，用向量数据库存储并连接大模型实现上层应用（比如搜索应用），是兼具性价比和安全性的可行方式，即大模型的增量带动向量数据库的更广泛应用。

目前市场上，除了AIGC这种纯基于大模型的原生应用外，利用客户私有数据，实现AIGA凸显出了更大的生存概率，毕竟纯AIGC最大竞争对手往往是大模型进化本身。向量数据库将会像GPU一样，仍然有较大发展空间。

大模型边界

不管基于大模型做什么上层应用，都需要对大模型边界有比较清醒的认知。网上不乏各种大模型能力的评测和不同大模型的评分，会发现大模型在通用能力上往往不错，但在具体垂直能力上不一定面面俱到。

国内通用大模型公司，对比的参照通常是GPT3.5或GPT4 中文表现能力，显然openAI之前不会针对中文做大量优化，而服务中国市场，只需要做到中文就能够解决大部分问题，这也给了中国通用大模型公司的生存空间。

大模型显然在图片或文本上生成能力出色，但过去这段时间，让大众期待的大模型大幅改变世界的事情并没有发生。问题在于生成图片或文本，只是特定任务，在这个世界上，就连出门都需要做大量决策，比如要见什么客户穿什么衣服，是否有雨需要带伞、有什么东西需要带到单位、出差需要带哪些东西。

在大量的决策场景中，基础大模型能做的有限，仍然需要专业的输入和专业的内容，因此openAI才需要引入插件机制。而插件机制的底层，实际是chatgpt通过开放接口，可供开发者自定义函数，在chatgpt对语义理解后自行返回调用，再由本地执行运行对应函数，最终返回结果给chatgpt，来满足种类无限的应用需求。

回头来看，大模型的函数机制，释放了生产力潜力。相比于原有人机交互模式，有了chatgpt这样的语言模型之后，就可以通过自然语言驱动各种原来需要鼠标键盘的任务，从而提升了人机交互效率，这场大模型能力的进步，实际上，在软件上是人机交互方式的巨大变革。

MaaS理解

针对大模型应用层的一些研发框架，研究不难发现，基本将大模型作为一种输入数据，并返回内容或者对输入数据重新理解整合的结果，也即当成一种功能固定的模块，只是这个模块是可以理解和整理输出自然语言的，因此大模型属于一种标准的服务，即如今业内普遍的模型即服务（MaaS）的概念。

如今国内一些开发者已经可以非常方便调用openAI 提供的含chatgpt在内的各种NLP 模型服务，显然模型即服务正在逐步广泛成为现实。大模型开发框架langchain更是抽象出大模型开发框架，可以引入不同的大模型快速开发大模型应用，解决了大模型最后一公里的问题，langchain在圈内也越来越火，尝试通过langchain开发成为一种拥抱大模型的流行趋势。

国内一些组织甚至举办了一些基于langchain开发大模型的比赛，利用大模型实现个人助理、文本分类、游戏NPC的确对大模型应用很有启发意义。