大语言模型：热潮退去后，剩下的真东西
去年春天ChatGPT刚开放注册那会，朋友圈刷到凌晨三点，不管是做互联网的还是开饭馆的，都在转“AGI来了”。我熬了一晚上挨个试各种prompt，最后让它写一篇我们当地的早餐测评，居然把甜豆腐脑和咸豆腐脑的口味都写反了。那时候我就觉得，不对，这东西没大伙说的那么神，但也绝不是骗子。
大语言模型Transformer架构原理图
说白了它没真的“理解”你说的话，它只是统计出来，哪个字接在后面最合理。这个本质决定了它天生就带bug。它会一本正经的胡说八道，会算错小学算术题，会把两个不相干的事件拼在一起，这些问题不是靠堆参数就能彻底解决的。你参数翻十倍，幻觉问题还是会存在，只是换了个地方出现而已。
说实话，我见过太多团队，拿着开源模型改一改，套个UI就说自己做了“国产通用大模型”，估值喊到几个亿。骗投资人的钱而已。
企业大语言模型私有部署流程图
这些才是大语言模型真金白银的价值。不是取代谁，是把重复性的脑力活给干了，把人腾出来做更需要判断的事。当然，落地的坑也不少。第一个坑是成本，一个能满足企业需求的私有部署大模型，一年云服务加人力维护成本，少则几十万多则上百万，中小公司掏这笔钱还是心疼。第二个坑是数据安全，把公司的内部业务数据、客户隐私信息喂给第三方公共大模型，谁敢？现在很多企业就算用，也只敢把不敏感的公开数据拿出来用，核心业务碰都不敢碰。
还有个更现实的问题：很多公司买大模型服务，就是为了赶风口，给老板交差，用完一次就扔在那，月活不到10%，钱全打了水漂。
未来三年：泡沫破了之后，剩下什么
现在资本的热潮退了，估值砍半的大模型创业公司一抓一大把。接下来三到五年，我觉得格局会越来越清晰。
首先，通用大模型的牌桌，最终只会剩下不超过五家头部玩家。这玩意太烧钱了，训练一次就是好几亿，还要持续烧钱迭代升级，中小玩家根本玩不起，最后要么被巨头收购，要么转去做垂直场景应用。
其次，绝大多数创业公司的机会，都在垂直场景的深度落地。做医疗的就盯着病历整理、辅助读片报告，做教育的就盯着个性化出题、作文批改，做建筑的就盯着施工图合规审查，在一个小场景做透，比喊着做通用大模型靠谱一万倍。
至于风险，这两年大家也都看到了，深度伪造骗钱，大模型生成有害内容，训练数据的版权问题扯不清。接下来一两年，针对大语言模型的监管会越来越细，不合规的都会被清出去。毕竟任何新技术，要是管不住风险，根本不可能大规模落地。
三年后你再看，大语言模型不会把人类取代，也不会变成什么神乎其神的魔法，它会变成互联网的基础配置，就像现在你用的搜索推荐、移动支付一样，藏在每个你用的产品背后，你甚至感觉不到它的存在，但少了它，你就会觉得所有事情都慢了一拍。
我前阵子和一个做硬科技的投资人吃饭，他说去年投大模型，是个人都敢站出来说自己能做，今年再看，能拿出真实付费客户的，不到十分之一。潮水退了，才知道谁在裸泳，这话一点没错！
剥开神话：它本质就是概率堆出来的预测机器
很多人把大语言模型吹成人工智能的终极答案，其实核心逻辑一点都不复杂。就是给它喂了海量的公开文本，让它反复练习“给上文，猜下一个最可能出现的字”。你问它任何问题，它都是从第一个字开始，一个一个猜对概率最高的下一个字，拼出整段回答。大语言模型Transformer架构原理图
说白了它没真的“理解”你说的话，它只是统计出来，哪个字接在后面最合理。这个本质决定了它天生就带bug。它会一本正经的胡说八道，会算错小学算术题，会把两个不相干的事件拼在一起，这些问题不是靠堆参数就能彻底解决的。你参数翻十倍，幻觉问题还是会存在，只是换了个地方出现而已。
说实话，我见过太多团队，拿着开源模型改一改，套个UI就说自己做了“国产通用大模型”，估值喊到几个亿。骗投资人的钱而已。
落地才是真：产业链上哪些人已经赚到钱了
不过话说回来，没用吗？当然不是。从2023年到现在，真正沉下去做落地的，已经拿到结果了。 我接触过国内一家做律所SaaS的厂商，去年给客户加了一个大模型功能：把开庭录音转成文字，自动提炼争议焦点、整理证据清单，原来一个律师助理要干一天的活，现在十分钟出初稿，律师改改就能用。就这个功能，年费直接涨了三千，客户续约率涨了快二十个点。 还有深圳那边做跨境电商的，卖家们用大语言模型写不同国家站点的商品描述，调整搜索关键词，原来一个运营一个月只能更新几十个新品，现在效率翻了三倍。甚至工厂做工业设计，都能用大模型生成几十张方案初稿，设计师再挑了改，至少省一半时间。企业大语言模型私有部署流程图
这些才是大语言模型真金白银的价值。不是取代谁，是把重复性的脑力活给干了，把人腾出来做更需要判断的事。当然，落地的坑也不少。第一个坑是成本，一个能满足企业需求的私有部署大模型，一年云服务加人力维护成本，少则几十万多则上百万，中小公司掏这笔钱还是心疼。第二个坑是数据安全，把公司的内部业务数据、客户隐私信息喂给第三方公共大模型，谁敢？现在很多企业就算用，也只敢把不敏感的公开数据拿出来用，核心业务碰都不敢碰。
还有个更现实的问题：很多公司买大模型服务，就是为了赶风口，给老板交差，用完一次就扔在那，月活不到10%，钱全打了水漂。
未来三年：泡沫破了之后，剩下什么
未来三年：泡沫破了之后，剩下什么
现在资本的热潮退了，估值砍半的大模型创业公司一抓一大把。接下来三到五年，我觉得格局会越来越清晰。
首先，通用大模型的牌桌，最终只会剩下不超过五家头部玩家。这玩意太烧钱了，训练一次就是好几亿，还要持续烧钱迭代升级，中小玩家根本玩不起，最后要么被巨头收购，要么转去做垂直场景应用。
其次，绝大多数创业公司的机会，都在垂直场景的深度落地。做医疗的就盯着病历整理、辅助读片报告，做教育的就盯着个性化出题、作文批改，做建筑的就盯着施工图合规审查，在一个小场景做透，比喊着做通用大模型靠谱一万倍。
至于风险，这两年大家也都看到了，深度伪造骗钱，大模型生成有害内容，训练数据的版权问题扯不清。接下来一两年，针对大语言模型的监管会越来越细，不合规的都会被清出去。毕竟任何新技术，要是管不住风险，根本不可能大规模落地。
三年后你再看，大语言模型不会把人类取代，也不会变成什么神乎其神的魔法，它会变成互联网的基础配置，就像现在你用的搜索推荐、移动支付一样，藏在每个你用的产品背后，你甚至感觉不到它的存在，但少了它，你就会觉得所有事情都慢了一拍。
我前阵子和一个做硬科技的投资人吃饭，他说去年投大模型，是个人都敢站出来说自己能做，今年再看，能拿出真实付费客户的，不到十分之一。潮水退了，才知道谁在裸泳，这话一点没错！ 
