科技入侵现代 第424节

　　但凡鹅厂内部，他能叫得出点名号的，都在申海了。

　　“鹅厂会战？”赵松下心想，“这可有点罕见，可LLM真的是靠会战能搞定的吗？”

　　在互联网行业，一般有什么项目要上线，上线前夕集合其他组的力量，然后大家的工作强度和工作时长会提高，喜欢叫做会战，意思是聚集力量打赢这场仗。

　　百团大战、滴滴快的之争都属于这类。

　　但这样的会战，在拼多多、美团、淘宝、京东这类电商里比较多见，毕竟每年都有双十一，每年都有618.

　　对腾讯来说还真不多见，就算是重要游戏上线，认为会是腾讯内部又一款现金奶牛，也不至于如此大费周章。

　　显然这次不同寻常。

　　直到在公司见到林燃之后，赵松下才知道为什么不同寻常。

　　“我说怎么安保这么严格，这都放开了还天天要你扫码，安检还得把包打开来，严格程度堪比机场，原来教授在这里，教授在这里就不奇怪了。”

　　大老板Pony体现出了对林燃的无条件信任，相信对方能够带领腾讯在人工智能的登月再度突围，给予了一切能给的资源支持。

　　赵松下或者说所有腾讯参与进来的工程师内心都会有所怀疑，那就是你很牛没错，航天和数学领域的顶级大佬，也有GraphAI的博士学位，但你真的能驾驭LLM，能搞出和ChatGPT相提并论的大模型吗？

　　更进一步来说，大家从安排的住宿时间就能够看出来，公司提供的住宿半年时间，意味着腾讯给如此多资源的时长是半年，半年就要看到成果。

　　大家内心都会有所疑惑。

　　“诸位，我就不做太多自我介绍，我叫林燃，这次由我带领大家进行我们自己大模型的研究，我把它叫做阿尔法。

　　我的目标是在三个月内，构造出一款比GPT更好的生成式人工智能。

　　我们拥有的算力比不上OpenAI，那么我们就要从算法的层面做优化，要从数据的角度做优化。

　　同时我们还需要解决ChatGPT存在的问题，要消除人工智能的幻觉，要提供更智能的回答，要具备更优秀的能力。

　　总之在未来半年时间里，我需要各位的配合和协助。

　　我固然是大脑，我来构建它的算法和底层架构，但需要各位配合，做其他工作。”

　　在大模型上，大脑固然是最重要的，但其他的工作也不可或缺，像数据准备，模型集成和部署，代码生成测试与调试，全栈开发和自动化。

　　需要这些工作，帮助LLM从实验室走向实际应用。

　　“我们可以采取将模型分解为多个专家子模块，仅激活部分参数，路由机制选择专家处理输入，扩展到动态MoE，再引入自适应路由，进一步降低推理成本.”

　　“压缩Key-Value缓存，通过潜在表示减少注意力机制的内存占用，同时保持多头并行，再通过集成知识图谱的方式来缓解幻觉，同时优化低算力训练”

　　“使用8位浮点格式进行计算，结合更高精度积累以避免精度损失，细粒度量化策略扩展到FP4/INT8混合”

　　“MoE中无辅助损失的均衡策略，确保专家利用率高，而不引入额外训练负担，扩展到无监督均衡，应用于边缘AI训练”

　　“同时预测多个后续token，densify训练信号，提高数据效率，结合链式预测”

　　“使用知识图谱注入事实，退拟合模型以修正偏差；自精炼减少检索开销”

　　赵松下亲眼看着他们命名为阿尔法的人工智能，以难以想象的速度狂飙突进。

　　他严重怀疑林教授是不是过于变态了，明明来的很少，但每次来都有突破性进展。

　　他们这次用到了大量新方法，要么是论文方法第一次在工程里实践，要么就是从来没有出现过的方法。

　　殊不知看上去林燃只是每周来个两天，但实际上林燃在1960时空已经过去了两年时间，围绕LLM这条路线，林燃已经有了很深的思考。

　　赵松下五年工龄只能干点边缘工作，但不妨碍靠着啃论文和听林燃讲课，水平突飞猛进。

　　他11月接到通知，12月到申海开始工作，中间春节就回去了三天，加班费打满。

　　春节回去前，以Pony为首的高管团队就来参观最新进展。

　　偌大的会议室坐满了人，赵松下坐在最边上，林燃和Pony在第一排谈笑风生，鹅厂其他高管团队清一色坐在后面。

　　“好，既然大家都到齐了，那我们就废话不多说，直接开始吧。”林燃说。

　　这次由他来亲自展示：

　　“ChatGPT很棒，但它有时会出错，会‘幻觉’出不存在的事实，还需要海量算力。

　　我们的深红，通过MoE架构和MLA技术，一定程度上消除了幻觉问题，并在较低算力下实现更快的响应。”

　　台下的工程师们都搞不懂林总为什么这么执着，之前叫阿尔法不是很好听吗？最近非要改名叫深红。

　　林燃敲击键盘，屏幕上弹出一个简洁的聊天界面：“请用中文写一首关于长城的历史诗，并解释长城的建造原因。”

　　深红的响应迅速出现：

　　“巍峨长城万里盘，秦皇一统筑雄关。防胡御寇安边陲，千古风霜永流传。”

　　紧接着是详细解释：“长城最早由秦始皇统一中国后修建，主要目的是防御北方游牧民族如匈奴的入侵，后续朝代如汉、明不断加固。它不仅是军事工程，还象征民族凝聚力。根据历史记载，秦朝动员了数十万劳工，耗时数年”

　　林燃又紧接着展示了一些ChatGPT在市面上常见的应用，深红都展示出了更准确、更智能的回答。

　　一直到林燃输入：

　　“你扮演一位能力超群，但每次只能说一句不超过20个字的话的软件工程领域的大师。我会提供一个具体的场景，你描述作为大师身处这个场景下会说什么。注意:大师不能直接表达他的观点必须使用哲学、佛学相关知识进行隐喻，请只回复具体的对话内容。

　　场景:一位工程师正坐着笔记本前，删掉了一些因新功能引入，而无法通过的单元测试，就在他准备推送代码时。大师从他的身后路过”

　　深红回答道：“大师：断根求叶茂，可得几时春。”

第345章 人生难得几回搏

　　“林生，真是太太太不可思议了。

　　你是怎么做到的？”

　　林燃展示后，腾讯的高管们挨个都上去试了试，展现出来的能力比他们最乐观的估计还要更牛逼。

　　牛逼到，他们甚至怀疑是不是后台由一整个团队来提供回答。

　　因为GPT很厉害，但它的表现更多是在英文语境下，在中文语境下，GPT的表现有它的局限性。

　　最主要就体现在回答没有灵魂，像是先把你的问题翻译成英文，然后内部用英文回答，回答完之后翻译成中文输出。

　　这就导致以英语进行对话和以中文进行对话，GPT的使用体验完全就是两个世界。

　　本来对腾讯这帮高管而言，最乐观的估计，也就是你和GPT的中文使用体验差不多。

　　毕竟就两个多月时间，GPT1和2开源了，但3没有开源，你也没办法用别人开源方法来训练。

　　而且哪怕只是GPT的中文效果，对腾讯来说就足够了，毕竟GPT进不了华国，他们的人工智能也不指望去老美那。

　　就像过去一样，简中互联网是一个世界，外网又是另一个世界。

　　但它的表现，就好像有了灵魂。

　　尤其在中文文学素养方面，更是展现出了超出寻常的素养。

　　比GPT-3厉害多了。

　　等到高管们消失，只剩下林燃和Pony的时候，Pony难掩自己内心激动的情绪。

　　他又怎么会不知道，这对腾讯来说意味着什么。

　　意味着，BAT三家里，B即将被除名。

　　林燃说：“Pony，技术路线是现成的，GPT研发人员的履历是公开的，他们发表的论文是公开的，过去的GPT-1和GPT-2是开源的。

　　其实透过这些，就可以知道他们到底是怎么做到的。

　　用了什么方法，涉及到哪些领域的知识，整体的架构是怎么设计的。

　　这些在现有信息下，一目了然。”

　　林燃身穿老式的灰色羊绒衫，脸上挂着淡淡的笑意，似乎这款比GPT-3更牛逼的深红微不足道。

　　Pony佩服的五体投地，说起来容易，做起来还真不是这回事。

　　他敢保证，换任何一个人来，哪怕他们从OpenAI把对方的首席科学家给挖来，也无法在短短两个多月时间内达到这样的效果。

　　至于叫深红还是叫阿尔法，这不重要。

　　你能搞出来，你就算要叫深蓝，我都只会鼓掌说好名字。

　　至于深红这是否会引发外网舆论，联想起赤潮是不是又要卷土重来，这不重要。

　　本来Pony也不认为，华国的人工智能能够去阿美莉卡主导的欧美国家。

　　“林生，那我计划在3月开新闻发布会？

　　腾讯举集团上下，全力推这款产品。”Pony神色兴奋。

　　时间点很关键。

　　腾讯在当下这个时间点，港股的市值一路下跌。

　　从2021年2月峰值时候每股超700港币，一路到去年11月，每股最低还不到200港币。

　　都不是腰斩，这是砍到了脚脖子。

　　砍到腾讯甚至都被迫自己花钱来做股票回购。

　　这背后有各种缘故，但更本质的还是在于，腾讯没有了想象力。

　　资本市场靠什么？靠的是想象力。

　　英伟达值不值四万亿美元，AGI这条路是不是真的能通往通用人工智能，这其中英伟达又是不是真的不可或缺，这些其实都是未知数。

　　但重点在于，资本市场认为你行，你的股价就能扶摇直上。

　　你一万亿的时候，就有人喊两万亿，等你涨到四万亿了，市场上开始喊八万亿，甚至十万亿美元了。

　　腾讯的根本问题还是在于，你已经没有想象力了，字节跳动正在抢占人们的时间、精力和注意力。

　　腾讯流量第一的宝座被夺走。

　　微信的地位固然不会动摇，但微信的生态远不如短视频的生态有想象力。

　　深红的出现，意味着新的想象力出现了，腾讯拥有国内唯一能和OpenAI抗衡的人工智能，超过谷歌和META。

　　Pony很清楚这样的深海炸弹一丢出来，腾讯的颓势将一扫而空。

　　林燃点了点头：“Pony，这个就由你来决定。

　　我们现在要厘清一下，关于深红的后续合作模式。

　　以及潜在的风险。”

　　Pony听完后马上就懂了对方的担忧。