这次发言萦绕腾讯若何理解AI下半场发展：当大模型的步骤论逐步成熟，竞争沉点在从单点模型能力，转向真实场景、产品反馈、高低文网络和Agent工程化落地。 姚顺雨暗示，“AI下半场」剽个概想有些被滥用。他以为，从前几十年AI更沉要的是寻找好步骤，好比为了围棋做AlphaGo，为了翻译做特定模型。但在预训练和后训练成熟后，大模型造成了一把“全能的锤子”，能够解决各类问题。因而，真正稀缺的起头造成“好问题”。模型能力具备通用性之后，企业必要判断应该把它用在哪里，解决什么问题，产生什么价值。 这也是姚顺雨参与腾讯一个很沉要的原因。“腾讯有好多好的问题，有好多好多产品。”姚顺雨说，好的产品可能解决第一个问题，就是做了好的预训练和后训练之后，到底要把它利用在什么样的场景，它的价值在哪里。 姚顺雨强调了环境的沉要性。没有好的环境，Agent就没有法子去做各类各样的事件。若是你没有一个点表卖的tool，那你就没有法子去点表卖。 但最沉要的是context。姚顺雨说，无论企业还是幼我，越来越沉要的事件是context。由于模型越来越善于把一个极度复杂的输入造成一个输出，好多时辰你的竞争壁垒就来自于你有没有那个最原始的输入。你知不知路这幼我他在干什么，你知不知路这个企业的各类各样的信息。这一点，腾讯有极度强的优势。 最沉要的是，要构建一个极度平衡的、像三角形一样的组织。对于做foundation来说，第一最沉要的是有充足资源，第二就是必要正确的做事的方式。对于产品来说，有好的产品的sense，有这种做产品的人是至关沉要的。第三个，在中国今天所做的前沿索求不够多，所以姚顺雨但愿能把frontier exploration的心灵能更多地注入到组织中。 谈到腾讯内部高频提到的Co-Design，姚顺雨以为，第一前提是模型自身要做得扎实。预训练是相对product-agnostic的事件，它提供可泛化的foundation，可能让各类下游工作持续受益。 后训练方面，最沉要的是设立好正确的eval。姚顺雨吐槽，国内可能有一个不太好的偏差，就是比力喜欢刷榜。但更应该关切的是，若何疑神疑鬼地基于产品、基于真正的利用去机关越发真实的eval。实用性的价值是大于刷榜价值的。 这一点上，腾讯做了大量工作，跟各类各样的产品进行了深度的Co-Design。姚顺雨说，Co-Design很关键的一点是要产生相互的信赖，这一点腾讯做了大量工作去获得互信。怎么把产品的数据用好，怎么把这种回流用好，怎么把eval做好，这里有好多细节。 第一，发现榜单无法露出的底线问题。姚顺雨说，腾讯想要发一个preview模型，最沉要的主张之一，就是但愿能获得真实世界的反馈，建复各类榜单中没法发现的底线问题。这一点会在正式版上有极度大的改进。 第二，理解真实用户的prompt distribution。由于现实用户的问题往往吞吐、短促、多轮追问，而benchmark标题通常更精确、更单轮。好比benchmark上面的标题可能都是极度精确的，有极度长的concrete description，并且通常来说是一个单轮问题。但是在现实场景中，各人问的问题可能都是比力吞吐的，可能就一两句话，而后他会一向追问。这些setup上的difference，就能够启发怎么去更好地做这样的训练。 第三，产品自身还可能启发新的评测方向，推动尚未被很好界说的能力领域。姚顺雨说，甚至能够在这些产品上获得一些灵感，去推动此刻还没有的榜单，或者还没有被很好界说的领域。好比腾讯最近做了好多Context learning的工作，蕴含元宝的反馈也给了很大的启发和援手。 姚顺雨指出，LLM时期与从前AI的底子差距是泛化性。从前做翻译模型，只必要翻译数据。做围棋法式，只必要围棋数据。但今天即便只做Coding Agent，也必要谈天、搜索、指令遵循、推理等多种能力。 因而，占有多个产品场景的公司会具备系统化优势。姚顺雨说，和元宝的Co-Design能够使模型产生很强的谈天和搜索能力。但这样的能力又能够被迁徙到ima、WorkBuddy等其他产品。所以这些产品可能提供分歧的数据，而这些数据之间又能够相互扩散、相互迁徙，形成一个像网络一样的系统。这一点的价值会越来越沉要。 此前，腾讯的打法被表界形容为“跑马”。分歧业务做一样方向的产品，彼此竞争，很少有形成合力的感触，此刻似乎以AI之名起头有所扭转。 他提到，混元3重要做了几方面扭转。一是沉建了预训练和强化进建基础设施。二是对数据做了很大扭转，蕴含界说更真实的问题、丰硕data taxonomy、提高数据质量，这是一个永无终点的钻营。三是很多关键决策没有清澈公式，必要在招人、模型节拍、资源弃取中不休做trade-off，性质上是一个很taste-driven的过程。 姚顺雨泄漏，元宝早期阶段，混元曾派出很强的算法骨干，援手元宝先把DeepSeek的后训练做好。彼时混元自己的预训练模型还没有ready，不少算法同学一路头不理解。 但姚顺雨以为，守护元宝这样的产品和DAU，对后续做模型和持久合作都很沉要。所以其时其实好多同学也不理解，而后他必要去很致力地诠释。但此刻看起来，这些致力都是pay off。这样的一个作为，让产品和模型的同学意识到，模型的同学是真的在为产品着想。这个对于之后的合作，包费解元在元宝上成功的上线，起到了极度沉要的作用。 姚顺雨说，做模型的指标和产品的指标有好多align的部门，也有好多不align的部门。模型的人但愿能力越强越好，但产品的人但愿用户的需要满足得越好。所以天然有好多不align的部门。很沉要的一点就是要换位思虑的能力。当然有好多技术的部门能够探求，但可能最难的部吩熹实反而是怎么样去成立信赖，怎么样换位思虑。 汤路生以为，做产品的第一性道理没有变，最终还是奔着用户到底有什么需要，怎么去解决他的痛点，怎么给用户或者客户创造价值。在分歧的时期，甚至分歧的行业，做一个产品还是必要可能给用户带来价值，他才会买单，才会使用。 但是的确，在PC互联网、移动互联网时期做产品，跟今天在AI时期做产品，还是有蛮多不一样的处所。首先从范式的角度来看，在AI时期以前，做产品好多时辰想的是通过职能来满足用户的需要。作为一个产品提供方、服务提供方，要想明显提供怎么的能力，让用户可能通过界面、通过某些菜单去选择。这有点像预造菜，用户只能在里面点一样。 但是在AI时期做产品，它这种盛开式的服务状态会带来很不一样的要求和挑战。用户通过单一的交互方式，可能是天然说话，可能是语音。作为产品方，你也不知路用户会问什么，所以要充分利用模型能力去理解用户的需要。而后，通过今天大模型的推理能力、挪用工具的能力，产品给模型提供各类各样能够使用的工具，来应对这种盛开式的需要。 汤路生说，今天AI时期做产品，对能力的要求更全面，也更难了。尤其今年，大部门代码都由AI天生。工程师可能会花更多功夫去做设计、做架构设计，把写代码的工作交给AI，而后定期去领导一下、建改一下。测试也要左移，更前置地想明显，针对各类案例、环境，以及对于盛开式答案的一些要求，甚至alignment，怎么对齐用户所必要的风格。 姚顺雨泄漏，他沉新读了自己的博士论文，感触又回到了一个很远古的时期。他的博士论文的title叫做《Language Agent：from Next Token Prediction to Digital Automation》（说话智能体：从预测下一个Token到数字自动化）。那是2019年，七年前，那是GPT-2的时辰，它其时只能做Next Token Prediction，并且它产生的可能一段话还不太陆续，或者还有好多毛刺。所以其时人们是很难设想到，它会有一天成为一个扭转世界的力量。 其时姚顺雨的设想力比力狂野。他感触GPT是一个极度柔美的器材，吐下一个token是一个极度极简且极度通用的事件。他感触它有一天潜力不仅仅是在于吐下一个token，而是在于把这个世界上所有的事件全数automate。他其时想的是digital automation，但是此刻看起来也有可能是digital and physical automation。 姚顺雨的博士期间重要做两部门。第一，若何成立一个Agent的步骤论。若何把一个Next Token Prediction的机械造成一个Agent，造成一个自动化的机械。最沉要的一篇工作可能是React。 他还记得22年7月份的时辰，某一天晚上，当他第一次把其时是Palm 2的API和自己手写的一个Wikipedia的API连在一路，而后它第一次能够基于这个网页回覆问题，并且多轮的交互的时辰，他其时感触就像幽微的电灯丝忽然亮了的感触一样。据他所知，可能这是第一次人类把LLM和真正的互联网连在一路，并且去做这种多轮的交互。 他其时的感触这个可能在5年或者10年会扭转这个世界。但是可能比设想中还要更快。蕴含其时第一次提出SWE-bench的时辰，他感触若是这个事件能做到，那很显然它会带来巨大的价值。其时可能是几百亿上千亿，但此刻可能是数万亿，数十万亿，可能想的还是太幼了。 第二，怎么去界说Digital Automation的工作。好比说WebShop是第一个基于互联网的Web Agent的task。而后蕴含InterCode和SWE-bench是最早的Coding Agent这样的工作。此刻看起来Agent的基础最沉要的两个部门，的确是Web的Agent和Coding的Agent。 姚顺雨说，他看博士论文的结尾，就是他在2024年的时辰写的future work，第一个是train models for agent，第二个是safety and robust deployment，第三个是scientific discovery，第四个是怎么样去help human。他很感伤，说此刻很幸运，确切实做其时列的future direction�？赡芟氲幕故遣还淮�，其时已经感触自己想的够大了，但可能还是不够大。 姚顺雨以为，今天Agent，尤其Coding Agent，有点像预训练一样，是每家模型公司都不得不做的基础能力。Coding Agent之所以性质，是由于当模型能节造file system、占有container时，它就靠近一个complete system。 但他也强调，做好Coding Agent必要远远超过coding数据自身，还必要谈天、搜索、推理等综合能力。由于大模型最沉要的点是泛化性。腾讯的做法会更强调系统全面化、线上回流，以及对新范式的索求。 姚顺雨提到，即便可能今天Coding Agent也是最沉要的事件，但腾讯还是会强调系统的全面化。他始终以为，真的要把Coding Agent做好，其实必要的远远不止Coding Agent的数据。也必要谈天、指令遵循、推理，各类各样分歧的器材。 第二，产品的作用越来越沉要。若何利用好线上的回流，是一个每一个模型厂商都在应对和思虑的问题。这里腾讯堆集了好多Co-Design的这些经验会变得极度沉要。 第三，还必要更多设想力。无论是技术的演进，还是产品的演进，还是甚至下一个范式的演进，腾讯还是必要做一些索求性的，甚至不确定性的工作。 汤路生提到，从产品侧来看，各人越来越多有token焦虑的声音，token成本持续发作式增长。好多客户，甚至用户，蕴含身边同事，也在紧盯积分亏损或者token亏损。怎么能够让模型在解决某个问题、实现某一个工作时，token效能最高？ 姚顺雨以为，此刻中国各人会商性价比，可能更多会商的是模型架构。但它其实是一个很复杂的系统。最沉要的事件首先是performance。好多人跟他说，用一个更强的模型，有时辰迸酌一个更弱的模型最后更省钱，由于你更快地把这个事件做对了，也省了人的精力。所以最沉要的事件是performance。若是你的performance好，其实它就是性价比最关键的事件。 尤其今年，好多单一工作的鲁棒性会变得越发沉要。若何一次把好多相对单一的工作做对，这可能是性价比更关键的部门，而不仅仅是模型架构。 第二部门是成本。成本自身也是性价比的一部门。第一是“性”，若是机能不好，性价比就很难成立。第二是“价”，也就是成本。成本上，中国其实是当吓宗世界的，腾讯做了大量工作去优化成本。 成本里，可能最沉要的事件是，怎么用一个更幼的模型，把更高价值的工作做好。在这个基础上，当然架构创新、长文治理、脚手架都有好多必要做的事件。但姚顺雨幼我见解是，若是能做一个相对较幼的模型，同时又可能比肩大模型的机能，并且在大部门工作上做到很强的robustness，这可能在好多长程的上面提升一两个点的提升，可能在今天的中国更有价值。 汤路生说，腾讯做的Agent，针对分歧场景有分歧的产品状态。在Agent设计上面，很大水平是阐扬好模型能力，当然模型在迭代它能力越强Agent必要做的工作越来越少。腾讯好几个产品在从前这段功夫是随着模型能力加强，能够把产品，把Agent做的更简化，更多的给模型提供更多分歧的工具，创造更多的skills，来让模型可能更高效的去实现工作。 给模型提供更多的所谓影象，用户从前使用一些习惯，能提取出来的一些用户preference的信息作为高低文。在Coding环境有有关的context给到模型，在Workbuddy里边办公合作，做个PPT，可能各人关注的内容或者该给到模型的context也会不一样。 所以在做分歧的Agent，汤路生感触更沉要是相识场景下什么内容，什么信息，是沉要的，比力relevant的，可能跟模型共同好，让模型有它必要的信息，同时也阐扬它的能力。 汤路生泄漏，他前阵子在助Workbuddy做一个组织发文，看了一下他们那个极度扁平化的组织，跟随前的其他产品组织架构有很大差距。更多幼团队三幼我五幼我，可能萦绕某一个领域来做攻坚，并且有好多试验在里面，还要支持Infra做尝试，让分歧的幼分队能够去索求而后再验证。由于试验大部门拿不到正向反馈，也要包涵团队去试错，这种通过大量试验去提炼出对于用户流程，对于想要的这个了局有正向援手，这个是今天做Agent，做原生AI产品，这个组织状态要可能比力好去支持。 另表，原来可能有好多工程师有好多功夫花写代码，但是今天毫无疑难他们这些工作能够交给AI了。所以会看到更多角色的融合，各人都是产品经理，都要去相识透辟用户需要，以及设计出想要的产品状态。每一个工程师更像一个有设法的leader，驱动多个Coding Agent，针对想要的产品需要去做研发、开发。同时要参加评测、测试，比力前置，也用好AI能力，把这些质量保障工作，对齐工作要做到前面来。 第一，AI是持久游戏，而不是短期游戏。在硅谷各人舒展好多感情，说两年后所有人都要失业，AI要取代所有人的工作，要从速赚两年钱退休。但很显然腾讯的判断AI是一个持久游戏，其实AI刚起头，下半场才刚刚起头。姚顺雨不以为ChatGPT和Claude Code会是唯一的super App，他感触那是一个非�
；野档氖澜�，注定会有源源不休新的机遇诞生�？赡芙裉炀拖袷�70年代PC刚刚产生的时辰，还有好多好多事件必要做。 第二，AI会变得更多元，而不是沿着单一主线前进。由于的确从前几年各人能看到的是Pre-training、post training，而后Agent，Coding Agent，似乎有一个极度清澈的主线，这个主线是所有人都在做一样的事件，都在copy，这也长短�
；野档氖录�。但到底未来变得更单一还是更多元？姚顺雨幼我见解会变得更多元，毫无疑难Coding Agent出产力会变得越发沉要，但这个世界还有好多空间没有被填满，多模态、具身智能，好多好多新的事件都在产生，或者刚刚产生。 所以从这个角度来说，若是以为下半场刚刚起头，可能的确不是完了。从前模型、产品做了好多索求，走好多弯路，姚顺雨感触这是正常的，若是没有做过一个事件，第一次做注定有崎岖。但可能更沉要的事件是能不能恳切面对自己，能不能Be Real，能不成能去看到feedback而后去扭转，能不成能维持耐心，这个事件是下半场最沉要的事件。 汤路生也回应说，各人对于腾讯时时喜欢挑某一个点来品评，当然腾讯也很欢迎各人给更高的要求。腾讯是一个极度多业态的公司，有好多产品散布在好多的赛路，同时也有好多的团队在推动分歧的项目、事件。所以毫无疑难，在这样一个复杂的组织里面有一些处所可能做得快了，有的处所做得慢了，有一些处所可能会做失败，在索求。所以这些提醒都极度好，的确有一些处所能够做得更好。 但就像姚顺雨说的，这是一个长跑，这是一个马拉松，腾讯还是有极度丰硕的场景。就姚顺雨一路头提到选择腾讯，由于AI必要Context，模型必要好多的这些高低文，其实腾讯在从前多年分歧产品，在分歧赛路的这些堆集，其实都是能够针对每一个场景去为模型提供有效的信息，提供这些Context来阐扬价值。 在这样一个长跑，汤路生相信模型会不休迭代，用户的需要也在不休变动，也会有新的产品状态出现。好比说今年岁首对Agent这一波热潮也反映比力快。同时也有像WorkBuddy这样的智能体产品，其实也是几年前起头做的产品，沿着原来做Coding、CodeBuddy，慢慢看到犯法式员也有很强的需要，也能比力快去应对，今天也听到好多客户对于分歧产品怎么去组合起来有极度高的等待。