“模型本身是不直接产生价值的,基于基础大模型开发出来的应用才是模型存在的意义,对于创业者来说,卷大模型没有意义,卷应用机会更大。”
9月5日,在2023百度云智大会上,百度创始人、董事长兼首席执行官李彦宏抛出上述观点,并重申百度将推出文心大模型4.0版本,此前文心大模型已经迭代到3.5版本,模型效果提升50%,训练速度提升2倍,推理速度提升30倍。
相较于面向公众的文心一言,想开发大模型应用的企业们可能更关心千帆大模型平台,这是百度智能云在今年3月推出的一站式的企业级大模型生产平台,包含了基于文心一言或者第三方开源大模型的大模型服务,千帆大模型的工具链和开发环境,会帮助第三方企业开发自己的专属大模型。
“整个千帆支持开源这个事是非常明确的,因为我们也认为现在整个大模型还处在早期的阶段,更希望百花齐放,百家争鸣,我们会引入更多开源模型,国外的开源模型,技术进步也非常快。”百度智能云AI与大数据平台总经理忻舟近期在接受澎湃新闻记者在内的记者采访时说。
AI原生应用应该满足三个基础条件
李彦宏认为,移动互联网时代操作系统只有安卓和iOS,但特别成功的应用却很多,只有在大模型基础上产生足够多的AI原生应用,才是一个健康的生态环境。AI原生应用要能解决过去解决不了、解决不好的问题,才是大模型存在的意义。
什么样的应用才是AI原生应用?
李彦宏表示,AI原生应用应该满足三个基础条件:一是能够用自然语言交互,二是充分利用大语言模型的理解、生成、推理、记忆等能力,三是每个应用的交互不超过两级菜单,所以交互会更简单。
近期,文心一言等一批大模型应用向公众开放,百度方面称,文心一言首日即回答网友3342万个问题,大量真实人工反馈有助于百度快速、高效改进基础模型。
李彦宏在百度云智大会上透露,将在不久后推出文心大模型4.0版本,百度的目标是打造好大模型的基础能力,支持好AI原生应用开发,“希望创业者在文心大模型之上,可以做出AI时代的爆款应用。”李彦宏说。
据悉,百度于今年5月启动“文心杯”创业大赛,现创业大赛结果已揭晓,15个优胜团队中,基于文档智能的专业知识问答助手及阅读平台ChatDOC、基于大模型的智能电商购物助手Buysmart.AI获得一等奖,其余团队分获二、三等奖。
李彦宏表示,百度将拿出数千万元投资上述团队,并在技术、产品、发展战略、资本合作等方面长期支持。
千帆大模型平台2.0升级,纳管42个主流大模型
值得关注的是,时隔六个月,百度云也交出了大模型服务的成绩单。
从百度云智大会释放的信息来看,千帆大模型平台上月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个场景。
“本次重大升级,千帆平台纳管的国内外主流大模型达到42个,预置了41个有行业特色的数据集,预装了知识问答、客服对话、代码助手等10个精选应用范式,大幅降低企业使用、训练和推理大模型的门槛。”百度智能云总裁沈抖说。
千帆为什么接入第三方大模型平台?而企业们为什么不直接去调用第三方模型,要去千帆平台调用?
据澎湃新闻记者了解,企业们对大模型的需求是多样的,为了满足这部分企业的需求,千帆大模型平台以文心大模型为核心,同时接入了Llama 2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等大模型。千帆大模型平台接入的第三方大模型主要有三大指标的考核:模型效果、模型安全性、可商用。
从百度提供给澎湃新闻记者的信息来看,纳入千帆平台的大模型已经经过百度的考核选择,千帆会对所有接入的第三方模型均做模型安全增强,此外,千帆对每一个接入的大模型都做了二次性能增强。据测算,调优后模型体积可压缩至25%-50%,推理成本可降低50%。这意味着,相较于直接调用,企业在千帆平台上使用这些模型可极大地节约成本,提升效果。
值得关注的是,与半年前相比,大模型的热度似乎有所减弱,百度的早期企业客户在接触大模型之后,有没有坚持使用文心大模型是外界较为关注的问题。
对此,忻舟表示,事物发展都有一个热度的曲线,现在热度稍降,但行业对大模型的专注度和专业度在提升,企业与消费者对大模型的看法也越来越理智,应用要比大模型刚出来时深入,“从应用对企业的价值来说,办公、营销、客服领域,大模型确实有非常大的效率提升价值。目前,大模型技术还在初期,它未来变化会很大,现在看到这些应用也不代表将来也只有这些应用。”忻舟说。
百度智能云副总裁朱勇也在接受澎湃新闻记者在内的媒体采访时表示:“从衡量大模型本身的商业价值角度看,如果应用不起来,整个大模型很难持续下去,确实是需要投入,整个生态起来、应用繁荣很重要。我们判断,偏向于营销服务、办公提效这两个场景,可能会首先实现大规模落地,我认为接下来几个月能够看到应用逐渐落地,规模逐渐增大。”