据公众号“雷军”消息，小米雷军表示，小米做大模型的思路和很多公司不太一样，选择主力突破的是轻量化和本地部署。目前小米自研的13亿参数的端侧模型已经在手机端跑通，部分场景效果媲美60亿模型在云端的运算结果。与早些时候市场上放出的手机端大模型的方案相比，小米会调整模型结构和参数大小，适配各种芯片在内存和算力上的特点，致力于达到功耗、推理速度和生成效果的最佳平衡。
雷军：小米研发大模型的方向是轻量化和本地部署
本文来自网络，不代表本站立场，转载请注明出处：https:
据公众号“雷军”消息，小米雷军表示，小米做大模型的思路和很多公司不太一样，选择主力突破的是轻量化和本地部署。目前小米自研的13亿参数的端侧模型已经在手机端跑通，部分场景效果媲美60亿模型在云端的运算结果。与早些时候市场上放出的手机端大模型的方案相比，小米会调整模型结构和参数大小，适配各种芯片在内存和算力上的特点，致力于达到功耗、推理速度和生成效果的最佳平衡。
