在 9 月新机潮的喧嚣下,手机操作系统例行迭代多少显得有些波澜不惊。但真正能重塑用户习惯的变革,往往就蛰伏在这些那么喧闹的底层更新里。 流畅、动效与跨端互联不再是唯一的护城河,vivo 在今年的开发者大会上交出了属于 AI Phone 的答卷——「个人化智能」。 这次 AI 终于从「一个个单点功能」落地成「系统的一部分」。 新的蓝心小 V Pro 可以理解用户意图、拆解任务,再通过 Harness 调用系统、应用和第三方服务。端侧模型持续理解手机里的照片、文件、文本和设备状态,个人记忆则为这些任务提供长期上下文。 发布会结束后,爱范儿和 vivo 副总裁、OS 领域副总裁,vivo AI 全球研究院院长周围,vivo AI 产品总经理关岩冰,以及 vivo AIOS 产品总监黄梓勋聊了聊。 30B 模型塞进手机,vivo 想解决的并不是「端侧对话」 把 300 亿参数模型放到手机上,放在一年前,连 vivo 自己都觉得天方夜谭。 周围坦言,去年团队的判断是,手机跑 3B、7B 已经很吃力,13B 几乎没有可行性。原因在于过去一个 7B 模型加载起来,可能就需要占掉 4GB 以上内存,而旗舰手机主流也只有 12GB 内存左右。 今年让这个判断发生变化的是 MoE,也就是混合专家模型。 MoE 不需要每次推理都把整个模型加载进内存。按照周围举的例子,一个 30B 模型可以被拆成大量专家,每次只需按需调度少数几个。得益于底层的加载与缓存优化,同时运行两三个专家,真正需要占用的动态内存可能只有 2GB 到 4GB。 手机里大量没有被激活的参数,则可以安静地躺在 512GB、1TB 的闪存里。 周围说,今年整个行业对这件事的判断都做了一次修正,vivo 也因此开始训练自己的 30B MoE 模型。 不过,这个模型目前还在工程验证阶段,离真正装进消费级手机还有距离。MoE 解决了一部分
如需同类行业 APP / 小程序定制,可联系网赢科技获取可落地的开发方案与报价区间。
参考资讯来自 爱范儿,由网赢科技整理为行业方案参考。查看原文