1月8日，OPPO正式发布了其旗舰机型FindX7系列，并宣布70亿参数的AI大模型在手机端落地。
此前，vivo的X100系列也同样支持70亿参数AI大模型，两者均搭载了联发科的天玑9300芯片。
而荣耀即将发布的Magic6系列则搭载高通第三代骁龙8移动平台，也将支持70亿参数的端侧AI大模型。
在OPPO Find X7系列发布会后的采访中，OPPO首席产品官刘作虎称：“再不布局大模型的手机厂商，就没戏了！”他还透露，在上周五把公司所有AI相关的伙伴和资源，全部集中在一起成立了AI中心，由OPPO整体技术负责人兼管。
在经历了一年多的大模型狂飙热潮后，在2024年，应用端的突破比大模型本身更值得期待。
OPPO此次重点展示了AI通话摘要、AIGC图像消除等应用。其中，AI通话摘要能在通话完成后，为用户自动生成通话内容的要点，并准确地输出带有主题、要点，以及待办事项的通话内容摘要。
而AIGC图像消除则可以把照片中多余的遮挡物、人影等去除后，还能自动补全缺失的图像。
刘作虎认为，未来这几年大模型的核心还是要以产品来驱动。“基于要做什么产品，进而确定大模型该怎么训练，用什么样的算力，整体路线是以产品驱动技术。通过用户洞察方式来做产品是最重要的，谁对用户最理解，谁真正地懂产品，就能在竞争中保持差异化，始终拥有核心竞争力。”
此前联发科透露，大语言模型对内存需求暴增，130亿参数大模型至少需要13GB内存，再加上6GB App保活、4GB安卓OS，16GB内存手机并不能运行该参数的大模型。
谈及大模型对于手机内存和续航的影响，OPPO影像产品总监张璇介绍，70亿大模型正常的模型大小是28GB，为了真正在端侧部署，采用了高精度4比特来对模型进行压缩和轻量化，压缩和轻量化之后从28GB可压缩到最小的3.9GB左右。
从性能角度来看，大模型在端侧性能消耗确实较大。“核心是通过并行计算的算子优化、对内存管理的优化等来降低损耗和系统资源占用。另外，续航时间是根据本身用机的情况来决定的，应该控制在用户可以接受的范围内，同时把它做成任务型的，用的时候才会消耗系统资源。”
华泰证券在研报中表示，AI大模型在手机应用对其BOM成本影响主要包括：1）SoC：AI引擎升级、NPU算力提升；2）存储：手机RAM升级至24GB LPDDR5X，相较当前主流的8GB LPDDR4X，成本提升300%；3）电源：电池/电源管理芯片升级，但弹性相对较小；4）光学：AI推动屏下摄像头应用取得突破。
在存储方面，华泰证券称，在推理场景下，以一个100亿参数模型（FP16 精度）不考虑模型运算时的临时变量，总计需要18.6GB内存。
受限于端侧的计算能力和功耗控制，目前70亿参数大模型是在手机上能够落地的最大参数规模。“再大的模型手机也带不起来了，未来或许会采用端云结合的方式。”IDC中国高级分析师郭天翔说。
刘作虎表示，是否需要端云协同要看模型的大小。“比如说AIGC消除是可以端侧消除。未来，越来越多的应用会是端云协同，前提是必须保护安全隐私。”
在业内看来，每轮消费电子的景气周期主要由技术进步引发新需求所驱动。而当前的大模型浪潮，也被寄予厚望拉开新一轮消费电子创新周期，从而引爆下一轮“换机潮”。
对此，郭天翔则较为理性看待：“虽然大模型肯定是未来各家的发展重点，但是在短期内仍不会成为消费者换机的主因。”
暂无评论内容