AI大模型参数规模正从千亿奔向万亿,但算力成本、数据隐私等问题让单纯依赖大模型变得难以为继。高通公司工程技术高级副总裁侯纪磊博士在接受采访时表示,混合AI才是未来方向。他提出端侧与云侧协同计算的方案,让智能设备既能保护隐私,又能处理复杂任务。

侯纪磊认为,简单任务适合放在终端处理,复杂推理则需要云端支持。他举了个例子:比如语音助手,日常指令可由手机本地完成,但需要调用地图导航时,就要切换到云端。这种配合不仅能节省流量,还能让响应速度更快。他特别提到,端侧模型能力提升显著,10B参数的模型现在性能是三年前的15到20倍。
高通在端侧和云端都有布局。去年发布的骁龙8至尊版已支持端侧学习,但这种训练更多是微调而非从头开始。侯纪磊透露,高通正在推进高带宽计算技术(HBC),用低成本DDR内存替代高价HBM,让带宽密集型任务更高效。这项技术已获得主流客户认可,预计会广泛应用在大模型预填和解码环节。
面对AI技术快速迭代,高通选择不做基础大模型。侯纪磊强调,公司定位是底层计算平台,为大语言模型提供服务。他透露,已与两家重要模型厂商展开合作,通过端侧芯片和云端算力结合,打造更灵活的设备形态。这种研发与产品双向驱动的“飞轮”模式,让技术能快速落地,同时收集实际应用中的问题反哺研发。
侯纪磊最后总结,AI体系要有生命力,必须让技术与产品紧密耦合。只有把创新快速转化成可用产品,才能在激烈竞争中保持优势。这种端云协同的混合AI模式,或许正是未来智能生态的关键。