端侧AI芯片崛起:当模型变小,手机与汽车也能跑智能 | 前沿
2026-09-25 06:00:13
赵敏
367
云端大模型很聪明,但延迟、隐私与成本把很多场景挡在门外。端侧AI芯片因此从配角走向前台。
一、为什么端侧突然可行
模型压缩与蒸馏让十亿级参数能跑在手机NPU。某旗舰机端侧摘要功能零上行、响应毫秒级,隐私也更稳。小模型够用,是大前提。
二、三类落地最扎实
手机端侧助手、车机语音、安防端推理最先用起来。某车企把唤醒与基础指令放端侧,断网也能用。端云协同成主流形态。
三、统一软件是暗坎
端侧芯片碎片化,框架适配辛苦。某厂商靠统一推理runtime把移植成本降半。端侧胜负,在软硬一体的体验,不在纸面算力。
端侧AI芯片的意义,是把智能从机房搬进口袋与方向盘。近,才即时;本地,才可信。