端侧AI的崛起：手机、PC和IoT的本地推理
苹果Apple Intelligence、高通骁龙AI引擎、Intel Core Ultra都在推端侧AI。端侧推理会成为主流吗？
趋势：
1. 隐私优先——数据不出设备
2. 低延迟——无需网络往返
3. 模型小型化——1B-7B参数
4. NPU/GPU融合——专用AI加速
但端侧算力有限，复杂任务仍需云端。大家觉得端云协同是终极形态吗？
11
评论 11