从发布参数到发布架构Fable 5 原定 7 月 8 日下午下线现延长到 12 号之后订阅用户不能用套餐限额体验。这引发人们对该级别模型在本地设备运行的畅想。过去人们探讨前沿模型关注其强度、速度和可取代的工作此次有人问能否跑在端侧。但 Fable 5 是 Anthropic 首个 Mythos 级公开模型运行在数据中心与端侧设备有算力、功耗和模型压缩难题。其下线事件提醒若不拥有硅和权重高可用性是幻觉也表明端侧 AI 从行业术语变为大众期待。从发布参数到发布架构过去两年端侧 AI 主题是「宣布」今年是「重构」芯片厂商围绕本地 AI 推理重新设计硬件架构。6 月 25 日高通上调 2029 财年非手机业务收入目标到 400 亿美元数据中心 AI 基础设施目标超 150 亿美元汽车业务 100 亿美元CFO 称到 2029 年手机只占芯片收入三分之一。支撑目标的是骁龙 X2 系列骁龙 X2 Elite 的 Hexagon NPU 有 80 TOPS 的 AI 算力配置使其成为「为 AI 设计的笔记本」。6 月 17 日 AWE 大会上高通推出骁龙 START 计划首批落地智能眼镜愿景是同一个 AI 追着用户走。苹果跳过 M6 Pro 和 M6 Max直接押注 2027 年的 AI - focused M7M 系列路线图改变意味着端侧 AI 需求紧迫。M6 基础版内存带宽预计 200GB/sM7 目标 240GB/s统一内存架构适合大模型推理M5 起 AI 分布在芯片各计算单元。Gurman 认为这是苹果「加速推进」是芯片设计目标转向。英伟达推出售价 4699 美元的 DGX Spark 桌面设备定位为「个人 AI 超级计算机」今年 6 月 GTC 台北上发布 RTX Spark 推向更薄笔记本形态RTX PRO Blackwell 系列在 Dell、HP、Lenovo 工作站落地。NemoClaw 项目让用户在本地运行 AI 助手不同产品负责不同场景使本地 AI 可量产、可定价。向设备弯腰硬件追 AI模型也适应硬件。Google DeepMind 发布 Gemma 4 开放模型家族参数规格构成从手机到个人电脑产品线。小模型 E2B 和 E4B 低内存需求可在普通设备运行12B 模型支持多模态输入26B - A4B 特定内存下有速度表现。Google AI Edge 团队展示部署方法说明端侧模型硬件门槛降低。阿里 Qwen3.6 让大模型对本地友好Qwen3.6 - 27B 被评为 2026 年最佳开源 agentic coding 模型开发者搭建本地方案其策略是优化架构塞进本地硬件边界。面壁智能 MiniCPM 系列为手机和边缘设备设计MiniCPM - V 4.6 参数小但多模态表现好MiniCPM5 - 1B 扩展目标用户论文评价其是迈向边缘设备部署 GPT - 4V 级能力关键一步。这些模型证明端侧 AI 是独立品类且快速成熟。代价不再是订阅费那么简单端侧 AI 未来光明但有成本。本地 AI 虽省订阅费但有硬件溢价如 M5 Max 内存差价大未来买电脑要考虑能跑的模型大小。端侧推理功耗墙难突破骁龙 X2 Elite 满负荷体验差英伟达 DGX Spark 需要主动散热未来「能跑大模型」和「续航不崩」难兼顾。厂商通过产品和本地模型绑定建立壁垒如苹果、Windows、Google、英伟达等。端侧模型更新慢依赖多方面条件。本地 AI 有隐私问题权限管理复杂度影响消费者。AI 使用成本从订阅费变为硬件溢价等。所以2028 年消费者可能真正得到什么综合因素可分层预测。高端电脑本地运行强功能模型成常态本地应用成日常工具手机端多模态助手增强。高端创作者等倾向部署本地 AI。AI PC、Mac 和本地 AI 盒子形成硬件分层购机关注能跑的模型。长远看接近 GPT - 5 或 Claude 4 水平模型可能在高端设备可用取决于多方面因素。本地多模态实时助手部分设备可达「日常可用」但与云端有差距。普通设备完整运行 Mythos 本体短期内不可能本地 AI 全面等价云端旗舰 2028 年大概率做不到。端侧 AI 不是「会不会来」问题而是找平衡点其时代已不远。
