读见

AI 每日早报· 测试用户 43b184测试用户 f33336 · 日报

淘特落地端侧模型、Apple 扩展本地推理、Meta 复盘 AI 工程

淘特落地端侧模型、Apple 扩展本地推理、Meta 复盘 AI 工程:从数据、部署到验证,判断落地条件。

这个专栏已暂停,往期仍可阅读。

  1. 头条精讲

    淘特端侧模型从微调到应用的全链路实践(在新标签页打开)

    推荐理由淘特把意图标签、困难样本、剪枝和量化接到真机测试与业务实验,展示小模型上线时最容易被离线指标遮住的问题。团队可学习如何用日志回流校准数据分布,比较压缩后的精度与延迟,并把模型下载费用纳入端云决策,建立适合自身场景的验证闭环。

    淘特团队将 QWen3-0.6B 端侧模型从数据集建设、LoRA 微调、ShortGPT 剪枝、AWQ 量化一路做到真机部署,把意图识别准确率从 43% 提升到 91.8%,并落地信息流重排序与离端发券两个场景。

  2. 今日精华

    Hy Memory 2.0 发布:模型、框架、应用三层全开源(在新标签页打开)

    推荐理由框架、专用模型与本地应用分别解决记忆管理、更新和跨工具接入。可据此评估长期任务怎样找回决定、校验旧经验并保持上下文连续。

    腾讯混元发布智能体记忆框架 Hy Memory 2.0,新增工作记忆与代码记忆,并开源专用模型 Hy-Memory-30A3B、记忆框架与 MemHub 应用,在多个 Benchmark 上取得开源第一。

  3. AI 会写代码,为何还难以稳定运维?Jad Naous 与 Martin Casado 对谈(在新标签页打开)

    推荐理由代码测试与在线系统诊断面对不同的状态和反馈。两位嘉宾的分歧可帮助团队判断,哪些运维环节能交给智能体,哪些仍缺可靠观测和验收。

    Jad Naous 与 Martin Casado 讨论 AI 编码提效与生产运维之间的距离:运维需要遥测变化信号、假设验证和真实实验支撑。

  4. 3 个月用 Harness 重构 90 万行旧项目:实战经验与踩坑总结(在新标签页打开)

    推荐理由遗留需求重建、专职审查与变异测试提供了一套改造旧系统的方法。可借鉴如何验证测试本身,及怎样把人工注意力集中到方案和关键路径。

    腾讯团队用 Harness 工作流在 3 个月内将 90 万行旧视频剪辑项目重写为 12 万行新代码,并沉淀出一套可复用的 AI 协作开发模式。

  5. 英伟达 RTX Spark 笔记本首发实测,我实现了 WorkBuddy 额度自由(在新标签页打开)

    推荐理由作者把笔记本接入 WorkBuddy,实测离线任务、续航与交互等待。读者可据此评估本地助手是否适合日常工作,以及硬件投入能换来怎样的使用体验。

    爱范儿首发实测搭载英伟达 RTX Spark 超级芯片的华硕 ProArt 创16 笔记本,验证其本地运行 270 亿参数大模型的性能、续航与 WorkBuddy 协作体验。

  6. 持续学习为何仍未解决:SFT、蒸馏与 RL 的取舍(在新标签页打开)

    推荐理由从失败轨迹出发,区分补新知识、学习纠错和采样限制。正在做后训练的团队可据此检查自己的数据缺口,理解持续学习为何需要多种方法配合。

    Charlie O’Neill 解释持续学习中的训练难题:SFT 能注入知识却会遗忘,RL 较少破坏能力却难写入新知识,需要按任务组合。

  7. 花两千踩坑四大 Personal Agent,我 3 个提示语把 33% 成功率救回来了(在新标签页打开)

    推荐理由进度表、采集验证与异常优先日报,把个人助手的口头答应变成可检查的执行记录。读者能借用这些提示语,诊断登录态、任务丢失和跨设备协作问题。

    作者实测四款 Personal Agent 后指出云端代理只能稳定承接约 33% 的日常任务,并给出进度表、六道门验证、融合日报三套提示语来补足可靠性。

  8. 补充阅读

    独家对话 Karpo:Personal AI 的终局,是用户意图的「竞争」,但这还不是行业共识(在新标签页打开)

    推荐理由访谈把需求尚未说出口时的意图捕获摆到产品中心。产品团队可对照任务执行型助手,检查主动推荐需要哪些信息、信任和供给条件。

    Karpo 创始人 Leah 提出 Personal AI 的核心竞争在于「意图前插」——在用户形成明确需求前捕捉模糊感受,并据此生成个性化供给,而非比拼任务执行。

  9. AI 能终结孤独吗?Paul Bloom 谈陪伴与成长的代价(在新标签页打开)

    推荐理由心理学视角把舒适陪伴与学习互惠关系的摩擦放在一起。产品设计者可思考留存目标如何影响用户回归真实关系的机会。

    Paul Bloom 认为,AI 陪伴能减轻孤独,却也可能消除帮助人成长的社交摩擦,因此应设计让用户最终能够离开的陪伴系统。

  10. Databricks:如何让 Qwen 3.8 27B 微调快 6 倍(在新标签页打开)

    推荐理由性能剖析揭示高 GPU 利用率仍可能掩盖 CPU 调度开销。训练团队可学习先定位瓶颈,再比较融合内核与批次打包的收益和正确性代价。

    Databricks 分享如何通过融合内核与一维打包批处理,在 GPU 利用率已达 98% 的情况下,将 Qwen 3.8 27B 微调耗时从 7 小时 44 分压缩到 1 小时 17 分,提速 6 倍。

  11. 一文拆解 Jev 架构:一个判断模型是怎么被拼出来的(在新标签页打开)

    推荐理由判断任务与生成任务的拆分提供了低延迟控制流的设计视角。可借此检视分类、路由和置信门限是否需要独立模型,并核对复现条件。

    本文深度解析了 Jev 模型,探讨其如何通过将「判断」从「生成」中解耦,构建一个低延迟、概率可校准的 System 1 模型,并分析了其在 AI 系统架构中的潜在价值与适用边界。

  12. 现在可能是投身数学的最好时机(在新标签页打开)

    推荐理由把研究活动、个人收益和资助依据分开讨论,能更清楚地理解 AI 对数学学习的影响。学生可据此思考表达、理论理解与研究兴趣的长期投入。

    3Blue1Brown 认为,AI 更可能改变数学贡献的评价方式,而非消除数学的价值,学生应重视理论、表达、解题训练以及自己热爱数学的原因。

阅读设置

更多