Model Distillation

80 字

Model Distillation

类别: 方法论
来源: wiki/sources/ingest-2026-06-2-4-岁-工-程-师-4-小-时-写-出--同-事--s-k-i-l-l--引-爆-开-源-社-区, wiki/sources/ingest-2026-06-T-o-k-e-n--经-济-学--A-I--基-础-设-施-的-定-价-博-弈-与-未-来-图-景, wiki/sources/ingest-2026-06-蒸-馏--全-员-s-k-i-l-l-的-职-场-恐-怖-故-事

核心定义

模型蒸馏,通过让小模型(学生)模仿大模型(教师)的输出分布,实现性能压缩和知识迁移,是端侧 AI 部署的核心手段。

关键维度

  • b网站近日上线了一个名为“colleague(同事).skill”的项目,提供团队的飞书消息、钉钉文档、工作邮件等职场数据作为素材,可以生成提升团队协作效率的AI技能。 该项目在GitHub开源10天内累计获得1万多星,并引发众多开发者跟随“二创”,有开发者把老板的聊天记录、会议纪要、批注和项目材料蒸馏成Skill,形成“老板.skill”,也有人把“前任”、导师“蒸馏”。 日前,澎湃科技联系到“...
  • 上,有员工单人耗用 2810 亿 Token。 - - Token 贫困户(小公司/自由程序员):每月 20 美元额度撑不过一周,自费每月超 2000 元,被迫在灰色市场找 Token。 - - 交易生态:从公益站(积分签到兑换)到试用账号(0.5 元一个的灰产批发),从商业中转站到蒸馏/逆向/缓存/套壳的"黑市黑话",形成了一条完整的 Token 地下供应链。 - - 代码和媒体...
  • 蒸馏:全员skill的职场恐怖故事 来源类型:本地文档(raw/articles/ 增量 ingest) 日期:2026-06-24 Tags:微信生态 ## 概述 author: "藏狐" created: "2026-06-17" - 微信文章 - clipping 比同事.skill更恐怖的,是现代职场的不确定未来。 钛媒体作者丨脑极体 “...

与 OpenClaw 的关系

本概念在 OpenClaw / Hermes Agent 生态的研究与实践中具有相关意义,详见引用来源中的具体案例分析。

引用统计

本概念在新增 sources 中被引用 3 次。