今天看到公众号上的一篇文章「中国 LLM 讨论纪要」无记名的讨论笔记!结论和我自己的感知还比较一致,反蒸馏正在把国产的主要追赶路径堵死。蒸馏成本短期涨了 5–10 倍(高的到 20 倍),替代办法都不如直接蒸,前沿实验室的模型普遍 5-10T,学生太小听不懂老师,700B 蒸 3-5Tindigo @indigox · 5 天前