第六章 执行模型与采样#
这一章会继续下钻 ForwardBatch、ModelRunner、sampling params 和输出收口逻辑,解释 token 为什么会这样被选出来,以及执行壳和模型壳怎样真正衔接。
这一章内部也有一条很明确的顺序:
6.1先把调度对象怎样变成执行对象讲清楚6.2再讲执行层怎样根据参数和约束选 token6.3最后讲结果怎样被折叠回可回传对象
这三节合在一起,才构成“执行层真正跑完一轮”。
这一章当前的目录是:
这一章会继续下钻 ForwardBatch、ModelRunner、sampling params 和输出收口逻辑,解释 token 为什么会这样被选出来,以及执行壳和模型壳怎样真正衔接。
这一章内部也有一条很明确的顺序:
6.1 先把调度对象怎样变成执行对象讲清楚6.2 再讲执行层怎样根据参数和约束选 token6.3 最后讲结果怎样被折叠回可回传对象这三节合在一起,才构成“执行层真正跑完一轮”。
这一章当前的目录是:
叶王 © 2013-2026 版权所有。如果本文档对你有所帮助,可以请作者喝饮料。