用温度取样的另一种方法,称为核取样

取值范围是: [0.0,1.0] 模型考虑具有 top_p 概率质量的令牌的结果。所以 0.1 意味着模型解码器只考虑从前 10% 的概率的候选集中取tokens; top_p 为 0 时,该参数不起作用。