课程目录136 节查看完整学习地图

KV Cache:算过的,不必再算一遍

用一点缓存,省下生成时反复计算历史的功夫。

  • 看清逐词生成中的重复计算
  • 理解为什么缓存过去的K和V
  • 区分省掉的计算与仍要做的计算

预计学习:5–8 分钟

完整讲解与实验需要课程权益,Q&A 免费阅读。

进入完整课程

前往中国大陆版?

你的网络位于中国大陆。前往大陆版,可使用微信登录。

前往大陆版