System + History + User + Output <= Context Window
入门LLM 上下文长度
通过滑动窗口展示模型一次真正能“看到”的 token 范围,以及为什么旧内容会被截断。
适合产品、实施、解决方案
打开演示动画演示
点击播放后,文本会被逐步切成 token。你看到的这些小块,才是模型做计数和处理时真正参考的单位。
原始输入
切分结果
当前 Token 数: 0推荐下一步
继续沿着相关主题看下去,会更容易把概念和工程实现串起来。
通过滑动窗口展示模型一次真正能“看到”的 token 范围,以及为什么旧内容会被截断。
适合产品、实施、解决方案
打开演示展示 system、user、assistant 示例如何被拼成最终输入,理解“提示词”不是单独一句话。
适合产品、销售、客户教育
打开演示把提问、编码、推理、解码和输出的链路拆成可观察节点。
适合产品、销售、客户教育
打开演示