统计所选模型的 token
选择可用模型或编码方式并输入文本,即可查看对应数量。不同分词器的结果可能不同,因此应选择与目标 API 或模型匹配的选项。
使用 TikTokenizer Vercel App 选择模型或编码方式,统计文本 token、查看分词结果,并在浏览器中整理聊天消息。
TikTokenizer Vercel App 是一款基于浏览器的分词与 token 计数工具。公开界面允许选择模型或编码方式、输入文本,并查看 token 数量及分词结果。界面还支持按消息角色组合聊天提示词。
统计所选模型的 token 选择可用模型或编码方式并输入文本,即可查看对应数量。不同分词器的结果可能不同,因此应选择与目标 API 或模型匹配的选项。 查看分词结果 界面可以展示分词输出,并提供空白字符显示选项。这有助于检查提示词如何切分;具体显示效果取决于选中的编码。 组合聊天消息 页面提供 system、user、assistant 消息区域和添加消息操作,可用于在提交模型前整理聊天式提示词。 如何使用 TikTokenizer 统计 token
适合估算文本 token 的提示词作者,以及在 API 集成前比较编码方式的开发者。 打开工具,在选择器中挑选模型或分词器,把文本粘贴到内容区。需要时添加聊天消息,然后查看 token 数与输出。最终 API 用量仍应以实际请求为准,因为封装模板、特殊 token 和请求格式可能改变结果。
浏览器分词器适合估算文本切分,但不能保证与每次 API 请求的计费 token 完全一致。系统提示封装、工具、图片、缓存输入和服务商处理都可能增加 token。未查看第三方页面隐私规则前,不要粘贴机密提示词。
公开界面提供模型和编码选择器,索引页面示例包含 GPT 系列模型及编码选项;可选项可能变化。
它可以辅助查看文本 token 数,但不是完整费用计算器,也不会覆盖所有服务商的输入、输出计价规则。
选择可用模型或编码方式并输入文本,即可查看对应数量。不同分词器的结果可能不同,因此应选择与目标 API 或模型匹配的选项。
界面可以展示分词输出,并提供空白字符显示选项。这有助于检查提示词如何切分;具体显示效果取决于选中的编码。
页面提供 system、user、assistant 消息区域和添加消息操作,可用于在提交模型前整理聊天式提示词。 如何使用 TikTokenizer 统计 token 使用场景 适合估算文本 token 的提示词作者,以及在 API 集成前比较编码方式的开发者。 打开工具,在选择器中挑选模型或分词器,把文本粘贴到内容区。需要时添加聊天消息,然后查看 token 数与输出。最终 API 用量仍应以实际请求为准,因为封装模板、特殊 token 和请求格式可能改变结果。 局限说明 浏览器分词器适合估算文本切分,但不能保证与每次 API 请求的计费 token 完全一致。系统提示封装、工具、图片、缓存输入和服务商处理都可能增加 token。未查看第三方页面隐私规则前,不要粘贴机密提示词。 常见问题 TikTokenizer 支持 GPT 模型吗? 公开界面提供模型和编码选择器,索引页面示例包含 GPT 系列模型及编码选项;可选项可能变化。 能用它估算 API 费用吗? 它可以辅助查看文本 token 数,但不是完整费用计算器,也不会覆盖所有服务商的输入、输出计价规则。 使用需要账号吗? 查看的工具界面没有出现登录入口;实际使用方式请以当前页面为准。