怎么跟它说话理论

它按“字数”收费,也按字数思考

Token:成本与容量的直觉。

这篇学什么:Token——AI 世界的计量单位。看懂它,你就看懂了账单、窗口和"为什么它记不住整本书"。

三句话讲明白

  1. AI 眼里,文字被切成一个个"词块",这个词块就叫 Token。
  2. 上下文窗口有多大、一次对话花多少钱,都按 Token 计量。
  3. 一次塞进去的 Token 越多,花费越高,窗口越挤。

讲清楚

水按吨计,电按度计,AI 按 Token 计。

它读到你的一段话,先在心里切成一小块一小块——可能是一个词、半个词、一个符号。这一块就是 1 个 Token。中文大致一个词切一两块(不同平台切法不同,别背具体数字,记原理就行)。

为什么要认识它?三个地方用得上:

看懂账单。 AI 服务的报价写着"每百万 Token 若干元"——就像电费"每度几毛钱"。你发进去的、它吐出来的,都计数。长对话为什么越来越贵?窗里堆的 Token 越来越多,每一轮都在为整个窗口付费。

看懂窗口。 上一篇说它的记忆"只有一扇窗"——这扇窗的单位就是 Token。窗口能装几十万上百万 Token 听起来很大,但你把三十篇文献全文贴进去试试:几百万 Token,塞不进去。这就是为什么"把资料库整个喂给 AI"走不通,而需要更聪明的办法(我们的系统课里讲)。

看懂"思考"。 它一次能"盯住"的就这窗里的内容。你给的背景材料越精准,窗里有效信息密度越高,它答得越准——省 Token 就是省它的注意力。

给科研人一句话:资料不在多,在切得准。 与其贴三十篇全文,不如贴十段最相关的摘要加你的批注。

回看与自测

试一试

先选出你的判断,再提交查看答案和解释。

Q1 平台按每百万 Token 收费,这里的 Token 指什么?
Q2 同一个任务,哪种做法又省钱又答得准?

延伸阅读

Token 价格速查

继续阅读相关资料。

进阶挑战

情境:助手建议:“把你手头 30 篇文献的全文全部贴进对话,我通读后给你写综述。”你看了一眼报价——按 Token 计费;又想起那扇窗——容量有限。

先自己写下你的判断或指令,再看下面的参考思路。

参考思路(先做再看)
  1. 做法:拒掉“全文全贴”。只挑与你的课题最相关的篇目,每篇贴摘要,再补一句你的批注(“方法可借鉴”“结论与我有冲突”),让它基于这批材料写综述。
  2. 理由:账单和窗口都按 Token 计量——30 篇全文塞不进也记不住;材料精准 = 有效密度高 = 花得少、答得准。

到这里,"它怎么想、怎么跟它说话"你都懂了。但还差一块:让它不止"回答",还能替你干活。下一篇的主角,叫 AI Agent。

📎 延伸阅读:《Token 价格速查》

下一课

什么是 AI Agent:书房里的院士

它按“字数”收费,也按字数思考 | bo老师