10 月 8 日提交 arXiv 的 Thinking Inertia(编号 2610.11765,已被 NeurIPS 2026 接收)研究一个被冷落太久的开关:「别想了」。各家模型都在推思考模式,对应的「不思考」却很少有人正经研究——仿佛关掉思考是零成本的省钱手段。这篇论文用三组指标、六种干预、六个模型、三类问题,把这个假设拆开来验,结论是:模型被明确告知不要思考时,照样在想。

为什么这件事重要?先看它批评的现状。过去判断模型「有没有在想」,通行两种代理:思考模式被禁用,或者输出里没有长思维链。论文指出这两个代理都不可靠——禁用的模式仍可能吐出推理内容;没有长痕迹也不代表没有推断,可能是短推断,也可能是废话填充。

过去用「关掉思考模式」或「没有长思维链」代理「没在想」,论文说这两个代理都不可靠指标一 Empty-Thinking Rate(空思考率)答案前干干净净、什么都不剩——最严格的「只想说答案」指标二 问题—前答案相关性答案前确实有文本,且与问题相关,但不含推断——复述、解释题意、罗列要点都算指标三 显式推断率(LLM 裁判判定)答案前出现了看得见的推理步骤——这就是「说别想了,其实还在想」实验矩阵6 种提示干预 × 6 个大模型× 3 类问题:布尔判断、选择题、开放问答NeurIPS 2026 接收代码与网站已公开核心发现显式的「别想了」控制,并不能可靠消除可见推断答案空间越开放,「思考惯性」越明显
图|三层指标与实验矩阵。前两层靠规则与相似度,第三层靠 LLM 裁判。

三层指标,把「没在想」拆开

论文的做法是把每个回复切成「答案前的内容」与「最终答案」,然后在三个层面上评估答案前的内容。空思考率衡量最严格的合规:答案前什么都不剩。问题—前答案相关性衡量中间地带:答案前确实有文本、且与问题相关,但不含推断——复述题意、罗列要点都算这类。显式推断率由 LLM 裁判判定,抓的是答案前出现的看得见的推理步骤。

这三层分开的意义在于:过去混作一谈的「没在想」,实际包含三种完全不同的状态。一个模型可能空思考率很高、显式推断率也不低——答案前干干净净,但偶尔漏出一两步推导。只用一个指标,就会把这类行为误判。

实验矩阵与主要发现

论文在六个大模型上施加六种提示干预,横跨布尔判断、选择题、开放问答三类问题。主要发现有三条。

一,显式的「别想了」控制并不能可靠消除可见推断。模型表现出论文命名的「思考惯性」:推断在严格控制下依然存在,且答案空间越开放,惯性越明显。二,准确率的表现分题型:布尔与选择题上,关不关思考对最终答案影响不大;开放问答上则出现权衡——「只想输出答案」与任务准确率难以兼得,硬压思考,开放题质量可能先受损。三,把同一问题改写成不同答案空间后发现,给出候选答案后,「只想说答案」更容易做到——选项收窄了发挥空间,惯性随之减小。

关思考不只是个省钱开关,它本身是一种需要被评测的能力结论一布尔与选择题上,准确率保持稳定关不关思考,对最终答案影响不大惯性主要在别处起作用结论二开放问答上出现权衡:「只想输出答案」与任务准确率难以兼得硬压思考,开放题质量可能先受损结论三把同一问题改写成不同答案空间后发现:给出候选答案后,「只想说答案」更容易做到选项收窄了发挥空间为什么智能体团队该关心这篇论文智能体按步计费:一步一次模型调用,思考token就是真金白银「关掉思考模式 = 零推理成本」是常见假设,论文说这个假设缺一个评测维度延迟账同理:以为切了开关就能砍掉首 token 前的等待,实际可能只砍掉了一部分把「会不会停」当成与「会不会想」并列的能力来测,才是论文的完整主张目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态
图|三个结论与智能体成本账的关联。关思考是被假设为省钱的开关,论文说它需要被测量。

为什么智能体团队该关心

把镜头拉回智能体工程,这篇论文压的是一笔常被算错的账。智能体按步计费:一步一次模型调用,思考 token 就是真金白银。很多团队的成本模型里,「关掉思考模式」被默认等价于「零推理成本」;延迟模型里,它被默认等价于「首 token 前的等待归零」。论文说的是:这两个等价关系都缺一个评测维度。

更微妙的影响在任务设计上。如果开放题上「别想了」会伤质量,那么把任务改造成选择式、填空式,可能同时改善合规与成本——这恰好与论文第三条发现互为印证。对做流程自动化的团队,这是一个低成本的优化方向:能收窄答案空间的环节,尽量收窄。

也要说清论文没回答的问题:六个模型的规模与家族未在摘要中展开,不同尺寸上惯性强弱是否一致未知;LLM 裁判本身的偏置仍是变量;「思考惯性」与模型能力的关系——是越强的模型越会「忍不住想」,还是越弱的模型管不住自己——摘要没有给出分层结论。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。代码与项目网站已公开,正在做推理成本优化的团队值得按自己的模型与任务集复测一遍——结论的方向可信,具体幅度一定是自己的准。