TableMind++ 感知不确定性的程序化表格推理智能体

原题：TableMind++: An Uncertainty-Aware Programmatic Agent for Tool-Augmented Table Reasoning。作者：Mingyue Cheng、Shuo Yu、Chuang Jiang、Xiaoyu Tao、Qingyang Mao、Jie Ouyang、Qi Liu、Enhong Chen。机构：中国科学技术大学认知智能全国重点实验室。对应 arXiv:2603.07528v2，2026-03-10。

来源：论文页面；原始 PDF；论文所链官方代码。本中文学习译本由 AI 翻译，未经作者审定，覆盖正文全部章节及方法、实验表格；原论文没有独立技术附录，pp.24–27 后段为参考文献，保留英文于 references/TableMindPP_references.txt。原文的主张按作者立场翻译，不代表评析认可。疑点以“译注”独立指出。

译注：PDF 中 ACM 引用格式仍有“2018”、示例会议名和 DOI 占位符，不能据此把论文认定为 ACM 2018 正式出版物；这里采用可核对的 arXiv 版本日期。

摘要

表格推理要求模型同时进行语义理解与精确数值运算。现有许多方法对展平表格进行单轮推理，容易超出上下文窗口，对连续数值也不够敏感。此前的 TableMind 将轻量大语言模型训练为模拟人类多轮交互的自主程序化智能体，通过高质量轨迹的监督微调，以及多视角奖励和排序感知策略优化 RAPO 的强化学习，内化规划、行动和反思能力。但生成模型固有的随机性仍会导致幻觉。

本文将其扩展为 TableMind++，引入感知不确定性的推理框架。记忆引导的计划剪枝利用历史轨迹检验并过滤逻辑有缺陷的计划，以应对认知不确定性；基于置信度的行动修正监控 token 概率，识别和修正代码中的随机噪声，以缓解偶然不确定性；双重加权轨迹聚合综合多条推理路径形成稳健共识。作者报告，在多个基准上优于既有基线和专有模型，支持自主训练与不确定性处理结合的有效性。代码已公开。

关键词：表格推理、程序化智能体、大语言模型。

1 引言

表格是组织、存储和交换知识的重要形式，广泛用于科研日志、医疗记录和财务报表。挖掘其中的结构化知识有实际价值。与非结构化文本不同，表格任务既要求理解表头、结构和单元格语义，又要求准确完成算术和逻辑比较。

很多方法仍将表格展平成文本，在一次前向生成中处理，存在两个问题。第一是结构僵硬：表格变大容易发生上下文溢出，把连续数值当作普通 token 也妨碍精确计算，造成推理不稳定和计算错误。第二是推理可靠性不足：系统依赖语言模型的内部能力，缺少明确的工具使用、执行监控和反思机制；认知歧义与生成噪声会导致幻觉，难以满足严密推理需求。

人类处理表格时通常先分析问题、拆分任务，再定位行列、执行计算、检查中间结果，最终给出答案。其特点是显式行动、反复验证，也会判断自身置信度。因此，复杂表格推理需要规划—行动—反思的多轮过程，并监测不确定性。图 1（p.2）用班级数学均分示例展示这一思路：不同计划经剪枝，程序在沙箱执行，再通过置信加权形成 91.2 的最终答案。

已有免训练工作流智能体能够组织模型与外部执行，但多次大型模型调用带来开销，将表格暴露给外部服务也可能不适于敏感场景。我们希望训练一个轻量模型，使其本身具备动态规划、执行和反思策略，而不是完全依赖外置流程；再在推理时加入记忆与校验。

此前 TableMind 采用两阶段训练：SFT 用高质量轨迹建立问题分解与代码生成能力；RL 使用 RAPO 和多视角奖励识别模型置信度与轨迹质量不一致的情况，增强纠正信号，从而在小模型中学得多轮策略。

即使策略训练良好，生成随机性仍会影响高精度任务。TableMind++ 在基础智能体上新增不确定性感知推理：双记忆检验高层计划；关键 token 置信度监测并修正代码；结构与执行置信度共同加权最终答案，抑制偶发错误。

本文贡献为：提出将训练策略与推理约束结合的 TableMind++；使用 SFT 与 RAPO 强化学习建立类人的多轮能力；设计记忆剪枝和行动修正的动态推理框架；在多个基准上验证其性能。原文用“可靠”“可信执行”等表述描述目标，其证据边界在独立评析中讨论。

2 相关工作

2.1 表格推理

早期研究通过预训练任务学习表结构。受 BERT 掩码语言建模启发，TAPAS 重建被遮蔽的单元格，学习表头与数值的联系；PASTA、TUTA 扩大掩码粒度，学习列和层级结构。TAPEX 用大规模合成 SQL 数据预训练编码器—解码器，使模型模拟执行器，连接自然语言与符号运算。

LLM 出现后，研究转向通用推理与自主执行。TableLLaMA、TableLLM、TableGPT 系列通过大量表格指令微调适配结构化数据。Chain-of-Table 逐步修改表格，使中间表成为后续推理输入；PoTable 将高层计划与 Python 执行分开，提高数值精度。近期 DeepSeek-R1、Table-R1、STaR 等引入强化学习，通过可检验反馈鼓励修正和策略演化，显示生成与严格逻辑结合的重要性。

2.2 基于 LLM 的智能体

仅依赖模型参数知识时，多步规划与复杂推理仍有限。工具与计划机制使系统能够维持中间状态、交替思考与行动、从外部获取信息或执行计算。固定的数据流或先计划后执行框架虽有用，却可能受静态模板约束，面对开放问题不够灵活。

ReAct、Toolformer、WebGPT 等通过工具观察为输出提供依据；进一步的规划、记忆和工具协调模块支持多步工作流。但文本中心的方法并不自动满足数据密集任务的数值精度要求。本文把自主能力扩展到程序执行，训练较小模型在沙箱内写代码并执行，以准确计算替代自然语言中的近似模拟，同时为不确定性控制提供基础。

2.3 不确定性量化

可靠智能体需要区分偶然不确定性和认知不确定性。单纯 token 对数似然常受“不同表述表达相同语义”影响，不能直接表示输出真实可靠性。语义熵、核语言熵、语义嵌入等方法尝试在含义层面估计不确定性；SaySelf 等训练模型表达置信度并进行自我反思。

不确定性也可用于监控中间推理：CoT-UQ 评估推理步骤中的关键词，Tree-of-Thoughts 等探索剪枝，CCP 减弱表面措辞影响以衡量原子主张，APRICOT 则用辅助模型估计置信度。多路径自一致性通过采样与多数投票提升结果，Universal Self-Consistency 用模型选择最一致答案，适用于自由形式输出；保形语言建模尝试用保形预测校准停止和拒绝规则，并为可接受回答集合提供覆盖性质。

3 预备知识

3.1 任务形式化

每个实例为 (T,Q,A)，其中 T 是表格，Q 是问题或事实陈述，A 是标准答案。任务通常需要多步计算、中间验证及纠错，因此既要理解语义，也要跟踪状态、调用工具并动态调整路径。

目标是学习策略 π，根据 (T,Q) 生成可执行步骤序列 {sₖ}。框架最终输出 (Â,u)=R({sₖ})，其中 Â 为预测答案，u 为轨迹不确定性或置信度，R 为聚合函数，如加权投票。目标不仅是答对，也希望 u 与真实正确概率相校准。

3.2 设计原则

直接语言推理缺少精确计算和外部核验；固定工具流程又常依赖大型专有模型，缺少动态反思。为此提出三个原则。第一，训练自主程序化智能体，使其能分解问题、编写和执行代码、根据反馈纠错，而不仅构建静态工作流。第二，通过策略优化提高效率，小型开源模型经过适当 RL 也应具备较强能力，不把性能完全寄托于参数规模。第三，通过不确定性感知提高可信度：规划时剪除不可靠策略，最终聚合时校准答案，防止模型自信地沿错误方向执行。

4 TableMind

本节描述作为 TableMind++ 基础的训练流程：提示模板、两阶段训练及后续推理。

4.1 概述

统一模板组织不同表格和任务，引导模型交替进行自然语言推理与工具调用。SFT 从教师轨迹中学习基础行为，RL 再自主探索与改善策略；RAPO 和多视角奖励用于稳定优化并对齐置信度与轨迹质量。推理时通过迭代多轮求解。图 2（p.7）展示提示构建、教师模型与解释器产生轨迹、SFT 热身、RAPO 强化训练以及最终评价。

4.2 提示模板

模板包含一般指令块与表格任务块：前者定义智能体角色，要求遵循思考—行动—观察流程；后者提供序列化表结构与问题。统一接口旨在降低表格歧义、约束格式幻觉，协调数据解释、任务分解与工具调用，使不同任务中的轨迹和工具使用更稳定。

4.3 监督微调

4.3.1 数据收集。 通过迭代多轮合成和知识蒸馏，获得专家模型的程序推理轨迹。专家先生成计划和初始可执行行动，在本地沙箱执行；反馈作为观察返回模型，模型反思、修订计划并继续行动，直到给出最终答案。将答案与标准答案比较，只保留结果正确的轨迹，过滤错误答案和执行失败。

4.3.2 热身阶段。 SFT 规范输出格式，使模型掌握规划—行动—反思的交互语法，并建立生成合法、逻辑连贯代码的初始策略，降低后续 RL 优化负担。但 SFT 可能更多记忆表面模式，对分布外任务不够稳健；因此仍需 RL 加强适应性与泛化。

4.4 强化微调

4.4.1 多视角奖励。 总奖励为格式、答案正确和工具使用三部分之和。

R_format = 1 当输出符合规定交互格式，否则为 0（式 1）。R_acc = 1 当答案与标准答案匹配，否则为 0（式 2）。问答使用精确匹配，事实验证使用标签正确性。

工具奖励（式 3）为：

R_tool = exp(−ρs) · [β·I_success − C·(N_turns)²]。

s 为全局训练步数，I_success 表示轨迹中至少有一次工具调用成功，β 为基础正奖励，N_turns 为工具轮数，C 为惩罚系数。随训练衰减的权重构成隐式课程：早期鼓励探索工具，同时惩罚过长交互，提高效率。

4.4.2 RAPO。 排序感知策略优化在 GRPO 的组策略梯度框架上改进稳定性。首先去掉 KL 惩罚以扩大探索；其次按 token 归一化损失，避免较长回答过度影响梯度；再次使用非对称裁剪阈值，保留生成多样性，防止熵坍塌。

式 4 的目标为对同组 G 条轨迹的全部 token 求和、以总 token 数归一化，并取 min(rᵢₜ A′ᵢ, clip(rᵢₜ,1−ε_low,1+ε_high)A′ᵢ) 的期望。式 5 中 rᵢₜ = πθ(oᵢₜ|q,oᵢ,<ₜ) / πold(oᵢₜ|q,oᵢ,<ₜ)。

式 6 将组归一化优势乘以权重：A′ᵢ = γᵢ · (Rᵢ−mean(R))/std(R)。若模型对低奖励轨迹 o_l 的长度归一化对数概率反而高于高奖励轨迹 o_w，则认为二者置信排序与质量排序错位。式 7 定义成对系数：γ_w,l = 1 + α·I[logP(o_w)<logP(o_l)]，增强纠正这类错误排序的学习信号，α 控制加权强度。

译注：论文给出了成对 γ_w,l，但未在此完整明确怎样聚合为每条轨迹 γᵢ；独立实现需要进一步核对代码。

4.5 迈向不确定性感知推理

高精度任务中，多轮推理会积累不确定性，初始计划的小偏差可能导致后续严重错误。自一致性通过多条完整轨迹投票能降低随机噪声，却需要大量外部调用，带来延迟和资源开销。尽管 RAPO 已尝试对齐置信度与质量，推理时仍需显式监测不确定性，提前剪枝并校准最终答案，而非无差别采样。这促成 TableMind++ 的扩展。

5 TableMind++

5.1 概述

在训练后的基础策略上，框架区分两类不确定性。认知不确定性表现为对合适逻辑路径的结构性歧义，产生语言上合理却逻辑不成立的计划；因此需要用历史轨迹提供外部约束。偶然不确定性来自生成中的随机噪声，即使高层计划正确，也会出现变量名、API 或参数错误。TableMind++ 分别用记忆引导计划剪枝和基于置信度行动修正处理，再用双重加权聚合结果。图 3（p.11）展示离线记忆构建、在线候选规划、剪枝、关键 token 检查、纠错和投票。

5.2 记忆引导的计划剪枝

开放式自然语言规划可能对陌生表结构与问题类型产生自信的逻辑幻觉。内部置信度可能失准，因此使用由历史成功与失败组成的双记忆作为外部锚点。

5.2.1 双记忆构建。 用收敛的 TableMind 在整个训练集生成并执行轨迹，收集自身常见成功策略与失败模式。语义解析器将自由文本计划转为 {FILTER,GROUP,AGGREGATE,…} 等逻辑原语序列；例如 remove rows、keep only 映射到 FILTER，丢弃列名、数值等具体参数，以表征可迁移的逻辑结构。

每项保存 (xⱼ,pⱼ,E(xⱼ),A(pⱼ))，分别为原问题、原计划、句向量检索键与抽象行动序列。正确答案轨迹进入正记忆 M⁺；可执行却答案错误的“迷惑性轨迹”进入负记忆 M⁻，例如本应求平均却求和。

5.2.2 检索后过滤。 新问题 x 首先温度采样 N 个候选计划，同时计算 E(x)，按余弦相似度检索 K 个历史实例，将其行动序列分为正原型与负原型。对候选 pᵢ 的行动序列，计算到最近正原型和负原型的 Levenshtein 编辑距离：

D⁺(pᵢ)=min_{a∈S_pos} Lev(A(pᵢ),a)；D⁻(pᵢ)=min_{a∈S_neg} Lev(A(pᵢ),a)（式 8）。

对比分数 S_con(pᵢ)=D⁻(pᵢ)−D⁺(pᵢ)（式 9），越大表示越接近成功模式、远离失败模式。按分数降序保留比例 ρ，形成 P*，优先执行结构较可靠的候选，同时保留一定多样性。

5.3 基于置信度的行动修正

计划确定后，模型生成代码。普通代码关键字、赋值符号等通常概率很高，会抬高整段平均置信度，掩盖真正重要的低概率变量或常量，称为概率稀释。

因此只统计语义重要 token：变量标识符、函数名、数字及字符串字面量。设 K 为这些 token 的位置集合，式 10 定义：

C(a)=exp[(1/|K|) Σ_{i∈K} log Pθ(aᵢ|x,a<ᵢ)]。

当 C(a)<τ_code 时，暂停执行，提示模型重点检查低概率标识符或常量并重新生成代码。这是在执行前干预，避免错误回溯污染上下文。原文把这一值解释为偶然置信度；它与经验正确率是否校准需另行验证。

5.4 双重加权轨迹聚合

剪枝和修正后得到 M 条轨迹 (pᵢ,hᵢ,yᵢ)：计划、完整执行历史、最终答案。多轮历史可以包含调试和中间推理。为降低单条路径波动，分别结合计划结构分数和行动置信度：

wᵢ = sigmoid(S_con(pᵢ)) · C(hᵢ)（式 11）。

sigmoid 将结构分数映射到 0—1，C(hᵢ) 综合历史行动的置信度。按最终答案分组，选择总权重最大的答案：

ŷ=argmax_y Σᵢ I(yᵢ=y)wᵢ（式 12）。

这一聚合优先考虑更接近成功模板、执行过程中置信度更高的路径，形成最终共识。

6 实验

6.1 实验设置

6.1.1 数据集。 混合训练数据来自 WikiTQ、TabFact 和 TabMWP。域内评价分别覆盖开放域表格问答、数学应用题和事实验证；HiTab 与 FinQA 只用于域外评价，前者要求理解层级表头，后者要求结合财务表格与文本进行多步计算。作者称使用各数据集官方测试集。

表 1（p.14）：

宽表格可左右滑动查看

译注：紧接表格的正文写“WikiTQ 和 TabFact 各 3,500、TabMWP 1,000”，与表中 WikiTQ/TabMWP 配比互换；此处保留两种说法，不自行择一认定为真实采样清单。

6.1.2 基线。 免训练方法为 Tab-CoT、PoTable、Chain-of-Table；微调方法为 TableLlama、TableGPT2、Table-R1；直接提示的通用模型包括 GPT-4.1、GPT-5、Gemini 系列、DeepSeek-R1、Qwen2.5-72B-Instruct。另给出骨干 Qwen3-8B 和前作 TableMind，用以显示训练与新增推理模块的增量。

6.1.3 实现。 骨干 Qwen3-8B。SFT 使用 200 条合成样本、1 epoch、学习率 10⁻⁶。RFT 使用 verl 与 vLLM；工具奖励 ρ=0.05、C=0.01、β=0.5，组大小 G=8，batch=128，学习率 10⁻⁶，温度 1.0，最多三轮工具调用，每轮最多 2,048 token；训练设备为四张 A800。

TableMind++ 为训练模型外的推理包装层，句编码器为 bge-m3。每题采样 N=16 条计划，检索 K=5 个历史原型，保留比例 0.5，即约八条继续执行。实现细节段写行动修正阈值 0.9。原文称为公平比较，各基线最终都采用 Pass@1 单个输出。

译注：最终只提交一个答案，并不意味着内部仅采样一条路径，也不等于各方法消耗相同计算；表 6 与公开脚本把默认阈值写为 0.8。

6.2 主要结果

表 2（p.15），单位 %：

宽表格可左右滑动查看

作者认为这些结果表明，TableMind++ 在域内与域外都达到先进水平，优于强专有模型和开源基线；与主要依赖提示的工作流相比，训练将推理能力内化；与 Table-R1 等强化学习方法相比，本策略仍有优势。相对前作 TableMind，新增不确定性机制继续提高逻辑、层级结构与数值任务表现，减少计算错误与幻觉。

译注：该表实际最高 HiTab 为 Gemini-2.0-flash 的 76.08，高于 TableMind++ 的 73.69，因此正文和表题中“所有基准均最佳”“持续超过所有专有模型”的笼统说法过强。相对 TableMind 的增量依次为 1.25、0.30、1.88、1.74、3.46 个百分点。

6.3 训练策略消融

作者分别移除 SFT、RFT、工具奖励或 RAPO，分析初始化、强化学习、多目标奖励及优化算法。

6.3.1 SFT。 比较不同样本量与 epoch。表 3（p.18）：

宽表格可左右滑动查看

200 条、1 epoch 的域内效果最佳，虽域外较基础模型略退步，却有利于建立工具协议、加快后续 RL。继续到 2 epoch 普遍下降，作者解释为小样本过拟合。图 4a（p.16）中 SFT+RL 的初始奖励与收敛优于纯 RL；图 6 中去掉 SFT 也降低最终表现。

6.3.2 RFT。 直接使用 SFT 模型、移除强化阶段，准确率明显下降。作者据此认为 SFT 只建立基本技能，执行反馈的 RL 能增强策略适应、中间纠错与泛化。

6.3.3 多目标奖励。 去掉 R_tool，只使用答案与格式奖励，整体表现下降。作者观察到更多冗长、无效甚至错误的工具链，且失去随训练衰减的探索课程后收敛更慢。工具成功激励与轮数惩罚因此具有辅助作用。

6.3.4 RAPO。 图 4b（p.16）中 RAPO 的奖励高于 GRPO，作者据此讨论样本效率与稳定性；图 6 的去 RAPO 变体最终表现也下降。

图 6（p.17）具体读数：

图 4 图题：SFT 初始化提高初始奖励并加快收敛；RAPO 相对 GRPO 取得更高、更稳定的奖励。图 5 图题：指令微调模型优于基础模型；更大参数规模得到更高训练奖励。

6.4 推理机制消融

表 4（p.19）：

宽表格可左右滑动查看

去掉计划剪枝，所有任务下降最多，作者认为高层计划正确是工具执行成功的前提；没有历史模板约束时容易混淆聚合与筛选。去掉行动修正也降低效果，表明提前检查低置信列名、参数和 API 有价值。去掉加权投票的下降较小但一致，说明跨路径综合可减轻偶发错误。原文由此把三个组件都称为达到最佳表现所必需。

译注：TabMWP“无计划剪枝”99.15 低于基础 TableMind 99.27，不能说每个变体在所有指标上都单调优于基础系统；微小差值还应结合重复运行波动分析。

6.5 深入分析

6.5.1 初始化和规模。 作者比较 Instruct 与 Base，图 5a 显示指令模型从初始阶段就有奖励优势，并持续收敛到更高平台，说明已有指令适配可减轻探索负担。对 Qwen3 1.7B、4B、8B 使用同一训练流程，图 5b 呈现规模越大、奖励越高的排序；作者认为更强表示能力有助于保持中间状态、协调工具与复杂推理。

6.5.2 工具使用。 图 7 左图（p.20）中，工具调用比例早期波动，模型在直接输出和工具执行之间探索，随后快速上升，最终接近 100%。代码通过率从约 60% 升到接近 90%。作者据此认为 SFT 建立语法基础，RFT 的执行反馈强化正确代码模式，并让工具使用策略更加稳定。

6.5.3 推理效率。 图 7 右图比较不同初始候选数下的自一致性与 TableMind++。作者报告，两者在较高候选数时准确率接近，但 TableMind++ 相对成本较低，因为提前剪枝、执行前修正减少了冗余尝试。原文据此强调在资源有限场景的价值，并使用了“突破准确率提高必然伴随指数级成本”的较强措辞。图中成本是相对量，未给出完整逐项绝对延迟。

图 7 的候选数为 1、5、10、20；两条准确率曲线并非每一点都由 TableMind++ 更高，而是体现准确率与相对成本的取舍。原图见 p.20。

6.5.4 错误分析。 从 TableMind 和 TableMind++ 各随机抽取 100 个失败案例，分为六类：逻辑规划、数据定位、格式遵循、代码语法、代码语义、答案整合。图 8（p.21）读数为：

作者认为规划和定位错误减少，使系统更常进入深层执行阶段，因此剩余错误中代码语义和语法所占比例上升，暴露骨干模型的能力边界。答案整合仍是最后一步的难点。译注：这里是分别条件于“失败”的构成比，并非全测试集错误率；不能单独据此断言某类绝对错误减少多少。

6.6 超参数敏感性

表 5（p.22）研究 RFT 最大工具轮数和温度：

宽表格可左右滑动查看

从一轮放宽到三轮明显改善，说明复杂任务需要多步交互；五轮略差，作者推测过多交互增加错误传播与冗余。测试范围内较高温度增强探索，1.0 最优。

译注：表 5 默认行 TabMWP 99.03、TabFact 92.33，与主表 TableMind 的 99.27、91.85 不同，原文未在此明确解释是否为不同运行。

表 6（p.22）研究推理检索 K 和修正阈值 τ：

宽表格可左右滑动查看

较小 K 对简单 TabMWP 更好，可能减少无关模板；较大 K 对复杂 FinQA 有益，增加参考覆盖；中间 K=5 综合较稳健。多数生成任务中阈值过严会误拒可用路径，因此中等阈值较佳；TabFact 则较严格的 0.9 更好。作者最终在此选择 K=5、τ=0.8。

6.7 案例研究

图 9（p.23）的问题是：该运动员奥运会马拉松最好名次与最差名次对应的完赛时间相差多少秒？模型先提取两个时间字符串 2:14:15 与 2:17:27；随后反思发现不能直接按字符串相减，需要转换为时间格式。第二轮用 Python datetime 解析并求差，得到 192 秒，再整合成 <answer>192</answer>。

作者用此例说明模型能动态分解问题、检查中间结果、调整策略并使用工具。图中的代码标为 pseudocode，包含简写和不完整可运行细节，不能将图示本身当作已执行日志。

7 结论

TableMind++ 将 SFT、RAPO 强化训练的基础能力与新推理结构结合，用记忆引导计划剪枝过滤逻辑幻觉，用行动置信度修正生成噪声，再通过双重加权轨迹聚合形成共识。作者报告多个基准上的提升，认为这种结合能够缓解表格推理风险。未来将扩展到多表环境、更多数据科学工具，并提高强化学习样本效率。

版本与复现说明

本译文保留原文数据，没有以代码默认值静默覆盖论文值。官方仓库在 2026-10-23 可访问，并包含训练与推理脚本、计划剪枝、记忆构建、行动修正和聚合源码；源码快照保存在上级 analysis_sources/TableMindPP_code/。本次只做文本和静态代码核对，没有运行四张 A800 的训练，也未复现主结果。论文与代码不一致之处及可靠性评价见 05_四篇论文拆解与证据评析.md。