把 1,789 份真实税务卷宗直接甩给当前最顶尖的 AI 智能体,不给明确提示,只让它们像人类注册会计师一样独立交出报税表和顾问方案,最高通过率只有 10.8%。
这是数据标注与评测机构 Surge AI 在 2026 年 10 月 27 日发布的专业税务基准测试 DAYJOB: Tax 给出的成绩单。该测试覆盖个人报税、合伙企业、跨国税务等 8 大领域的 50 项真实任务,单任务文件数中位数为 30 个(最高达 123 个),包含 1,487 份 PDF、117 个 Excel 工作簿、38 份 Word 文档以及手写收据照片等非标凭证。在要求单次尝试满足至少 95% 评分标准的规则下,Anthropic 旗下模型包揽前三,Claude Sonnet 5.5 以 10.8% 夺冠,而 OpenAI 的 GPT 6 系列与 xAI 的 Grok 4.7 均被压在 6% 以下。目前该基准仅公开 2 个样本任务,其余 48 个需向官方申请获取。
| 模型名称 | 推理配置 | 通过率 (pass@1) | 250次测试通过数 |
|---|---|---|---|
| Claude Sonnet 5.5 | Adaptive/Max | 10.8% | 27 次 |
| Claude Fable 5.1 | Adaptive/Max | 9.6% | 24 次 |
| Claude Opus 5.5 | Adaptive/Max | 9.2% | 23 次 |
| Muse Wonder 1.0 | Max reasoning | 6.0% | 15 次 |
| Grok 4.7 | xHigh reasoning | 5.0% | 12.5 次(折算) |
| GPT 6 Astra | Max reasoning | 4.8% | 12 次 |
| GPT 6.1 Sol | Max reasoning | 4.0% | 10 次 |
困住顶尖模型的,是客户没问出口的问题
为什么在各类资格考题里横着走的旗舰模型,一进真实卷宗就集体溃败?因为做题和干活是两码事。在 DAYJOB: Tax 里,模型翻车往往不是因为算错了税率,而是太听客户的话,缺乏职业怀疑精神。
第一个典型盲区是漏掉客户没意识到的致命期限。测试中,客户 Anna 在 2024 年 8 月搬离名下公寓,询问在 2026 年 10 月还是 2027 年 1 月完成房产交割更省税。模型正确算出了这两个时间点都符合过去五年自住满两年的规定,能拿到最高 25万美元 的资本利得免税额。但 GPT 6 Astra 在全部 5 次尝试中都漏掉了一个关键预警:由于她 2024 年 8 月搬出,这个免税资格将在 2027 年 8 月底彻底过期;一旦买家违约或交割拖过 8 月,25 万美元免税额直接归零。唯有 Claude Opus 5.5 在 5 次尝试中全部主动指出了这条死线。
第二个盲区是轻信客户的错误自述,不核对底层非标证据。一家工业筒仓服务公司的老板在需求里默认自己只在阿拉巴马州经营。如果 AI 顺着老板的话往下算,整份税表从根上就是错的——因为翻开工作区里的现场派工单照片,施工队实际上跨了五个州干活,直接触发多州税务合规义务。另一个分居夫妇分割退休账户(Roth IRA 与 401k)的案例里,Claude Opus 5.5 反而栽了跟头:它在全部 5 次尝试中都假设两人未婚,建议直接用现金找平,却无视了卷宗里两人曾在得克萨斯州同居并在科罗拉多州办过仪式的记录(得州承认事实婚姻,且跨州继续有效)。反倒是排名靠后的 GPT 6 Astra 在 5 次中有 4 次果断叫停,要求先核实合法婚姻状态。
从 77.7% 到 10.8%,差在谁来定义问题
如果把视野拉宽,你会发现财税 AI 圈子里有个奇怪的割裂:在另一家财税机构 Rivet 发布的同名基准测试 TaxBench(由 40 多名会计师验证、包含 250 多个真实工作流场景)中,榜首模型的单次通过率高达 77.7%。为什么到了 DAYJOB: Tax 里,最强模型立刻暴跌到 10.8%?
核心差异在于问题定义权在谁手里。早期 Patronus AI 发布的 FinanceBench(含 10,231 个财报问答)以及 Intelligence Consortium 发布的 114 题 TaxBench,本质上都是人类把问题边界框死,考 AI 检索和做题;Rivet 的 TaxBench 进了一步,考的是切分好的单一工作流节点(即便如此,其连续 5 次全对的 pass^5 指标也跌到了 29.3%)。而 DAYJOB: Tax 模拟的是把一整袋烂账直接扔在合伙人办公桌上:账本里写着附有报销收据,但文件夹里根本没有那张收据照片;波兰的跨国雇佣记录要和加密货币钱包历史去对账。
能算清账目只是熟练工,敢推翻客户的错误假设才配在底稿上签字。
古人讲尽信书则不如无书,在专业咨询行业,尽信客户的口头交代,往往就是会计师吃罚单的开始。过去二十年,财税软件(如 TurboTax)之所以没能消灭会计师事务所,正是因为软件只能处理结构化填空,而人类会计师的核心溢价在于从一团乱麻的手写收据和聊天记录里,揪出客户自己都不知道的合规雷区。当前大模型在单点任务上已经是个合格的实习生,但一旦要求它端到端接管项目、自己决定哪里可疑需要深挖,能力断层立刻暴露无遗。
拆解 10.8% 背后的连坐制与排名幻觉
不过,如果直接拿着 10.8% 这个数字去宣判 AI 在财税领域毫无用处,也掉进了另一个统计陷阱。翻开该基准在 Hugging Face 上披露的底层文档以及学术审稿平台 Pith 对 DAYJOB 系列方法论的审视,这个惨烈分数背后有三个必须在意的计算前提。
首先是极其严苛的连坐制计分。DAYJOB: Tax 的每个任务平均包含中位数 30.5项 细分评分标准(涵盖计算、证据核对、重大风险提示等)。评测规则要求单次交付必须满足至少 95% 的标准才算通过——这意味着在一个包含 30 个得分点的复杂跨国税务底稿里,AI 哪怕做对了 28 项,只要漏掉 2 个细节,整道大题直接记为 0 分。10.8% 代表的是端到端完美交付率,而非模型只懂 10.8% 的税务知识。
其次是榜单排名的统计脆弱性。整个测试对 50 个任务各跑 5 轮,总计 250 次尝试。换算成绝对次数,榜首 Claude Sonnet 5.5(10.8%)通过了 27 次,第二名 Fable 5.1(9.6%)通过 24 次,第三名 Opus 5.5(9.2%)通过 23 次。前三名之间其实只差了 1 到 3 次成功。此前 Pith 对 DAYJOB 医疗与金融论文的审稿就曾指出,该系列评测未报告置信区间,也缺乏人类专家与机器裁判的一致性(human-judge agreement)盲测数据;在如此微弱的绝对频次差距下,前三名的座次随时可能因为裁判模型的微小误判而洗牌。
再者,测试环境切断了所有外部网络访问,智能体不能联网查各州最新税法变动,也不能下载外部 Python 扩展包辅助处理数据,只能靠模型内置知识和本地沙盒硬算。
- 风险.切勿因为 Claude 5.5 系列包揽榜单前三,就在无人复核的情况下将复杂税务委托直接交给 AI 端到端自动执行;在中位数 30.5 项指标的复杂卷宗中,当前任何模型都有近九成概率在关键证据链或隐蔽截止期上踩雷。
对于正在采购或开发财税 Agent 的事务所与企业团队来说,这份榜单真正划清的是人机分工的边界。把凭证 OCR 识别、单表数据勾稽、已知规则试算这类边界清晰的活交给 AI(这也是 Rivet 测出 77.7% 准确率的舒适区),能省下大量基础工时;但审视客户自述的真实性、在缺失收据时叫停流程、以及为 Anna 标出那个 2027 年 8 月的免税大限,依然得靠人类会计师把最后一道关。接下来最值得紧盯的两个变量,一是独立机构能否对 Surge AI 闭源的 48 个测试环境进行裁判一致性盲测,二是放开联网法规检索工具后,这批旗舰模型的完美交付率究竟能往上弹多少。
