如同模型的何设置不
在硬件、同模
开 high 的何设时候,随时纠偏。同模
他的何设结论是,
我最近开发新功能时,同模
概要
01Claude Code 团队的何设 Thariq(@trq212)前两天发了一篇长文,
一个很典型的同模例子是 html-js-filter。
但并不是何设每个任务都需要下这么大的功夫。看它分别会干些什么。同模开 high 就做出来了,何设并渲染出一个测试 ROM
• 科学题 takens-embedding-lean,于是我深挖了一个自己很喜欢的基准,但我还是想和 Claude 一起做些探索呢?
我拿来举例的,然后用 low 或 medium 实现,
就这个任务而言,
开 low 的几次尝试,就结束了。medium 4 分钟、我用不同的 effort 跑了好几个任务,你大概希望它在这个任务上花多少算力。能装进一块小 FPGA,把自己的求解器和另一个暴力求解器做对比,Claude 会先把崩溃复现出来,比如实现新功能
• high 适合验证很重要,各个模型的表现就接近多了。只在细节上有些不同。要求端到端地走完一家公司的月末欧盟贸易统计申报
• 媒体题 layout-config-recreation,那就用 max。也同样说得通。安全这类边界情况特别多的任务上,
mvcc-lsm-compaction 这道题,再加上更好的搜索。只不过耗时也从 2 分钟涨到了 33 分钟。要求把一张海报图还原成一个可编辑的排版文件
边界情况越多越该调高
11读完 Terminal-Bench 3 的结果,
Terminal-Bench 3.0 的题目大致可以分为安全、
开 low 的一次典型尝试,让它就我漏掉的细节来采访我
• 用 low 实现
• 检查一遍,
如果我的目标是边迭代边给反馈,以及会替你拿多少主意。高 effort 的收益非常明显。或者在关键软件里找安全漏洞
大家可以根据手头的任务,把所有能往页面里偷偷塞 JavaScript 的路子都堵上。Claude 完全有能力做完。要比别的领域多得多。检查一遍它做出来的东西,而且也没有检查它新写的测试,如果有人让你花整整 12 个小时去做一件事,)
总的来说,
什么是 effort
03简单来说,我从 Terminal-Bench 3.0 的不同领域里挑了几道题。我拿到的是一个能把想法传达出来的交互草图,Fable 5.1 开 low 的时候 5 次只过了 1 次,
low 能让 Claude 很快给出一个起点。high 11 分钟,然后跑了大量干净的测试用例,看一遍方向对不对,测多少边界情况,
下面这张图,effort 就是在告诉模型,漏掉边界情况的失败从 59 次降到了 24 次,可以去 claude.dev 的博客上看,以及它会在多大程度上自己拿主意。
他自己现在的开发流程,最好的办法就是做实验。以及为什么不干脆一直开 max。)
为了说明这一点,科学、
对于 HTML 过滤器这种边界情况极多的东西,它先是站在对手的角度审查了一遍自己的初稿,或者边界情况很多的工作,我测了各种各样的工作,Claude 试了两种数据预处理方式,然后预期之后还要再迭代。发现显著的处理列表变了,很多题目的范围和野心都让我挺惊讶的,token 却只用了一半。画草图、要求用 Python 写一个命令行的线性规划求解器。
effort 曲线
04Fable 5.1 和 Opus 5.5 的 effort 曲线,
在硬件、只是看起来不怎么像 Claude Code。然后花上 3 个小时把它做完。选哪一档 effort,
开 low 只用了 1 分钟,effort 到底是什么?什么时候该用哪一档?我们为什么需要 effort 这个东西呢?
为了回答这些问题,Opus 5.5 开 low 的时候没做出来,有些问题领域从 effort 中得到的好处,到了 max 甚至还多出了一张热力图。再在日常工作里亲自测一测不同的 effort。比如在老代码库里修 bug
• max 适合想让 Claude 完全自主地去解决难题的时候,
比如其中就有这么几道题:
• 硬件题 retro-console-soc,
gsea-proteomics 这道题,
cli-2ph-simple 这道题,比我平时遇到的一般任务要复杂得多。也会让 Claude 一路上替我做更多的选择。让我挺意外的一点是,比如端到端地构建并验证一个 App,是先让 Claude 反过来采访自己,用不同的 effort 去实现。确认它把大方向做对了,
effort 也是同样的道理。
如果有用户在回路里,很大程度上取决于我想在多大程度上参与其中。token 却只用了一半。再把得到的需求文档交给不同模型,
而如果想快速把事情做完,用得特别顺的是这么一套流程:
• 给 Claude 一份需求,最后切到 high 做验证和测试。
那如果差别在于 Claude 到底能不能把任务做完呢?
要找到这类难题,通过数从 140 涨到了 214,但在没有用户参与的情况下,还专门检查了自己的测试在修到一半的代码上会不会失败。需要的话继续用 low 迭代
• 用 high 做验证和测试
Terminal-Bench 里的难题
10当然,
开 low 的时候,还能让你一直留在回路里,开到 high 过了 4 次。要求用 Lean 4 形式化证明 Takens 嵌入定理
• 机器学习题 mp-checkpoint-consolidation,遇到大问题可能会很慢,但它并没有去验证。low 和 medium 其实已经够用了,
如果我只想要一个简单的底子往上迭代,任何人都可以贡献,
需求模糊的健身 App
06如果我让 Claude「做一个个人健身和训练记录 App」,
Claude Code 里怎么选
13下面是我自己选 effort 的一些经验:
• low 适合想要快速响应、细节越多,Fable 5.1 开 low 的时候 5 次只过了 1 次,其中「选错了对题目的理解」甚至还从 25 次涨到了 47 次……)
哪些领域最吃 effort
12用 Terminal-Bench 评测这些模型时,实现也类似,代码审查和安全这类验证和边界测试更有用的领域,也把基准测试的结果仔细翻了一遍。
四档的耗时依次是 low 1.5 分钟、
我发现有了这份需求文档之后,开到 high 则 5 次全过。
对于常规的软件工程,能让你感受到这些模型面对的究竟是什么样的问题。还是 high 的表现更好。
开 low 的时候,最后再用 high 跑验证。自己做判断、
同一道 HTML 过滤器的题,他基本只留给两种情况,主要原因都是它去测试并处理了那些边界情况。我发现 effort 很适合用来调节 Claude 做多少验证、大约要 33 分钟。Opus 5.5 开 high 的分数和 Fable 5.1 开 max 差不多,那 low 和 medium 就非常合适了。多花这些力气是非常值得的。
在我追踪的那一次里,机器学习、每一轮给出的思路都大同小异,
开 high 跑完一次,都是一遍写完求解器,
问题
02Using Claude Code: Spending your effort
我们最新一代 Claude 模型有一点特别好,App 就越复杂、到底能不能抓到原来那个 bug。effort 越高,题目都来自社区,
总体来看,
开 xhigh 的时候大约要 11 分钟,
同一个任务跑四档
05要理解模型是怎么工作的,Claude 会拿随机问题,你会尽量交出一个满足需求的最好版本,比如性能优化或安全审查,
不过关于这个,再对照一个从不做 compaction 的参考实现写随机化测试,基准分数和 token 消耗都会跟着上升。这个健身 App 只有一个日志和一张简单的图表。Claude 也许会去问用户这个问题该怎么设定。上面这些都只是些简单的例子,尤其是开发新功能,我拿到的原型看起来已经非常像 Claude Code 了,
◇ ◆ ◇
要求根据一份崩溃报告修复存储引擎里的一个 bug,是我为这篇文章跑评测时测得的各档 effort 下的 Terminal-Bench 3.0 分数。就算开到最高也只有 22%。开 max 则用了 28 分钟,一是完全不想插手,提高 effort 往往能减少因为漏掉边界情况而导致的失败(紫色方块),
(这篇文章还有更多交互式图表和讲解,和 Fable 5.1 开 max 分数相当,想留在回路里的时候他用 low 用得多得多,然后再给更大的问题计时,报告了结果。只是 effort 越高,
开 low 的时候每次大约 1 分钟,而且在 Claude Code 里切换 effort 也不会破坏 prompt cache。或者要找安全漏洞的时候才开。
(安全类从 64% 涨到了 87%,运维和媒体几类。又跑了一套标准的 XSS 测试集,我最大的收获是,自己做验证。而运维这种照章办事的工作,max 则干了 67 分钟。Opus 5.5 开 low 的时候 5 次全挂,
需求很详细的时候
08那如果我给 Claude 大量的细节呢?
我先让 Claude 就这个健身 App 深入地采访了我一遍,
我的开发流程
09对于常规的软件工程,给 Opus 5.5 和 Fable 5.1 换换不同的 effort,二是要找安全漏洞……
以下是全文翻译。接着去读已安装的解析器源码找 bug,还附带了一堆不同流程的演示。Opus 5.5 开 low 的时候 5 次全挂,我还是更喜欢用 low 来了解 Claude 的构想。最后还写了一个随机文档 fuzzer。便先去深挖了原因,高 effort 最适合那些藏着大量边界情况的任务。简单的改动
• medium 适合我大部分日常的软件工程工作,多花点 token 换来周全,每往上调一档,
在 Terminal-Bench 3.0 上,这道题要求写一个 HTML 过滤器,但 max 一上来就能给我一个精致得多的东西。我现在的流程是先让模型采访我,代码审查、而如果我想要 Claude 一次出手的最好成果,用子菜单,专门讲 effort 这个参数到底是什么、Claude 选了一种听起来挺合理的数据预处理方式,大约只要 2 分钟。我决定把评测数据好好翻一遍,是我们迄今为止最好的,以及它们在不同模型和 effort 下是怎么失败的。就得去看基准测试了。Claude 会多花些时间把一些细节简化掉。就按这一种方式跑完分析,effort 调的其实是 Claude 会花多少力气去做验证、而对于那些生产要求很高的复杂任务,却治不了模型思路本身就错了的问题(蓝色方块)。
但他也提到,硬件类从 34% 涨到了 75%,于是把搜索部分重写了一遍。(用 Opus 5.5 的 token 消耗是有点慢)
但这在实际使用中意味着什么呢?
为了弄清楚这一点,测边界情况,要求把一个混合专家模型的 16 个 checkpoint 分片合并成一个文件,这里就挑几个简单的例子来说明。
重新设计 /config 菜单
07那如果任务本身已经比较明确,要求对蛋白质组学数据做基因集富集分析(GSEA),链接见文末。effort 会极大地影响这个 App 的完整程度,要求用 Verilog 做一台 8 位游戏机,我收到了不少用户的提问。再用 low 或 medium 去实现,
我在 Opus 5.5 上用几档不同的 effort 做同样的任务,
又或者,而 max 基本只在完全不想插手,
开 high 的时候,你可能会跟对方说这件事至少得 3 个小时,再选出正确的那一种。判断失误类的失败则只从 133 次降到 107 次,effort 能补上漏掉的边界情况,硬件、把需求问清楚,
无论开哪一档,结果撞上了跑太久甚至崩溃的情况,设计看起来差不多,这些尝试基本都是一遍把过滤器写完,大约用了 1 万 token 就停了。
随后,拿几个小问题检查一下,Claude 在最后的回复里也提醒了,Claude 都会尽量合理地完成你的任务。也没跑复现程序之前就动手改代码,
下面这张图列出了 Terminal-Bench 3.0 的每一个结果,直到输出和输入完全一致,Claude 会在还没编译、就是它们对 effort 的变化响应得很好,更高的 effort 能完成更多的工作,low 能快得多地到达目的地。而日常开发的话,
这些题很值得读一读,你大概会觉得对方就是想让你全力以赴。然后拿一个手写的页面测一下,自己一直在回路里的时候,
而如果同一件事只给你 1 个小时,Claude 就会越多地自主行动,同时还不能把 compaction 搞坏。是让它重新设计 Claude Code 里的 /config 菜单。甚至在对话中途用 Claude Code 里的 /effort 命令来切换,Opus 5.5 开 low 的时候 5 次全挂,软件、开到 xhigh 过了 4 次。Opus 5.5 开 high,开 max 的时候,
至于 max,却救不了一开始就想错了的思路。low 就够了。加大 effort 能带来更好的结果。并能复现参考 logits
• 运维题 intrastat-meldung,
(图里是 Fable 5.1 在 low 和 max 下各跑的 370 次尝试,也就是由社区贡献题目的 Terminal-Bench 3。什么时候该调高,这和你对任务难度的判断也有一定的关系。同时自己也一直参与其中,比如头脑风暴、然后告诉我这和你的直觉是不是一致。
图里有个细节,但 Claude 也会替我做更多的假设。
可以这么理解,




