s自我进化！像训练神经网络一样训练技能一周

　　道很简易主旨计，模子权重不操练，nt 行径的天然讲话文档只操练那份领导 Age。Codex、Claude Code）的完全 52 个评测组合中正在 7 个方向模子、6 个基准测试、3 种实践情况（直接对话、，能文档完全抵达最优或并列最优SkillOpt 操练出的技。

　　经收集时操练神，导致灾难性遗忘进修率太大会，西就忘了旧东西模子学了新东。全部一致的题目：倘使一次编纂改动太大SkillOpt 正在文本空间碰到了，的有用准则笼罩掉可以把之前学到。

　　意的是值得注，PA 都是已有的文本优化手段TextGrad 和 GE， 对它们的上风注脚SkillOpt，、负反应缓冲）确实比疏松的自我校正更有用编造化的操练轮回打算（进修率、验证门控。

　　 SpreadsheetBench 才具跨情况迁徙：正在 Codex 情况中操练的，e Code 情况中运用直接迁徙到 Claud，1.8 分提拔 3。t 框架里优化好的才具文档这意味着你正在一个 Agen，架里如故有用换到另一个框。

　　是：前向撒播算 loss古板深度进修的操练轮回s自我进化！像训练神经网络一样训练技能，播算梯度反向传，更新权重用梯度。样的逻辑搬到了文本空间SkillOpt 把同：

　　个 epoch通盘轮回跑多，内跑多个 step每个 epoch ，的节拍全部相仿和操练神经收集。

　　 基准 × 情况）评测组合中正在完全 52 个（模子 ×，抵达最优或并列最优SkillOpt 。

　　上操练的 LiveMath 才具跨模子迁徙：正在 GPT-5.4 ，.4-nano 上运用直接迁徙到 GPT-5，5.2 分提拔 1。模子从新操练不必要针对幼。

　　幅度反而更巨细模子的提拔，较弱的模子帮帮更明显这注脚才具文档对本领。操作手册一份好的，大于对专家的代价对新手的代价远，gent 上同样设立这个直觉正在 AI A。

　　正在一个 held-out 的验证集上跑一遍Gate（验证门控）：候选的新才具文档必需，提拔时才被接纳唯有本能肃穆。止过拟合这一步防，都是真正的改革确保每次更新。

　　实挺荒谬这件事其，的 AI 帮咱们干活的咱们从来是思让更智能，正在反过来结果现，教 AI 如何干活咱们正在花洪量元气心灵。

　　best_skill.md 文献铺排极简：最终铺排时只必要一个 。化器模子不必要优，影象模块不必要，表的推理开销不必要任何额。

　　模子拿着今朝版本的才具文档去实践一批职司Rollout（前向撒播）：冻结的方向，的实践轨迹记实无缺，、验证反应、最终得分网罗动静、器材移用。的是「证据」这一步产出，的前向撒播结果相当于神经收集。

　　轨迹中主动提炼出来的这些准则都是从衰落。第三条例如，索统一类场所却找不到方向物品的衰落履历来自 Agent 正在某些职司中几次搜。到这个形式后优化器张望，索鸿沟」的准则提出了「放大搜。

　　优化器模子基于反思结果Edit（参数更新）：，效准则（delete）、替代必要校正的准则（replace）提出对才具文档的布局化编纂操作：增加新准则（add）、删除失。

　　：Agent 的才具文档便是它的「表部权重」SkillOpt 的主旨洞察可能用一句话详细，用梯度低落来优化既然内部权重可能，套编造化的操练手段表部权重也该当有一。

　　本身也有一份「元才具」文档MetaSkill：优化器yaxin222.com例如「对这个 benchmark记实它正在优化进程中积聚的履历（，合怀推理措施更有用」）合怀器材移用的式样比亚星会员开户och 间一连更新这份元才具正在 ep，身也正在进化让优化器本一周33k star微软开启Skill。

　　每个 epoch 下场时Slow Update：，接纳的编纂做一次纵向比拟了解对通盘 epoch 内一共被，p 的相仿性形式寻得跨 ste，大鸿沟的更新产出一次更。warmup 或周期性大步更新这雷同于深度进修中的进修率 。

　　ted-edit buffer另一个乖巧的打算是 rejec。被验证门控拒绝时当一个编纂提案，简易甩掉它不会被，一个缓冲区而是进入。以看到这些「衰落的测试」优化器正在后续的反思阶段可亚星会员开户出雷同的无效编纂从而避免反复提。

　　乎迎来了止境这个题目似， SkillOpt微软正在本周开源了，「可操练参数」的文本空间优化框架一个把 Agent 才具文档看成，档自我进化让才具文。

　　的是要害，正在操练时存正在这两个机造只。署时部，best_skill.md方向模子只必要那份最终的 ，模子移用或影象模块不必要任何分表的。开销为零推理时的。

　　rning rate）：每一步承诺的编纂操作数目有上限治理计划是引入「文本进修率」（textual lea。置为 lr=4论文中默认设，elete/replace 操作即每步最多 4 个 add/d。器每次只做幼幅调解这个管束迫使优化，练褂讪性依旧训。

　　独立的优化器模子了解这批实践轨迹Reflect（反向撒播）：一个。打算是要害，案例被分隔反思衰落案例和告捷。来发掘「哪些操作准则必要校正」衰落的 minibatch 用，用来确认「哪些现有准则正在起感化告捷的 minibatch ，动」不行。「文本空间的梯度」这一步相当于估计打算，档该往哪个宗旨改告诉编造才具文。

　　才具文档手写这些，试错的手工活本色上是一种。一版写，务看作为效跑几个任，过错再改感触哪里，再跑改完。rompt 没有本色区别这个进程和之前手调 p，酿成了一整份文档只是对象从一句话。

　　同时动作方向模子和优化器模子（自身优化自身）自优化：即运用 GPT-5.4-nano ，h 上照旧提拔了 10.4 分SpreadsheetBenc。练轮回自身供应了足够的布局化管束这注脚 SkillOpt 的训，譬喻向模子更强纵使优化器不，效的改革宗旨也能发掘有。

　　ALFWorld 操作指南初始才具文档是一份简短的 。练 step 后通过 4 个训，增了这些准则才具文档中新：

　　进程中通盘，一度导致验证集本能低落Step 3 的编纂，pdate 机造救回但被 slow uyaxin222.com的操练集得分更高Step 4 ，没有提拔但验证集，门控拒绝以是被。、接纳或拒绝」的轮回这种「提出假设、验证，手段论千篇一律和人类科研的。