📖标题：Test-Time Learning with an Evolving Library
🌐来源：arXiv, 2605.14477v1
🛎️文章简介
🔸研究问题：如何在无需更新模型参数且缺乏外部监督信号的黑盒场景下，让大语言模型在测试阶段跨任务积累并演化通用知识？
🔸主要贡献：论文提出了 EVOLIB 框架，通过维护一个包含模块化技能和反思性见解的动态进化库，利用信息增益机制实现知识的自监督积累与复用。
📝重点思路
🔸构建双重抽象知识库：从模型推理轨迹中自动提取两类知识单元，一是可复用的模块化技能（如代码函数、推理子步骤），二是记录常见错误与修正策略的反思性见解。
🔸设计动态加权演化机制：引入信息增益（IG）衡量知识对当前任务的即时效用，并利用未来信息增益（Future IG）评估其生成有价值新知识的潜力，据此动态调整库中条目的采样权重。
🔸实施知识合并与巩固：利用嵌入相似度检索库中现有条目，通过大模型将语义相似的新旧知识合并为更通用的抽象形式，防止库膨胀并促进知识泛化。
🔸执行自监督闭环流程：在无真实标签情况下，利用模型自我评估解法质量，基于评估结果提取新知识、更新权重并巩固库内容，实现持续的测试时学习。
🔎分析总结
🔸EVOLIB 在数学推理、代码生成及多轮智能体任务等多个基准测试中，性能显著优于现有的测试时缩放方法及依赖线性记忆更新的测试时学习方法。
🔸消融实验证明，同时使用模块化技能和反思性见解比单一类型效果更好，且跨任务共享知识库比分例独立建库能带来更大的性能提升。
🔸知识合并机制至关重要，它不仅有效控制了知识库规模的增长，还促使特定任务的具体经验演变为适用于多任务的通用抽象。
🔸该方法在持续学习设定下表现出极强的鲁棒性，即使在任务顺序随机打乱的情况下，仍能稳定积累知识，克服了传统方法对课程学习顺序的依赖。
💡个人观点
论文突破了测试时学习依赖梯度更新或外部奖励的限制，引入了“未来信息增益”概念。这使得系统不仅能利用现有知识解决问题，还能主动筛选出具有长远演化潜力的知识单元。
