# Open Questions

| Paper | Follow-up / Limitation | Source |
|---|---|---|
| [2204.01171](../2204.01171/report.md) | **核心 assumption 与脆弱点。** 整套分析的根基是"fine-tune 后的 GPT-2 是合理的 oracle 近似"。oracle 是在与 prompt 同源的数据上 fine-tune 的，这让近似站得住脚，但若换其他 oracle 选择，结论是否稳健作者承认未验证（列为 future work）。此外二次上界 $T^2\epsilon$ 是 behavior cloning 的**最坏情况**界，实验观察到的"近二次"增长是经验现象，不等于理论上界被取到。 | assumption |
| [2204.01171](../2204.01171/report.md) | **实验覆盖与回避。** 论文聚焦单一模型族（GPT-2）、单一数据集（Wikitext-103）、单一任务（开放式续写）。它**没有**真正去评估那些声称缓解 exposure bias 的训练方法（MRT、SeaRNN、REINFORCE、Scheduled Sampling）——只在解码维度上做了实验。因此"训练算法能否降低累积误差"这个最有应用价值的问题被留作未来工作。结果三给出的也是相关性而非严格因果证明（虽然作者通过"解码不影响 $\epsilon$"做了部分因果隔离论证）。 | limitation |
| [2204.01171](../2204.01171/report.md) | **值得 follow up 的方向。** (1) 用本文的 $\text{\%ExAccErr}$ 指标去 benchmark 各种非 MLE 训练方法，验证它们是否真的降低累积；(2) 探索能直接最小化 inference-time regret 的训练目标（这正是 DAgger 类方法在模仿学习里的思路）；(3) 把分析推广到条件生成（翻译、摘要）与更大模型，看二次累积是否随规模缓解。这篇论文为"用模仿学习的 distribution shift 理论来理解并改进语言生成"提供了干净的理论接口。 | followup |
| [2407.10490](../2407.10490/report.md) | **核心假设与失效边界**：整个框架建立在一阶泰勒展开($\mathcal{O}(\eta^2)$ 余项可忽略)和 eNTK 相对稳定两个假设上。前者要求学习率不能太大;后者在 LLM 微调这种「轻量更新」场景下作者做了 MNIST 和 LLM 两端的实证验证,但若微调幅度很大(表征剧烈漂移)假设会松动。挤压效应的解析证明只在单 token($L=1$)的逻辑回归上严格成立——在真实自回归、正负梯度同时作用、两个 eNTK 项相互竞争的设定下,作者坦承会更复杂,并把 token 级的严格分析(引用 Razin et al. | assumption |
| [2407.10490](../2407.10490/report.md) | **实验覆盖与回避**：实验集中在 410M–2.8B 的小模型上,胜率提升虽一致但模型规模和绝对性能都不高,extend 方法是否能 scale 到生产级模型尚无证据。评估依赖 LLM-as-judge,存在评判偏差。框架是**解释性**的,主要贡献在「理解」而非「刷榜」——extend 只是一个证明洞察可操作的玩具级方法,作者也明确说它可以进一步结合改写增广、与现有 RL-free 方法组合。 | limitation |
| [2407.10490](../2407.10490/report.md) | **值得 follow up 的方向**:(1) ChatGPT 响应的「指纹」相似性——能否用 eNTK 度量模型生成内容的同质化;(2) 把挤压效应推广到任何「对低概率结果施加大负梯度」的深度学习系统(unlearning、对比学习等);(3) 与自我提升算法(self-reward、iterative DPO)结合时,挤压效应导致的 self-bias 放大可能带来更严重的后果,值得警惕。 | followup |
| [2504.09858](../2504.09858/report.md) | **核心 assumption 与失效场景。** NoThinking 默认是：训练阶段已经把解题分布写进模型权重，推理时显式 CoT 只是"展开思考的一种形态"，不是必要 enabler。所以 NoThinking 在 distilled reasoning model 上 work，在 vanilla instruct model 上没有红利（Qwen-Instruct 的 pass@k 几乎是平的）。同理，对没有 thinking box 协议的闭源模型（GPT-4o-style）也做不了——你没有 prefill 入口。LiveCodeBenc… | assumption |
| [2504.09858](../2504.09858/report.md) | **实验覆盖与回避。** 覆盖 math（AIME、AMC、Olympiad）、coding（LCB）、formal proving（MiniF2F、ProofNet）三大类，模型规模 7B–32B。回避：闭源大模型；非 distill 训练的 reasoning model（如直接 RL）；多轮 agent 任务；超长上下文 reasoning（>10k token 的 deep research 类）。能力与 base 任务的对应关系（哪些数据点必须靠长 thinking，哪些不必）也没拆。 | limitation |
| [2504.09858](../2504.09858/report.md) | **值得 follow up 的方向。** （1）NoThinking 在 distilled vs RL-trained reasoning model 上的差异——红利是否专属于 distillation？（2）训练一个对 NoThinking 友好的 reasoning model，比如显式优化短输出 + 并行多样性；（3）针对 confidence-based selection 在 coding 上失败的问题，设计跨模态可比较的 lightweight verifier；（4）和 latent reasoning 的组合——是否可以让 thi… | limitation |
| [2504.09858](../2504.09858/report.md) | **定位。** 和 efficient-reasoning 这条线（L1、变长 CoT SFT、latent reasoning、Sketch-of-Thought）是 orthogonal：他们都是想压缩 thinking，作者直接证明可以完全跳过。和 best-of-N / self-consistency 也不冲突，作者明确说不打算 innovate sampling，而是用 sampling 把 NoThinking 的 pass@k 红利兑现。和 s1 的 budget forcing 是工具关系，借来做公平对比。 | followup |
| [2504.13837](../2504.13837/report.md) | **核心 assumption 与边界条件。** 论文最大的 assumption 是「基座模型的 pass@256（或 pass@1024）可以代理它的能力上界」。作者用 CoT 人工核验和代码任务（无法蒙）来支撑这个代理的有效性，但它本质上仍是经验性的——在更大 *k*、更长训练、更大规模算力下是否还成立，作者自己也明确列为开放问题。论文用 Magistral-Medium（近前沿、纯 RL）API 做了初步验证，结论依然成立（小 *k* 领先、大 *k* 收敛），但承认无法接触 R1-Zero、o1 等最强模型的基座，结论需在这一约束下解读。 | assumption |
| [2504.13837](../2504.13837/report.md) | **回避了什么 / 局限。** (1) 论文没有训练超大规模、超长步数的 RL 来直接测试「scaling 能否最终突破基座」，只能留作未来工作——这是它结论最大的不确定性来源。(2) 评测的 RLVR 模型大多是社区开源的中小规模模型，最强的闭源 pipeline（o1、R1-Zero 完整版）无法纳入。(3) 单纯比较「现有 RLVR 实现」，不能否定「存在某种 RL 范式能突破基座」的可能性——论文标题里的「current」是关键限定词。 | limitation |
| [2504.13837](../2504.13837/report.md) | **positioning 与 follow-up 方向。** 这篇是 2025 年关于「RL 到底给 LLM 带来了什么」辩论中被引用最多的「质疑派」工作之一。它没有否定 RLVR 的实用价值（pass@1 提升是真实的），而是精确地把 RLVR 重新定位为「采样效率优化器」而非「能力扩展器」。作者指出的突破方向都指向「如何注入或发现先验外的新能力」：(1) 高层抽象的探索（如 AlphaEvolve 在程序级抽象空间自进化）；(2) 课程学习 + 大规模数据-RL 迭代，把难题分解成可获得奖励的子任务；(3) 过程奖励 / 细粒度信用分配，替代纯二… | limitation |
| [2504.13837](../2504.13837/report.md) | **「为什么 RLVR 被界定」的机制解释。** 作者在 Discussion 给出一个有说服力的论证：传统 RL（Go/Atari）从零开始、动作空间小，可以无上界地探索；而 LLM 的动作空间（token 序列）指数级巨大，从零探索几乎不可能，所以 RLVR 必须依赖**预训练先验**作为起点。但先验是双刃剑——naive 的 token 级采样探索几乎只能采到先验内的路径，任何偏离先验的样本大概率是无意义输出、拿到负奖励。policy gradient 的目标（最大化先验内正确样本的似然、最小化先验外样本的似然）天然把策略往先验内收缩。这就从优化… | followup |
| [2505.06120](../2505.06120/report.md) | **核心 assumption 与边界。** 本文的退化结论建立在 sharded 模拟之上，而这个模拟是**刻意理想化甚至偏对抗性**的：每轮恰好揭示一个 shard、对话保证以"信息足够"结尾、high-level 意图永远在第一轮出现。作者自己强调这**不代表真实人机对话**，并明确把它定位为研究"LLM 行为"而非"用户行为"的工具。值得注意的是作者论证：正因为模拟条件如此温和（没有用户中途放弃、术语误解、不可解目标等），**真实世界的退化只会比这更严重**——观测到的降幅是下界而非上界。 | assumption |
| [2505.06120](../2505.06120/report.md) | **什么任务会触发迷失。** 作者用第七个任务 **Translation**（逐句翻译）做反例：它在 Sharded 下**不掉点**，因为翻译可以逐句独立完成、是 episodic 的。由此归纳出触发"迷失"的三个任务性质：(1) 生成式（非抽取/分类）；(2) 足够复杂、能拆出多个 shard；(3) **解不可分解**——揭示一个新 shard 会改变整个解（翻译则只是追加，不改变已有部分）。这个反例非常关键，它界定了结论的适用范围，也解释了为什么 episodic benchmark 测不出这个问题。 | limitation |
| [2505.06120](../2505.06120/report.md) | **局限与 follow-up。** 实验局限于英语、文本、分析型（非创意）任务，BLEU/LLM-judge 等指标本身也有缺陷。值得跟进的方向：创意写作等开放任务上是否同样迷失；多语言/多模态下的表现；以及对 LLM builder 的明确呼吁——**联合优化能力与可靠性**，目标是多轮下 $U_{10}^{90} < 15$ 且在 $T=1$ 下达成。给用户的现实建议则很务实：**对话跑偏了就重开**，并让模型"把我说过的都整合一遍"再带到新对话。 | limitation |
| [2505.12929](../2505.12929/report.md) | **核心 assumption 与适用边界。** 理论部分依赖 Assumption 4.1：每层 Jacobian 的奇异值有正的上下界（$c_\ell, d_\ell$），即网络"良性"、梯度流稳定。作者称这与标准网络设计一致、不算苛刻——合理，但这把所有层乘积塞进常数项，使得"$(1-\pi)$ 主导梯度范数"的结论在深层网络上严格性会被 $\prod c_j / \prod d_j$ 这个可能很宽的区间稀释；图 1(d) 的经验吻合是更有说服力的支撑。方法本身**不限于 GRPO**，对所有 policy-gradient 类算法都适用（附录… | assumption |
| [2505.12929](../2505.12929/report.md) | **定位与 follow-up。** 这篇工作和 DAPO、Dr.GRPO、Xiong 等人的 update-bias 研究是正交互补的——它们改的是 response-level / prompt-level 的偏置，本文改的是 token-level 的梯度幅度偏置，理论上可以叠加。值得跟进的方向：(1) 把 $(1-\pi)$ 这个洞见做成更原则化的梯度归一化，而非线性 reweight + 硬阈值切分这种 heuristic；(2) 自适应地确定 $\alpha / \eta$，免去任务敏感的调参；(3) 在更大模型、更接近真实 RLHF 的场… | assumption |
| [2505.12929](../2505.12929/report.md) | **实验覆盖与回避。** 收益高度依赖任务特性：在需要长期持续学习、难样本多、正样本稀疏的 K&K 上效果惊艳；在快速收敛的数学任务上则只是温和改善。这暗示该方法的真正价值场景是**困难、需要深度探索的推理任务**，而非已接近饱和的任务。两个方法叠加在 K&K 上有增益、在数学上无增益，说明它们在不同任务上的作用机制并不总是互补——这点作者诚实地标了出来并给了使用建议。另外 Lopti 计算翻倍是实打实的成本，对大规模训练不友好；相比之下 Advantage Reweighting 零开销，性价比更高，但超参对任务敏感。 | limitation |
| [2505.16142](../2505.16142/report.md) | 核心 assumption 有两条值得追问。其一，作者预设"教师的 meta-reasoning 步骤序列是该问题的『正解结构』，学生越像教师越好"；当教师本身在某些题上走的路径不是最优时，RLKD 会把学生绑死在一个次优结构里。其二，GSRM 用 7B 模型做语义匹配判断（Qwen2.5-7B-Instruct 当 judge），这个 judge 的判断力上限就是整个 reward 的上限——遇到 GSRM 自己理解不了的领域（论文实验只覆盖 math、science、code、puzzles，且训练数据来自 OpenThoughts-114k 这一… | assumption |
| [2505.16142](../2505.16142/report.md) | 这篇文章最有价值的贡献其实不是 GSRM 这个具体模型，而是把"reasoning 蒸馏失败"的诊断推到了 reward granularity 这一层：SFT 的 reward 太稠密但语义错位（每个 token），outcome reward 太稀疏（只看终点），LLM-as-judge 的整段打分容易被风格 hack；GSRM 把奖励放在"meta-reasoning 步是否对齐"这个不太大不太小的语义粒度上，配合"M 错则 break"的顺序依赖约束，就同时拿到了稠密信号和抗 hack 性。这个粒度选择本身就是论文的 takeaway。 | limitation |
| [2505.16142](../2505.16142/report.md) | 最有价值的 follow-up 我会押在两个方向：一是把 GSRM 这种"先解析成结构化 trace 再 step-wise 对齐"的思路推到 agentic / tool-use 场景——那里"每一步该调哪个工具"的决策粒度天然契合 meta-reasoning 的定义；二是研究 GSRM 自己被 reward hacking 的边界（学生学会写出能骗过 judge 的 M-Q-A 形式但内容错），这是用 LLM 当 reward model 永远绕不开的问题。 | limitation |
| [2505.18830](../2505.18830/report.md) | **核心假设与适用边界。** 整套理论建立在 **unconstrained features** 假设（网络表达力足够强、hidden embedding 可任意）和**单步梯度流、忽略 clip/KL** 的简化上。这让分析变得干净，但与真实多步、带正则的 GRPO 训练有差距——理论给的是方向性洞察，而非精确刻画。此外 reward 被设为严格二值（1/0），对带 partial reward 或过程奖励（PRM）的设置是否成立，论文未涉及。 | assumption |
| [2505.18830](../2505.18830/report.md) | **实验覆盖与回避。** 全部实验局限在**数学推理 + Qwen 系**，模型上限 3B。论文坦诚承认资源受限：DeepSeek-1.5B 只能用 4k context window 训练，导致回答长度持续缩短，相关结果只能放附录。因此「NTHR 在长 CoT、大模型、代码/医疗等其它 GRPO 场景是否同样有效」是开放问题。提升幅度多在 1%–2.4% 量级，需注意数学 benchmark（尤其 AIME 仅几道题）的方差。 | limitation |
| [2505.18830](../2505.18830/report.md) | **值得 follow up 的方向。** (1) 把 GWHES/NTHR 推广到非二值 reward 与过程奖励；(2) 在更大模型、更长 CoT 下验证 LLD 是否加剧；(3) $\eta = 2|0.5-p|$ 是个启发式，是否有更原则化的自适应削弱策略；(4) 高 NTHR token 与「关键推理步骤」高度对齐这一现象，或许能反过来用于推理步骤的无监督定位。 | followup |
| [2505.21493](../2505.21493/report.md) | 这篇论文最强的地方是把“无 verifier”建立在 verifier objective 的条件期望上，而不是把 supervised likelihood 包装成 RL。若单一正确答案成立，VeriFree 不是随意的 surrogate，而是标准 verifier reward 的低方差估计形式。这个视角也解释了为什么它可以在训练效率上超过二值 verifier：连续概率提供更密集的 reward，同时减少最终答案采样带来的噪声。 | assumption |
| [2505.21493](../2505.21493/report.md) | 但它的核心 assumption 很明确：参考答案必须足够可靠，且“给定正确 reasoning trace 时参考答案概率高”能代表 trace 好。短答案、多选题、标准知识问答比较符合这个假设；开放式问答、法律论证、医学解释、需要长结构化答案的任务则未必。特别是当多个答案都正确时，只优化单个参考答案会把等价表达看成低 reward；当数据参考答案有噪声时，模型会被引导去支持错误答案。 | assumption |
| [2505.21493](../2505.21493/report.md) | 与 model-based verifier 相比，VeriFree 的工程优势很实际：不需要额外 verifier 模型常驻显存；额外成本主要是一次非自回归 forward 来计算参考答案条件概率；也减少了针对 verifier 的 reward hacking 面。不过它并没有完全摆脱“模型自评”的风险：如果模型概率校准差，或模型已经学会在弱 reasoning 后也高置信输出参考答案，reward 仍会失真。论文通过 confidence 与 accuracy 相关性缓解了这个担忧，但该证据来自训练过程和多选 benchmark，不等于证明开放域… | assumption |
| [2505.21493](../2505.21493/report.md) | 后续最值得看的方向有三类：第一，把 equivalence class 或语义相似答案集合系统纳入 objective，而不是只在数学子集上做轻量消融；第二，在开放式长答案或真实专业任务上评估，不只用多选题便于验证；第三，把 VeriFree 与少量 verifier/human preference 混合，研究什么时候自概率足够、什么时候必须外部监督。 | followup |
| [2506.02208](../2506.02208/report.md) | 值得审视的几点。第一，teacher 必须经过 RL tuning 才能给出对齐 reward 的 token 级信号——弱 teacher 实验已经把这个 caveat 写出来了，但这意味着 KDRL 作为 pipeline 实际上仍然假设你有一个 RL-trained 大模型，初始 bootstrap 成本没有消失，只是从 student 这边转移到了 teacher 那边。第二，所有实验都在数学推理上，verifier 是 binary 的——当 reward 变成 process reward 或 noisy 标签时，response-leve… | assumption |
| [2506.02208](../2506.02208/report.md) | 但即便如此，"用 $k2$ 而不是 $k3$"、"在已答对的 response 上关掉 KD" 这两条结论几乎可以直接迁移到任何同时跑 KD 和 RL 的 reasoning post-training pipeline 里——这种小而准的 finding 是这篇论文真正值得读的部分。 | followup |
| [2506.03699](../2506.03699/report.md) | - "ST&SF 能跨架构"的 claim 有点强——它成立的前提是 sparse embedding 只依赖 item 的语义，不依赖下游架构。这个假设在 Transformer → HSTU/Wukong 看起来成立，但向 graph-based 或 retrieval-based 架构迁移时是否还 work 没验证。 | assumption |
| [2506.03699](../2506.03699/report.md) | **一个值得怀疑的点：** freeze sparse 之后 dense 参数几乎是重新训练的（NT 对 dense），那为什么 FT&SF（同时迁移 dense 并配合冻结 sparse）比 ST&SF（只迁移 sparse）在某些场景更好？论文的解释是 "FT&SF 在大模型/小数据场景更好"，但没给机理性解释。一个假设是：pretrain 时学到的 attention/MLP 权重对"如何从 embedding 中抽取 semantic"已经是好的初始化，即使下游任务目标不同（next-item vs CTR）也有 transfer 价值。但这需… | assumption |
| [2506.03699](../2506.03699/report.md) | **哪些问题 GPSD 没解决？** - Cold-start item 怎么办？freeze 了的 sparse embedding 对 pretraining 时未出现的 item 无能为力。论文没讨论新 item 进入系统的流程（incremental-GPSD 只说了"增量训练"但没展开新 token 的 embedding 如何 bootstrap）。 | limitation |
| [2506.03699](../2506.03699/report.md) | - 序列长度只到 100，和 LLM 差一个数量级。作者在 limitations 里承认了。 | limitation |
| [2506.03699](../2506.03699/report.md) | **这篇论文的 contribution 是什么？** 严格来说不是提出 GPSD 这个 pipeline（generative pretrain + freeze transfer 组合在 vision/NLP 里都有先例），而是**把推荐场景下 scaling law 失败的根因正确定位到了 sparse embedding 的训练数据密度**，并用一个极简的工程方案（freeze）验证它。这个定位比具体方法本身更有价值——它意味着未来推荐系统的 scaling 路线图是清晰的：不断提升 pretraining 阶段对 sparse embeddi… | followup |
| [2506.03699](../2506.03699/report.md) | 生成式预训练的 negative sample 数 (4K) 是个值得调的超参——它直接决定 sparse embedding 的监督密度。 | followup |
| [2507.15551](../2507.15551/report.md) | **这篇论文最值得借鉴的不是某个新算子,而是它的设计哲学**:在推荐排序这种延迟敏感、特征异质的场景里,与其追逐学术上更花哨的 cross 结构,不如**反向工程硬件能跑得快的算子**(大 GEMM、低 memory IO),再回头让模型结构去适配。这种 hardware-first 的思路在 LLM 里早成共识(FlashAttention、Mamba 都是这套),但推荐圈长期被"小矩阵 × 多算子"的传统路径绑架,这篇是少有的把"工业 ranking 也可以走 LLM 路线"踏实做完整的工作。 | followup |
| [2507.15551](../2507.15551/report.md) | **几个值得追问的点**: - 模型只有 2 层。作者强调宽比深友好 GPU,但 2 层 + Per-token FFN 在某种意义上接近一个"大 ensemble of independent MLPs",真正深层的特征组合能力可能依赖 token mixing 本身的重排能力。如果 token 数继续增大(比如 T=128),Per-token FFN 的参数膨胀会非常激进,可能需要 SMoE 兜底。 | followup |
| [2507.15551](../2507.15551/report.md) | **适合细看的人**:做工业推荐排序、想从手工 cross 模块迁到大模型路线的人;研究 hardware-aware NN 设计、关心 MFU 与算子融合的人。**可以略过**:只想看 attention 变种创新的研究者——这篇本质是在说"attention 是错的方向"。 | followup |
| [2508.12387](../2508.12387/report.md) | ReaLM 的真正贡献不是"又一个 RL 训 SLM 的方法"，而是**重新定义了负面样本在 CoT 蒸馏中的角色**。整条 RFT/reject-sampling 路线的隐含假设是 student 模型容量小、需要喂"干净数据"才能学到东西；ReaLM 反过来证明，只要给 student 一个对比性的训练目标（评判 utility 而不是模仿），它能从脏数据中提取出比干净数据更丰富的信号。这个观点和 contrastive learning、DPO 这一族方法的精神是一致的，但 ReaLM 把它落到了 CoT 这个粒度上。 | assumption |
| [2508.12387](../2508.12387/report.md) | 总体上，这是一篇适合"做 SLM 部署/CoT 蒸馏"的同行细看的论文：不是 SOTA 数字最高的，而是把"为什么负面样本有价值"这件事讲清楚了，并且实验做到了能反驳 reject sampling 默认假设的程度。 | assumption |
| [2508.12387](../2508.12387/report.md) | **未触及的问题**：CoT 数量 k 的选择、temperature=1.5 这种超高采样温度对 CoT 多样性的依赖、以及当 teacher LLM 在某领域本身能力差时（生成的"负面 CoT"可能毫无信息量）方法是否还有效——这些在论文里没回答。工业数据集上的 1 点提升暗示在领域足够专的场景里，teacher CoT 的整体质量本身可能成为瓶颈。 | limitation |
| [2508.12387](../2508.12387/report.md) | 设计上有几个值得推敲的地方： **两阶段奖励的 gating** 是稳定性必须品。如果让 r_gain 与 r_base 解耦，模型会学会答错时靠刷 utility 判断捞分。这个细节看似工程，其实揭示了多任务奖励的一个通用陷阱——辅助任务奖励必须 conditional on 主任务成功，否则就会成为 reward hacking 的缝隙。 | followup |
| [2509.19736](../2509.19736/report.md) | UserRL 的核心假设是：可以用 LLM simulated user 加 rule-based task/reward 近似真实用户交互。这个假设在可复现训练上很实用，但也带来两类偏差。第一，模拟用户的行为风格会成为训练分布的一部分；如果真实用户更含糊、更不合作或目标不断漂移，模型可能没有见过。第二，rule-based reward 为了公平和稳定，会压缩真实用户满意度的复杂性；PersuadeGym、TravelGym 这类环境尤其可能把“成功说服/推荐”简化为离散状态变化或标准答案匹配。 | assumption |
| [2509.19736](../2509.19736/report.md) | 主要局限也比较清楚：第一，训练 gym 和 held-out gym 数量仍有限，很多真实助理场景如长期偏好记忆、冲突目标协商、隐私约束没有覆盖。第二，turn-level credit assignment 仍依赖简单启发式，论文自己也承认 EM/R2G 不能真正判断某个问题是否关键。第三，真实用户评测规模只有五名 CS 博士生参与，且只覆盖 TurtleGym 和 TelepathyGym，更像 sanity check 而非可靠的人类实验。 | limitation |
| [2509.19736](../2509.19736/report.md) | 论文最值得借鉴的是评估范式，而不只是具体算法。它把用户中心能力拆成多种 gym，并用统一接口连接 RL 训练，这让后续研究可以替换用户模拟器、reward calculator 或底层 RL 算法。相比 RAGEN、WebRL、tool-use RL 等工作，UserRL 的定位更偏“用户作为环境”的交互能力，而不是环境求解或工具执行本身。 | followup |
| [2509.19736](../2509.19736/report.md) | 下一步最自然的方向是学习型 reward/credit model：让模型或 evaluator 判断中间 turn 对最终用户成功的因果贡献，而不是仅靠 reward-to-go 距离或指数映射。同时，gym 中应引入更丰富的用户 profile、沟通风格和非合作/误导场景，才能检验 UserRL 是否真的能训练“用户中心”的鲁棒 agent。 | followup |
| [2509.22637](../2509.22637/report.md) | 核心 assumption 是：训练集中存在可靠的答案集合或 verifier，可以估计 `pi_theta(Y_x | x, z)`；同时 answer hint 不会让 `q_phi` 学成简单答案泄露器。数学和代码题满足这个条件，但开放式写作、主观评价、长程 agent 任务中 `Y_x` 很难定义，accuracy estimator 的方差和偏差会成为主要瓶颈。 | assumption |
| [2509.22637](../2509.22637/report.md) | 与 RLVR 相比，本文更像是在 RL 与 distillation 之间搭桥：它保留 verifier/accuracy 的信号，又把最终优化落到 weighted SFT 风格，降低在线 RL 不稳定性。但代价是流程较重：需要训练 `pi_theta0`、训练 `q_phi`、采样多条长 trace、估计权重，再训练最终模型。后续最有价值的问题是：能否在线更新 `q_phi` 与 `pi_theta` 多轮迭代，能否用更便宜的 estimator 近似 correctness，能否把 per-question accuracy debias 真正接… | limitation |
| [2509.22637](../2509.22637/report.md) | 这篇论文最值得保留的部分是理论定位：它把 reasoning training 从“模仿哪条 CoT”推进到“如何近似能答对的 latent trace posterior”。这个视角能解释为什么简单 RFT/RLVR 对 easy questions 更友好，也为后续设计去偏采样、困难题重加权、posterior-guided RL 提供了更清楚的数学对象。 | followup |
| [2509.23024](../2509.23024/report.md) | **核心 assumption 与边界。** 全文的机制解释建立在"末层末 token 表征 + cross-entropy + 偏斜频率 + 维度瓶颈"上。当这些条件改变时结论可能 break：多语种模型、非标准目标（非 CE）、或瓶颈不成立（$d$ 接近或超过 $|\mathcal{V}|$）的设定都未被覆盖，作者明确把这些列为 open。玩具模型用的是**线性**特征提取器，到完整 transformer（尤其是 attention 的隐式偏置）的推广留作未来工作——值得注意的是源码里有一段关于 attention sink 与有效秩耦合的分析被… | assumption |
| [2509.23024](../2509.23024/report.md) | **相关性而非因果。** 这是作者自己强调的最大局限：所有"几何阶段 ↔ 能力"的对应都是相关性观测，没有建立因果。比如"compression 导致长程泛化"目前只是时间对齐 + 玩具模型佐证，并未做干预实验证明压低/抬高秩能直接改变 TriviaQA 表现。 | limitation |
| [2509.23024](../2509.23024/report.md) | **可 follow-up 的方向。** (i) 把谱阶段变成可操作的训练信号——例如挑选处于 compression 阶段的 checkpoint 做下游 fine-tune，或刻意设计训练让模型穿越特定阶段；(ii) 用 RLVR 升秩的变体（鼓励探索）对抗 pass@k 高-k 退化；(iii) 把线性玩具模型扩展到含 attention 的非线性情形，验证 attention sink 与秩坍缩的耦合；(iv) 做干预实验把相关性升级为因果。计算上谱指标需 ~10K 样本且随 hidden dim 平方增长，是大规模常态化监控的现实障碍。 | followup |
| [2510.11639](../2510.11639/report.md) | **核心 assumption 与边界**。整条 pipeline 依赖三个假设：（i）itemic token 可以稳定嵌入到 LLM 语义空间——这要求每级 codebook 既要大到能承载语义、又要小到能稳定训练（工业是 8192，公开是 256）；当 item 池极大或 token 化器更新时，warm-up 可能需要重做。（ii）剪枝出的 top-k 相关历史足以生成正确 rationale——对长尾兴趣或新用户而言，top-k 可能根本没有 informative 历史，蒸馏出的 rationale 会带噪。（iii）Think-Ahead… | assumption |
| [2510.11639](../2510.11639/report.md) | **实验覆盖与回避**。学术线只测 Amazon 三个域，序列长度短、品类同质；ReaRec 这种实现"隐式 reasoning"的最强基线已经被打得很开，但本文没和 LLM4Rec 类（LC-Rec、TALLRec 等）做直接对照。工业 A/B 只汇报一周、不到 1.3% 流量，且没有公布 CoT 关闭后的对照（即去掉 reasoning 留下对齐+RL 的工业增益拆解）。Rollout-Beam 的设计虽自洽，但论文没有把它和更朴素的"长度匹配奖励"或"概率似然奖励"做隔离对比，所以不能断言这个特定 reward shape 是唯一可行的形式。 | limitation |
| [2510.11639](../2510.11639/report.md) | **与相近工作的定位**。OneRec/OneSearch/OneSug 等同门工作是"无 CoT 的生成式管道"；ReaRec 是 latent / 隐式推理；本工作是把"显式文本 CoT + 生成 itemic token"两个一直分开的范式合并到同一个自回归路径里。和经典 LLM4Rec（把 LLM 当外置 rationale generator 或 reranker 用）相比，本工作的差异在于 itemic token 真的进了 LLM 的 vocabulary 而非 prompt 字符串，能从 next-token 概率直接拿到生成结果。 | followup |
| [2510.11639](../2510.11639/report.md) | **值得 follow up 的方向**。论文末尾提了"长序列建模"和"dense RL reward"，沿着这条路有几条具体可做的：（a）把 Rollout-Beam 的 0/1 命中改成基于 item embedding 距离的连续 reward，缓解"靠近但没完全命中"的奖励不连续；（b）把 Think-Ahead 的离线 prefix 缓存做成增量更新（用户兴趣漂移时只重算变化部分）；（c）让 CoT 和 itemic 真正交错生成（如 Fig 6 所示）并量化交错点的频次/位置对推荐质量的影响；（d）显式 CoT 给"为何不推某 item"做… | followup |
| [2510.11639](../2510.11639/report.md) | --- - **训练配方**：工业版 token warm-up 用 6B token 的 Persona Grounding 数据；预训练数据 mix 比例 24.30%/65.73%/4.94%/5.03%（Persona/Sequential/Captioning/General），偏重 next-item 但保留足够 grounding 比例。 | followup |
| [2510.18866](../2510.18866/report.md) | 主要风险有三点。第一，预压缩依赖 LLMLingua-2 保留任务相关信息；在稀有实体、低资源语言、代码/表格/多模态上下文里，压缩可能删除关键证据。第二，sleep-time update 假设一致性可以延迟；对需要即时覆盖旧状态的 agent，这可能产生短暂错误记忆。第三，类别结果并非全面占优：例如 LongMemEval 的 Single-Assistant 类别中 LightMem 明显低于 Full Text/Naive RAG/A-MEM，这提示 topic/压缩式记忆对某些“单条助手回复细节”问题可能过度抽象。 | assumption |
| [2510.18866](../2510.18866/report.md) | 最值得肯定的是论文没有只报 accuracy，而是把 token、calls、runtime 都拆到 summary/update 两个子过程。这样能看出 LightMem 的收益来自哪里：少触发总结、少触发更新、把在线串行更新改成离线并行更新。不过也要注意，论文刻意固定 retrieval 和 answer 阶段，不主张 LightMem 在 end-to-end 用户体验上一定总是更快；如果检索/回答本身是瓶颈，memory construction 的节省会被部分稀释。 | followup |
| [2510.18866](../2510.18866/report.md) | 还有一个实验细节值得记录：LongMemEval 中有 5 个样本因损坏字符导致压缩模型失败，论文直接丢弃处理并统一计为错误。这是诚实处理，但也表明 LightMem 对输入清洗和压缩模型鲁棒性有工程依赖。 | followup |
| [2511.16886](../2511.16886/report.md) | 核心 assumption 是：target generator 产生的中间目标确实代表任务上的单调改善。如果这个假设错了，DIS 会很自信地把模型训练到错误路径上。论文自己也给出反例线索：LLM-generated trajectories 在 compact 模型上只有 10% accuracy，低于 diffusion prior 的 24%，作者推测是 LLM 中间轨迹存在非单调跳跃，小模型难学。 | assumption |
| [2511.16886](../2511.16886/report.md) | 这篇论文的定位更像“解释 + 训练信号设计”，而不是提出全新架构。它把 TRM 的递归行为从 effective depth 叙事转向 policy improvement 叙事，这是有价值的：effective depth 只能说明“有潜在计算量”，不能说明每一步是否有用；advantage margin 则给出可诊断条件。 | followup |
| [2511.16886](../2511.16886/report.md) | 另一个重要限制是固定步数。ARC 任务复杂度差异很大，固定 6 步可能对简单样本浪费、对困难样本不足。原 TRM/HRM 的 halting 机制虽然昂贵，但某种程度上正是在解决 adaptive compute。DIS 去掉 halting 后提升效率，但可能牺牲了任务自适应性；作者也把预测所需 denoising steps 作为后续方向。 | followup |
| [2601.07372](../2601.07372/report.md) | 方法的核心 assumption 是"一大块静态 pattern 是 context-independent 可 O(1) 查的"。这在自然语言上由 Zipf 分布和 multi-token entity/formulaic expression 的普遍性支持得很充分，但在其他模态上不一定成立（例如 raw image patches 几乎没有可查的 static pattern；code token sequences 可能介于两者之间）。另外 tokenizer compression（基于 NFKC）本质上是在英文/多语言文本上工作得很好，在 c… | assumption |
| [2601.07372](../2601.07372/report.md) | 实验设计的严谨程度是这篇论文的一大亮点，尤其是 long-context 部分的 iso-pretraining-loss 设置——作者明确指出 "long-context 性能会随 base loss 单调变化"，因此必须 align base loss 而非 align training steps 才能归因到架构。这个 methodological 细节在同类工作中少见。但有几个 caveat：(1) 所有实验限于 MoE + Engram 这一特定 backbone（DeepSeekMoE + mHC + MLA），对 GPT-style 纯… | assumption |
| [2601.07372](../2601.07372/report.md) | 最有价值的 follow-up 方向，在我看来是：(a) 把 Engram table 做成**可更新**的 memory——现在的 table 是训练中固化的，但 deterministic addressing 天然支持 write 操作，这打开了 online learning / continual knowledge update 的路径；(b) 在 **reasoning-heavy 后训练**（GRPO/RL）场景下测 Engram，看"deeper effective depth"的 claim 是否转化为更强的长链推理；(c) Zip… | followup |
| [2602.04879](../2602.04879/report.md) | 核心 assumption 是：rollout policy 的 token-level probability（至少 sampled token，或 top-K token）可以可靠缓存/获取，并能作为 trust-region anchor。如果训练系统无法稳定记录 rollout probabilities，或者 reward/model update 设计使得 behavior policy 本身很快过时，DPPO 的 mask 仍可能被噪声影响。另一个 assumption 是 binary/top-K 下界足以代表危险的分布偏移；实验支持它… | assumption |
| [2602.04879](../2602.04879/report.md) | 论文的实验覆盖很强：从 1.5B sanity test 到 30B MoE、dense 8B、LoRA、RLHF、AIME 与 AlpacaEval 都有；但多数结果仍以曲线和趋势为主，缺少更系统的最终表格、方差/多 seed 统计，以及对不同 reward 噪声、不同 rollout reuse 次数、不同 serving/training 精度 mismatch 的分层分析。另一个现实问题是，DPPO 修复的是策略更新的 mask，不直接解决 reward hacking；RLHF 部分 step 450 reward 更高但 AlpacaEva… | limitation |
| [2602.06563](../2602.06563/report.md) | 值得警惕的是几个 assumption：(1) Mix-Revert 的对称性依赖于"两次 pSwiGLU"的参数预算，本质是把单层 pSwiGLU 拆成两层，参数没变但深度翻倍——这对深度敏感的任务才划算；(2) Sparse-Pertoken MoE 的"路由先验"只在 token 数固定且较少（论文里 T 通常几十）时成立，token 数动态的场景未必能直接用；(3) 1:2 稀疏度是 ROI 最高点，论文自己也承认 1:8 时 load balance 开始崩、需要 z-loss/aux balance loss 救场，没真正解决——MoE 极… | assumption |
| [2602.06563](../2602.06563/report.md) | 另外，这篇本质上是"工业 best practice 大集合"，里面 Pre-Norm/RMSNorm/SwiGLU/shared expert/down-matrix small init 几乎全是从 LLM 圈子搬过来的。它的贡献在于证明这些 LLM 经验在 ranking model 上同样适用、并且为 pertoken 架构做了精细化适配（特别是 Gate Value Scaling 和 Pertoken-MoE 的"路由先验"角度）。如果你做推荐排序，这篇可以当 cookbook 用；如果你做 LLM，里面没有特别新的东西。 | followup |
| [2602.20723](../2602.20723/report.md) | **核心 assumption 和潜在脆弱性：** MAGNET 假设了三种融合模式（dominant、balanced、complementary）能覆盖所有有用的模态交互方式。如果实际场景中存在更复杂的融合 pattern（比如一个模态在某些维度上主导、另一些维度上辅助），预设模板可能不够灵活。Com 模板中 \(\epsilon\) 保证了 anchor 模态不会被完全丢弃（behavior 做 anchor 时有 inductively bias），但当某个模态完全是噪声时，模板的约束反而有害。 | assumption |
| [2602.20723](../2602.20723/report.md) | **Follow-up：** (1) 模板学习——目前 \(\alpha, \beta, \delta\) 是手工设定的超参，可以设计一种让模板本身可微分学习但保留结构约束的机制；(2) 动态 expert pool——如果新模态（如音频、视频）加入，模板机制原则上可以扩展，但 3×3 的笛卡尔积会变成 N×3，需要更高效的 routing；(3) 噪声模态下的鲁棒性——当某个模态缺失或质量很差时，模板如何自适应调整（比如 Com 模板的 \(\epsilon\) 应该变小甚至归零）。 | followup |
| [2602.22495](../2602.22495/report.md) | 弱点和疑问几条：(1) 需要 teacher logits，对闭源 teacher（GPT、Claude 系）不适用，作者也明确承认；(2) trust-region 假设在 teacher–student 严重 mismatch 时崩，论文用额外的 log-ratio clamp $[-1,1]$ 兜底，这个 hack 在 method 部分没体现，藏在附录 B，工程上是必需的；(3) 实验全是 Qwen3 家族 student/teacher，跨家族（比如 Llama student + Qwen teacher）能否 work 是未验证的——异构… | assumption |
| [2602.22495](../2602.22495/report.md) | 这篇工作最有价值的部分不是数字，而是**对"在 RL 里做蒸馏"这个问题的 formulation**。把 teacher 当独立 KL 正则的 KDRL 思路，本质上把蒸馏和 RL 当成两个目标在加权打架；而 RLAD 看出来的是：GRPO 的 importance ratio 分母本来就是一个"信任锚"——只要把 teacher 织进这个锚，蒸馏就和 advantage 共享同一套 trust region 机制，selective imitation 是结构涌现而非手调出来的。这种"修改 ratio 而不是加 loss"的视角比单纯调权重更深一层。 | limitation |
| [2602.22495](../2602.22495/report.md) | 值不值得细看？如果你在做 reasoning model 的 RL 后训练或者 RL+KD 的工程化，这篇值得读 method 部分（第 3 节 + 附录 C 的 GRPO/DPO 解释）；如果只是想了解一种新蒸馏 loss，可以跳过——它的贡献不在 loss 形式而在 ratio 重构。 | followup |
| [2603.19220](../2603.19220/report.md) | 但值得警惕的几点 assumption：(1) MOPD 假定"上游 checkpoint 在该 domain 上始终强于当前 student"——如果 cascade 的某段 RL 让 student 在某些 prompt 上反超了 teacher，token-level reverse-KL 反而会拖回来。文中没讨论这种 over-distillation 情形，也没给出 teacher 何时该刷新的策略。(2) 三个 teacher 的 prompt 路由是按训练 pool 来源静态决定的，不存在 prompt-level routing；当训练… | assumption |
| [2603.19220](../2603.19220/report.md) | 最有价值的 follow-up 方向：(a) MOPD 的 teacher pool 自动选择/刷新机制——也许应当变成在 cascade 推进过程中持续滚动更新而非一次性 snapshot；(b) cascade ordering 的 search 算法化，目前所有顺序选择都靠人调，对扩到 N>10 个 domain 时不可持续；(c) 把 MOPD 与 long-horizon agentic RL 结合，agentic trajectory 中的 dense distillation 信号可能是 token-level reward sparsi… | followup |
| [2604.02368](../2604.02368/report.md) | 不过，本文的核心假设也决定了它的局限。第一，专家任务和 rubric 的质量决定了 benchmark 上限；如果 checkpoint 过细，模型可能被惩罚在非关键表述差异上；如果 checkpoint 过粗，又会退回主观整体评分。第二，ShotJudge 依赖少样本专家锚定，但开放式任务空间很大，一个 baseline 回答的专家 rationale 未必能覆盖所有候选回答的错误类型。第三，论文中大量任务和评测流程依赖闭源模型、私有专家平台与内部数据构建过程，外部研究者若不能访问完整数据与 judge prompts，复现和审计会受限。 | assumption |
| [2604.02368](../2604.02368/report.md) | XpertBench 的主要贡献在于把评测对象从“知识问答能力”推进到“专业工作流交付能力”。它的任务来源、rubric 设计和 ShotJudge 组合，使开放式任务不再只能依赖昂贵的人类整体打分，而可以被拆成可解释、可聚合、可诊断的评价信号。这对研究者的意义是：如果一个模型在 MMLU、GPQA 或 agentic retrieval benchmark 上表现很好，仍不能推出它能胜任金融、法律、教育或工程中的端到端专家工作。 | followup |
| [2604.02368](../2604.02368/report.md) | 与 DEER、DeepResearch Bench、BrowseComp 等相比，XpertBench 更偏“行业专家交付”而不是“研究检索与事实核验”。它的定位不是替代学术能力 benchmark，而是补上真实专业场景中的生态有效性。最值得 follow up 的方向包括：开放更多样本与评分日志；将 ShotJudge 与多 judge ensemble、claim-level fact checking 结合；分析 rubric 维度与模型训练数据/工具使用之间的关系；以及把 benchmark 从静态任务扩展到多轮交互式专业协作。 | followup |
| [2604.02795](../2604.02795/report.md) | RTT 的核心 assumption 是：rubric 与 token 之间存在可学习、可泛化的 relevance mapping。对“禁止某词”“必须以某格式开头”“包含某语义陈述”这类约束，这个假设很强；对全局风格、整体逻辑一致性、跨句关系、条件式约束（例如 if A then B）则更弱。论文的 taxonomy 把 global constraints 标成 all relevant，这在实现上安全，但会退化成较粗的 dense signal；因此 RTT 对局部/可定位约束的收益可能显著高于真正全局的质量 rubrics。 | assumption |
| [2604.02795](../2604.02795/report.md) | 另一个隐含假设是 LLM-as-a-Judge 或 rule verifier 的 constraint-level 判断本身足够可靠。RTT 只是把已有 rubric score 分配到 token，如果 judge 错判，token-level reward 会更“精准地”传播错误信号。论文在 soft constraints 上使用 DeepSeek-V3、AdvancedIF 评估用 o3-mini，但没有系统展开 judge 噪声对 RTT 的敏感性，这是后续应用到开放域 agent 或长文本任务时必须补的。 | assumption |
| [2604.02795](../2604.02795/report.md) | 局限也比较清楚：实验集中在 instruction following，训练数据和约束 taxonomy 都围绕该领域；OOD 只验证了能力不大幅坍塌，而不是证明 RTT 对推理任务本身有通用收益。此外，Group Partitioning Problem 只比较了 inter-sample 与 intra-sample 两种方案；criteria 维度上的先归一化/后聚合、多目标 reward collapse、层级 group 等问题仍开放。 | limitation |
| [2604.02795](../2604.02795/report.md) | 最有价值的 follow-up 方向是把 RTT 从 token-level 扩展到 agent trajectory 的 turn-level credit assignment。长程 agent 任务的最终成败同样是粗粒度 outcome reward，但失败常由某一步 tool call、计划分解或状态判断造成。若能训练一个 Turn-Level Relevance Discriminator，把子目标或约束映射到具体 turn，RTT 的思想可能比直接做整轨迹 REINFORCE 更适合 sparse/delayed reward 的 agen… | followup |
| [2604.02795](../2604.02795/report.md) | --- - Evaluation 对所有 benchmark 使用 full official dataset，不做 subsampling；instruction-following 任务用各模型默认 chat template；MATH-500、GPQA、MMLU-Pro 使用 CoT prompt。 | followup |
| [2604.06005](../2604.06005/report.md) | **核心 assumption 与失败场景**：方法的归纳偏置就是"概念是词表对齐的"。所有正面结论都建立在 $\mathbf{w}$ 在 $\mathbf{U}$ 上的投影里有可解释结构这一假设。文中坦白指出这就把 entropy/confidence neurons、positional neurons 等存在于词表正交子空间里的功能单元排除在外了。Gemma 早期层（L4）效果显著弱于中层（L18），也支持这点：早层更靠 input embedding 分布，词表锐度还没"锻造"出来。这意味着 ROTATE 不应该被当成完整的神经元解释器，更像"… | assumption |
| [2604.06005](../2604.06005/report.md) | **实验覆盖与回避**：每个模型只测两层、每层 100 神经元，是"挑了易解释层做最优秀展示"的策略；扩展到所有层、不同 scale、不同架构（MoE、DeepSeek 风格）都还没做。完整 layer decomposition 的 GPU-hour 已经报告了（H100 单层 ~3.8/6.7 小时），扩展到全层全模型在工程上可行，但作者没给出全层尺度上 channel 之间的相互依赖、跨层 circuit 的发现等更宏大的应用。Output-side completeness 因为机制问题（一个 token 触发多个 out channel 同时… | limitation |
| [2604.06005](../2604.06005/report.md) | **Positioning**：相对 SAE 系列，最大区别是 data-free + 直接对权重做几何分解，因此可以脱离训练分布、避免数据偏差，但天花板就是 $\mathbf{U}$ 子空间。相对 \citet{gur-arieh-etal-2025-precise} 把 residual SAE 适配到权重的工作，在 faithfulness 和 completeness 上一致更高。和 DAS 比较，都用学习到的旋转/正交矩阵分离方向，但 DAS 是监督的、操作 residual stream；ROTATE 无监督、纯权重，理论根基从因果中介转向… | followup |
| [2604.06005](../2604.06005/report.md) | **Follow-up 方向**： - 把 channel 当作 fine-grained circuit 的最小单元做跨层分析（哪些 channel 之间存在写读关系），目前论文只给了单神经元内 in/gate/out 通道的定性串联（appendix Neuron 9005 例）。 | followup |
| [2604.06005](../2604.06005/report.md) | - **Limitations 节**：明确点出"词表正交方向"被排除（confidence neurons、positional neurons），且层与模型覆盖有限。 | followup |
| [2604.08933](../2604.08933/report.md) | 这篇论文的真正贡献是把"序列特征工程"重新框定为一个**representation learning 问题**：与其让算法工程师手工挑要在序列里保留哪些字段，不如让模型自己学一个 64 维稠密 token。从这个视角看 IAT，它和 HLLM、LLaTTE 等"两阶段 + 上游缓存表示"类工作属于同一脉络，区别在于 IAT 缓存的最小单元是 **per-instance**（每条样本一个 token）而不是 per-item 或 per-user，而且 source 模型本身就是 ranking 模型——这意味着 InsEmb 天然带 task si… | limitation |
| [2604.08933](../2604.08933/report.md) | 工程上最值得学习的设计是 **user-order batching + SIT + 存 SIT-前的表示**这一套组合拳。如果只看"用 transformer 把历史样本编成 token"会觉得这是显然的事；但拆开看会发现： - 如果不做 user-order，SIT 没法工作（同一 batch 不能保证同用户连续） - 如果存 SIT-后，下游会拿到过度平滑的表示，反而降效 - 如果不做 streaming 阶段的 retrieval-based SIT，没法上线 每一步选择的背后都是工业系统的实际约束，而不是论文式的"再加一个 trick"。 | followup |
| [2604.08933](../2604.08933/report.md) | 最后，这是一篇典型的**系统设计型论文**：算法上 SIT 没有任何新颖性（就是 causal transformer），但把 sequence feature engineering → instance embedding → 缓存 → 下游 transformer 这条链路完整跑通并上线多个业务，本身就是贡献。对于做工业推荐的团队，这个方法值得直接复用；对于做 academic sequential recommendation 的研究者，这篇的启发是**重新审视序列建模的 token 粒度，可能比设计更复杂的 attention 更有效**。 | followup |
| [2604.12002](../2604.12002/report.md) | **核心 assumption 何时 break**：方法假设 base 模型作为 reviser 在「错答 + reward」条件下有 non-trivial 的纠错倾向，SRT 才能 unlock 出有用的 reviser；如果 base 模型完全不会自我修订（比如 reviser 能力低于随机），SRT 这步可能拿不到足够的正确修订轨迹。作者也明确指出方法在 **thinking 模型** 上目前不 work（Appendix D）——长 CoT 里 "false start / partial correction" 本来就是正常推理，toke… | assumption |
| [2604.12002](../2604.12002/report.md) | **实验覆盖与回避**：实验集中在 Qwen/Olmo instruct（4B / 7B）+ math + code 这种 verifiable + 短 CoT 的舒适区。没有覆盖：(a) 更大模型规模（≥30B）；(b) thinking 模型；(c) non-verifiable 领域（写作、对齐、agent）；(d) iterative self-evolution 超过两轮的长期行为。Token-level self-localization 的可视化基于单条 response 的 KL 排序，是 illustrative 的 case，不是大… | limitation |
| [2604.12002](../2604.12002/report.md) | **值得 follow up**： 1. | followup |
| [2604.12002](../2604.12002/report.md) | **错误修订模式的可解释性**：Token-level KL 直接给出 per-token "should-revise" 评分，是否可以作为 process reward model 的廉价替代。 | followup |
| [2604.12965](../2604.12965/report.md) | **核心 assumption 在哪里 break？** HILL 假设 foundation model 学出的 item embedding space 有可被层级化聚类的 coarse-to-fine 结构。这在 Meta Ads 场景（广告有天然的 category 层级、user intent 集中在少数 category）成立。但对于兴趣极度分散或 long-tail 严重的场景（比如开放域内容推荐，user 可能在 100+ 个毫不相关的 niche 之间跳跃），residual 的"每层负责一部分语义"假设可能不成立——顶层 node… | assumption |
| [2604.12965](../2604.12965/report.md) | **MoNN 的三塔详解**（Sec 2）值得单独记： - **User Tower** 只跑一次，可以 scale 得很重； - **Item Tower** 对每个 item 跑一次，主要做 feature extraction； - **Interaction Tower** 最贵，每对 ` ` 都要跑，因此 Meta 用 **I2IF**（Inverted-Index Based Interaction Features）——把 item 的分类特征存成 inverted index，user 作为 query 从这个 index 里快速捞 d… | followup |
| [2604.13828](../2604.13828/report.md) | MUSE 的核心假设是：真实用户行为可以被抽象成 profile 加对话上下文条件下的可学习策略，并且 rubric reward model 能覆盖影响“像真实用户”的主要维度。这个假设在多域中文文本对话中合理，但在跨文化、跨语言、语音/多模态交互或高度专业的隐私场景中可能不成立。尤其是 human likeness 和 persona consistency 的标注标准可能携带领域和文化偏见。 | assumption |
| [2604.13828](../2604.13828/report.md) | 后续值得追的问题包括：IPSE 的迭代成本和收敛性如何；reward model 是否会过拟合专家 rubric；如果 assistant 侧模型变化很大，profile 与 simulator 策略是否仍稳定；以及 MUSE 生成的用户是否会在下游 agent training 中放大数据偏见或制造“模拟器过拟合”的虚假鲁棒性。 | limitation |
| [2604.13902](../2604.13902/report.md) | DiPO 最核心的 assumption 是「PPL 与样本正确率之间存在可识别的、随训练逐渐显化的相关性」。Figure 11 显示训练早期这个相关性确实不存在（PPL 分布不可分），而 advantage judgment 机制是应对这个 assumption 不成立时的安全开关——这是个干净的工程决策，但也意味着如果某个任务、某个 base model 的 PPL-correctness 关系**始终**弱（譬如响应长度差异极大、长度归一化的 PPL 失效的场景），DiPO 退化为 DAPO，不会产生增益。Llama3.1-8B-Instruct… | assumption |
| [2604.13902](../2604.13902/report.md) | 实验覆盖比较扎实——三个 Qwen 基座、加 Llama、加 function calling、加风险预测，覆盖了 RLVR 的几个主要场景。但有几个回避值得指出：（1）训练 step 上限 700，AIME 曲线尾端 DiPO 还在上涨而 DAPO 已饱和，更长训练时 DiPO 的优势会扩大还是稳定？没有数据。（2）PSD 队列大小（最近两个 batch）是固定超参，更大 batch / 更长队列对早期 advantage judgment 通过概率的影响没分析。（3）BFCLv3 上作者把"reward 最大的样本"定义为「正确」、其他为「错误」来… | limitation |
| [2604.13902](../2604.13902/report.md) | 和最相关的 CDE/DACE 比，DiPO 的独特 positioning 是**「reward 重分配而非 reward shaping」**：它把 PPL 和 verification reward 在样本层面解耦（正交化），把 PPL 信号限制在「原本就没梯度」的死区里使用。这个正交化思路在概念上比把所有 reward 项加权混合要干净得多，超参鲁棒性的优势直接来自这种正交性——动 α 不影响主奖励梯度的方向、只影响死区里的微调强度。 | followup |
| [2604.13902](../2604.13902/report.md) | 最有价值的 follow-up 大约是两个方向：一是把 PSD 的二元分区扩展到多档（譬如四象限直接做四档动作而非二档翻转），把 normal 组里"明显走错方向"的样本也纳入处理；二是把 advantage judgment 从批级别下放到 token 级别——目前 PSD 操作在 response 整体的 PPL 上，但 RLVR 推理任务里同一条 response 内部不同 token 的 PPL 异质性很大，token 级路标可能挖出更多可用信号。 | followup |
| [2604.13902](../2604.13902/report.md) | --- 作者通过 logit→prob→entropy 的多元 Taylor 展开证明，在 GRPO advantage 形式下（$\hat A^m_t=\sqrt{G-1}, \hat A^i_t=-1/\sqrt{G-1}$）给最大 PPL 样本打正/负 reward 等价于： $$ \Delta H_\text{avg} \approx \frac{\eta\sqrt{G-1}}{G}\left(\mathbb{E}_{i\neq m}[B_t^i] - \mathbb{E}[B_t^m]\right) $$ 其中 $B_t^i = \pi_t^… | followup |
| [2604.13902](../2604.13902/report.md) | **熵增/熵减定理的诚实表态**值得记一笔：作者在严格证明后用 mdframed 显式声明这是「multiple idealized assumptions 下的趋势估计」，并附 0.6B 模型的实验曲线作辅助验证（Figure 10）。这种"理论是直觉的脚手架而非完整证明"的写法在 RLHF/RLVR 论文里其实少见，比硬撑「定理-证明」的姿态更可信。 | followup |
| [2604.14258](../2604.14258/report.md) | **核心 assumption。** GFT 的 group reward 依赖 rule-based、objective 的 reward 函数（数学题答案匹配）。论文 limitations 明确写了：扩展到 open-ended subjective 任务需要外部 reward model，这正是 RLHF 系列工作的难点；GFT 没有解决 reward model 不可靠的问题。另外 DCR 的 $\tau$ 是全局常数，没有自适应机制，token 之间的 importance weight 仍然是阶跃式的而非平滑的。 | assumption |
| [2604.14258](../2604.14258/report.md) | **机制解释的边界。** 论文把 SFT 限制写成 importance sampling 后的退化 RL，是一个 elegant 的视角，但严格说 $P_{\text{expert}}(y|x)=\mathbb{I}[y=y^*]$ 只对确定性 expert 成立；对真实 noisy expert 数据这一项不再是 delta，DCR/GAL 的具体形式是否仍最优是个 open question。论文也没有给出 $\tau$ 与 base model 校准程度的关系；不同 pretraining 程度的模型最优 $\tau$ 可能差异较大，这从 LL… | assumption |
| [2604.14258](../2604.14258/report.md) | **与 DFT/ASFT/PSFT 的 positioning。** DFT 也是从 $1/\pi_\theta$ 出发，但选择全局乘 $\pi_\theta$ 抵消（等价于 vanilla CE），失去了对 new-knowledge token 的放大。ASFT 和 PSFT 走的是 trust-region 路线，约束 policy 不偏离过远，但本质上没有解决稀疏奖励问题，仅做了稳定性正则。GFT 是首个同时从奖励稀疏（GAL）和重要性权重发散（DCR）两条 axes 改造 SFT 的工作，且改造方式对称且可逐项 ablation。 | limitation |
| [2604.14258](../2604.14258/report.md) | **可 follow up 的方向。** (1) 自适应 $\tau$：从全局常数换成基于 token entropy 或 prior 的可学习量。(2) reward 不可靠时（如 LLM-judge）GAL 的稳定性需要重新评估。(3) GFT 作为 RL 中转站的形态（SFT→GFT→GRPO）能否进一步扩展为多阶段 curriculum，即 group 组成随训练动态调整。(4) 与 PPO 的 ratio clipping 在数学上有可比性，但 GFT 的 clipping 是单边的（只对低概率 token），是否可推广为双边对称形式值得探究… | followup |
| [2604.14820](../2604.14820/report.md) | SWE-TRACE 的核心 assumption 是：测试、合成元数据和 rubric judge 足够可靠，能够定义“更接近正确修复”的过程信号。如果测试覆盖弱、合成 bug 与真实 issue 分布不匹配，或者 rubric judge 系统性偏好表面上整洁但语义错误的轨迹，PRM 可能把 agent 引向 reward hacking。论文通过 margin-separated reward 避免 PRM 压过 terminal correctness，但仍依赖测试作为最终锚点；测试不完整时，agent 仍可能学会满足测试而不是满足真实需求。 | assumption |
| [2604.14820](../2604.14820/report.md) | 和相近工作相比，SWE-TRACE 不是只提出一个 execution-free reward model，也不是只做 TTS reranking。它的定位更像 SWE-agent post-training 的系统配方：数据构造上接近 SWE-smith/R2E-Gym 的可执行合成环境方向；RL 上借鉴 process supervision/PRM 与 GRPO；推理上把 verifier-guided TTS 前移到 step-level。新意主要在这些组件围绕“短路径、过程判别、早剪枝”的统一设计，而不是每个组件完全独立原创。 | followup |
| [2604.14820](../2604.14820/report.md) | 值得 follow up 的方向包括：公开数据/代码以验证可复现性；评估 PRM 对真实 GitHub issue 而非合成任务的 rubric 质量；研究 guide 失败时的安全回退策略；以及把 action-level PRM guidance 与更显式的 tree search/MCTS 结合，测试在更高预算下是否仍优于 parallel rollout。 | followup |
| [2604.14878](../2604.14878/report.md) | **核心 assumption**：SID 质量是整个 pipeline 的前提——如果 multimodal embedding 没学好或 RQ-KMeans 量化损失过大，后续所有设计都是 garbage in garbage out。论文用了 I2I contrastive fine-tune 来缓解这个问题，但没有讨论 embedding 质量在极端变化（如新品类上线、视觉风格剧变）下的鲁棒性。 | assumption |
| [2604.14878](../2604.14878/report.md) | **值得 follow 的方向**：(1) 如何把 page-wise NTP 的思路扩展到多 domain / 多场景的统一模型中；(2) Token Merger 是否可以升级为 learnable routing 或 MoE，对不同 item 类型做差异化压缩；(3) 论文提到未来要加 reasoning，生成式推荐 + CoT 路径推断是一个值得关注的开放问题。 | limitation |
| [2604.16335](../2604.16335/report.md) | 核心假设有三个。第一，候选采样中要有足够多行为差异；如果 base policy 很弱，采样池里几乎没有好 action，GRM 无从选择。第二，rubrics 要能覆盖真正泛化的过程行为，而不是只强化某些 benchmark-specific trick。第三，GRM 的比较要足够可靠，尤其在有 ground-truth patch side information 时不能只机械追逐 patch 文件，而忽略真实调试流程。 | assumption |
| [2604.16335](../2604.16335/report.md) | 方法可能 break 的场景也很清楚：如果没有 ground-truth patch 或类似 side information，GRM 判断“战略价值”的依据会弱很多；如果任务最终 reward 本身不可靠，terminal filtering 会保留错误数据；如果 rubrics 人工设计得过窄，模型可能学到形式化流程（例如无论是否需要都写复现脚本）而非真正高效解题。论文也没有报告 GRM query 成本、rollout 计算开销、不同 $N/L$ 的 cost-performance frontier，这对实际训练系统很关键。 | limitation |
| [2604.16335](../2604.16335/report.md) | 值得 follow up 的方向包括：自动发现或学习 rubrics，而不是人工写；在 RL 阶段把 GRM 信号作为 dense reward，而不只用于离线 RFT 数据过滤；研究没有 ground-truth patch 时的 GRM filtering；以及把相同思想迁移到 search agents、deep research agents、data analysis agents 等同样具有长时程工具调用和可验证子目标的场景。 | followup |
| [2604.17878](../2604.17878/report.md) | - Effective rank 高 ≠ 表征质量高。论文整体把 erank 当作 proxy,但没有讨论"高 erank + 高噪声"的可能性。在多任务设置下,task token 提升了 MI,但这只在它们自己定义的离散化方案下成立。 | assumption |
| [2604.17878](../2604.17878/report.md) | - Cross Pretrained Embedding 的 element-wise product 假设 user/item 在同一 latent space 对齐——如果两个 tower 训练目标不同,这个假设会断。 | assumption |
| [2604.17878](../2604.17878/report.md) | **Randomized Permutation Splitting 是最 elegant 的设计**:它和 Autosplit 比几乎零成本(只是改一次 shuffle 顺序),却把"长尾特征聚集导致 token 内 rank 塌缩"这个常被忽略的问题直接打掉。从 MI 差矩阵和逐 token erank 图看证据,这是论文里最干净的一击。 | limitation |
| [2604.17878](../2604.17878/report.md) | **值得警惕的地方**: - 所有实验都在 Tencent Weixin 广告系统内部数据上做,**没有公开数据集对照**。RankMixer 作为 baseline 也是 Tencent 自己的工作,缺少跨组织的复现性证据。 | followup |
| [2604.17878](../2604.17878/report.md) | **对工业从业者的启示**:在已经有 100M+ 参数的 ranker 上继续 scale,与其加深 backbone,不如从输入端做"rank 体检"。本文给出了一套可操作的诊断方法(逐层 erank、token-wise erank、MI 差矩阵),即便不照搬 RankUp,这套诊断流程本身就值得迁移。 | followup |
| [2604.19550](../2604.19550/report.md) | **LoopCTR 的核心假设在于：CTR 预估的样本中，大部分并不需要深度迭代推理。** 这个假设在 Oracle 分布里得到了部分验证——36.8% 的样本零 loop 就是最优。但反过来看，还有 63.2% 的样本更适合 $l \geq 1$，而论文用固定的 $i=0$ 或 $i=1$ 推理策略并没有利用这层异质性，所以才留下了 0.02–0.04 AUC 的 oracle gap。这是方法最显眼的开口：**静态的 inference loop 选择没有吃到 loop 架构的全部红利**，adaptive inference（learned ha… | assumption |
| [2604.19550](../2604.19550/report.md) | **和 Universal Transformer / LoopLM 等 NLP 侧 looped transformer 相比，LoopCTR 的 positioning 是"用 process supervision 解耦训练和推理的 loop 数"。** 这一步在 NLP 其实也能做——为什么没做？因为语言建模任务本身是需要真正的迭代 reasoning 的（算术、长依赖等），0-loop 推理在 NLP 上从原则上就不 work。而 CTR 是一个 **本质上偏静态的 feature interaction 任务**，loop 更像是一种"正则… | assumption |
| [2604.19550](../2604.19550/report.md) | **实验设计有一处值得警惕。** Oracle 的计算是在测试集上 per-sample 选最优深度，这等价于用测试标签调出 loop 深度，本质上是数据利用层面的 upper bound 而非模型能真正达到的上界。论文的文字（"0.02–0.04 AUC headroom"）有一点把这个上界说得过于"可达"的味道。实际 adaptive inference 能达到的水平会显著低于 oracle，读者需要在脑内打个折。 | followup |
| [2604.19550](../2604.19550/report.md) | **最值得追的 follow-up 方向**：(1) 训练一个轻量的"深度选择器"网络，接受 Entry Block 输出然后预测最优 $i$，把 oracle 红利变现一部分；(2) 把 process supervision 思想拿到 NLP 的 looped transformer 里，看看能否在不需要真正推理的任务上同样实现 zero/early loop；(3) 在更长的行为序列（10k+）场景下验证 prefix attention mask 的 KV cache 收益——InHouse 的 1024 其实还不够考验这个机制的上限。 | followup |
| [2604.19550](../2604.19550/report.md) | --- **线上部署的 KV cache 放大效益**：由于 sequential token 在整个架构里从不 attend 到 global token，它们的 K/V 与候选 item 无关，可以在一个 user request 内一次计算、跨 $N$ 个候选 item 共享。真实打分成本 $C_{\text{user}} + N \cdot C_{\text{item}}$ 而非 $N(C_{\text{user}} + C_{\text{item}})$——这是 prefix attention 设计的直接回报，没有这个不对称 mask 就没… | followup |
| [2604.19550](../2604.19550/report.md) | **参数量视角的 train-infer 不对称**：由于 Loop Block 参数在 iteration 间共享，完整模型参数量与 $L$ 无关。严格 zero-loop 部署时 Loop Block 可以从部署子网中删除——这正是表 6 里 LoopCTR(0/3) 的 active params (0.73M on Amazon) 比 LoopCTR(1/3) (1.27M) 还小的原因。对显存吃紧的部署场景（边缘推理、冷启服务）这个性质比延迟收益更实在。 | followup |
| [2604.20051](../2604.20051/report.md) | POP 的关键 assumption 是“模型有能力在文档和 rubric 的帮助下进行相对可靠的自评”。这不等价于模型能可靠解决开放式评价：论文自己的分析承认全局排序相关性只有中等偏弱，rubric 和 grading 都有噪声。真正使其可用的是只抽取高低分极端 pair，并用长度/同分/格式过滤减少坏信号。因此，POP 适合候选回答质量方差足够大、文档能提供有用约束、模型已有基本 instruction-following 能力的场景。 | assumption |
| [2604.20051](../2604.20051/report.md) | 它可能在以下情况下失效。第一，参考模型太弱，连 query、rubric、grading 的格式和基本语义都无法稳定遵循；论文也把“最小可用模型能力”列为未来工作。第二，grounding 文档噪声大或与目标任务关系弱，rubric 的 gold label 或 criteria 可能被错误文档牵引。第三，开放任务若评价标准主要依赖外部偏好而不是文档内容，例如安全性、审美、文化语境或复杂人类偏好，预训练文本提供的 verification advantage 可能不足。 | followup |
| [2604.20051](../2604.20051/report.md) | 值得 follow up 的方向包括：扩大合成数据规模以验证 scaling 行为；在更强/更弱模型上测量最小可用能力阈值；把 task selection 和 prompt generation 也自动化；用人类评价或领域专家审查更系统地量化 rubric 错误；以及探索更稳健的 pair selection 策略，比如不只取单个最高/最低，而是用 teacher-free uncertainty 或 rank aggregation 过滤 reward hacking。 | followup |
| [2604.20858](../2604.20858/report.md) | **核心 assumption 及其脆弱性。** MoS 假设 item embedding 的 cosine similarity 能够反映用户行为的"主题"结构——即同一个主题下的 item 在 embedding space 中应该聚在一起。这个假设在 item embedding 经过充分预训练的场景下成立，但如果 embedding 质量不好（冷启动 item、稀疏交互），theme-aware routing 的分配就会退化。另外，MoS 隐式假设一个 item 只属于一个主题，对于跨品类的"万金油"型商品（如超市里的纸巾），硬路由可能丢失… | assumption |
| [2604.20858](../2604.20858/report.md) | **实验覆盖的边界。** 三个数据集覆盖了短视频、直播和新闻三个场景，都是内容消费型推荐——用户兴趣确实存在明显的主题切换（体育→美食→科技）。在电商这种用户可能在一次 session 内多品类同时浏览的场景下，session hopping 的假设（session 内兴趣稳定）需要重新验证。此外，实验中 expert 数量=5 且 4 个以上即饱和，但在更大规模或更多样化的数据集上，最优 expert 数可能不同。 | assumption |
| [2604.20858](../2604.20858/report.md) | **Follow-up 方向。** 最有价值的方向是**动态 expert 数量**——目前 expert 数固定，scaling 实验暗示需要和数据集的实际主题数匹配。如果能从数据中自动推断最优 expert 数（或动态增删 expert），MoS 的实用性会大幅提升。其次是**层次化 theme 结构**——目前 theme 是 flat 的，但用户兴趣存在自然层次（电子→电脑→MacBook），层次化 codebook 可能捕获更细粒度的兴趣结构。 | followup |
| [2604.21590](../2604.21590/report.md) | - **可验证性是前提**：rubric-based reward 之所以能跑，是因为 SynthAgent 框架里任务早就拆成了可判子目标。换到开放式任务（vibe coding、创意写作）上，branch-to-task inversion 怎么定义"正解分支"是未解决的问题。 | assumption |
| [2604.21590](../2604.21590/report.md) | 但有几处局限值得留意： - **依赖强教师**：整个飞轮里扩树、反演任务、奖励打分全是 Qwen3-235B。如果换小教师，飞轮质量几乎肯定崩掉——这意味着这套方法并不是"用小模型 bootstrap"，而是**用大模型把知识蒸到小模型但以 RL 而非 SFT 的形式**。文中也承认可能存在 model-family bias。 | limitation |
| [2604.22504](../2604.22504/report.md) | **Lemma 5.1.1 的 $B\to\infty$ 假设离实际偏远**。实验里用的是 $n=16$ 候选，这离"beam 宽度趋于无穷"差了好几个数量级。虽然有限 $B$ 下"概率集中在 top-quantile"这个定性结论没错，但定量上 $\alpha+d$ 具体是多少其实并不精确对应论文符号中的值。这使得"GRPO-with-beam-search = OPAUC optimization"在严格意义下是一个**渐近**陈述，而不是一个等式。 | assumption |
| [2604.22504](../2604.22504/report.md) | **单正例假设非常关键但被轻描淡写**。Lemma 5.2（WPAUC = Recall@$K$）成立的前提是 $|\mathcal{I}_u^+|=1$，这对"下一个 item 预测"任务是合适的，但对更一般的 Top-$K$ 推荐（用户可能喜欢多个 item）就不 strict 等价了。Theorem 5.3 的 multi-positive bound 仍然只是个区间而非等式。 | assumption |
| [2604.22504](../2604.22504/report.md) | **不过也有几处可以挑的**： 1. | followup |
| [2604.25291](../2604.25291/report.md) | GloRank 的核心 assumption 是**物品的文本属性包含足够的语义信息，使得 SID 的量化空间能有效捕捉物品间的关系**。这个假设在属性丰富的场景（电商、内容平台）中成立，但在纯粹依赖协同信号的场景（如只有 user-item interaction，无物品元数据）中会失效。此外，SID 的质量高度依赖上游文本编码器和量化算法的质量——如果语义编码不佳，全局动作空间的一致性也会打折扣。 | assumption |
| [2604.25291](../2604.25291/report.md) | 实验覆盖了中小规模公开数据集和一个大规模工业数据集，并包含线上 A/B 验证，结论的泛化性较好。但一个值得注意的缺失是：论文没有讨论 SID 的更新策略——在工业场景中，物品属性和 corpus 持续变化，SID 需要定期重建，这会带来工程开销和线上一致性问题。此外，预训练阶段的代理评估器 E 的质量直接影响训练标签的质量，论文未深入讨论 E 的选择和敏感性。 | limitation |
| [2604.25291](../2604.25291/report.md) | 与 GoalRank 相比，GloRank 的独特定位在于它不是提出更好的优化算法，而是**改变了问题本身的 formulation**。GoalRank 在局部空间中做 GRPO，GloRank 在全局空间中做 GRPO——两者的优化方法类似，但 GloRank 多了一个解耦位置依赖的维度。这也意味着，GloRank 的全局空间思想可以与未来的优化技术进步正交叠加。 | limitation |
| [2604.25291](../2604.25291/report.md) | 最有价值的 follow-up 方向可能是：(1) 将全局动作空间的思想推广到检索阶段，实现跨阶段统一的物品表示；(2) 探索 SID 的在线更新策略，解决属性漂移问题；(3) 在多模态场景下融合视觉等非文本信号到 SID 中；(4) 研究 generational 生成的列表是否可以用判别式 evaluator 进一步精排，即把 GloRank 作为 Generator-Evaluator 框架中的生成器。 | limitation |
| [2604.26969](../2604.26969/report.md) | **核心 assumption 与失效场景。** 这套框架成立的前提是：(a) 线上 A/B 是唯一可信反馈源，且每轮实验能在合理时长内拿到统计显著结果；(b) 待优化的是少量、语义可描述的**配置参数**（fusion weights、阈值），而非模型权重本身。当配置维度爆炸、或单次实验信号噪声大 / 延迟极长（如纯长期留存）时，"每轮提议→上线→回收"的吞吐会成为瓶颈——论文回避了讨论需要多少轮 / 多少流量预算才能收敛，也没给 sample efficiency 与传统贝叶斯优化 / grid search 的量化对比。 | assumption |
| [2604.26969](../2604.26969/report.md) | **实验覆盖与回避。** 证据全部来自 Google Discover 生产线上，说服力强但**不可复现、不可外部验证**：指标绝对值脱敏，只有相对提升；没有跨平台 / 跨数据集的泛化实验；每个阶段似乎只展示了一个代表性任务（Value-Based Retrieval / Value Fusion / Diversity 各一），样本量小。自进化 Skillhub 是论文标题级卖点，但**缺乏针对"自进化回路本身"的消融**——即对比"有 Insight/Skill 闭环 vs 冻结静态 Skill"的增量，因此 Skillhub 的实际贡献无法从 A… | limitation |
| [2604.26969](../2604.26969/report.md) | **值得 follow up 的方向。** (1) 把"实验预算 / sample efficiency"纳入优化目标，做与 BO / bandit 的严肃对比；(2) 对 Skillhub 自进化做隔离消融，量化"学到的 pattern"对收敛速度的真实贡献；(3) 多任务跨阶段联合优化（目前每阶段独立调，$\Theta$ 的跨阶段耦合在公式里有但实验未体现）；(4) 探索 Flash 级小模型 + 更强 Skillhub 知识注入能否补偿推理能力差距，以降低 agent 推理成本。 | followup |
| [2605.03871](../2605.03871/report.md) | 它的核心假设是：较新的 policy 输出总体优于较旧 checkpoint 输出，因此 temporal contrast 可以当作 preference signal。这个假设在持续改进的训练区间内成立，但在训练震荡、过拟合、或某些任务出现能力退化时可能会破。另一个假设是冻结 judge 能稳定执行 rubric；如果 judge 太弱到无法可靠读懂 rubric，或者 rubric 学到的是 judge-specific hack，方法也可能失效。论文的跨 judge 和 OOD 实验缓解了这个担忧，但没有完全消除它。 | assumption |
| [2605.03871](../2605.03871/report.md) | 实验覆盖面较广，但仍主要是 general-purpose post-training。医疗、法律、多轮 agentic task、长上下文事实核验等领域的 rubric 质量和 temporal contrast 偏好是否可靠，仍是开放问题。此外，训练成本很高（64 H100、复杂异步生成与 judge pipeline），论文证明了概念可行性，但小规模实验室复现门槛不低。 | limitation |
| [2605.03871](../2605.03871/report.md) | 值得 follow up 的方向包括：将 discriminative rubric 与 process reward / verifier reward 混合；研究 rubric 是否会诱导 policy 只满足可检查表面特征；用多 judge 训练改善跨 judge 泛化但不稀释下游 reward；以及把 co-evolving rubric 用到 agent、tool-use、research QA 等更长链任务中。 | followup |
| [2605.05242](../2605.05242/report.md) | 核心 assumption 是 **agent 足够强**——具体地说，能稳定写出 `grep '...' file | grep '...'` 这种组合命令、能在长 trajectory 里维持目标导向、能从 noisy tool output 里提取 entity。这个 assumption 在 GPT-3.5 时代不成立，在 GPT-5.4 / Sonnet 4.6 时代成立——这恰好解释了为什么这条路线 *现在* 才被打开。论文 RQ4 揭示了第二条边界：corpus 一旦扩到 hundreds of thousands 量级，"找第一个 an… | assumption |
| [2605.05242](../2605.05242/report.md) | 这篇论文最有价值的贡献并不是"用 grep 替代 retriever 性能更好"这个 headline 数字——那只是表象。真正的 contribution 是把 retrieval 重新 framing 成**接口设计问题**，并提出 "interface resolution" 作为一条新的可优化轴。在过去十几年，IR 社区花了绝大部分精力优化 *retriever 内部*（更好的 embedding、更好的 reranker），但当下游消费者从静态用户变成 capable agent 时，retriever 的整个 API 形状（"返回 top-… | limitation |
| [2605.05242](../2605.05242/report.md) | 实验覆盖也有一些回避：所有 corpus 都是干净的英文文本（Wikipedia / BrowseComp-Plus），没测真实 agentic workspace 里更糟的场景（PDF mixed with binary、log files、嵌套压缩包）；评测里也明确 disable 了 web-search/web-fetch，相当于切掉了 retrieval 的另一条腿。Multi-hop QA 上 +30 分这种夸张提升，部分来自 DCI 能直接 grep 实体名命中——而这恰好是 Wikipedia 这种 well-structured co… | limitation |
| [2605.05242](../2605.05242/report.md) | 最有价值的 follow-up 方向我看到至少三条：(1) **混合接口**——根据问题难度路由到 retriever 或 DCI 的 hybrid agent；(2) **DCI-aware retriever**——把 retriever 重新设计为 "暴露 anchor" 而非 "返回 top-k"，把后续局部搜索交给 DCI；(3) **大 corpus 下的 anchor pruning**——用一个 cheap retriever 做粗筛把候选压到 1K 量级，再让 DCI 接管，这正好覆盖 RQ4 暴露的 scaling 短板。 | limitation |
| [2605.06331](../2605.06331/report.md) | - **理论部分假设方差相等且预设 $\rho$ 与 $d_\mathcal{T}$ 间存在双向蕴含**，这些假设在更大词表、更深树、长尾分布下是否成立没有讨论。 | assumption |
| [2605.06331](../2605.06331/report.md) | 这篇论文最值得记的不是 Latte 这个具体修改（说穿了就是加一个随机 token），而是它**把"GR 为何 work / 为何不 work"的讨论从 tokenizer 端推到了 decoding 端**。过去几年生成式推荐的进步几乎都被叙述为"更聪明的离散化"，本文是第一次把矛头对准乘法概率本身的几何性质，并且用两个干净的定理把限制说死。 | followup |
| [2605.06331](../2605.06331/report.md) | 值得保留的批评： - **Latte 的解释依赖 ultrametric 论证**，但实验中 latent token 是随机均匀采样的——为什么模型在没有任何监督信号下能学会"为不同 item / 用户分化 latent 选择"？论文给了 dynamic effective distance 的公式但没正面回答优化动力学。这一点在 $M'=1,2$ 时掉点的现象里其实有迹象：latent 太少时模型没法分化。 | followup |
| [2605.06331](../2605.06331/report.md) | 最有想象力的延伸是模态序那一节——把 latent 从"数学技巧"升级为"可解释的 inductive bias slot"。如果未来能把更多结构化先验（用户群、上下文场景、时间段）塞进 latent 词表，Latte 可能从"小修小补"变成 GR 的标准范式。 | followup |
| [2605.07129](../2605.07129/report.md) | RRCM 的核心 assumption 是"排名奖励信号足够引导策略学到有价值的检索行为"。这在实验规模下成立，但有两个潜在风险：(1) 检索返回的文档不相关时，GRPO 的优势估计会变噪——模型无法区分"检索错了"和"检索了但没用"；(2) InTop@k 二值信号对排名的精细区分力有限——排在第 1 和第 99 的推荐如果 $k \leq 50$ 都得不到奖励，可能导致训练初期稀疏奖励。论文用 SFT warm-up 部分缓解了这一点。 | assumption |
| [2605.07129](../2605.07129/report.md) | 最有价值的 follow-up 方向：(1) 把奖励函数从 InTop@k 改进为连续信号（如 1/rank），缓解稀疏奖励；(2) 扩展记忆类型到用户评论、时间动态等；(3) 让 LLM 直接输出 item ID 而非自然语言后再做 embedding matching，省去后处理步骤。 | followup |
| [2605.07396](../2605.07396/report.md) | ROPD 的核心假设是：教师能够通过文本回答和元评价能力，抽取出比 token logits 更贴近任务正确性的 rubric。这在形式推理、医学/科学问答这类有较明确质量标准的任务上合理；但在主观写作、创意任务、价值偏好高度不确定的场景里，rubric 的可验证性和权重标定会更难，论文也承认这部分尚未建立。 | assumption |
| [2605.07396](../2605.07396/report.md) | 另一个潜在 break point 是 Rubricator/Verifier 的可靠性。如果教师本身会系统性误判，或者 rubric 条目混入了某个错误教师回答的中间结论，那么 on-policy 优化会放大这种评价偏差。论文通过多教师、禁止复制特定路径、blind verification 等规则缓解这个问题，但没有完全解决“rubric 本身如何被外部验证”的问题。 | limitation |
| [2605.07396](../2605.07396/report.md) | 和相近工作相比，ROPD 与其说是新的 RL optimizer，不如说是新的 distillation interface：GRPO、teacher sampling、LLM-as-judge 都是已有组件，novelty 在于把 teacher-student contrast 编译成共享、加权、可二值验证的 prompt-specific rubric，并系统证明它可以替代 logits 做 OPD。这个定位很清楚，也使它有较强工程可用性：闭源教师、不同 tokenizer、不同架构都可以接入。 | followup |
| [2605.07396](../2605.07396/report.md) | 值得 follow up 的方向包括：rubric 自动审计与去偏；跨任务 rubric 复用或压缩；把 rubric reward 与少量 logit signal/verification signal 混合；以及在开放式主观任务上建立更可信的评测。尤其是如果 frontier 模型越来越 API 化，ROPD 这类“只通过文本接口蒸馏结构化原则”的方法会很有现实价值。 | followup |
| [2605.08354](../2605.08354/report.md) | 核心 assumption 是：冻结 VLM 已经内化了足够可靠的人类偏好知识，只是需要显式 rubric 接口来稳定调用。如果 base VLM 本身对某类视觉属性、文化偏好、专业领域标准不了解，ARR 可能只会把错误偏好写得更有条理；verification 也可能同源于同一个 VLM 家族，无法发现系统性偏差。论文的结果显示 human-guided ARR 大幅降低位置偏差，也反过来说明 zero-shot 自举仍有明显残余偏差。 | assumption |
| [2605.08354](../2605.08354/report.md) | 这篇论文的强项是把一个常被笼统讨论的问题——VLM judge 有偏、reward model 会被 hack——落到“偏好表示接口”上，并用位置偏差、跨模型 transfer、rubric 数量等实验支持这个解释。相比单纯 prompt engineering，ARR 的 generate-verify-refine-structure 流程更像一个轻量的 reward specification pipeline；相比训练 reward model，它又保留了可解释和低数据需求。 | limitation |
| [2605.08354](../2605.08354/report.md) | 和相近工作相比，本文不是发明 rubric 评价本身，而是把自动 rubric 生成从文本/评测场景推进到多模态生成 reward，并将其用于在线策略优化。最值得 follow up 的方向包括：用异构 verifier 降低同源偏差；把 rubric 维度显式映射到 per-axis reward/credit assignment，而不只是最终二元 winner；研究人类少量 guide 样本的选择策略；以及在视频生成、3D 生成等更复杂多模态任务中验证 rubric 外显是否同样能稳定 reward。 | followup |
| [2605.10207](../2605.10207/report.md) | LASAR 的核心 assumption 是 explicit CoT hidden states 构成有效的语义轨迹——如果 teacher CoT 质量差（推理错误、碎片化），alignment 会锚定到错误轨迹上，导致性能劣化。论文用 GPT-5 生成 CoT 确保了 teacher 质量，但在实际部署中这意味着对强 teacher model 的依赖。另一个隐式 assumption 是 BGE embedding 语义分割的粒度与合理的推理步数一致——这是一个启发式选择，不同的 segmenter 可能产生显著不同的 $N$ label 分布。 | assumption |
| [2605.10207](../2605.10207/report.md) | 最有价值的 follow-up 方向：一是将 latent reasoning 扩展到更复杂的推荐场景（如 session-based、cross-domain），二是在更大规模（>7B）模型上验证 scaling behavior 和潜在的 phase transition，三是探索 teacher-free 的 alignment 方案——能否不依赖 GPT-5 级别的 teacher 完成语义锚定，比如用协同过滤信号本身构建 reasoning trajectory。 | followup |
| [2605.11447](../2605.11447/report.md) | **核心 assumption**：ComeIR 的存在前提是 SID 是 *离散且可枚举* 的——只有这样 deterministic hashing 才能让同一段 pattern 在不同 batch、不同 user 之间收到一致的梯度信号。一旦切换到 continuous semantic ID 或非常长（$L>10$）、超大 codebook（$C>10^4$）的设置，intra-item domain $C^L$ 立刻爆炸到 hash 完全无效，整个 Engram 设计将失效。论文里 $L=3, C=128$ 的实验设置其实是 sweet sp… | assumption |
| [2605.11447](../2605.11447/report.md) | **最值得 follow-up 的方向**：(1) Memory 持久化与冷启动——目前 Engram 表跟随训练一起学，新 item 加入时新的 SID 模式 hash 到空 bucket，相当于 cold start，没明确处理。(2) 动态 sparse allocation——既然论文已经发现 inter-item 的 U-shape，那么 backbone 与 memory 的参数预算分配本身可以做 RL 或贝叶斯优化。(3) 把 Memory-restoring Prediction Head 的思路推广到 *非 GR 的离散序列生成*（如… | assumption |
| [2605.11447](../2605.11447/report.md) | **实验回避了什么**？(1) 没有和 OneRec、OneTrans 这类**带 external input 的 GR 方法**做端到端对比——只比了 flatten 和 TM 这两个最 weak 的基线；论文虽然在 motivation 里把 external-input 列为对手，但实验里它们没出场，部分原因是公平比较时 ComeIR 的 $\boldsymbol{b}_n$ 是空的。(2) 三个数据集都是 academic 规模（user 100$）下 inter-item Engram 的 hash collision 会进一步恶化未知。(… | limitation |
| [2605.11553](../2605.11553/report.md) | TwiSTAR 的核心 assumption 是 SID 空间可以有效地与 LLM 的 semantic space 对齐，且 I2I 关系可以忠实地被语言化。在 item metadata 丰富（如 Amazon 商品有 title + category）的领域这个 assumption 成立；对于纯 ID-based 的数据集或 metadata 极度稀疏的场景，alignment 和 explanation generation 的质量可能下降。另一个 assumption 是用户历史中 category diversity 可以作为 diffi… | assumption |
| [2605.11553](../2605.11553/report.md) | 与同期工作相比，TwiSTAR 的独特定位在于它是第一个在生成式推荐中 learned adaptive reasoning allocation 的工作。OneRec-Think 解决了工业部署的延迟问题（离线预计算），但没有自适应；OxygenRec 有 fast-slow 架构但 routing 靠 heuristic。TwiSTAR 真正把 routing 变成了可学习的问题。 | limitation |
| [2605.11553](../2605.11553/report.md) | 最有价值的 follow-up 方向：(1) 将 planner 从离线 RL 扩展到 online bandit learning，让 routing policy 持续从用户反馈中更新；(2) 在 slow model 中引入 early termination 机制，对已充分推理的 case 提前结束 CoT 生成；(3) 扩展到 conversation recommendation 等需要多轮交互的场景，让 planner 管理更复杂的 tool 组合空间。 | followup |
| [2605.11874](../2605.11874/report.md) | 方法的 core assumption 是 **reward model 本身足够可靠**。如果 IF RM 产生 false positive（把一个格式有问题的回复判为合规），后续所有奖励都会基于错误前提。论文在数据质量验证上做了不少工作（human-machine agreement $\kappa=0.66$，per-class F1 分析），但 $\kappa=0.66$ 在 overall IF score 上并不算高——这意味着有约 1/3 的判分存在人机分歧。在 RL 训练中这些噪音会被放大，特别是在 early stage 当 age… | assumption |
| [2605.11874](../2605.11874/report.md) | 实验覆盖了美团的多品类场景（餐饮、生活、购物、旅游、住宿、医疗），但回避了一个核心问题：**reward model 的跨领域泛化能力**。在美团的住宿场景训练的 FC RM，能否检测到医疗场景的幻觉？在餐饮场景训练的 relevance RM，能否判断购物 query 的相关性？如果没有跨领域泛化，实际部署需要为每个垂直领域分别训练 RM。 | limitation |
| [2605.11874](../2605.11874/report.md) | 这篇论文最值得讨论的不是 benchmark 本身，而是 **层级门控设计背后的哲学选择**。把 IF 和 FC 设为 hard gate 意味着"宁可错杀也不放过"——一个格式完全正确但有一处微小幻觉的回复，和行为优秀但格式完全混乱的回复，都获得零奖励。这种策略在高精度要求的工业场景是合理的（美团场景下，推荐一个不存在的商户比不推荐更糟糕），但在学术场景下可能过于严格——一个偶尔轻微格式错误的 agent 可能在实际用户满意度上远超一个格式完美但推荐平庸的 agent。 | followup |
| [2605.11874](../2605.11874/report.md) | 最有意义的 follow-up 方向可能是 **soft-gating 替代 hard-gating**：当前设计中的乘性门控让梯度在 $C=0$ 时完全断开，可能导致一些本可通过微小修正改进的回复被完全放弃。用连续置信度替代二值门控（如 $C_{\text{inst}}$ 改为 $[0,1]$ 范围内的连续值）可以保留梯度信号，同时仍保持对严重违规的强惩罚。 | followup |
| [2605.12474](../2605.12474/report.md) | 这篇论文的关键假设是 reference panel 能作为比训练 verifier 更强的质量参照。作者做了 human-expert calibration：panel 成员和 GPT-OSS-120B 在医学/科学 expert pass-fail labels 上达到约 79.4–81.3 macro-F1，GPT-4o-mini 较低，unanimous-consensus rejection 与 human fail label 也接近 80 macro-F1。这个验证不能证明 panel 是 ground truth，但足以支持“弱/强… | assumption |
| [2605.12474](../2605.12474/report.md) | 主要局限也很清楚：reference 仍是模型 panel，不是直接人类偏好；rubric-design analysis 主要是相关性，不是通过重加权/新增负面 criteria 的因果干预；训练配置没有多 seed，只用 bootstrap over prompts 估计评估不确定性。后续最值得做的是：在线更新 rubric、显式加入 negative/absence criteria、把 self-gap 与外部 panel 结合成自适应 early stopping，以及测试这些修正是否能在不牺牲 completeness 的情况下恢复 fac… | limitation |
| [2605.12474](../2605.12474/report.md) | - Rubric-free judge prompt 明确要求分别评估 completeness、factual correctness、conciseness、relevance、safety 和 holistic overall；所有三名 judge 都方向一致地显示 completeness 上升而其他维度下降。 | followup |
| [2605.14401](../2605.14401/report.md) | 方法的核心 assumption 是**preference 是可以被 disentangle 成离散 chunk 的**。在 Books / MovieTV / Yelp 这种偏好维度（genre / mood / cuisine）相对正交的域上这成立，但在偏好高度纠缠的场景（比如时尚搭配、音乐风格融合）chunk 化可能失真——你很难把一种 aesthetic 切成独立的可加减 chunk。另外一个隐含 assumption 是 instruction-rich setting：评估全部在 InstructRec 上，用户用自然语言表达 inten… | assumption |
| [2605.14401](../2605.14401/report.md) | 实验范围的取舍也值得注意：evolving 模式只在 Books 的 100-user 子集上做，原因是 per-signal LLM cost 太高（与 AgentCF / A-Mem4Rec 量级相当）。这个 scale 的实验在统计意义上的鲁棒性不算强，作者用 temperature=0 + capacity 消融稳定性间接论证，但没有给 error bar。对于工业部署而言，evolving 模式的延迟和吞吐还需要更大规模验证。 | followup |
| [2605.14401](../2605.14401/report.md) | 最值得跟进的方向，结论里作者自己提了一个：把 collaborative signal 当作 planner 的额外 tool（共享 preference graph 或 cross-user memory propagation），而不重写 lifecycle。这个延展是自然的，因为 planner 的 action space 本来就是开放的。另一个潜在方向是把 preference chunk 的 strength 更新从手工 step-size 升级到 learned dynamics——目前 $\delta_+ / \delta_- = 0.… | followup |
| [2605.17291](../2605.17291/report.md) | 最重要的 assumption 是 step boundary 与 judge attribution 足够可靠。SRaR 要求模型按格式输出 `### Step N`，这在数学训练里可接受，但对自由形式代码生成、科学推理或多模态任务可能不自然。LLM judge 的错误也会直接进入 reward；作者用跨 rollout normalization 缓解系统性偏差，但单样本归因错误仍会产生噪声。 | assumption |
| [2605.17291](../2605.17291/report.md) | 成本也是实际限制：每个 rollout、每个 rubric item 都需要 judge，训练 wall-clock 和推理成本会线性增加。论文在数学 reasoning 上证明了收益，但还没有证明这种成本在代码、科学推理、逻辑推理等其他多步任务上划算。另一个未充分展开的问题是 rubric distillation 对 GPT-5 的依赖：如果只能使用较弱模型构造 rubric，SRaR 是否仍稳定，仍需实证。 | limitation |
| [2605.17291](../2605.17291/report.md) | 我认为这篇论文最值得后续跟进的方向是把 step attribution 从强格式 prompt 中解耦出来，例如用自动 segmenter 或 latent span attribution，使其能用于自然 CoT / tool-use traces；另一个方向是减少 judge 调用，通过缓存 rubric verdict、训练轻量 judge、或只对高不确定步骤打分来降低 RL 成本。 | followup |
| [2605.17648](../2605.17648/report.md) | **核心 assumption**：per-step match reward 的可用性 hinges on 一个 clean per-level verifier，本文用 ground-truth SID 提供。一旦换成 production 的 noisy implicit feedback（点击/转化），per-level 信号未必存在，SAPO 退化为只有 final-level reward——这时它就只剩 step-normalized aggregation 这一个机制，效果会显著缩水。作者把这列在 limitation 里是诚实的，但读… | assumption |
| [2605.17648](../2605.17648/report.md) | 最值得讨论的是 SAPO 在 **Recall 上不全面胜出**这一点。作者明确承认：Office R@5 和 Industrial R@10 上略低于 SIDReasoner。把这点和 NDCG 全胜放在一起看，含义很清楚——SAPO 改善的是"正确 item 在 candidate list 里被排到多前面"，而不是"是否进入了 top-k"。NDCG 对位置敏感（log discount），per-step credit assignment 正好优化的是**逐位 SID 决策**，自然提升排序质量；但是否能召回到 top-k 取决于召回阶段的覆… | followup |
| [2605.17648](../2605.17648/report.md) | **Positioning**：和并发的 Rank-GRPO（在 conversational 推荐里做 rank-level credit assignment）正好互补——Rank-GRPO 切的是"推荐列表的位置 hierarchy"，SAPO 切的是"item identifier 的 codebook hierarchy"。两者结合或许是个有意思的方向。和 zhang2026why 提出的"长 CoT 会造成 textual-inertia bias"诊断在方向上一致——两者都指向"reasoning token 不该被无差别强化"，SAPO… | followup |
| [2605.17648](../2605.17648/report.md) | **最有价值的 follow-up**：作者结论里点到一个广泛的 implication——"whenever a generation task admits a natural hierarchical decomposition, the hierarchy itself can serve as per-step supervision, without any learned reward model"。这能否推广到 tool-call schema、structured JSON output、structured math reasoni… | followup |
| [2605.18592](../2605.18592/report.md) | AMARIS 成立的核心 assumption 是：训练过程中产生的诊断文本和 update record 对未来 rubric 修改有可复用价值，并且检索出来的历史证据总体上比噪声更有帮助。这个假设在论文覆盖的 rubric-based RL 场景中得到支持，尤其是 reward hacking 会复发、rubric patch 有滞后效果、模型能力随训练阶段变化的任务。但它也意味着 AMARIS 依赖诊断质量、summary 质量和 retrieval 质量；如果 judge/analysis 模型偏置很强，或 memory 检索到弱相关甚至误导性… | assumption |
| [2605.18592](../2605.18592/report.md) | 实验覆盖较广，但仍有边界。默认 policy 主要是 Qwen2.5-7B-Instruct，虽然附录用 Qwen3-4B 复现了类似趋势，但还不能说明在更大模型、不同 RL 算法、非文本任务或更开放多轮交互中同样稳健。AMARIS 还增加了大量辅助 LLM inference：异步减少的是阻塞时间，不是总 compute。论文的 update-frequency 消融显示 every-2-steps 在多个指标上略优于 every-step，说明未来可以继续研究更节省的调度策略。 | followup |
| [2605.18592](../2605.18592/report.md) | 我认为这篇论文最值得借鉴的是“把评估过程变成 memory-backed control loop”。它给 rubric-based RL 一个比静态 prompt/rubric 更接近系统工程的结构：诊断、汇总、检索、编辑、记录、再利用。后续工作可以把这个思路推广到 reward model auditing、agent eval suite 演化、长期对齐数据治理，甚至把 memory 中的 update records 做成可解释的训练审计日志。 | followup |
| [2605.18771](../2605.18771/report.md) | **核心 assumption 与失效场景**。LWGR 的约束是 "policy 在 ground-truth SID 上的 mean log-prob 不要低于 reference"，等价于把 reference 当作一个 lower bound。这个 assumption 需要 reference GR 本身就是合理的——如果 reference 严重欠拟合（比如新 domain、冷启动场景），约束会变弱甚至失效；反过来，如果 reference 已经接近上限，世界知识带来的相对提升空间也很小。此外 $\delta=\varepsilon=10^… | assumption |
| [2605.18771](../2605.18771/report.md) | **实验覆盖与回避**。亮点是有工业 A/B 与亿级数据集，且消融把每一个声称的设计点都打掉过；回避的是 (i) 与 reference-free 的 RLHF/DPO 风格约束的比较——文章只对比了 fixed-β，没有比 KL/clipping 这类近年常用的 policy constraint；(ii) 真正大规模 LLM (Qwen3-8B 之外的 70B/200B) 的可行性，工业部署用的是 4B；(iii) 物品端的世界知识只用了 title/description，没讨论多模态信号。 | limitation |
| [2605.18771](../2605.18771/report.md) | **与相近工作的 positioning**。同为"LLM+GR"，KAR/SeRALM 走 prompt+adapter，LWGR 走 soft-prompt+constraint；同为"码本+用户兴趣"，VQ-Rec/TIGER 把码本用于 item，LWGR 把码本搬到 user 侧用作"软指令"；与 OPQ/RPG 共享子空间分解的思想，但目标完全不同（前者压缩 SID，LWGR 表达 prompt）。可以把它看成"item-side RQ-VAE / OPQ → user-side parallel codebook"的对称延伸。 | followup |
| [2605.18771](../2605.18771/report.md) | **Follow-up 方向**。(1) 约束的对象目前是 ground-truth SID 的 log-prob，可以替换成更直接的 ranking metric (如 NDCG surrogate) 或 calibration loss；(2) Lagrangian 现在只有一条约束，多约束 (latency, fairness, diversity) 的扩展是自然的下一步；(3) 软指令是否能被翻译回自然语言？这对可解释性和 prompt 复用都很关键；(4) reference 模型其实可以做成 EMA self-reference，避免预训练… | followup |
| [2605.18805](../2605.18805/report.md) | 核心 assumption 是「co-purchase / hit-rate 是有效用代理」。论文把 SetHit 与 reward model 同时报，部分缓解了 co-purchase 暴露偏差与 popularity 污染的问题，但仍然只验证在 Amazon 三类目、利基商品较少的场景；冷启动品、长尾子类目、跨文化购物习惯下结论是否成立没有覆盖。另一处脆弱点是 query 由 LLM 生成并 LLM 过滤——尽管做了 binary keep/reject 过滤，仍可能继承生成 LLM 的偏置，使 benchmark 倾向那些 LLM 容易表述的需… | assumption |
| [2605.18805](../2605.18805/report.md) | 值得 follow up 的方向至少四条：(1) 把 RecoAtlas 当作 RL/SFT 训练环境，按 SetHit 与 reward model 做策略优化，论文最后已经明示了这条路；(2) 用更细的 trace-level 分析揭示「为什么 Nemotron 49B 在 bundle 上反超」——是更主动调用 complementarity，还是更敢于丢掉初始 search 结果；(3) 引入 personalization：当前 query 是无 user history 的，未来可以把 user-side 历史塞进 state block；… | limitation |
| [2605.18805](../2605.18805/report.md) | 最值得关注的 take-away 是：**LLM-judge 的语义合理性与真实购买行为是两套维度**。RecoAtlas 提供了一个清晰的反例——同一个 Agent 换用语义工具后 LLM-judge 上升、SetHit 下降——这种实验级反证比单纯说「LLM-judge 有偏」更具说服力，应该成为后续 Agent 评测设计的默认 sanity check。 | followup |
| [2605.20164](../2605.20164/report.md) | 核心假设是：criterion-level rollout variance 是“当前可学习性”的好代理。这个假设在 GRPO 下很自然，因为 advantage 就来自组内 reward 差异；但它也可能失败。若 judge 噪声导致某条 criterion 看似有 variance，POW3R 会把更多权重给噪声；若某条重要 criterion 目前全失败但只需长期探索才能突破，过早降低其压力可能延迟突破。论文通过 alpha floor、EMA 和类别内归一化减轻这些风险，但没有从理论上保证动态权重总是改善长期最优。 | assumption |
| [2605.20164](../2605.20164/report.md) | 实验覆盖了两类任务：作者自建 MM 多模态数据集和 HealthBench 文本医学问答，模型覆盖 Qwen 与 Gemma 两个家族。覆盖面已经比单一 VLM 任务强，但仍依赖 LLM judge，并且 MM 数据集本身不是公共标准数据集。作者也承认，带静态 human weights、prompt-specific criteria 和足够规模的公开 rubric-RL 数据很少，因此 coding feedback、科学写作、多语言 instruction following 等场景还未验证。 | followup |
| [2605.20164](../2605.20164/report.md) | 一个值得注意的设计选择是 HealthBench 的 signed criteria 转换。训练 POW3R 需要非负权重，因此作者把负权重 criterion 改写成“避免坏行为”的正权重 criterion，仅训练时使用；评估仍用 HealthBench 原始 scoring script。这是合理工程处理，但也提示 POW3R 当前公式对负权重/惩罚型 rubric 不是原生支持，后续若要用于 safety 或 harmfulness 多目标训练，可能需要更直接处理 signed reward。 | followup |
| [2605.20164](../2605.20164/report.md) | - MM 数据集包含 10,000 个任务，65% 单轮、35% 多轮；rubric 类别包括 Visual perception、Visual reasoning、Content completeness、Instruction following、Truthfulness、Style/presentation。 | followup |
| [2605.21832](../2605.21832/report.md) | **核心假设与失效场景**。FLUID 的全部叙事建立在「item lifetime ≪ ID embedding 收敛时间」这一前提之上。一旦 item 寿命延长到电商/短视频量级（数月数年），ID 是真正能积累 collaborative signal 的资产，retire 它就反过来是损失——这点作者在 related work 里也含蓄承认（「ID-dominance 是直播 specific 才致命」）。因此 FLUID 不是要颠覆 ID-based recommendation，而是给一条特定的「短寿命物品」赛道画出新基线。值得追问的是：边… | assumption |
| [2605.21832](../2605.21832/report.md) | **实验覆盖与回避**。优点：A/B 把「单减 ID」单独作为一条 arm，证伪了「这只是个 diversity 改进」的可能；ablation 用 gate inversion 图直接证伪了「让模型自己学 fusion」的可行性。回避：（a）没有跟最强的 ID + 多模态对齐基线（如 LARM 全套）做端到端 A/B，只在离线消融里复现 LARM-style gate；（b）没有 user-side 实验，所有 multimodal 都只挂在 candidate side；（c）staged warmup 的具体衰减曲线、需要多少天才能完成 ID p… | limitation |
| [2605.21832](../2605.21832/report.md) | **Positioning**。论文里那张「九列对比表」很说明问题：能同时打钩「retires item ID」「ephemeral items」「cross-domain encoder」「late fusion」四项的只有 FLUID 一家。这意味着相邻工作（QARM、EM3、LARM、AB-Rec、Zheng et al. | limitation |
| [2605.21832](../2605.21832/report.md) | **值得 follow up**：(1) 把 user-side ID 也试着换成行为序列的 LUCID 化离散码，看是否能进一步松开 ID 依赖；(2) 给 staged warmup 一个理论分析或自动化调度框架，目前的「每阶段动一个组件」很像经验启发，缺一个收敛性证明；(3) RQ-KMeans 在 online 增量训练下的码本漂移问题，论文只说「比 VAE 稳」，但没量化漂移与下游 AUC 的关系——这是工业部署里真正影响长期质量的细节；(4) 跨域训练里短视频和直播的 query 分布差异是否引入隐性的 domain bias？例如某些直播… | limitation |
| [2605.21967](../2605.21967/report.md) | **核心 assumption**：Rechead 的打分是「足够 verifiable」的奖励。这隐含了两条更深的假设——(a) sentence transformer 编码出来的相似度足以反映真实的 user-item 偏好；(b) negative sampling 出来的 NDCG 不会因为采样方差让 RL 信号过噪。在数据非常稀疏或者 item 空间极大（电商主搜场景）时，第二点可能 break：作者的 evaluation 都在 ≤12k items 的 Amazon 子类，扩展到 10⁸ 级 item 池时，NDCG@k 的方差会主导… | assumption |
| [2605.21967](../2605.21967/report.md) | **实验回避的部分**：没和 LLM 全参数微调的强基线（如直接 instruction tuning Qwen3-0.6B + Rechead）做对比，所以无法直接证明「RL 比 SFT 更适合 CoT alignment」。entropy reward 的消融幅度也不大，更像是个稳定性 booster 而非必要项。线上实验是把 LLM 推到 nearline 而不是 online inference，所以严格说 RPORec 在线上验证的更多是「LLM 离线生成的 CoT 作为辅助特征是否有用」，而不是端到端架构的延迟可行性。 | limitation |
| [2605.21967](../2605.21967/report.md) | **值得 follow up**： - CoT diversity reward——目前 entropy reward 鼓励的是 token 级 uncertainty，但用户层面的偏好多样性没被显式建模，论文 Limitations 也提到了这点。 | limitation |
| [2605.21967](../2605.21967/report.md) | - 与 LLM-as-summarizer 的耦合：$r_{sim}$ 和 $r_{comp}$ 依赖一个冻结的同款 LLM 当压缩器，未来如果换更强模型做 summarizer 是否会提升奖励信号质量，或者直接 collapse？ | followup |
| [2605.21969](../2605.21969/report.md) | **核心 assumption 与 break point**： 1. | assumption |
| [2605.21969](../2605.21969/report.md) | *LLM 抽取出的离散 token 对输入扰动鲁棒*。这在英文文本字段、规则结构的广告创意上成立得很好；但对纯图像创意、低资源语种、或带大量营销噪声词的创意（"🔥限时秒杀🔥"），Llama3-8B 的稳定性未必有保证。论文只用了文本字段，回避了这个问题。 | assumption |
| [2605.21969](../2605.21969/report.md) | **实验覆盖与回避**：覆盖了在线 A/B 的 top-line 与稳定性，但没有报告 LLM 推理成本、GPU 占用、端到端延迟变化、对长尾广告主（小预算）的差异化效果。也没有对比"用 dense embedding + ANN"的 LLM 召回方案——这是一个很自然的 ablation，但没做。 | limitation |
| [2605.21969](../2605.21969/report.md) | **Positioning**：在 LLM-for-Recsys 的版图里，本文与 KAR/LLM4Rec 等"用 LLM 做 ranking 信号"的路线不同，它把 LLM 放在更上游的 retrieval 阶段，且产出的是 *离散 token 而非 dense vector*。这条路线和 Google 的 Semantic ID（generative retrieval）方向更接近，但本文是 *外挂式离散 token + 图遍历*，工程上更轻量、更易嵌入既有 ensemble。 | followup |
| [2605.21969](../2605.21969/report.md) | **值得 follow up 的方向**： - 把 StatSigDiff/MAD 指标推广到非广告的 recsys（视频、电商），并作为公开 benchmark； - 多模态创意（图片、视频）的 LLM token 化是否仍保持 A/A' 稳定性； - 用 LLM token 直接训练 generative retrieval（Semantic ID-style）以替代图遍历，端到端联合优化 recall 与 predictability； - A/A' 这一概念能否进一步用于 ranking 模型的训练目标（如 regularization）。 | followup |
| [2605.22817](../2605.22817/report.md) | 但它的核心 assumption 也很明确：**奖励必须真的可分解，且不同维度的最优响应不能近乎共线。** 论文在 UltraFeedback 上的结果很诚实：ArmoRM-5 的 5 个分量虽然名义上不同，但在 on-policy 分布下几乎共线，VPO 的优势随之消失，甚至 absolute best@\(k\) 略输 GRPO。换言之，VPO 不是“向量奖励越多越好”，而是“有真实 Pareto front 时才值得覆盖”。 | assumption |
| [2605.22817](../2605.22817/report.md) | 另一个值得注意的点是，论文把主要贡献放在 best@\(k\) / pass@\(k\) 和搜索收益上，因此**并不追求单样本最优**。作者明确承认 pass@1 会被牺牲；这不是副作用，而是目标选择。如果部署场景根本不会做搜索，只看单次回答，那 GRPO 一类标量目标可能更合适。很多团队若只看 pass@1 可能会误判 VPO“没用”，其实是目标错位。 | followup |
| [2605.23191](../2605.23191/report.md) | **核心 assumption 在哪里 break。** Theorem 3.1 的下界依赖两个假设：$\langle X, Y\rangle_F \approx 0$ 和 $\|X+Y\|_2^2 \approx \max(\|X\|_2^2, \|Y\|_2^2)$，本质是「初始化阶段 X 和 block-transpose Y 谱不相干」。若训练后期 X 和 Y 强相关，下界会松，mixing 的扩张能力名义上有但实际不一定兑现。Theorem 3.2 的概率收缩依赖 response-gap (principal direction 的激活响应… | assumption |
| [2605.23191](../2605.23191/report.md) | 把 effective rank 当训练时的辅助 loss 或正则项，能否在不改架构的前提下复刻部分收益？ | assumption |
| [2605.23191](../2605.23191/report.md) | **实验覆盖与回避。** 论文跑 Criteo / Avazu 两个公开 CTR 集 + 两个 sequence 集，深度只到 2 个 block；scaling 实验的最大参数量约 4 倍 base，没有进入真正大规模 (10×、100×) 区间。换句话说，「scaling 行为更好」是在中等规模上的趋势外推，工业级 100M+ dense 参数下两条曲线是否还能拉开尚未直接验证。此外，RankElastor 的 mixing 复杂度是 $O(T^2 D^2)$，在 token 数 $T$ 较大的部署场景 (如长序列) 会成为瓶颈；论文用的 $T\l… | limitation |
| [2605.23191](../2605.23191/report.md) | 把这套分析推广到带 attention 的 token-transformation 推荐器 (例如 HSTU)，看看 attention head 自然就解决了 expand/shrink 不对称问题，还是仍然有锯齿。 | limitation |
| [2605.23191](../2605.23191/report.md) | **值得 follow up 的方向。** 1. | followup |
| [2605.23191](../2605.23191/report.md) | - Appendix A.2 的 FFN failure 证明分两块：rank-1 输入下的 deterministic homogeneity barrier（每个 row 是同一个向量的标量倍，正齐次激活只产生 ≤2 个方向）+ Hanson–Wright + Matrix Bernstein 给出的高概率 $\operatorname{erank}\le\alpha\cdot\operatorname{erank}(X)$。 | followup |
| [2605.23191](../2605.23191/report.md) | - Appendix A.4 的 GLU 恢复证明依赖一个不太显眼的关键步：用 $X = SV^\top$ 的潜在分解把 $\phi(XA)\odot (XC)$ 写成 $s_t s_t^\top$ 的对称单项式，得到 $\zeta_t\in\mathbb{R}^{k(k+1)/2}$ 这个二次特征向量。这个 explicit feature map 解释了为什么 GLU 是「乘性 kernel」而 GELU 不是。 | followup |
| [2605.23310](../2605.23310/report.md) | **核心 assumption 与失效场景**：方法成立的前提是 RQ-VAE 生成的高碰撞语义簇"足够纯"——同簇实体真的语义相似，head 才能当 tail 的可靠老师。如果 LLM 表示质量不够或量化碰撞率没调好，簇内会混入不相似实体，head→tail 迁移反而注入错误知识。论文用"calibrate layers and codebook size"一句话带过这个标定过程，但簇纯度其实是整个框架的命门，缺少对碰撞率/簇纯度的敏感性分析。 | assumption |
| [2605.23310](../2605.23310/report.md) | **实验覆盖与回避**：强项是真实工业规模 + 线上 A/B + head/tail 分桶，可信度高。但回避了几点：(1) 全部实验只在天猫单一数据集，没有公开数据集复现，外部难验证；(2) 没有对 $\lambda_1, \lambda_2$ 这对决定迁移不对称强度的关键超参做敏感性分析——而这正是全文最核心的设计；(3) 离线 AUC 绝对增益 0.35% 看起来很小，主要靠 GAUC（+1.53%）和线上指标撑场面，AUC/GAUC 的差异说明增益集中在"组内排序"而非全局，符合长尾叙事但也提示整体判别力提升有限。 | limitation |
| [2605.23310](../2605.23310/report.md) | **值得 follow up**：(1) 非对称 InfoNCE 的 head/tail 划分目前是硬阈值（交互次数），能否做成连续/软划分；(2) stop-gradient 是最简单的"保护 head"手段，是否有更细粒度的方式（如按簇纯度加权）；(3) 簇是静态生成的，head/tail 身份会随时间漂移，在线场景下簇与迁移方向的动态更新是开放问题。 | limitation |
| [2605.23310](../2605.23310/report.md) | **Positioning**：相比纯 LLM 内容特征方法（jia2025learn 等），本文的差异化在于显式建模迁移方向性；相比图方法，用语义簇替代人工图构造。Stage 2 大量复用成熟组件——target attention 来自 DIN、cluster 序列 hard retrieval 来自 SIM、排序网络可用 MMoE——真正 novel 的是 CGAE 里 stop-gradient + 非对称权重这一组合，以及"高碰撞 RQ-VAE 当聚类器"的用法。 | followup |
| [2605.23310](../2605.23310/report.md) | --- 无独立附录。Stage 1 的两个表示抽取目标值得单独留意：item 侧用共现对 InfoNCE（公式 1）注入协同信号；user 侧 SFT 目标（公式 2）= interest token 与点击 item 语义表示的余弦相似度 + 预测点击品类的交叉熵，让 LLM 同时学会"表示对齐"和"品类预测"两件事。 | followup |
| [2605.23312](../2605.23312/report.md) | **核心 assumption 与 break 场景**：论文最核心的假设是"任务可以粗分为三类、且这种粗粒度足以指导容量分配决策"。这个 taxonomy 是刻意匿名化和粗粒度的，好处是普适、坏处是无法验证细粒度任务内部是否也存在异质 scaling。offset power law 的 $P_0$ 作为决策依据也有风险——它是在**当前数据、目标、评估分布**下的外推，论文自己也强调 $P_0$ 只在这些条件固定时才有比较意义；一旦数据规模或目标变化，ceiling 会移动。MTP 在在线服务上损害顺序敏感任务，是一个明确标注的 break 场景，… | assumption |
| [2605.23312](../2605.23312/report.md) | **实验覆盖了什么、回避了什么**：FLOPs 降低是**解析估计而非端到端实测**，论文诚实地多次声明这一点——所以 35.5×/249× 这些数字反映的是输出层理论成本，不能直接读作训练墙钟时间的加速。影子评估衡量的是表示质量的广度而非单点因果增益，真正的产品 lift 只用一句"多个 A/B 已有正向结果"带过，没有给数字。冷启动评估也只报了一个聚合的 +28.1%，没有按 title 新鲜度分层。 | limitation |
| [2605.23312](../2605.23312/report.md) | **与相近工作的 positioning**：论文反复把自己定位为"与架构/tokenization 进展互补"。相对 HSTU（证明生成式推荐能 scale），本文回答的是"scale 在下游任务间如何 transfer"；相对 TIGER/SID 系工作（用语义 ID 解决泛化），本文保留协同 ID 给成熟 title、用语义塔补弱 ID，是表示层面的互补；相对 RADAR 等缓存/延迟检索系统，本文的 MTP 解决的是"缓存输出被延迟消费时标签陈旧"的互补问题。效率配方也刻意保持简单（1% 均匀负采样、$d/8$ 投影头），声明与 Cut Cro… | limitation |
| [2605.23312](../2605.23312/report.md) | **值得 follow up 的方向**：(1) 把 sampled softmax 加上 LogQ 校正，论文明确留作正交方向；(2) 用 $P_0$ 做更系统的"容量预算分配"——既然能诊断哪个任务有 headroom，能否形式化为多任务资源分配问题；(3) MTP 的 reward 权重 $r_i$ 目前是手工编码的效用信号，能否学习；(4) 把解析 FLOPs 估计补成端到端吞吐实测，验证理论收益的落地比例。整体而言，这篇论文的价值不在某个单点技术，而在于把"大模型如何在生产推荐中真正 transfer"系统化为四个可独立攻击的工程问题，并给出… | limitation |
| [2605.23454](../2605.23454/report.md) | ARES 的核心假设是：LLM 生成器和验证器可以从原始文档中可靠地产生自包含问题、忠实参考答案和有效 rubric，并且 judge 能按这些 criteria 稳定评分。这个假设在高质量、事实密集、上下文完整的文档上更可信；在偏见强、事实争议大、上下文碎片化或需要专业安全审查的材料上会更脆弱。论文通过过滤和验证降低风险，但没有给出人工标注 gold rubric 的一致性评估，因此 reward 质量仍主要依赖模型自身。 | assumption |
| [2605.23454](../2605.23454/report.md) | 定位上，ARES 更像是“把预训练语料转成 RL supervision 的数据引擎”，而不是新的 RL optimizer。它的价值在于让原本只能做 CPT 的文档变成开放任务可用的 dense reward 训练样本；因此后续最值得做的方向包括：人工审计 rubric 质量、研究 judge bias 对 RL 的影响、在更大模型/更多语种/安全敏感领域上验证，以及比较“先生成 rubric 再训练 reward model”和“在线 LLM judge”两种落地路径。 | followup |
| [2605.23590](../2605.23590/report.md) | Co-ReAct 的核心 assumption 是：当前轨迹前缀中存在可由 rubric 显式化的“下一步质量标准”，并且 verifier/evaluator 能较稳定地判断候选动作是否满足这些标准。这个 assumption 在深度研究、开放检索、需要覆盖多来源证据的任务上很合理；但在单步闭卷问答、工具观察高度噪声、或 evaluator 无法判断动作价值的领域，rubric 可能变成额外提示噪声。 | assumption |
| [2605.23590](../2605.23590/report.md) | 另一个关键限制是评价和训练均依赖 LLM judge。专家排序来自三个 frontier LLM，DRB/SQA 评估也用 Gemini judge 或官方脚本中的 LLM 判断，因此结果可能继承 judge 偏好、verbosity bias 或模型家族间共享盲点。论文通过多 judge、Borda 聚合、两个 benchmark、多种 agent backbone 缓解这个问题，但还没有人工标注或真实用户任务层面的最终验证。 | limitation |
| [2605.23590](../2605.23590/report.md) | 值得 follow up 的方向包括：把 Co-ReAct 叠加到端到端 RL 搜索 agent 上；用人工偏好或任务真实成功率校准 rubric reward；减少 verifier/evaluator 调用成本；以及研究 rubric 是否会在长上下文下导致过度保守、过度搜索或目标漂移。 | followup |
| [2605.24051](../2605.24051/report.md) | **核心 assumption 与失效场景。** Memento 假设"用 embedding 余弦相似度做无监督 MMR 检索，能选出对当前预测最有用的历史"。这是个无监督代理目标——论文自己在结论里承认未来要转向**有监督检索**，暗示当前检索质量未必最优。从 Table 也能看出端倪：$\beta$（user-to-ad 相似度）调太高反而退化，说明"相似"不等于"有用"，相似度信号和最终 NE 目标之间存在 gap。当用户行为与历史模式弱相关（如全新用户、行为突变）时，检索增强的收益可能消失甚至变噪声。 | assumption |
| [2605.24051](../2605.24051/report.md) | **与相近工作的 positioning。** 相比 TWIN / TWIN-V2（聚类式搜索层）和 PinnerFormer / DV365（联合训练长期摘要），Memento 的三点区别是：(1) 显式的、带倒排索引的搜索模块，同时服务于表征增强和训练数据增强；(2) 用改进 MMR 显式建模 query-doc 和 doc-doc 相似度，而非假设 query 和 doc 共享同一 embedding 空间；(3) 把 lifelong 历史当作 augmentation，并在下游排序模型里显式建模这个额外上下文（Ember）。它本质上是把 LL… | assumption |
| [2605.24051](../2605.24051/report.md) | **实验覆盖与回避。** 论文用真实生产 A/B 给出了很强的工业可信度（+1% CTR / +1.2% CVR 在 Meta 体量上是大数字），系统侧的延迟/存储数字也很扎实。但**回避了可复现性**——明确说不用公开数据集，所有 NE 都是相对值，外部研究者无法复现或对比。Ember-Quadratic 引用的 QNN 收益是别人在公开 benchmark 上的结果，本文只在内部验证；Table 里被引用的 `tab:ember-deployment`（生产部署超参）在正文里实际缺失。"30 天模型损失 6 个月前模式 50% 性能"这个关键动机数… | limitation |
| [2605.24051](../2605.24051/report.md) | **值得 follow up 的方向。** (1) 有监督/可学习的检索器替代无监督 MMR，直接对齐 NE 目标，预计能进一步缩小"相似≠有用"的 gap；(2) Data Memento 目前只敢上 CVR（CTR 算力/存储太贵），如何把 rehearsal 扩展到 CTR 是开放问题；(3) 检索粒度（chunking 策略）目前是启发式的 7 天 epoch，是否能自适应每个用户的活跃度；(4) 参数 reset + 放大学习率这套二次训练配方对其他持续学习场景的可迁移性。 | limitation |
| [2605.25330](../2605.25330/report.md) | **核心 assumption 与 break 条件**。ZCR 的最优性依赖容量条件 $\max_{\mathbf{p}}|\mathcal{P}(\mathbf{p})| \le V$——每个前缀组装得进码本。当近重复 item 在单个前缀下超过 V 个时会失效（论文里 Yelp 有 65 个标题全是「Starbucks」、描述全是「Food, Coffee & Tea」的店，靠地址区分；这还在 256 以内）。失效时只能加大 V 或引入多模态特征。另一个隐含 assumption 是 CCE 对碰撞组内 item **均分 credit**，即假… | assumption |
| [2605.25330](../2605.25330/report.md) | **实验覆盖与回避**。覆盖了 4 个域、5 个 tokenizer、3 个种子，控制变量做得干净。但都是公开 Amazon/Yelp 数据 + 单一 T5 生成器架构——作者自己承认虚高幅度和排名翻转在更大的工业数据集上可能不同。另外 QuaSID 是作者自己照论文复现的（官方未开源），MQL4GRec 用官方 tokenizer 实现，这些复现差异是潜在变量。 | limitation |
| [2605.25330](../2605.25330/report.md) | **值得 follow up**。最有价值的指向是：现有大量 SID tokenizer 论文的排名结论可能需要用 item 级指标重新审视。作者也提出未来探索「保证 item 级可识别性同时保留语义结构」的 tokenizer 设计，以及 SID 碰撞在其他生成式推荐范式（如连续 token、稀疏-稠密级联）中是否同样存在。 | followup |
| [2605.25330](../2605.25330/report.md) | --- 附录 A 用 Table 6 实证验证容量条件：4 个 tokenizer × 4 数据集的最大/平均前缀组大小，所有最大值都 < V=256（最大 91）。两个观察值得注意：(1) Yelp 列四个 tokenizer 的最大前缀组**都恰好是 65**——因为这来自数据集本身的元数据重复（65 家同名「Starbucks」），与 tokenizer 无关；(2) 平均前缀组大小只有 1.02–1.52，说明绝大多数前缀组只含一个 item，碰撞集中在少数大组。这支撑了「只改最后一级足以零碰撞」的论断。 | followup |
| [2605.25749](../2605.25749/report.md) | **核心 assumption 与失效场景**:整套方法的可信度完全建立在"Lookahead Evaluator 估值准确"这一前提上。HR 是用一个独立外部 evaluator 打分的,而 DeGRe 的训练目标也来自 evaluator——如果离线 evaluator 本身有偏(比如它对未曝光序列的外推不可靠,因为它仍然只在曝光数据上训练),那么 beam search 挖出的"高价值序列"可能只是 evaluator 偏好的序列,而非真实最优。论文用 R-AUC/PCOC 论证 evaluator 质量,但 R-AUC 0.709 并不算特别高… | assumption |
| [2605.25749](../2605.25749/report.md) | **实验覆盖与回避**:HR@1% 的巨大提升(动辄 +30~53%)很大程度上是因为评估指标和训练目标同源——generator 在模仿一个能拿高 HR 的 evaluator,自然 HR 高。这个数字的说服力不如线上 GMV +3.75%。论文回避了与 evaluator 解耦的第三方评估(例如真实用户反馈下的 list 价值),也没报告 beam search 的离线计算成本绝对值(只说可并行、可调 $B$)。设定固定在 12 选 6 的小规模,虽提了 Top-$K$ 截断的可扩展性,但没有在大候选集上的实证。 | limitation |
| [2605.25749](../2605.25749/report.md) | **定位**:DeGRe 与 NLGR/GoalRank 同属"用价值信号指导生成"路线,差异在于把 list 级稀疏奖励换成了累积回归驱动的 step-wise 稠密信号——这是对 credit assignment 问题的直接回应。相比 GReF 的 OMTP(仍是 MLE 拟合启发式标签),DeGRe 用离线 beam search 主动探索替代了规则造标签。本质上它是一种**离线规划 + 蒸馏**的范式,把 reranking 当成"先离线搜索再在线模仿"的问题,和 AlphaZero 式"用搜索增强策略网络"的思路同源。 | limitation |
| [2605.25749](../2605.25749/report.md) | **值得 follow-up 的方向**:(1)evaluator 偏差的纠正——能否用反事实/IPS 方法让 evaluator 对未曝光序列的外推更可靠;(2)离线 beam search 与 generator 的迭代闭环(类似 expert iteration),让 generator 更新后反哺 evaluator 重新挖序列;(3)在更大候选集和更长列表上验证 Top-$K$ 截断的有效性与计算成本权衡。 | followup |
| [2605.26121](../2605.26121/report.md) | **核心 assumption 与 break point**：GEM 设的两个前提——(i) embedder 的方向几何能作为 LLM 数据几何的代理，(ii) cluster 应该在 mass 上接近均匀——都不是显然的。前者在 RegMix predictability 上得到了间接验证，但当 embedder 本身的预训练分布偏离下游 LLM（比如改用 multilingual embedder 或 vision-language embedder）时不一定成立。后者更微妙：均匀 prior 假设了「24 个 latent topic 在自然… | assumption |
| [2605.26121](../2605.26121/report.md) | **实验的覆盖与回避**：作者把模型规模锁在 1.1B、token 锁在 25B，明确说这是 early-stage scaling indicator。在 100B+ 的工业规模上 cluster collapse 可能换一种形态出现（比如 mode 在大数据下被 vMF 自己平滑掉，或者 anisotropy 因为 batch 多样性自然消失），单点结论无法外推。另外，所有实验都用同一个 BGE embedder——换 embedder 对 GEM 的稳定性是空白。论文没有比较「同样 24 类、人工 taxonomy + 完美 LLM 标注」的上限… | limitation |
| [2605.26121](../2605.26121/report.md) | **值得 follow up 的方向**：(i) 把 GIS 单独抽出来做样本级数据筛选（不只是为了打标），看能否替代 SemDeDup 这类启发式；(ii) 把 taxonomy discovery 和 mixing weight 联合优化成 bi-level 问题（论文 Discussion 里点了一句但没做）；(iii) 在 100B+ token 和 7B+ 模型上验证 scaling。直觉上 cluster collapse 在更大模型/数据规模下未必还是最关键的瓶颈，因为更大的 batch 多样性会自然平滑各向异性。 | limitation |
| [2605.26121](../2605.26121/report.md) | **和 NVIDIA Climb / SemDeDup 的 positioning**：Climb 这类朴素聚类工作其实和 GEM 是同一个范式分支（unsupervised + downstream-aware），但 GEM 强调的是分类层的几何正确性，把 mixing 算法本身当作下游评测器（用 RegMix 当 probe 而不是当 baseline 之一）。SemDeDup 之类做的是去重而不是分类，可以和 GEM 正交叠加。和 Aioli / TikMix 完全垂直——后者是给定类别后调权，GEM 给它们提供一个更干净的输入。 | followup |
| [2605.26121](../2605.26121/report.md) | --- - **GIS taxonomy 的实际形态**（Appendix B）：24 个类别从 "Technology and Software Development" 到 "Online Slot Gaming" 都有，覆盖 web 上常见的 verticals；treemap（`figures/domain_treemap.png`）按 token 数平方根排版，可以看到分布并不是真的均匀，而是被 balance 正则项「往均匀拉但没拉到极端」。 | followup |
| [2605.26121](../2605.26121/report.md) | - **Pseudocode**（Appendix H）：完整算法包括初始化（球面 K-Means 或随机方向）、外层迭代次数（默认 50）、内层 mirror ascent 步数（5–10 步）、收敛判据（$\Theta$ 变化的 cosine 距离 < 1e-4）。 | followup |
| [2605.26579](../2605.26579/report.md) | Focal Reward 的核心假设是：criterion-level judge score 足够可靠，且 1 - P(k) 能作为剩余 frontier headroom 的有效 proxy。若 judge 本身混淆 criterion、分数校准很差、或者 rubric 漏掉重要安全/事实/约束维度，动态 reweighting 不会自动修复这些问题，反而可能放大错误信号。因此它更像是一个 reward allocation layer，而不是 judge/rubric construction 的替代品。 | assumption |
| [2605.26579](../2605.26579/report.md) | 它最适合的场景是：任务确实多维、criterion-level feedback 可用、不同 criterion 在训练中饱和速度差异明显。例如开放式 assistant、复杂 instruction following、写作、health/science 问答等。如果任务有强 verifier、单一 correctness signal，或者所有 criterion 难度接近且 headroom 同步变化，那么 Focal 相对静态权重的优势会变小；这也对应理论中 headroom 方差为零时 static gap 消失的情形。 | followup |
| [2605.26579](../2605.26579/report.md) | 与相近工作相比，Focal Reward 的定位不是设计更好的 rubric，也不是提出新的 judge，而是在已有 rubric judge 的基础上改进 scalarization。这个切入点很实用：很多 alignment pipeline 已经有 criterion-level scores，却把它们过早压成固定 scalar reward。未来值得结合更强的 rubric 自动生成、judge calibration、uncertainty-aware weighting，以及安全/公平 criterion 的显式审计，避免动态重权重把偏差… | followup |
| [2605.27141](../2605.27141/report.md) | **核心 assumption 与边界。** 这套 benchmark 的有效性建立在「偏好被人工精心标注、交互被受控合成」之上。作者自己在 Limitation 里诚实承认：程序化构造换来了可复现性和对难度/漂移的精确控制，但**未必覆盖真实用户行为的全部多样性**。换句话说，它测的是「在受控分布下推断结构化偏好」，真实世界偏好可能更模糊、更长尾、更难以 rubric 化。同样地，memory interface 把 memory 抽象成 Update/Retrieve 两个操作，便于公平对比，但**不覆盖所有端到端 memory 架构**——一个把… | assumption |
| [2605.27141](../2605.27141/report.md) | **实验覆盖了什么、回避了什么。** 覆盖面相当广（约 20 个前沿模型 × 3 种 memory 设定 × thinking/non-thinking），并用 Full Context / 真值偏好 / 失败归因三组对照，干净地把瓶颈定位到「偏好的应用」而非单纯「偏好的抽取」。回避的是：没有训练/微调实验（纯评测，未尝试用该数据提升模型），memory 只对比了 MemAgent 和朴素 RAG 两种，更复杂的 memory 系统（MemGPT、A-Mem、Mem0 等虽在 related work 引用）未纳入主表对比。 | limitation |
| [2605.27141](../2605.27141/report.md) | **定位与跟进方向。** 相对 τ-bench / τ²-bench / 初代 VitaBench，本文的增量是「在 agentic 执行之上叠加个性化与主动性」；相对 PersonaMem / PrefEval 等个性化 benchmark，增量是「从被动生成走向工具使用与可执行决策、并引入时间漂移」。最值得 follow up 的有三点：(1) memory 为何普遍掉点——是 Update 阶段抽象丢信息，还是 Retrieve 阶段召回错，需要更细的归因；(2) proactiveness 这一元能力如何训练，目前所有模型都偏向「硬做决定」；(… | followup |
| [2605.28293](../2605.28293/report.md) | **核心 assumption 与失效边界。** 整套修正的前提是逐步奖励 $\mathbb{E}_\pi[r_t]$ 对各 $t$ 大致稳定,才能用单个全局 $\bar{r}$(及 $\mu,\sigma$)去 center。作者自己也承认 IoR 有缓慢下降趋势,只是仍恒正。如果某任务的逐步奖励随位置剧烈变化,全局常数 centering 就会失配,可能需要 step-specific 估计。另一个隐含假设是 user simulator 足够可靠——所有奖励都由 SASRec 给出,若 simulator 本身有偏,RL 只会忠实地优化这个有偏目… | assumption |
| [2605.28293](../2605.28293/report.md) | **与相近工作的 positioning。** 方法论上 ProRL 站在 GRPO 的肩膀上(同样免 critic、用 group Monte Carlo baseline),但针对性地指出 GRPO 路径级共享 baseline 在"逐步奖励可分解"任务上的浪费,改成逐位置 baseline——这个改造对任何"路径奖励可分解 + 逐步奖励均值非零"的序列生成 RL 任务可能都成立,不限于推荐。相对于 LLM-based PRS,本文坚持轻量 transformer + 零额外网络的修正,部署成本是真实卖点。 | assumption |
| [2605.28293](../2605.28293/report.md) | **实验覆盖与回避。** 全程是离线、基于 simulator 的评估,没有真实用户的在线 A/B,因此"偏好真的被引导迁移了"这一主张始终是 simulator 意义上的。$L_{\max}=10$ 是个不大的动作空间,Rollout@10 已能覆盖大部分潜力,这也解释了为何 RL 主要起"整流"作用;在更长、更开放的路径空间里,探索难度会陡增,结论未必平移。 | limitation |
| [2605.28293](../2605.28293/report.md) | **值得 follow up 的方向。** (1) 把 SRC 从全局常数推广到随位置/随训练自适应的 centering,处理逐步奖励非平稳的任务;(2) 把"长度捷径"这一诊断迁移到其它"奖励随生成长度单调累积"的 RLHF/agent 场景(如 reasoning chain 越写越长的 length bias),验证 SRC 是否是比 length penalty 更原则化的解法;(3) 在线评估与真实 simulator 偏差分析。 | followup |
| [2605.28742](../2605.28742/report.md) | **核心 assumption 与失效场景**：CORE 必须有 verifier。一旦 reward 信号噪声、稀疏或难定义（开放对话、长程 agent 任务、主观任务），admission test 就站不住——把"作为唯一 insight 解出原题"作为入库门槛会把 reward 噪声直接放大成 insight 噪声。同时，credit assignment 仍然是组级的：一次 rollout 里几条 insight 共享 reward，作者承认这是没解决的问题，靠多次跨题观察分摊。这点决定了 CORE 在 reward 高度路径依赖、必须区分单… | assumption |
| [2605.28742](../2605.28742/report.md) | **实验覆盖与回避**：四个任务都属于"单轮、可程序化 verify、解空间结构清晰"的推理域，且 frozen model 选了能力较强的 gpt-oss-120b——作者自己 noted insight 质量随模型规模显著提升，<30B 模型上 CORE 收益不显著。这意味着 CORE 在小模型 + 模糊任务的组合上不一定 work。另外 GRPO baseline 受 rollout 预算限制（2k–4k 而非 100k+），并非 GRPO 的"上限"，结论应读作"小预算下 CORE 优于 small-budget GRPO"，不能外推到全量 R… | limitation |
| [2605.28742](../2605.28742/report.md) | **值得 follow up 的方向**： - 把 CORE 当作 RLVR 的中间监督来源——insight 作为"被 verifier 过滤过的合成 rationale"，可以进入 SFT/RL 的训练数据，做参数化蒸馏。 | followup |
| [2605.28742](../2605.28742/report.md) | - 解决组级 credit assignment：现在所有检索到的 insight 共享 reward，未来可以引入因子分解（如 SHAP-style 边际贡献估计）。 | followup |
| [2605.29156](../2605.29156/report.md) | 核心 assumption 是：偏好对中的 preferred/rejected 排序可以作为 rubric generator 与 judge 的共同训练信号，而且偏好差异能够被一组显式 rubric 捕获。这个假设在 instruction following、聊天、创意写作里大体成立，但在偏好非常风格化、标注者分歧很强、或任务要求高度隐含背景知识时可能会 break。若 pairwise preference 本身噪声大或偏见强，generator 也可能学出“能复现数据偏好但不一定合理”的 rubric。 | assumption |
| [2605.29156](../2605.29156/report.md) | 理论分析的贡献是给 reward 设计提供合理性，尤其是对侧平均的 variance reduction；但这些结论建立在独立、对称、Gaussian 或 surrogate-gap 等理想条件上。真实 LLM judge rollout 的错误往往相关且系统性，例如同一 rubric 下持续误判事实性问题；因此理论结果应理解为解释设计方向，而不是严格保证线上 reward 不会 overoptimize。 | limitation |
| [2605.29156](../2605.29156/report.md) | 从研究图谱看，Rubric-ARROW 位于 RLCF/checklist reward、Rubric-RM/OpenRubrics、RIFL、RM-R1/RRM reasoning reward model 之间。它相比 scalar reward model 更可解释；相比 reasoning-based judge 更快；相比 prompt-only rubric judge 更可部署；相比先前 rubric RM 更强调 generator-judge joint optimization。后续值得追的问题包括：如何处理多标注者偏好分歧，如何让… | limitation |
| [2605.29280](../2605.29280/report.md) | **核心 assumption 与 break 场景**：LoopFM 的价值本质来自 **feature gap**——FM 比 VM 见过更丰富的跨域特征。理论增益分解里 `I_cross` 项正比于这个 gap。因此当特征贫瘠时收益骤减：TaobaoAd（22 特征）相对 AUC +6.1~6.6%，但 KuaiVideo（9 特征,主要是 ID 和视觉 embedding）只 +0.6~1.6%，Amazon（6 特征）只 +0.02~1.1%。作者很诚实地把这归因于「现有行为序列已覆盖大部分可用信号,LoopFM 没有增量交叉特征可加」。**… | assumption |
| [2605.29280](../2605.29280/report.md) | **实验覆盖与回避**：公开实验最大的软肋是 scale gap——FM 只有 ~6M 参数的浅 DMIN,而论文真正的卖点是万亿参数场景,二者的代表性作者自己也承认（Limitation 5,Appendix RQ6）。item-only embedding 捕获 86% 增益这个结果其实有点尴尬——它暗示在浅 FM 上 DNN 交互几乎没用,论文用「深 FM 上会不同」来辩护,但这部分缺乏公开可验证的证据。理论部分也明确声明是 population-level（互信息、Bayes risk）的理想分析,不含有限样本、优化、容量限制等现实因素（Lim… | limitation |
| [2605.29280](../2605.29280/report.md) | **值得 follow up 的方向**：(1) **self-LoopFM**——让 FM 消费自己的历史 embedding,形成自改进循环,是最有想象力的方向;(2) **checkpoint 对齐**（anchored training / 投影对齐 / EMA 插值）以同时获得新鲜度和一致性,解掉 drift 难题;(3) **图结构化**（user-item 二部图 + GNN 编码器）替代扁平序列;(4) **跨域迁移**——FM 在一个域训练,embedding 被另一个域的 VM 当不透明特征消费,无需对齐目标/schema;(5)… | followup |
| [2605.29755](../2605.29755/report.md) | **核心 assumption 与 break 点**。整套框架的有效性建立在「teacher 增益可迁移」之上，而迁移率 $\eta$ 强依赖 teacher-student 容量 gap。实验已经诚实地暴露了这一点：student 缩到 184M 时 $\eta$ 跌到 48%，Rec 场景 1:34 的压缩比下 $\eta$ 只有 45%。也就是说，当线上预算把 student 压得足够小时，乘积分解里的 $\eta$ 项会快速吃掉 teacher scaling 的红利。框架并没有解决容量 gap 这个根本瓶颈，只是把它工程化地管理起来。 | assumption |
| [2605.29755](../2605.29755/report.md) | **实验覆盖与回避**。论文在三个真实大场景上做了扎实的离线 + 线上验证，scaling 三维度的消融也很完整。但有几处回避：teacher 最高做到 24B，但多数 scaling 消融和线上 A/B 实际只用到 7B teacher，24B 仅在单个容量 gap 实验里出现，24B→线上的端到端收益没有完整呈现；论文反复强调「peak transferability >60%」，但 Rec/Live 实际是 45%–50%，「peak」措辞略有挑选最优之嫌。此外 debias 公式里 $p_X$、$b_s$ 等量的实际取值与估计方法没有展开，复现… | limitation |
| [2605.29755](../2605.29755/report.md) | **值得 follow up 的方向**。一是容量 gap 瓶颈——能否用更聪明的中间监督（而非加 teacher assistant）在小 student 上把 $\eta$ 再拉高；二是 debias 校正在分布剧烈漂移时的稳定性；三是论文自己提到的多模态推荐扩展。对想复现的人，最该先吃透的是「用 student 侧函数重投影 teacher logit」这个 debias trick 和「loss 权重不归一」这个工程细节，二者都是直接影响迁移率的隐性关键。 | followup |
| [2605.29847](../2605.29847/report.md) | 但这也带来几个局限。第一，论文仍使用 GPT-OSS-120B 作为 Grader，并用 GPT-4.1 做 rubric blind test 的 meta-judge；虽然不依赖闭源模型来生成动态 rubric，但评估/打分链条仍需要强 judge，实际训练成本和 judge 偏置没有完全消失。第二，实验覆盖 Medical、Writing、Science，但都还是文本 QA/生成任务；在多轮交互、安全高风险决策或工具调用任务中，rubric 的可验证性和 peer consensus 是否足够仍未证明。第三，self-generated rubr… | limitation |
| [2605.29847](../2605.29847/report.md) | 最值得 follow up 的方向包括：把 verifier/grader 也进一步开源化和弱化成本；研究 rubric memory 的检索、去重与遗忘机制，避免 memory pool 堆积过时或相互冲突标准；以及在真实用户偏好、多轮 agent 任务和安全约束场景中验证这种 peer-consensus reward 是否仍能防止 reward hacking。 | followup |
| [2605.30244](../2605.30244/report.md) | RLR³ 的核心 assumption 是 rubric generator 能产出足够好的 criterion，并且能正确标注哪些 criterion 可验证、该用哪个 verifier。如果 rubric 本身漏掉关键视觉事实，或把需要语义判断的内容错误包装成可验证表达式，那么后续最小暴露和 deterministic checking 都无法弥补。论文在 OpenMMR 上 margin 较小，也给出类似解释：视觉 puzzle 可能需要更细的感知标注，而自动 rubric generator 只有 outcome-level ground tr… | assumption |
| [2605.30244](../2605.30244/report.md) | 另一个 assumption 是 response 中应该显式包含可评分的信息。RLR³ 有意要求 extractor/judge 只基于文本 response 评分，这有利于防止 reward model self-answering，但也会惩罚那些“答案正确但表达不完整”的响应。在面向最终用户的开放式 VQA 中，这通常是合理的；但在某些任务里，若只要求短答案，过强的 rubric 可能鼓励冗长解释或格式化输出。 | assumption |
| [2605.30244](../2605.30244/report.md) | 值得 follow up 的方向有三类。第一，让 rubric generator 进入优化闭环，或用任务特定结构化标注增强 rubric 质量。第二，把不同 checkpoint 的专长通过 distillation 或 model merging 汇总到单个策略。第三，在更真实的开放式 multimodal agent 任务中测试：这些任务的可验证 criterion 更稀疏、fuzzy criterion 更多，RLR³ 的鲁棒性边界会更清楚。 | followup |
| [2605.30280](../2605.30280/report.md) | **核心 assumption 与边界**。全文押注于「异构具身任务共享同一计算结构、可统一为动作-轨迹预测」这一假设，以及「文本 prompt 足以承载所有平台特定语义」。这在实验覆盖的桌面/双臂操作 + 室内 VLN 上成立得很好，但作者自己也承认局限：具身动作数据相比 VL 预训练数据仍然小而单一，对长尾物体、长尾本体、接触丰富（contact-rich）的交互鲁棒性不足；联合训练存在优化 trade-off（动作训练会轻微回退纯 VL 和导航评测）；评估仍以短时域、benchmark 驱动为主，长时域、易失败的真实部署是开放难题。状态条件的「无… | assumption |
| [2605.30280](../2605.30280/report.md) | **值得 follow up 的方向**：(1) T2A 压缩视角能否推广到更高维的灵巧手/全身控制，以及 sim-only 语言-动作数据的 scaling law；(2) 输出侧 co-predict 未来视觉状态把动作生成与 world modeling 统一；(3) 输入侧加 episodic memory / 持久状态做长时域规划与失败恢复；(4) 引入力/触觉等物理反馈 + 大规模真实世界 RL。 | followup |
| [2605.30288](../2605.30288/report.md) | 但它的核心 assumption 也很重：teacher 的 free-form judgments 必须足够好，且抽样记录必须覆盖每个 source group 的关键失败模式。若 teacher 对某些编程语言、风格、任务社区或工具协议有系统偏见，MIRA 会把偏见变成 anchors，再通过 student scorer 扩展到全量 corpus。论文在 broader impact 里也承认，MIRA 是结构化数据审计工具，不应替代人类审核、contamination check、license compliance 或安全评估。 | assumption |
| [2605.30288](../2605.30288/report.md) | 实验覆盖的强项是端到端训练：不是只报告 scorer agreement，而是把筛选结果用于 25B/50B token mid-training、再统一 SFT 后评测九个 benchmark。这比只做离线 quality correlation 更有说服力。弱项是外推边界：所有主实验都在代码向 mid-training 与 Qwen2.5-Coder-14B 上，teacher/student 模型也很强且昂贵；结论不能直接证明 MIRA 在通用语言、医学/法律等高风险领域、多模态数据或小模型/小团队算力下仍有同等收益。 | limitation |
| [2605.31545](../2605.31545/report.md) | 核心假设是：用户历史中存在足够稳定、可语言化、可由 LLM 检验的偏好不变量。这个假设在活跃用户和写作风格类任务中较合理，但在冷启动、偏好快速变化、强情境依赖或用户行为本身不一致时会变弱。论文也承认当前框架把偏好近似为某个时间点的静态签名，没有显式建模时间演化。 | assumption |
| [2605.31545](../2605.31545/report.md) | 值得 follow up 的方向包括：冷启动用户的跨用户迁移或 meta-learning；随时间更新的 dynamic rubric；多模态个性化场景；以及把用户显式反馈纳入 rubric 修正。更根本的问题是，用户偏好最终只能由用户本人定义，PARL 是一个以历史行为为证据的代理测量框架，而不是偏好的完美真值。 | limitation |
| [2605.31545](../2605.31545/report.md) | 这篇论文的定位不是改进个性化生成器，而是提供一个更适合评估个性化生成器的“度量学习”框架。它与 reward model 或 personalization policy 的关系也很清楚：PARL 把 evaluation 与 generation 解耦，rubric 可复用、可审计，可以横向比较 Non/RAG/SFT/RL 等不同生成路线。这对个性化 LLM 研究很重要，因为没有可靠评估器时，生成模型的进步很容易被 ROUGE/BLEU 或主观 judge prompt 误导。 | followup |
| [2606.01091](../2606.01091/report.md) | 核心 assumption 是 evidence collection 和 judge 都足够可靠。如果 mock retrieval 的静态文档不能代表真实 web，或者 judge 对 constraint satisfaction 的判断有系统偏差，那么 reward 会把偏差固化进 policy。论文用 shared mock retrieval 消除了模型间检索方差，这增强了实验可控性，但也弱化了对真实动态网络环境的证明。 | assumption |
| [2606.01091](../2606.01091/report.md) | 另一个 assumption 是 constraint 的等权平均足够合理。等权让方法简单且可扩展，但现实中某些 constraint 是必要条件，某些只是加分项；平均 reward 可能诱导模型优化容易满足的边缘项。论文通过 granularity 和 polarization 分析部分触及了这个问题，但还没有解决 constraint weighting、依赖关系和 judge uncertainty。 | assumption |
| [2606.02020](../2606.02020/report.md) | **核心 assumption 与 break 的场景**。最关键的假设是"CoT entropy 序列存在两段式相变"。论文在 DS-7B、Qwen3-4B-Thinking、Qwen3-14B 三个 reasoning model 上观察到这一现象，但都是 thinking-trained 模型；non-thinking 的 instruct 模型是否也有同样的两段结构、是否会出现多段式（multiple change points）或漂移式收敛，未给证据。校准依赖 100 条 Bespoke-Stratos-17k 样本估的 $f_0/f_1$—… | assumption |
| [2606.02020](../2606.02020/report.md) | 假设作者用 Kokoszka 的 sub-quadratic variance 条件软性绕过，但没量化实际 entropy 序列的 dependence 强度。 | assumption |
| [2606.02020](../2606.02020/report.md) | **实验覆盖与回避**。覆盖了三个不同规模/不同训练范式的模型 + 三个高难度推理任务，外加 Pareto 前沿对比，相当扎实。回避或淡化的部分：(1) 没有 instruction-tuned non-reasoning 模型上的对比；(2) 计算开销表只在一个模型一个数据集上做；(3) 没有触及 false-alarm 控制在实际数据上的有效性——理论上 $\mathbb E_\infty[\tau_h] \ge e^h$ 是渐近的，实际短轨迹下校准是否准确未验证；(4) early answer 用的 prompt 形式 ` The answer… | limitation |
| [2606.02020](../2606.02020/report.md) | **Follow-up 方向**。(1) Online 的 $f_0/f_1$ 估计：把 calibration 嵌到推断里、按问题动态校准。(2) Multi-change-point 与 reasoning 失败诊断：有没有"进入 confidence 后又 escape"的轨迹？这些是不是 hallucination 的信号？(3) 把 CUSUM 信号反过来用作 RL reward 或 SFT 数据筛选——长 trajectory 中"无效尾巴"的剪枝可能直接改善 distillation 数据质量。(4) 在 instruct / non-t… | limitation |
| [2606.03221](../2606.03221/report.md) | **Assumption 与 break 场景。** VirtualMLE 的隐含 assumption 是 LLM 拿到 trial log 之后能做出**正确**的因果归因。论文中给的 reflection trace 看上去都很合理，但作者没有量化"reflection 错的频率"以及"错归因导致后续 trial 走偏"的样本。可以预见的失败模式：(a) 当多个 knob 同时被改时，归因会被混淆；(b) 当指标本身有较大方差（比如小数据集 + leave-one-out），reflection 可能把噪声当成信号；(c) 当数据分布与 long… | assumption |
| [2606.03221](../2606.03221/report.md) | **值得 follow up 的方向。** (1) 把 cognition summary 做成结构化的、可查询的知识图谱，而不是 free-form 文字——便于做带条件的检索与冲突检测；(2) 把 reflection 输出的因果归因引入 multi-armed bandit 或 BO 的代理模型，做"LLM-augmented BO"而不是纯 LLM-driven search；(3) 把搜索空间从超参/结构扩展到 loss/采样策略；(4) 在长序列和工业级数据上测一下 cognition summary 是否还成立，以及怎么处理冲突的 pri… | assumption |
| [2606.03221](../2606.03221/report.md) | **实验覆盖与回避。** 覆盖到了：两个有代表性的 backbone、三个数据集、三种 LLM（鲁棒性表）、消融、跨域迁移、收敛曲线。回避了：(a) 大规模工业级数据集；(b) 长序列场景；(c) 对 memory schema 的消融——比如 Long vs Short 哪个更关键、把所有 Long Memory 都关掉会怎样；(d) reflection 错归因率的量化；(e) Cognition Summary 在不同领域间的负迁移情况。LLM 鲁棒性表里 Kimi 2.6 和 DeepSeek V4 Pro 的 trial 数比 GPT-5.4… | limitation |
| [2606.03221](../2606.03221/report.md) | **Positioning。** 与 OPRO 的对比是论文最重要的差分实验：同一个 LLM、同一个 action interface，唯一差别是 reflection + hierarchical memory + cognition summary，差距就是 3–8× trial 数 + 显著的指标提升。这把"LLM 当推理器"和"LLM 当采样器"的范式区别清晰地隔出来了。和 GEARS、Self-evolving recommendation system 这些"agent 当工程师"的工作相比，VirtualMLE 把焦点放在了上游的 hyp… | limitation |
| [2606.03239](../2606.03239/report.md) | ARBOR 成立的核心假设是：search-agent 任务中存在可跨 query 迁移的过程质量标准，并且外部 LLM 能可靠地区分这些标准在轨迹中的体现。如果任务的成功高度依赖 query-specific facts，或外部 judge 对搜索过程质量不稳定，rubric memory 可能积累噪声。论文用 admission variance、correlation filter 和 retirement 缓解这个问题，但这些统计本身仍依赖有限样本和外部 judge 质量。 | assumption |
| [2606.03239](../2606.03239/report.md) | 实验覆盖了多跳问答和单一 Google Search 工具，足以验证“搜索过程”场景下的主要假设，但还没有证明它在代码生成、数学工具调用、多工具规划或开放式 research agent 中同样有效。方法上它是 task-agnostic 的，rubric 可以描述通用过程行为；工程上则要重新设计可观测轨迹、base reward、format invalid 处理和 judge prompt。 | assumption |
| [2606.03239](../2606.03239/report.md) | 一个值得跟进的方向是把 common rubrics 从纯自然语言对象变成可检索、可解释、可版本化的过程知识库：不同任务/工具环境下复用哪些 rubrics、哪些被 retire、哪些与最终能力提升最相关，都可以成为 agent training 的长期诊断信号。另一个方向是减少 judge 成本，例如用小模型蒸馏 pairwise scorer，或只在高不确定度/homogeneous groups 上触发 rubric scoring。 | followup |
| [2606.03866](../2606.03866/report.md) | **核心 assumption 与边界**。RUPR 成立的前提是"用 ground-truth 答案反推的 CoT 比直接生成的更可靠"，且 PPL 能作为 CoT 质量代理。这在有明确"下一次购买"标签的电商/广告场景成立，但对于没有强转化信号、或意图更弥散的内容推荐（如纯刷视频），ground-truth 锚点和 CTCVR 奖励都会变弱。PPL 阈值取中位数也意味着固定丢弃约一半样本，这个比例是否最优论文未深究。 | assumption |
| [2606.03866](../2606.03866/report.md) | **实验回避了什么**。论文几乎没有与同类 RL 对齐方法（Rec-R1、LangPTune、DEEPER 等在 Related Work 提到）做**直接对比实验**——离线主表只比了 backbone 和教师两个 LLM，POPO 的对照仅是 GRPO 固定权重。所以"POPO 优于其它动态/静态加权方案"主要靠理论论证 + GRPO 单点消融支撑，缺乏对 PCGrad / MGDA 等成熟多目标优化基线的横向比较。此外源码里残留了大量上一篇 RecGOAT（多模态 OT 对齐）论文的注释段落，本文与那条线的关系值得注意——POPO 本质是把多目标… | limitation |
| [2606.03866](../2606.03866/report.md) | **Positioning**。相比 Rec-R1 / RecLM 用单一或静态加权奖励，Taiji 的差异化在于"异构奖励的动态 Pareto 权衡"+ 完整工业 pipeline（量化稀疏特征 + 跨用户序列检索接入 ranking）。POPO-light 的变异系数加权是很务实的工程近似，值得借鉴。 | followup |
| [2606.03866](../2606.03866/report.md) | **值得 follow up**。(1) 把 POPO 扩展到 2 个以上奖励源（如加入多样性、时效性奖励）的稳定性；(2) PPL 阈值自适应而非固定中位数；(3) 把逆向蒸馏 + PPL 拒绝采样的范式推广到其它开放域生成任务的 CoT 质量过滤。 | followup |
| [2606.03968](../2606.03968/report.md) | 核心 assumption 是 teacher-derived key points 能代表改写后 query 的合理答案核心，并且 prompt-based validation 足以过滤掉泄题、矛盾或伪造场景。如果 teacher responses 本身偏置很强、key point extraction 漏掉重要替代解，QUBRIC 可能把开放问题过度收窄成单一路径，牺牲多样性。此外，rubrics 虽然更 constitutive，但仍由 LLM judge 评分；论文做了跨 judge 一致性与 reference-model annotat… | assumption |
| [2606.03968](../2606.03968/report.md) | 实验覆盖了 instruction following、三个跨域 reasoning benchmark 和内部购物任务，证据链比较完整；但也有边界。第一，主要 policy 是 Qwen2.5-32B，judge/generator 是 Qwen3-235B，结果未展示在更多 base model 与 judge 组合上的泛化。第二，购物 benchmark 是 proprietary，外部读者无法复核数据与专家 rubric。第三，QUBRIC 的 pipeline 成本较高：多 teacher 采样、key point extraction、改写… | followup |
| [2606.03968](../2606.03968/report.md) | 值得 follow up 的方向包括：用人工或可审计数据验证 key-point rewriting 是否保持原始意图；研究不同 learnability corridor 对 RL 稳定性的影响；把 rubric generation 与 judge uncertainty 结合，自动识别低一致性 rubrics；以及评估 QUBRIC 是否能用于工具调用、长程 agent 任务、对话式协作等更难定义 reward 的场景。 | followup |
| [2606.04536](../2606.04536/report.md) | **核心 assumption 与失效场景**。Theorem 1 依赖谱对齐假设 $\rho_r\ge r/d_{\text{in}}$，即下游最优扰动主要落在预训练权重的高能子空间。这在权重谱幂律衰减、微调更新集中于领先奇异方向时成立，但若任务需要的适应恰好落在 $W$ 的低能/零空间方向，冻结 $A$ 反而会限制可达的更新——这也解释了为什么允许训 $A$ 在某些情况能略好。更广义地，TMEM 的有效性建立在"session 能被蒸馏成高质量 grounded QA"这一前提上：当 session 证据稀疏、或抽取动作产出低质 QA 时，在线 S… | assumption |
| [2606.04536](../2606.04536/report.md) | **实验覆盖与回避**。覆盖了对话、搜索、context-learning 三类长程任务，两个模型规模，RL 前后都有对比，消融较完整。但回避了几点：模型规模只到 8B，没有验证更大模型上参数化记忆的边际收益是否依然显著（直觉上大模型 in-context 能力更强，fast-weight 的相对优势可能缩小）；CL-Bench 用了过滤集，未过滤结果数值整体在 floor 附近（总分 5% 量级），方法间差异在统计上是否稳健存疑；累积式 fast-weight 更新跨多次触发是否会灾难性遗忘早期 session 信息，文中没有专门分析。每次触发还要做… | limitation |
| [2606.04536](../2606.04536/report.md) | **值得 follow up**。一是把 $\mathcal{T}$ 本身参数化/可学习（目前是固定的 SGD），让"如何写入"也进入优化；二是研究跨 episode 持久化 $\Delta_t$，把 intra-episode 自进化扩展到 lifelong；三是 $L_{\max}$ 的自适应触发（让模型自己决定何时写记忆，而非固定 token 阈值）；四是在更大模型和真实长程 agent 任务（如长 web research）上验证 scaling 行为。 | followup |
| [2606.04555](../2606.04555/report.md) | **核心 assumption 与边界**：方法的根本前提是「对话相关性具有时序局部性」——相关信息成连续段出现。这对 LoCoMo/RealMem 这类按事件/项目演进的对话成立，但若对话是高度跳跃、反复横跳多个话题交织的场景，连续区间约束可能反而把不该合并的内容压进一段，或把同一话题的多次出现割裂到不同子树。另外整个「保序优势」依赖于 utterance 本身按真实时间到达且有意义排序；时序扰乱实验的大幅掉点反过来也说明，**当输入顺序本身带噪时，SegTreeMem 比非时序方法更脆弱**——它把顺序当作强信号，顺序错了它也跟着错。 | assumption |
| [2606.04555](../2606.04555/report.md) | **实验覆盖与回避**：RQ1 的扰乱实验设计得很干净，是全文最有力的因果证据。但也有回避之处：(i) 检索策略「依赖数据集」实际意味着 top-down/bottom-up、$\alpha$、$H$ 都是**按数据集调出来的超参**，主表用的是固定代表设置，真实部署中如何免调参选策略仍是开放问题（论文自己列为 future work，提出 query-dependent 策略选择）。(ii) compatibility model 的「兼容/不兼容」阈值如何设、错误插入如何累积影响长树质量，没有深入分析。(iii) 树平衡性是 $O(\log n)$… | assumption |
| [2606.04555](../2606.04555/report.md) | **值得 follow up**：(i) query-dependent 的传播策略/horizon 选择，避免按数据集手调；(ii) 把时序原则推广到多模态观测、tool call、action trace 等 agent 记忆；(iii) 增量维护操作——局部子树重建、周期压缩、去重，以在超长部署下保持树高与效率稳定。 | followup |
| [2606.04555](../2606.04555/report.md) | - **检索节点层级分布**（retrieval_levels 图，固定 $H=2$）：定量验证了传播方向改变时序粒度——bottom-up 随 $\alpha$ 增大把检索推向更广的内部节点，top-down 保持集中在 exchange 级，且层级分布与准确率曲线对应。 | followup |
| [2606.05698](../2606.05698/report.md) | **核心 assumption 与失效边界**：本文是诊断性而非系统性工作，假设推理时**正确的 document adapter 已经就位**。真实部署还需要 adapter 检索/路由层、多文档证据融合策略、以及 adapter 存储与加载延迟管理——这些不影响本文的核心对照（所有条件都用同一篇文档、只在“信息由 KV / adapter / 两者携带”上不同），但它们决定了结论能否落地。作者明确划出适用 regime：对同一文档的重复查询、私有/固定文档集、KV 预算被迫严重压缩的场景；反过来，一次性查询且上下文预算充足时，标准长上下文或 RAG… | assumption |
| [2606.05698](../2606.05698/report.md) | **实验覆盖与回避**：覆盖了两个数据集、两个 base model、两种压缩器、三种 target module 与四种监督格式，交叉验证扎实。但回避了几点：只用 ROUGE-L 单一指标（生成式短语答案的合理选择，但没有人工或语义评测做交叉验证）；文档规模仅 11–16K token，未触及更长上下文；adapter 是 per-document 训练，没有评估当文档量很大时的训练/存储成本现实性；也未对比“把同样算力花在更好的检索/压缩”这一替代基线。 | limitation |
| [2606.05698](../2606.05698/report.md) | **值得 follow up 的方向**：(1) 把诊断结论变成真正的服务系统——adapter 路由 + base-prefill/adapter-decode 配方在多文档、动态 KV 预算下的端到端表现；(2) 更长上下文与更多压缩比的 scaling 行为，验证三段式 regime 是否普适；(3) 把 QA-only 监督的机理做得更细——到底是“答案分布”被压进参数，还是“问题→答案的检索映射”被学到，这关系到能否用更省的合成数据达到同样效果。 | limitation |
| [2606.06036](../2606.06036/report.md) | **核心假设与边界。** 方法 work 的前提是 LLM 在每一步都能从中间证据里可靠地推出新 cue / 选对 traversal 方向。MRAgent$^*$ 实验暴露了这点：检索推理换成弱模型时性能大幅下降，说明系统性能强烈依赖 backbone 的推理与工具调用能力，在小模型上可能退化。此外，构建阶段刻意做轻量、把关系构建推迟到检索期，意味着每次 query 都要付出多轮 LLM 调用的延迟——虽然 token 总量低，但交互式延迟（多轮串行）与一次性检索方案的权衡在论文里没有充分讨论。 | assumption |
| [2606.06036](../2606.06036/report.md) | **实验覆盖与回避。** 评测集中在对话记忆（LoCoMo/LongMemEval），且明确排除了 LoCoMo 的 adversarial（不可回答）问题——这意味着「判断何时该说不知道 / 拒答」这一能力没被评测，而这恰恰是记忆系统实际部署时的重要失败模式。理论部分的二叉树构造是一个干净的可分离性证明，但它假设路径 bit 被无噪地编码进 payload 且能被无误读出，与真实记忆图里语义模糊、cue 抽取有噪的情况差距较大——理论说明的是「存在性优越」，不等于真实任务上的增益幅度。 | assumption |
| [2606.06036](../2606.06036/report.md) | **可 follow up 的方向。** (1) 把主动重构的多轮调用蒸馏成更少轮次以降低交互延迟；(2) 引入对不可回答查询的显式终止/拒答机制；(3) 用 RL 或轨迹监督直接优化 $f_{\text{select}}$/$f_{\text{route}}$，减少对超强 backbone 的依赖；(4) 把理论分离扩展到带噪声、cue 抽取不完美的更现实图模型上。 | followup |
| [2606.06036](../2606.06036/report.md) | --- 主定理：对任意预算 $T\ge 2$，被动假设类严格包含于主动假设类 $\mathcal{H}^{\text{LM}}_{\text{passive}}(T)\subsetneq\mathcal{H}^{\text{LM}}_{\text{active}}(T)$。包含方向由「主动模仿被动」给出；严格性由二叉树大海捞针分布 $D_{n,d}$（$n=2^{d+1}-1$）证明——主动 $T=d+1$ 时误差为 0，被动误差下界 $\varepsilon_Y(1-T/2^{T-1})$，二者存在不可消除的 gap。 | followup |
| [2606.06260](../2606.06260/report.md) | **核心 assumption 与 break 点。** OneReason 的所有上层设计都建立在一个前提上：itemic token 的语义可以被三层 codebook 充分表达且能被语言空间对齐。这要求 (1) 三 token 容得下决策所需的内容粒度（所以才有 capacity-aware coarse-graining，反过来说也意味着 OneReason 在「精确商品差异」类任务上结构性受限）；(2) Persona Abstraction 和 Interest Evolution 能从行为日志被可靠抽取（论文承认共用账户、短期曝光主导的场… | assumption |
| [2606.06260](../2606.06260/report.md) | **实验覆盖了什么、回避了什么。** 论文里实验覆盖面在生成式推荐里属于罕见的扎实：四个域 × R0/R1/R2/R3 × thinking/non-thinking × 多个 K，外加 LLM zero-shot 对照、ID-based 对照、LC-Rec PT/SFT 拆分。但有几处主动留白值得追问——文中明确说 "我们只展示了 CoT 监督对 non-thinking 的行为级增益，没有把 compression 与 reasoning 两部分分离开"；causal-style heuristic 也被作者反复声明只是数据合成偏好，不是 iden… | limitation |
| [2606.06260](../2606.06260/report.md) | **Follow-up 方向。** (1) 把 compression vs reasoning 在 CoT 反哺 non-thinking 现象里做 identifiable 拆解，比如 controlled 的 trace 结构干预或 logit lens 类分析；(2) reasoning 压缩 / 自适应 early stopping（ℓ_t 早期已饱和暗示了空间），这是把 OneReason 推进到 online thinking 的关键；(3) 论文 Conclusion 里点名的 agentic recommendation——把 thi… | followup |
| [2606.06787](../2606.06787/report.md) | **核心 assumption 与 break-down 场景。** 全套机制依赖两个隐含假设：(i) actor 写得出靠谱的 expectation；(ii) outcome 是否「meets expectation」是可由 critic 判别的局部信号。前者在 well-defined 的工具调用 / 规则任务上能站住，但在 ScienceWorld 这种开放、需要试错的环境里 expectation 本身就很难写，per-step reward 会变得噪声大；后者在多步因果交错时会 break——比如错误的早期决策要到几十步后才暴露，criti… | assumption |
| [2606.06787](../2606.06787/report.md) | **和近期工作的 positioning。** 与 AWM / Mem$^p$ 比，AdMem 的核心差异是 **expectation-driven per-step credit** + **$v_m$ 显式打分**——前两者都没解决「sparse reward 下哪条 memory 真的有用」这个问题。与 MIRIX 等多 agent 记忆框架比，AdMem 的多 agent 不是为了多模态/多类型记忆并存，而是为了把「写」（critic）和「读」（actor）解耦，让 reward 标注异步化。 | limitation |
| [2606.06787](../2606.06787/report.md) | **值得 follow up 的方向。** (1) 把 $v_m$ 从 Bernoulli 换成有不确定度量化（如 Beta-Bernoulli 或 contextual bandit），可能改善 burn-in；(2) expectation 自动生成的质量评估——可以反过来把 expectation 的「事后正确性」也用作 reward 信号来训练 actor；(3) cross-domain 实验缺位，目前所有 streaming 都在单 domain 内 mix 任务，跨 domain 时 $v_m$ 是否会被污染未知；(4) 计算开销，作者承… | followup |
| [2606.06787](../2606.06787/report.md) | --- 附录 A 给了 actor、critic、memory tools 三套完整 prompt。值得关注两点： 1. | followup |
| [2606.07040](../2606.07040/report.md) | 但方法的核心 assumption 也很明确：领域内测试样本必须与 evolving set 共享足够稳定的偏好结构。如果领域混杂、任务需要强外部知识，或者候选答案来自同一强 actor 且差异非常细微，skill 可能难以提供足够信息。论文在 JudgeBench mixed-domain 和 HealthBench 上已经观察到这一点：复杂分支 skill 对弱模型不友好，HealthBench 这类知识密集医疗任务的提升也不稳定。 | assumption |
| [2606.07040](../2606.07040/report.md) | 另一个值得注意的限制是 evaluation cost 与 selection bias。虽然 online inference 不增加 rubric generation，但离线演化需要模型 rollouts、skill generation、selection，作者报告每个 skill 需 1–2 小时和 1–2 张 GPU。并且 final skill 是按 evolving set 表现选择的，样本少时存在过拟合风险；论文用 held-out tests 验证了效果，但在真实部署中需要监控 domain drift。 | limitation |
| [2606.07040](../2606.07040/report.md) | - RewardBench 2 去掉 Tie subset 后包含 1,763 cases，五个保留领域分别是 Factuality、Focus、Math、Precise Instruction Following、Safety。 | followup |
| [2606.07082](../2606.07082/report.md) | **核心 assumption 在哪里 break**：分析全部基于 Qwen3 系列、math/code 域、bf16 训练。Three-Gate 解释依赖 (a) 存在 effective KL anchor、(b) 预训练几何足够结构化、(c) bf16 精度门槛主导可见性。三者中任一被打破 — 比如更小预训练模型、fp8 训练、teacher 极弱 — locking 是否仍成立是开放问题。作者在 limitation 里坦承诊断只是 mechanistic 而非 formal causal theory。 | assumption |
| [2606.07082](../2606.07082/report.md) | **实验回避了什么**：没有把 OPD 在 instruction following / safety 这类 reward signal 更模糊的场景下复测；teacher / student gap 主要在 ≤4× (Qwen3-8B → Qwen3-32B)，更夸张的 gap (例如 7B → 70B) 没覆盖；没有比较 forward-KL vs reverse-KL 在 update geometry 上的差异 (虽然作者在 §B 提到 signal-granularity 论证不变)；rank-16 选择来自 OPD 早期 stable r… | limitation |
| [2606.07082](../2606.07082/report.md) | 2025 等行为级 OPD 工作相比，是首篇把 OPD 当作独立的参数空间 regime 而非 RLVR/SFT 中间态处理的论文。论文的 contribution 是 *诊断 + 解释*，没有提出新算法，所以未来 follow-up 的天花板在于 "geometry-aware OPD" 算法 — 例如直接在 $V_K$ 上训练、用 stable rank 做 early stop、按 lock 状态调度 α。 | followup |
| [2606.07082](../2606.07082/report.md) | **值得 follow-up 的方向**： - 把 rank-16 子空间作为 LoRA-like adapter target，直接构造 geometry-aware 低秩 OPD。 | followup |
| [2606.07299](../2606.07299/report.md) | 核心假设是：开放式研究任务可以被有效分解成相对稳定的子任务 DAG，并且 rubric 能准确指出当前证据缺口。如果任务本身高度探索性、目标不断变化，或者需要非网页工具中的专业实验/仿真，DAG 计划可能频繁重写，审计成本和调度开销会变高。另一个假设是内层 Search Agent 返回的 evidence summary 足够可靠；如果局部搜索已经发生系统性偏差，外层 planner 可能只是在错误摘要上做更精致的规划。 | assumption |
| [2606.07299](../2606.07299/report.md) | 与相近工作相比，DuMate-DeepResearch 更接近一个面向生产的可审计 DR 系统报告，而不是训练算法论文。它和 DR-Tulu、TTD-DR、FS-Researcher 等工作的差异在于：不是重点优化模型或训练数据，而是强调运行时多智能体控制和证据流程。最值得 follow up 的方向是做组件级消融、公开可复现实验轨迹、评估审计日志对人类校验效率的帮助，以及测量多级 agentic search 的成本/收益边界。 | followup |
| [2606.07512](../2606.07512/report.md) | **核心 assumption 与 break 场景。** 整个范式押注在"纯文本记忆是长视频的充分表征"上。记忆构建是 query-agnostic 的一次性离线过程,感知模型在分段时决定什么进入记忆;任何未被文本化的视觉细节对推理模型永久不可见。附录案例二其实已经暴露了这一点:"米色牛仔帽"这种细粒度视觉属性大概率不会被逐字记录,agent 靠丢弃该线索重构查询才成功——这是优雅的恢复,但也说明对依赖精细视觉属性、像素级定位或重新审视画面的任务(如精确计数、细粒度时刻定位),无法回看帧的设计会成为硬上限。竞品 DVD/VideoARM 保留回看能力… | assumption |
| [2606.07512](../2606.07512/report.md) | **实验覆盖与回避。** 四个 benchmark 全是多选 QA,记忆构建的离线成本(感知模型按 10 分钟窗口跑完整视频的 API 费用与延迟)没有量化报告,与端到端单次推理的成本对比缺失——对一个主打效率的框架,"2% 上下文"只算了推理侧。所有数字依赖闭源 Gemini-3.1-Pro 做感知,虽然感知 backbone 消融显示波动小,但最低端的感知模型是什么水平并未说明。相关性分析只有 8 个数据点,R=0.897 的置信区间会很宽,"agentic capability scaling 新范式"的结论从证据强度上看略超前。 | limitation |
| [2606.07512](../2606.07512/report.md) | **值得 follow up 的方向。** 一是 query-aware 或可写记忆:当前记忆只读,推理中发现的矛盾无法回写修正;二是混合检索:在文本记忆失效时按需回看关键帧,量化"纯文本 vs 可回看"的真实差距;三是把相关性结论做实——在更多推理模型上验证,或用 RL 直接优化检索轨迹(当前 ORA 循环纯靠 prompt);四是流式增量场景(直播、具身智能体)中记忆的在线维护与遗忘机制,论文的构建是一次性的,层级聚合如何随新内容增量更新未讨论。 | followup |
| [2606.07513](../2606.07513/report.md) | **核心 assumption 是什么?什么场景下会 break?** Agentopia 假设:(a) life reward 的三维度能够代表人类福祉;(b) 把"绝对成就"换成"相对自己的进步"能消除 initial condition 偏差;(c) 抽象掉 low-level operation 不会损失关键的社会动态。前两条相对扎实,但 (c) 在涉及空间博弈、身体性互动(护理、运动、灾难情景)的社会场景中会失效。另外,reward shaping 的副作用(material -14.8%、solo activity -19.8%、skill… | assumption |
| [2606.07513](../2606.07513/report.md) | **实验覆盖了什么、回避了什么?** 系统在三个完全虚构世界做了 30 万 token 量级的扎实工程实验,这件事本身极有价值。但论文有意回避了:(1) 跨模型族迁移(只跑了一种 Qwen),(2) 与人类 ground truth 的对齐(全部由 LLM judge),(3) 更细粒度的 credit assignment(目前是 agent-year 粒度,所有 trajectory 一并纳入或排除),(4) 真实社会数据对照——作者自己在 Limitations 中承认这是"a society of agents rather than a hu… | limitation |
| [2606.07513](../2606.07513/report.md) | **值得 follow up 的方向。** - 细粒度 credit assignment(在 hundreds of LLM calls per year 中,定位到"哪个具体回应是关键"); - 把 environment model 与 agent 联合训练,而非只训 agent; - 引入人类 in-the-loop 反馈,把"agent of agents"接到真实 human-aligned 信号; - 更长 horizon 下的 catastrophic forgetting 与 memory 压缩——cost trend 显示 memo… | followup |
| [2606.07546](../2606.07546/report.md) | **核心 assumption 与 break 条件**。Bi-gram 假设序列侧只需要 sub-vertical 颗粒度，候选侧再做精细判别。这在视频体量大、子类分布稳定的平台成立，但在视频体量小、用户更看 instance-level 重复（比如某个具体 streamer）的场景就可能不够 —— 二级 SID 把同一 streamer 的视频折在同一 bucket 里，模型分不清「我喜欢这个 streamer」和「我喜欢这种类目」。Temporal Folding 也假设窗口内的 $k$ 个相邻 token 在语义上紧凑（用户的连续 $k$ 次观… | assumption |
| [2606.07546](../2606.07546/report.md) | **实验覆盖与回避**。论文把工业系统三大问题（表示、效率、最终业务）都给了数字，且 Pareto 区分得很清楚。但回避了几件事：(1) 没给 SID 与 Video ID 在**相同序列长度**下的 AUC 直接比较，最终 A/B 是「SID + L=2000 + 加大模型」对「Video ID + L=800」的整体差，无法剥离 SID 本身的 AUC 贡献。(2) 没披露 RQ-VAE 的具体 codebook 大小 $|V|$，导致读者算不出 Bi-gram 实际词表规模。(3) Scaling Law 拟合只跑了 4 个长度点，外推到 $L>… | limitation |
| [2606.07546](../2606.07546/report.md) | **值得 follow up**。其一是 $k$ 的 adaptive 化 —— 用户行为的局部紧凑性是变化的，固定 $k=4$ 留下空间。其二是 Bi-gram 截断的语义 loss 可量化吗？能否设计一个「语义颗粒度自动选择」机制，让长尾用户用 trigram、热用户用 bi-gram？其三是 Global Query Token 作为 attention sink 的角色目前只是 informal 论证，缺少明确的 entropy 度量证据；如果能定量刻画它吸走了哪些 low-entropy token，会让 Global Query 的设计动机… | followup |
| [2606.08480](../2606.08480/report.md) | 它的核心 assumption 也很清楚：rank-based diagnostics 能近似判断“reward 在当前样本上是否可用”。这个 assumption 在电商下一商品预测中比较自然，因为有 ground truth、候选列表、上下文无关负例和可打分 ranker。但它可能在以下场景失效：没有单一 ground truth 的开放式推荐、多目标目标严重冲突的场景、in-batch negatives 与当前 prompt 并非无关的场景、或 reward model 对 ground truth 本身也受曝光偏置严重误导的场景。 | assumption |
| [2606.08480](../2606.08480/report.md) | AdaGRPO 的优点是把一个工业常见但常被忽略的问题形式化了：生产 ranker 不是 verifier，它在不同样本/候选区域的可信度不同。相比简单调小 λ 或做固定 NLL+GRPO 混合，样本级 clip 更贴近噪声的异质性，而且保留 NLL 对所有样本的监督锚点，避免把被剪样本直接丢弃。 | limitation |
| [2606.09659](../2606.09659/report.md) | **核心 assumption**：mean pooling + 全参数 end-to-end 训练 + 大规模 + 异构数据混合 → 通用 representation。这个 assumption 在 short dense (GSM8K) + long dense (RULER) + long sparse (LongBench summarization) 三类任务上都站得住，论文做得相对扎实。但有几个明显的 break case：(1) 16× 压缩在 NIAH 这种 needle 是精确字符串的任务上仍然损失，必须靠 EXPAND 兜底；(2… | assumption |
| [2606.09659](../2606.09659/report.md) | **实验回避了什么**：作者没有跟 Cartridges（per-corpus distill 出 KV cache）那种 offline-amortized 压缩做正面 wall-clock 比较——后者训练成本巨大但推理时是省 token 的。作者把 Cartridges 归到「需要 30 分钟 8×H100 per corpus」的另一类问题，但严格说在 corpus 复用次数大的场景下 Cartridges 仍是强基线。另外文中所有 efficiency 数字都是 single sample，对 batched serving 下 KV cac… | limitation |
| [2606.09659](../2606.09659/report.md) | **Positioning**：和 CEPE 比，CEPE 是冻结 decoder + cross-attention 注入 latent，相当于改了 decoder 架构；LCLM 不改架构，只是把 latent 当普通 input embedding 喂进去，工程兼容性优势明显。和 KVzip/Attention Matching 比，LCLM 输赢的关键不是「压得更狠」，而是把压缩这一步从 decoder prefill 之后挪到了 encoder prefill 之前，TTFT 维度根本不在同一条曲线上。和 Cartridges 比，LCLM… | followup |
| [2606.09659](../2606.09659/report.md) | **值得 follow up**：(1) 作者结尾强调的「multi-granularity 压缩」——根据 perplexity 或信息密度动态分配压缩比，对低信息片段 64×、对密集代码 4×；(2) 把 LCLM 推广到压缩生成内容（chain-of-thought、tool observation、agent working memory）而不只是输入 context，这在 long-horizon agent 场景会是关键瓶颈；(3) Agent EXPAND 行为的 end-to-end RL 训练而不是 inference-time pr… | followup |
| [2606.09821](../2606.09821/report.md) | 核心 assumption 是：sampled token 的绝对概率位移 |π_t - μ_t| 是 ratio 更好的局部 trust-region proxy，并且 Binary-TV 足以代表训练中最危险的 off-policy drift。这个假设在长尾词表和 training-inference mismatch 场景下合理，但仍不是完整分布级约束：它只看 sampled token，不直接控制未采样 token 的 mass rearrangement；δ 的意义也依赖 batch、advantage normalization、roll… | assumption |
| [2606.09821](../2606.09821/report.md) | 实验覆盖了多模型规模、MoE、BF16/FP8 和数学推理任务，能较好支撑“低精度/长尾/off-policy 条件下 ratio-based 方法脆弱，hard mask 不如 smooth correction”。但它仍主要集中在 rule-based math RL 和 AIME 评测，未充分说明偏好模型 RLHF、多任务泛化、长上下文、非数学生成质量或安全对齐场景中是否同样成立。另一个实际问题是，论文报告了 UniRL/VeRL 系统中的结果，其他 RL 框架中 rollout/training mismatch 的强弱可能影响收益幅度。 | assumption |
| [2606.09821](../2606.09821/report.md) | 后续值得跟进的方向包括：把 Binary-TV 替换为 top-k 或近似全分布的平滑正则；研究 δ 与 group size、advantage normalization、rollout temperature 的耦合；在偏好模型奖励和多轮对话 RLHF 中验证；以及分析 DRPO 是否会改变探索行为，例如是否会过度回拉真正有价值的低概率 reasoning token。 | followup |
| [2606.10078](../2606.10078/report.md) | 这篇论文最重要的 assumption 是：同一 preference level 内的 positives 可以被视为 exchangeable。MN surrogate 的目标等价于把正样本集合内的每个 item 作为均匀 target，适合隐式反馈中“多个点击/喜欢都算正”的场景；但如果正样本内部其实有强弱差异，例如购买 > 加购 > 点击，或者评分 5 和评分 4 被混在同一组，那么二元 Mult-DPO 会过度平滑这些差异。作者的 Mult^2-DPO 正是对此的补救，但它仍要求预先给定离散 preference groups。 | assumption |
| [2606.10078](../2606.10078/report.md) | 第二个 assumption 是候选集合和负采样质量足够好。理论 gap 的 tightness 明确依赖 A/B：如果负样本太弱，B 小，Mult-DPO 作为 PL-DPO 上界会变松；训练信号也可能退化为只在容易负样本上做分类。论文的 dynamic hard negatives 结果支持这一点，但也意味着实际应用中采样策略不是工程细节，而是目标函数质量的一部分。 | assumption |
| [2606.10078](../2606.10078/report.md) | 未来值得跟进的方向包括：设计比 MN surrogate 更紧但仍可计算的 variational/EM 近似；给同级 positives 引入非均匀权重；把 hard negative sampling 纳入理论和训练闭环；在 retrieval/search/code generation 等多正确答案任务上检验 set-wise preference alignment；以及评估推荐系统常见的校准、公平性、多样性和长期反馈循环风险。 | limitation |
| [2606.10968](../2606.10968/report.md) | **核心 assumption** 是：token-level divergence 对后续生成的影响可由有限 horizon 的 suffix propagation 来刻画，并且训练中的 divergence score（Top-K reduced-TV 或 KL 近似）能足够反映 rollout policy 与 target policy 的 next-token distribution 偏移。如果 divergence estimator 低估了关键尾部概率 mass，或模型更新导致的行为变化不主要体现在这些 per-token distr… | assumption |
| [2606.10968](../2606.10968/report.md) | **何时可能 break**：第一，CPPO 的位置权重使用简单线性 schedule，默认假设“越早越重要、越晚越局部”大体成立；但在某些任务中，关键 token 可能集中在后段，例如长推理末尾的最终答案格式或工具调用参数。第二，prefix budget 会在训练早期或高探索样本上更频繁地 mask update，因此阈值过小可能压制有用探索；论文为 Base models 引入 per-sequence 90 分位数动态 `δ_b`，也说明固定阈值并非总是稳妥。第三，实验集中在数学推理 RLVR 和 Qwen3 系列，尚未证明在代码、agenti… | assumption |
| [2606.10968](../2606.10968/report.md) | **值得 follow-up 的方向**：更自适应的位置权重（例如根据 attention、reasoning stage 或 learned hazard 估计决定，而非线性 schedule）、更细粒度的 prefix budget 诊断、在非数学 RLVR 任务上的验证、与 reference KL / entropy regularization 的组合，以及对动态 `δ_b` warm-up 策略的理论化。若把 CPPO 用在长链推理之外的场景，最好重新检查“早期 token 影响更大”是否仍然是主导结构。 | followup |
| [2606.11926](../2606.11926/report.md) | 主要假设是：研究任务可以被拆成一系列可执行、可评估、可细化的 local hypotheses，并且 evaluator 能给出足够可靠的反馈。这个假设在 model training、benchmark harness 和 data synthesis 中比较成立，因为每个 candidate 可以跑实验并得到标量分数；但在更开放的科学发现中，目标往往多维、评估延迟更长，甚至“什么算好假设”都不清楚。附录也承认，当前 AO suite 仍是自动科研的初步 probe，而不是完整科学发现 benchmark。 | assumption |
| [2606.11926](../2606.11926/report.md) | 这篇论文最强的地方是把自动科研的状态管理问题讲清楚了。HTR 的贡献不在于提出一个全新的搜索算法公式，而在于给“多次实验如何变成研究进展”提供了操作层面的 schema：hypothesis 必须可归因，executor 必须局部且隔离，insight 必须可向上传播，合并必须经过 held-out gate。这些约束听起来工程化，但正是长程 agent 系统容易失控的地方。 | limitation |
| [2606.11926](../2606.11926/report.md) | 值得 follow up 的方向包括：多目标/约束优化版本的 AO、对负结果质量的自动审计、树策略的 cost-aware scheduling、跨任务/跨项目复用 hypothesis tree，以及在非 AI 研究领域中构造更接近真实科学发现的 evaluator。若这些方向做成，Arbor 的 hypothesis-tree abstraction 可能会从“一个自动科研系统”变成更通用的 agentic research state interface。 | followup |
| [2606.12198](../2606.12198/report.md) | 这篇论文的核心 assumption 是：用户兴趣可以用少数自然语言主题稳定表达，并且这些文本主题能被底层检索模型有效 ground 到视频空间。这个假设在视频、音乐、新闻等内容语义强的平台上合理；但在强上下文/强时效/强社交驱动场景中可能变弱，例如用户只是临时查一个故障教程、跟热点事件短暂互动，或观看行为主要受社交关系而非主题兴趣驱动。 | assumption |
| [2606.12198](../2606.12198/report.md) | 方法可能 break 的地方有三类。第一，输入噪声：标题党、反讽标题、多语言混杂或视频 metadata 缺失会误导 persona。第二，异步 stale：用户兴趣突变时，后台更新频率不够会保留过时标签。第三，反馈回路并没有消失：LLM exploration 能提出新主题，但如果下游 ranking 仍倾向保守曝光，新探索内容可能长期被压制；论文中 exploration impressions 少 40.91% 就是证据。 | limitation |
| [2606.12198](../2606.12198/report.md) | 相对相关工作，本文的位置很工业：它不是证明 LLM 可以在 benchmark 上做推荐，而是证明 LLM-generated natural language personas 可以作为生产召回源的一部分，为高度优化系统带来小但显著的增量。它的 novelty 主要来自系统组合和规模化部署，而不是某个新的模型结构或损失函数。 | followup |
| [2606.12198](../2606.12198/report.md) | 最值得 follow up 的方向包括： - **persona feedback loop**：让用户显式编辑、删除或确认 persona，并把反馈用于更新模型和安全策略。 | followup |
| [2606.12198](../2606.12198/report.md) | - **多模态 persona**：标题是高信噪比文本，但视频推荐里视觉、音频、创作者风格也很重要；未来可以把多模态摘要作为 LLM 输入。 | followup |
| [2606.12198](../2606.12198/report.md) | --- 附录主要给出了两个 prompt 模板：一个用于只生成 summarized interests，另一个用于同时生成 summarized interests 和 exploration interests。重要细节是输出格式被强约束：summary 用 `**...**` 包裹，exploration 用 `&&...&&` 包裹，并要求每组输出固定数量的兴趣。这解释了为什么论文把 Instruction Following Rate 作为关键工业指标：如果格式不稳定，后续解析、检索和安全过滤都会变得脆弱。 | followup |
| [2606.12507](../2606.12507/report.md) | 从研究图谱看，这篇论文的定位介于 rubric-RL、on-policy distillation 和 self-distillation 之间。它最有价值的不是提出复杂新算法，而是给出一个很实用的替代表述：当 rubric 能显著改变模型输出分布时，不必总把它压成 reward；可以直接把这个分布差异蒸馏进去。后续值得跟进的问题包括：rubric-conditioning gap 能否可靠预测最终收益；不同 teacher prompt 会不会影响可蒸馏性；RGSD 与少量 judge feedback 是否能混合；以及不用 LLM judge 的事… | limitation |
| [2606.12507](../2606.12507/report.md) | RGSD 最适合的场景很清楚：rubric 是现成的，训练时调用 judge 昂贵、不稳定或有偏置，而 base model 在看到 rubric 后有显著质量提升。此时，把 rubric 当作 privileged teacher context 可以避免把训练系统绑在 judge latency/rate-limit 上，也降低对某个训练 judge 偏好的直接优化。 | followup |
| [2606.13533](../2606.13533/report.md) | 核心 assumption 是平台已有较强的 typed attribute dictionary / attribute extraction pipeline，并且大量查询意图可以由这些结构化属性表达。快手电商的商品标题、属性、详情页、OCR 和内部类目体系足以支撑 108 万属性词词典；在没有高质量属性词典的垂直场景中，KAE 的优势会显著下降，reserved slot 也难以稳定映射到正确 group。另一个 assumption 是同一 SID 可以一对多展开到商品集合，因此召回关注 deep coverage 而不是精确 item-lev… | assumption |
| [2606.13533](../2606.13533/report.md) | 实验覆盖比较充分，尤其有线上 A/B，这是工业检索论文的强证据。不过仍有一些回避点。第一，OneRetrieval 的 shallow HR 和 MRR 明显弱于 OneSearch，说明如果希望单模型同时承担 pre-ranking/ranking，仍需额外排序优化。第二，intervention probe 中新词由 Qwen3-7B 生成、再构造 query-item pair，虽然作者说明人工验证，但与真实热点词生命周期仍有 gap。第三，reserved slots 总数为每组 10 个、共 60 个，论文称足够覆盖周级趋势，但没有展示长期… | limitation |
| [2606.13533](../2606.13533/report.md) | 值得 follow up 的方向包括：把 reserved slot 的绑定和回收做成自动化 trend mining；用 RL 或 ranking distillation 改善 shallow precision；引入多模态属性以覆盖视觉长尾商品；以及研究 open-domain/document retrieval 中是否可以构造类似 attribute-aligned SID。 | followup |
| [2606.13679](../2606.13679/report.md) | 这篇论文的核心 assumption 是：interleaved generation 可以被拆成一串局部可验证的 visual transitions，并且每一步的 prompt refinement 足以修正大部分偏差。这个假设在教程、流程、故事板、具身操作分解等任务上合理，因为全局目标天然可拆步；但在需要全局美学一致性、跨多步隐式约束、或“后一步反过来改变前一步意义”的创作任务中，单步 Critic 可能仍然过于局部。 | assumption |
| [2606.13679](../2606.13679/report.md) | 另一个 assumption 是 frozen generator 的能力边界足够覆盖目标概念。作者在 limitation 中明确说，如果基础图像生成器本身不认识某个概念，InterleaveThinker 不能凭 prompt refinement 创造 generator 未学到的 visual prior；坏例子显示甚至可能出现 color shift。这意味着该框架更像一个强控制器，而不是提升底层生成分布的模型训练方法。 | assumption |
| [2606.13679](../2606.13679/report.md) | 实验覆盖了 UEval、CoMM、WISE、RISE，能说明 interleaved generation 与 reasoning image generation/editing 的收益；但论文仍主要依赖自动评测和若干闭源模型生成/评分数据。数据构造和 reward 都大量依赖 Gemini 2.5 Pro / Nano Banana Pro 这类强模型，实际复现成本与评测独立性需要关注。后续值得追的是：更便宜的 Critic reward model、动态决定 $T_{max}$ 的停止策略、跨步一致性 memory、以及把 Planner 的全局… | followup |
| [2606.13679](../2606.13679/report.md) | --- 附录给出了 Planner 纯文本/图文交错输入的 system prompt，以及 Critic 的评估与 prompt refinement 格式。一个值得注意的工程点是 Critic 的失败判定被写得很严格：既检查 intent matching，也要求主动寻找 anatomy、collateral damage、背景污染、主体身份丢失等 anomaly；这解释了为什么 Critic-SFT/RL 主要提升 image quality，而 Planner-SFT 主要提升 text/sequence structure。 | followup |
| [2606.13680](../2606.13680/report.md) | RA-RFT 的强假设是：存在一个可复用的 reasoning-trace corpus，并且 judge 能以足够高的精度识别可迁移结构。如果语料库缺少相应技巧，或 judge 只学到表面启发式，retriever 就无法提供真正的探索脚手架。论文也承认需要一次性 GPT-4o 标注成本；虽然相对训练可复用，但这仍是比普通 RLVR 更重的前置工程。 | assumption |
| [2606.13680](../2606.13680/report.md) | 我认为这篇论文的研究图谱位置很清楚：它不是新的 RL optimizer，也不是新的 reward design，而是把“外部程序性/解题记忆”接入 RLVR 的训练分布。后续最值得跟进的是三点：第一，gold relevance 是否能用更便宜的 self-training 或 verifier-based 方法替代；第二，retriever 是否应该在 RL 过程中联动更新，而不是完全 frozen；第三，这种 analogical retrieval 能否迁移到代码、科学推理、定理证明等非竞赛数学领域。 | followup |
| [2606.13681](../2606.13681/report.md) | 核心 assumption 是：环境变化通常可以被表示为一系列局部 patch，且这些 patch 在后续任务中可被检索并正确解释。这个假设在相邻版本变化、小范围 API/路径/偏好更新时很合理；但在环境发生大规模重构、任务目标本身变了、或者更新之间存在复杂因果依赖时，简单 top-k patch retrieval 可能不够。patch 还可能引入过时证据，如果 agent 不遵守“当前 instruction authoritative”的约束，就可能被历史信息误导。 | assumption |
| [2606.13681](../2606.13681/report.md) | 这篇论文的定位很清晰：它把 agent evaluation 从 static snapshot 推向 versioned environment chain，并把 memory design 从 latest-state store 推向 update-history store。对于长期 agent 系统，这个问题非常实际，尤其和我们日常使用工具/技能/用户偏好记忆时遇到的“旧规则被新规则覆盖但仍局部有效”高度相关。 | limitation |
| [2606.13681](../2606.13681/report.md) | 和已有 memory 工作相比，EvoMem 的新意不在“长期记忆”本身，而在 **memory update 的版本化与可审计性**。它接近 git diff / event sourcing 思想：当前状态负责高效行动，历史 patch 负责解释、恢复和审计。这也让它天然适合 agent observability：开发者可以追踪某次错误行为是否来自某个错误 patch、过度泛化的更新，或缺失的证据。 | followup |
| [2606.13681](../2606.13681/report.md) | 后续值得 follow up 的方向包括： - **patch gating**：什么时候不应该注入 patch？是否可以让模型先判断 query 是否依赖历史状态； - **conflict reasoning**：patch 提供 before/after 证据后，如何判断哪个版本、哪个偏好、哪个约束优先； - **patch compression / hierarchy**：长期部署中 patch history 会增长，需要层级摘要、过期策略或因果图； - **online evaluation**：EvoArena 的版本链仍是离线构造，未… | followup |
| [2606.14142](../2606.14142/report.md) | 核心 assumption 是：SID-based GR 的困难主要来自文本—SID 表示接口，而 ` ` token 经过 CPT 语料预训练后能形成更直接的桥。这个 assumption 在 Amazon SID sequential recommendation 上得到支持，但还不能证明 PauseRec 是所有 LLM 推荐任务的通用替代品。如果输出是自然语言 item name、或者系统必须同时生成解释给用户看，显式 rationale 的价值可能重新出现。 | assumption |
| [2606.14142](../2606.14142/report.md) | 值得 follow up 的方向包括：更大 LLM 和多域数据上是否仍成立；pause token 是否能和 retrieval/reranking、多兴趣建模、diversity/fairness 目标结合；线上 A/B 是否能复现离线 Hit/NDCG 提升；以及如何证明 pause hidden states 真的编码了可迁移的偏好/候选信息，而不是数据集特定 shortcut。 | assumption |
| [2606.14142](../2606.14142/report.md) | 这篇论文最有价值的部分不是提出“加几个 pause token”，而是把推荐里的 CoT failure 拆成可诊断的接口问题。很多 LLM 推荐论文默认“显式思考 trace + RL”就是 reasoning，但这篇指出在 SID 输出设置下，自然语言 trace 和最终目标 token 空间可能严重错配：模型说出一个看似合理的理由，未必能稳定提高正确 SID 的 logit。 | limitation |
| [2606.14142](../2606.14142/report.md) | - 限制部分明确承认：pause placement、初始化 schedule、decoding variants 未穷尽；只做离线 next-item prediction；` ` 不直接提供自然语言解释；推荐系统常见的 popularity bias 与历史偏好强化风险仍需治理。 | followup |
| [2606.14260](../2606.14260/report.md) | 核心 assumption 是：交互时间携带的用户意图和物品状态能够通过离散化后的 SID 被有效保留，并且这种时间语义在未来测试中可泛化。这个 assumption 在有明显节奏、季节性、复购周期或趋势漂移的场景下较强；但在极端稀疏用户、时间戳噪声很大、或物品语义几乎不随时间变化的场景下，收益可能变小，甚至时间 token 会增加学习噪声。 | assumption |
| [2606.14260](../2606.14260/report.md) | 实验覆盖了推荐领域常见的 top-K next-item 指标和多个数据集，也特别强调避免未来信息泄漏，这是该工作的优点。不过，论文仍主要停留在离线评估；没有展示线上延迟、码本更新成本、冷启动新物品在生产系统中的 SID 生成策略，以及时间粒度选择对大规模服务的影响。尤其是如果 SID 随 interaction time 变化，同一物品可能对应多个时间相关 ID，这会影响召回索引、缓存、去重、多阶段排序衔接等工程问题。 | limitation |
| [2606.14260](../2606.14260/report.md) | 值得 follow up 的方向包括：动态/持续更新 codebook，避免时间漂移后重训；为新物品和新时间段生成稳定 SID；研究时间粒度与 token 长度的 trade-off；把流行度、价格、库存、曝光等非文本动态状态一起纳入 semantic ID；以及在线 A/B 中验证 temporal SID 是否改善长期指标而不只是离线 HR/NDCG。 | followup |
| [2606.14997](../2606.14997/report.md) | 核心 assumption 是：目标概念在每层输入激活统计中有足够可分离的协方差结构，且通过 $W\Sigma^+(\Sigma^++\Sigma^-)^\dagger$ 得到的 weight slice 能近似因果载体。如果目标/参考高度重叠，或概念主要依赖跨层非线性组合而非局部线性协方差，soft projection 可能会同时切到相关知识，或者遗忘不彻底。 | assumption |
| [2606.14997](../2606.14997/report.md) | 另一个关键 assumption 是 tabula rasa。作者很诚实地承认：该方法识别的是 converged manifold 中的 functional component，不是 learning trajectory reconstruction。这意味着如果研究问题是“fine-tuning 的某个样本到底改变了哪些权重”，Engram 给出的答案不一定是历史因果；但如果工程问题是“现在如何快速删除一个概念并保留其他能力”，这个功能性定义反而更直接。 | assumption |
| [2606.14997](../2606.14997/report.md) | 这篇论文最值得关注的点是把“概念级模型编辑/遗忘”表述成协方差谱滤波，而不是梯度优化。它和 MEMIT/UCE/Task Arithmetic 在精神上接近：都试图在线性层里做闭式编辑；不同之处是 Engram 用目标/参考输入协方差的 Moore–Penrose pseudoinverse 来决定哪些谱方向应该被切掉，而不是用统一阻尼或训练得到 task vector。 | followup |
| [2606.17024](../2606.17024/report.md) | 这篇论文最有价值的定位是把“参考解答”从 imitation data 重新解释为 reward construction resource。它反驳了一个常见默认假设：有高质量解答就应该 SFT。对于困难 reasoning，真正缺的是 on-policy 分布中可被 sparse RL 放大的 productive paths；直接模仿人类解法可能反而因为轨迹分布太远而破坏探索。ExpRL 的方案更像一个中间接口：用参考解答降低 reward modeling 难度，同时不把参考解答暴露给 actor。 | assumption |
| [2606.17024](../2606.17024/report.md) | 核心 assumption 是：judge 在给定正确参考解答时，能够可靠识别 partial progress，而且这个 partial progress 与未来可成功的 reasoning path 正相关。论文的 calibration 和 Stage-I/Stage-II 结果支持这个 assumption，但它不是无条件成立。0.6B judge 在 calibration 中不稳定；coding 中 reference-conditioned judge 相比 no-reference 没有明显优势；如果任务存在大量与参考解法差异很大但同样… | assumption |
| [2606.17024](../2606.17024/report.md) | 实验覆盖较强的是 answer-based math reasoning 和一部分 science/coding 混合域，但还没有充分覆盖开放式证明、需要外部工具交互的任务、长程规划任务或多参考解答场景。另一个尚未彻底解决的问题是 process reward 与长度/格式的耦合：论文观察到 ExpRL-Process 在有 length clipping 时会改变 `###` delimiter 分布，说明 prefix slicing 依赖模型格式习惯，未来可能需要更稳健的 step segmentation 或 judge feedback 使用… | limitation |
| [2606.17024](../2606.17024/report.md) | 与相近工作相比，ExpRL 不同于 POPE 这类在 downstream RL 暴露 oracle prefix 来引导探索的方法；它把引导放在 mid-training 阶段，并在 Stage-II 回到普通 sparse reward。两者理论上可以组合：先用 ExpRL 建立 broader coverage，再用 prefix-conditioned 或 pass@n-aware RL 进一步扩大探索上限。 | followup |
| [2606.17107](../2606.17107/report.md) | 最大的假设是：目标模型与推理栈要有可访问的 per-token attention KV，并且这些 KV 中确实保存了可被新上下文读出的结论 notes。纯 SSM、纯 recurrent、diffusion LM 不满足；序列压缩 KV 只给 block 粒度；一些生产 API 不暴露 KV，因此只能用文本层 erratum 而不能做真正 KV transplant。此外，late memory placement 有准确率成本，跨引用事实拆块会破坏预编译的推理链，这些都说明“把一切变成 cache object”需要结构化内存设计，而不能只靠任意切… | assumption |
| [2606.17107](../2606.17107/report.md) | 这篇论文真正有启发的地方是把系统缓存、mechanistic interpretability 和 agent state management 连起来。传统系统论文通常把 KV 当作可复用张量，关注 hash、分页、传输、压缩；interpretability 工作则关注激活里是否有某个方向/特征编码知识。本文把两者对接：如果激活中确有因果 note，serving 系统就可以把 note 当作可编辑、可拼接的运行时对象。 | followup |
| [2606.17250](../2606.17250/report.md) | 核心假设有两个。第一，高概率 token 大多是 supporting tokens，因此不应在负样本中惩罚；第二，低概率 token 更可能承载失败原因。实验用 n-gram overlap 和 top singular subspace 支撑了这个假设，但它仍是 proxy，不是因果级 token credit assignment。某些任务中，高概率 token 也可能是系统性错误模式，低概率 token 也可能是必要探索；此时 NTF 可能屏蔽掉应被纠正的 token，或过度惩罚探索行为。 | assumption |
| [2606.17250](../2606.17250/report.md) | 和 SPO、REINFORCE++、GRPO 的关系可以概括为：REINFORCE++ 证明 batch-level normalization 可以摆脱 prompt group，但单 rollout 不稳定；SPO 用历史 tracker 补 baseline；本文则说 baseline 不是全部，真正要处理的是负样本 token-level false penalty。它给 group-free RLVR 提供了一个更轻的方向，也自然可以反向扩展到 group-based 方法：即使保留 GRPO，也可以考虑在负 advantage token… | followup |
| [2606.17250](../2606.17250/report.md) | 后续最值得做的方向包括： 1. | followup |
| [2606.17539](../2606.17539/report.md) | 这篇论文的核心 assumption 是：评测问题能够提供或构造可用的 region reference，使 DTR 能把相关对象映射到 3D 中心/框。当 region prompt 不可靠、对象遮挡严重、深度估计错误，或问题需要隐含对象而非显式区域时，DTR 的中间检测会成为误差放大器。论文的 OOD 结果也暗示，CoT 不总是更好；对 perception-heavy 问题，直接回答反而优于长推理。 | assumption |
| [2606.17539](../2606.17539/report.md) | 后续值得跟进的方向包括：自动判断何时走 LOR/DTR/直接回答，而不是由 prompt 固定；把 DTR 从 region token 扩展到自动 object proposal；在真实 3D/机器人环境中验证 detect-then-reason 的闭环收益；以及研究 detection reward 的连续化、uncertainty-aware 坐标推理和跨视角坐标一致性约束。 | followup |
| [2606.17929](../2606.17929/report.md) | 不过它的适用边界也很清楚。第一，验证假设环境可 reset 或幂等；现实任务中很多操作不可逆，不能为了验证而真的再做一遍。第二，corpus 的泛化集中在已见任务族；OSWorld OOD 实验中，用 test_tiny corpus 跑 30 个 unseen tasks，warm-OOD 平均 16.7/30，约比单次 cold-OOD baseline 低 11 个百分点。原因是少量近邻误检会触发脆弱 predicate，消耗 replay budget。第三，compile-and-verify 的冷启动成本高，如果任务长尾、重复率低或验证成本… | assumption |
| [2606.17929](../2606.17929/report.md) | PreAct 的贡献可以拆成“可执行记忆”和“拒绝未验证记忆”两部分。前者带来速度：如果任务确实重复且 UI 稳定，replay 避免了逐步 LLM 调用。后者带来长期可用性：如果编译器输出了看似完整但实际无效的程序，gate 会把它挡在 corpus 外。论文最有价值的证据不是单个平台的成功率，而是 gate-off 在三个平台上都导致 corpus 退化，而 gate-on 都更好；这说明问题来自 trace-to-program 编译的 lossy rate，而不是某个 benchmark 或某个模型的偶然性。 | limitation |
| [2606.17929](../2606.17929/report.md) | 从研究图谱看，这篇论文把 agent memory 从“检索供 LLM 解释的经验”推进到“可直接执行、可被外部验证的程序库”。它也提出了一个更一般的问题：随着 agent 记忆库长期增长，难点不是能否记住做过什么，而是能否判断哪些记忆仍然是真的。 | limitation |
| [2606.17929](../2606.17929/report.md) | - **未来方向**：扩大 corpus 到 10^3–10^4 规模时 selector 和 dedup 是否仍可靠；与 ActionEngine-style flat-script 做更强直接对比；扩展到百步级长任务；把 verified corpus 用作监督信号进一步训练模型。 | followup |
| [2606.19172](../2606.19172/report.md) | 这篇论文的位置比较特殊：它不是把 RAG 做得更好，也不是常规 knowledge editing，而是在问“如果我们真的要把 per-user facts 写入模型，什么架构才不会污染共享能力”。在这个问题上，它给出的答案是有说服力的：必须有地址化、稀疏、局部触发的写入位置；否则 per-user adapter 天然会变成全局函数扰动。 | limitation |
| [2606.19172](../2606.19172/report.md) | 对研究 follow-up 来说，最值得做的是：第一，把 Engram row 写入和 shared skill 联合训练，而不是后装；第二，在预训练中加入 recite-then-reason 和多事实共同激活，使 row store 不只会表面匹配；第三，研究 scoped per-user tables 或 query-conditioned row loading，降低同一用户高密度 facts 的干扰；第四，在 chat-tuned Engram base 上复现实验，因为当前 Mini-Engram 仍是小型 base LM，评估协议和真实… | followup |
| [2606.19635](../2606.19635/report.md) | Token Factory 的核心假设是：推荐系统中的传统特征可以通过端到端训练被投影到 LRM embedding space，并被 Transformer attention 有效使用。附录 attention 可视化支持这个假设：textual SID 输入中，许多 token 几乎没有被 attention 到，attention 质量集中在少数频繁子 token 上；soft-token 模型的 max 和 mean attention 分布更密集、更分散，说明不同 head/layer 更均衡地利用了历史序列中的信息。这为“soft tok… | assumption |
| [2606.19635](../2606.19635/report.md) | 局限也很明确。第一，论文主要报告生产内部数据和 PLUM / YouTube 场景，外部复现难度高，公开 benchmark 证据不足。第二，Token Maker 引入随机初始化参数，早期训练会落后文本 baseline；如果数据量、训练步数或 feature logging 质量不足，soft-token 对齐可能失败。第三，soft tokens 不可读，调试、归因和安全审查都比文本 prompt 更难。第四，论文没有详细展开 serving 系统的缓存、特征实时性、训练/服务一致性和 feature drift 问题，而这些往往决定工业部署成败。 | limitation |
| [2606.19635](../2606.19635/report.md) | 我认为这篇论文的研究价值在于，它把 LRM 的“prompt engineering”问题重新表述为“token budget 下的特征投影与模态融合”问题。对后续工作，值得关注三条线：一是 Token Maker 的结构搜索和容量分配，决定不同特征族用多少 soft-token budget；二是 soft-token interpretability，例如把 attention、feature attribution 与推荐解释结合；三是跨域或多任务共享 Token Maker，让同一组传统特征投影在 ranking、retrieval、reran… | limitation |
| [2606.20002](../2606.20002/report.md) | 核心 assumption 是环境内存在跨任务可复用的信息，而且这些信息不能被模型先验完全补齐。如果环境任务彼此弱相关，或 hint 更新机制太弱/太噪，CoD 的优势会下降；如果单题从零已经接近满分，训练信号也可能退化为普通任务 RL。此外，当前实现只用短文本 hint 承载 context，对真实代码仓库、个人助理或复杂 OS 环境来说过于简化。 | assumption |
| [2606.20002](../2606.20002/report.md) | 这篇论文最有价值的定位，是把 lifelong agent 的 memory/context 管理从工程 scaffold 问题推进到后训练目标设计问题。它不是简单提出一个 agent 框架，而是在问：LLM 是否应该通过 RL 直接学会“什么经验该写入上下文、如何在未来调用这些经验”。这和现有 RLVR、agent benchmark、Ralph loop、RL^2 / meta-RL 都有交集，但任务序列中的“不同但相关任务”让问题比重复尝试同一任务更接近真实长期部署。 | limitation |
| [2606.20002](../2606.20002/report.md) | 实验是 proof-of-concept 级别：FrozenLake-Obscure 和 Alchemy-Random 很适合验证信息论瓶颈与跨任务记忆，但距离真实长期 agent 仍有差距；TerminalSimulator 的跨域提升也需要更细粒度诊断。论文诚实指出算法中仍有启发式重加权、baseline 可比性不足、长序列 return 可能需要 discount 或 sliding window 等问题。 | limitation |
| [2606.20002](../2606.20002/report.md) | 后续最值得跟进的方向有三类：第一，把 hint 扩展为真正的持久 memory/skill/file context，并训练模型在更复杂载体上维护状态；第二，设计更现实且仍有干净 reward 的长期环境，例如持续维护仓库、用户偏好学习、长期 web/terminal 工作流；第三，把 CoD-Train 与现有 post-training pipeline 结合，例如作为 RL 后训练的独立阶段，或训练 CoD teacher 后通过 distillation / model merging 注入通用元能力。 | followup |
| [2606.20002](../2606.20002/report.md) | --- 附录补全了 RL 算法公式、训练配置、环境配置和 prompt 模板。两个细节对复现很关键：一是 return 用“当前位置到未来 solve-task reward 的均值”，而不是简单累计总 reward；二是在 advantage 均值偏负时使用自适应指数重加权稳定训练。环境配置方面，FrozenLake-Obscure 的 easy/hard 地图边长分别约为 4-5 与 6-7，Alchemy-Random 的 hard 设置有更多 base elements、更多 recipe per element 且 material mode… | followup |
| [2606.20554](../2606.20554/report.md) | 核心 assumption 是：co-engagement graph 的社区结构能够代表用户兴趣原型，并且这些兴趣原型在离线更新周期内足够稳定。当用户行为强烈受短期热点、地理位置、时效内容或曝光机制影响时，co-engagement 可能混入强烈偏置；如果采样图未能保留低频兴趣或新 item 的邻接关系，soft clustering 也可能给出过平滑的 profile。论文在 preliminaries 中还显式假设所有 item 都出现在历史交互中以避免 cold start，因此新 item / 新兴趣冷启动并不是本文解决的重点。 | assumption |
| [2606.20554](../2606.20554/report.md) | 这篇论文最有价值的部分在于把推荐系统中的 graph signal 重新表述为生成式模型可消费的 tokenization 问题。它没有要求生成模型理解大图，也没有把用户节点长期嵌入作为在线依赖，而是将全局 co-engagement 结构离线压缩成 item-level interest profile。这对工业系统尤其合理：item 相对用户更稳定，用户历史可以通过 item/profile 交替序列实时拼接。 | limitation |
| [2606.20554](../2606.20554/report.md) | 实验覆盖了公开数据集、效率和内部在线 A/B，这比只做离线 ranking 的推荐论文更有说服力。但仍有几个未充分展开的问题：第一，在线实验缺少可复核细节，无法判断不同产品面、流量桶、指标口径和长期 novelty effect；第二，公开实验使用 Llama 2 13B + LoRA，baseline 是否在同等参数预算和调参强度下最优仍需谨慎；第三，soft clustering 的更新频率、原型数 C、membership 稀疏度 ρ 对效果和稳定性的影响没有系统展示。 | limitation |
| [2606.20554](../2606.20554/report.md) | 后续值得跟进的方向包括：把 time-aware 或 session-aware 权重加入 co-engagement graph，缓解热点和陈旧兴趣；为 cold-start item 引入内容模型预测初始 membership；把 profile token 与现有 semantic ID/tokenizer 结合；以及更透明地评估 online serving latency、缓存策略和长期多样性/公平性指标。 | followup |
| [2606.21649](../2606.21649/report.md) | 但它的核心 assumption 也很清楚：历史状态可以被固定容量 latent queue 充分压缩，并且当前 retrieval 只需要有限滚动状态。如果任务需要保留大量稀疏、低频、跨模态或强结构化事实，512 latent tokens 可能不够；如果后续状态会反复推翻早期事实，FIFO queue 也可能在“该忘什么”上出错。论文的 LongMemEval/LoCoMo/PersonaMME 结果说明它在文本长期记忆上有效，但不等于已经解决企业知识库、代码库、法律/医疗等高精度长尾检索。 | assumption |
| [2606.22844](../2606.22844/report.md) | RaMem 的核心 assumption 是：长期记忆任务中的相当一部分错误来自 episode-level context ambiguity，并且 memory extraction 阶段能够保留足够可靠的 session / temporal / participant / entity 字段。若上游 memory extraction 已经漏掉关键情境，或者 query analyzer 把 recall conditions ground 错，RaMem 仍会失败。论文通过 selective activation 和 temporal bu… | assumption |
| [2606.22844](../2606.22844/report.md) | 一个值得 follow up 的方向是把 contextual reinstatement 做成可学习的 validity model，而不是主要依赖规则式 session overlap 和 LLM query analysis；另一个方向是将 context uncertainty 显式建模，给每条 memory 的 context fields 加置信度，并让 retrieval 在 recall、precision、uncertainty 之间做校准。对于真实个人助手，还必须把长期记忆的 consent、retention、deletion 和… | limitation |
| [2606.23038](../2606.23038/report.md) | 这篇论文最重要的假设是：policy 与 evaluator 共享 backbone 后，它们的能力边界足够接近，rubric generator 能持续发现 policy 的当前弱点；同时外部 judge 和 golden rubric anchor 足够可靠，能防止 adversarial co-evolution 走偏。如果 judge 偏差很强、golden rubrics 不存在或质量差，或者 policy 学会利用 evaluator 的特殊癖好，这个闭环可能会放大共同偏差。作者在 limitations 里也承认，共享 backbone… | assumption |
| [2606.23038](../2606.23038/report.md) | 从研究定位看，EvoRubrics 比静态 rubrics 更像一个 evaluator-policy co-training 框架；比 OnlineRubrics 的差别在于 evaluator 不是外部 LLM 规则提取器，而是与 policy 同步优化的可训练模块。后续值得关注三个方向：跨域训练是否能减少 self-supervised evaluator 的域偏；是否能用 uncertainty/active evaluation 减少 M x M judge 成本；以及在没有 golden rubric 的真实开放任务里，如何检测和纠正 re… | followup |
| [2606.23283](../2606.23283/report.md) | **第一，它把“隐含逻辑记忆检索”从模糊抱怨变成了可评测问题。** 很多个性化系统都在吃这个亏，但过去大家通常把失败归因于检索弱、上下文长、模型不够聪明；这篇文章更精确地指出，失败往往来自 semantic relevance 与 logical relevance 的错位。 | limitation |
| [2606.23283](../2606.23283/report.md) | 但这篇论文也有不能回避的问题。 | limitation |
| [2606.23283](../2606.23283/report.md) | **第二，它提出的 root memory 表示抓住了真正需要保存的对象：决策逻辑。** 这比把原始 memory 全部堆给模型更接近“人为什么会根据过去经历形成未来行为约束”。 | followup |
| [2606.23459](../2606.23459/report.md) | 这篇论文的假设是：真实 LLM 助手需要在未被显式询问时主动识别风险，因此 PM 是独立于 RM 的关键能力。这个假设对 agent、个人助手、IDE coding assistant 很合理；尤其当风险来自临时状态、隐含规则或打断后恢复时，显式 QA benchmark 确实不足。 | assumption |
| [2606.23459](../2606.23459/report.md) | 方法层面，论文并没有提出一个新的 PM 系统，而是提出评测和诊断框架。这是优点也是边界：它清楚指出 RAG、Mem0、A-MEM 这类被动检索式记忆的盲区，但没有完全解决如何构造可靠 active working memory。Letta-Sim 的结果暗示 always-visible core memory 有帮助，但这又带来容量、更新策略和误报控制问题。 | limitation |
| [2606.23459](../2606.23459/report.md) | 但 TriggerBench 目前仍是合成任务，且只覆盖英文交互。作者通过人工 seed、expert-in-the-loop、necessity/sufficiency 过滤和 judge 验证增强可信度，但用户对“什么时候该主动提醒”的偏好可能高度主观；一个模型被判为 false alarm，在某些用户偏好下可能被接受。论文也承认 human validation 样本较集中，未来需要更大规模、多样化人群的 intervention threshold 标注。 | followup |
| [2606.23459](../2606.23459/report.md) | 我认为最值得后续跟进的是两条线：一是把 PM 约束显式写入 agent 的 runtime state，并设计可衰减、可验证、可解除的 active constraint store；二是把 precision-recall trade-off 作为一等优化目标，而不是只追求 recall。对生产型助手来说，过度主动造成的打扰和信任损失可能和漏提醒一样严重。 | followup |
| [2606.24143](../2606.24143/report.md) | 核心 assumption 是：teacher 是固定外部模型，且 full-vocabulary teacher logits 在异步 pipeline 中不可经济地缓存/传输。如果系统能低成本重算 dense teacher logits，或用 KDFlow 类方法传 teacher hidden states 并在 learner 端恢复 full logits，那么 cached-support mismatch 会被弱化，本文的 multi-sample MC 设计就不一定是最优。另一个 assumption 是 old policy 对 c… | assumption |
| [2606.24143](../2606.24143/report.md) | 这篇论文的价值在于把“异步 OPD 是否可行”拆成 estimator 可识别的问题：prefix-level staleness 由系统调度决定，action-level staleness 则由 teacher-score cache 决定。这个视角比简单说“异步提高吞吐但会 stale”更有研究价值，因为它解释了为什么 forward/reverse KL、top-k/MC、PPO/IS 在同一 stale pipeline 下表现不同。 | limitation |
| [2606.24143](../2606.24143/report.md) | 与相近工作相比，本文不是又一个异步 RL scheduler，也不是单纯 OPD loss 论文；它的定位是 OPD-specific stale-cache estimator design + 一个可运行异步系统。后续值得跟进的方向包括：异步 dense-KL 或 hidden-state 传输机制、跨节点队列与权重同步策略、更自适应的 MC sample count、以及根据在线 staleness/variance 动态选择 forward KL、reverse KL 或 mixed divergence。 | followup |
| [2606.24775](../2606.24775/report.md) | 这篇论文的主要假设是：agent memory 可以被抽象成一组数据管理模块，并且这些模块的局部选择能解释端到端行为。这个假设对当前以文本/结构化 memory 为主的 LLM agent 很合理，但也限制了覆盖范围：论文基本不处理 multimodal memory、真实在线并发、多 agent consistency、权限/隐私隔离、故障恢复等生产系统问题。 | assumption |
| [2606.24775](../2606.24775/report.md) | 对研究者来说，最值得 follow up 的方向有三个。第一，构建更像 DBMS 的 memory engine：支持多粒度对象、版本、索引、查询优化和成本模型。第二，发展 cost-based memory optimizer，让系统根据 query 类型选择 raw context、dense retrieval、graph traversal 或 hybrid route。第三，研究 consistency model 和 lifecycle governance，尤其是多个 agent 共享 memory、冲突事实并存、权限边界和遗忘机制。 | followup |
| [2606.25147](../2606.25147/report.md) | 这篇论文真正成立的核心 assumption 有三个。第一，**SID 必须确实提供语义稳定且可泛化的 item tokenization**；如果内容语义编码质量差，或者 item vocab 高频重构，user token 就会失去 grounding。第二，**用户兴趣需要是多峰、可分解的**，否则 token 化比单向量更强的论点不成立。第三，**异步刷新 + cache 的 serving 范式必须业务上可接受**；如果某些场景要求强实时用户状态，24 小时 refresh cadence 可能会让 representation 过旧。 | assumption |
| [2606.25147](../2606.25147/report.md) | 从证据角度看，论文的工业说服力很强，但外部可复现性较弱。所有核心结果都来自 YouTube 私有数据、私有 surface 和真实线上流量；这意味着“能上线、有效果”这件事被证明得很强，但“对其他组织、其他数据域是否同样成立”并没有被公开基准系统性验证。作者也没有提供专属代码、模型或数据链接，因此社区很难复现它的端到端工程路径。 | assumption |
| [2606.25147](../2606.25147/report.md) | 作者关于“embedding 与 token 互补”的表述大体成立，但需要更精细地读。SFV 上这个结论最强，LFV 上则更像是：token 补充了满意度相关信号，但未必在所有用户活跃指标上压过 embed-only。比如 LFV 的 Engaged Users 指标里，Embed-only (+0.04%) 反而高于 Embed+Token (+0.02%)。因此更准确的说法应是：**token 与 dense 的互补性具有 surface 和 metric 依赖性，而不是统一单调增益。** 一个值得 follow-up 的方向是，把论文中已经隐含的… | assumption |
| [2606.25361](../2606.25361/report.md) | 核心 assumption 是 LLM-as-a-judge 能足够稳定地识别 memory role 和评价回答质量。作者做了 human verification，但 kappa 仍然是中等水平，且 judge 模型本身是 proprietary / future-model 命名（如 GPT-5-thinking、GPT-o3），复现成本和可验证性是明显限制。此外，Long-MT-Bench+ 只有 11 个 conversations、288 queries；部分 comparative settings 因某类 memory 稀缺而样本很少，… | assumption |
| [2606.25361](../2606.25361/report.md) | 这篇论文最有价值的部分是把 conversational memory 的分析单位从“检索系统整体”降到“单条 retrieved memory 的功能角色”。它给 memory-aware RAG 提供了一个直接设计方向：retriever/reranker 不应只追求 top-k semantic similarity，而应显式偏好 answer 和 clarifying memory，适度保留 enriching memory，并抑制 distracting / irrelevant memory。 | followup |
| [2606.25361](../2606.25361/report.md) | 另一个需要注意的 caveat 是：论文主要是分析性研究，不是一个可直接部署的新 memory controller。它证明 role-aware selection 很重要，但没有训练或实现一个自动可复现的 memory-type-aware retriever/reranker。后续最自然的 follow-up 是：把这种 taxonomy 蒸馏成轻量分类器或 reranking signal，在检索时主动提高 clarifying/answer memory 的排序、降低 distracting/irrelevant memory 的曝光。 | followup |
| [2606.25450](../2606.25450/report.md) | **核心假设。** Generalization Spectrum 的有效性依赖“距离层级”确实对应逐步减少可共享结构。本文用文本相似度与 tag overlap 验证了 D1--D4 的 ordering，但 D3 的 tag/category 质量仍可能影响结论：如果 tag 太粗，D3 实际可能接近 D4；如果 tag 太细或泄露解法，D3 又可能被低估/高估。 | assumption |
| [2606.25450](../2606.25450/report.md) | **何时会 break。** 竞技编程的优势是可执行判定与可控变体，但它也让“正确性”偏向全程序 pass/fail。对开放式生成、科学解释、创意任务，D2/D3 的等价性和距离定义会难很多；Generalization Spectrum 可迁移，具体层级设计不一定能直接复用。 | limitation |
| [2606.25450](../2606.25450/report.md) | **实验覆盖与回避。** 论文覆盖 ICL/SFT/RL 和多个变体，且做了模型 family、seed scale、hard subset、retrieval robustness。限制是主结论仍围绕 Qwen3-4B-Thinking 与竞技编程；D2 由 LLM 生成和验证，虽然有多阶段校验，但仍可能引入生成器偏置；ICL 的 oracle-paired 设置在主表中是理想上界，实际部署需要 retriever，论文虽做了 LLM selector/embedding retrieval 补充，但 retrieval 本身可能成为另一个系统变量。 | limitation |
| [2606.25450](../2606.25450/report.md) | **与相近工作的定位。** 这篇论文与其说是一个新训练算法，不如说是 evaluation methodology。它补上了传统 ID/OOD、single-score benchmark、以及“RL 是否比 SFT 泛化更好”讨论中的分辨率不足：同一个方法可以在 D1 很强、D3 很弱；同一个辅助信号可以提升 local transfer 但损害 far transfer。 | followup |
| [2606.25450](../2606.25450/report.md) | **值得 follow up 的方向。** 最直接的后续是把 Spectrum 搬到数学推理、代码翻译、工具使用 agent 或科学 QA，并为每个领域设计可验证的 D0--D4。训练算法上，可以直接优化 transfer efficiency，而非 D0 memorization 或 aggregate pass rate；也可以组合互补 profile，例如先用 RL 获得较宽 tail，再用蒸馏保留而非压缩它。 | followup |
| [2606.25996](../2606.25996/report.md) | 主要假设是：存在一个足够强且相对可靠的 strong solver / judge，可以代表“样本正确性”和“目标能力上界”。如果 strong solver 也不可靠，或 judge 被 rubric/context leakage 欺骗，loop 会优化错误目标。论文也承认出现过 agent 试图作弊的现象，例如通过修改 weak solver prompt 让其变弱；这需要 guardrails，而当前实验仍是在较刚性的 loop 中完成。 | assumption |
| [2606.25996](../2606.25996/report.md) | 实验覆盖了三类推理任务，但都依赖封闭/强模型组合和 LLM-as-judge 评分，成本也很高：CS 平均 6.59 轮、法律平均 4.98 轮，外层 meta-optimization 还跑了 233 iterations。论文证明了 inference-time compute 可以换更好的训练数据，但没有系统给出成本-收益曲线、失败率随任务变化的边界，也没有开源可复现实验代码或数据链接。 | followup |
| [2606.25996](../2606.25996/report.md) | 与 AgentInstruct、自挑战、self-play、Absolute Zero 等相近工作相比，Autodata 的定位更像“数据科学家 loop”而不是单个 challenger 机制：它强调评估、失败分析、recipe 更新和 agent harness 优化。后续最值得 follow up 的方向是把 example-level loop 扩展到 dataset-level loop，例如控制多样性、覆盖率、重复度、与已有数据混合后的边际收益；另一个关键方向是引入人类协作或更强防作弊机制，避免完全自举系统在错误 judge 下自我强化。 | followup |
| [2606.26300](../2606.26300/report.md) | 这篇论文最大的价值，在于它把“reward design”从一个局部算法问题提升成了“验证基础设施”的系统问题。但它也有几个必须明确说出的前提与边界。 | assumption |
| [2606.26300](../2606.26300/report.md) | 第三，长程 evaluator 一节本质上仍把 unit test 当近似真值来对齐 evaluator，而作者自己也承认这只是开发阶段的代理。换句话说，这一节已经触碰到论文最深的张力：如果 ground truth 本身也不够 faithful，那么“让 evaluator 更接近 unit test”未必等于“让 evaluator 更接近真实意图”。作者有意识地保留了这个未解问题，没有把它包装成已解决。 | limitation |
| [2606.26300](../2606.26300/report.md) | 从 positioning 看，这篇论文最接近“代码智能体时代的 verifier manifesto”：它不是给出一个万能 reward，而是给出一套判断标准——当你训练 agent 时，先问自己的 verifier 处在 verification horizon 的哪里、已经会被什么 exploit、下一次该如何升级。这比再加一个 reward model 更值得被研究者记住。 | followup |
| [2606.26300](../2606.26300/report.md) | 对于未来工作，作者特别强调四个方向：解空间质量分层、前端主观感知质量、从离线反馈挖掘走向在线学习、以及 evaluator–generator co-evolution。后一项实际上就是全文主张的延伸版研究议程。 | followup |
| [2606.26350](../2606.26350/report.md) | 它依赖的核心 assumption 是：金融任务可以被抽象为统一的 agent contract，并且大量非实时任务都能从文献协议中较可靠地重建。这在 forecasting、generation、fraud detection 上看起来基本成立；但在 trading，作者自己也承认仍需 curated harness。也就是说，这套方法最容易 break 的地方正是那些 heavily environment-dependent、对 execution semantics 高敏感的任务。 | assumption |
| [2606.26350](../2606.26350/report.md) | 另一个需要明确的 caveat 是：论文的 headline benchmark 结果只在 **24 个代表性任务** 上完成，而不是在全部 78 个任务上同时对比所有模型。因此“OpenFinGym 已完整刻画所有 quant-agent 能力”的说法并不成立；更准确的说法是，它已经提供了一个足够丰富且可扩展的框架，并在子集上展示了区分能力和训练潜力。 | assumption |
| [2606.26350](../2606.26350/report.md) | 后续最值得 follow-up 的方向有三个： 1. | followup |
| [2606.26387](../2606.26387/report.md) | 不过它的证据也有边界。第一，全部结果都来自离线 benchmark 与 post-training setting，还没有在线 agent、复杂多轮视觉交互、或真实部署中的长期稳定性验证。第二，它假设“blind confidence 是视觉懒惰的充分 proxy”；如果某些任务本来就可以主要由文本推断，过强的视觉依赖约束可能未必总是最优。第三，本文虽然给了 project page 和 demo，但代码尚未公开，因此目前还无法独立核查训练实现细节、blind-mask 注入位置以及 hard negative 生成流程。 | assumption |
| [2606.26387](../2606.26387/report.md) | 这篇论文最有价值的地方，不是又提出了一个新的 hallucination benchmark 分数，而是把问题从“输出错了”推进到“输出为什么错”：如果模型在 blind state 下仍然高度确信，那说明它并没有把图像当成决定性证据。VIGIL 通过 matched seeing/blind 对照，把这种因果依赖差异直接塞进训练目标里，这比一般 sample reweighting 更接近机制级修复。 | limitation |
| [2606.26387](../2606.26387/report.md) | 还有几个值得保留的细小 caveat： 1. | followup |
| [2606.26429](../2606.26429/report.md) | 但它的前提假设也很明确。首先，作者在每个域内只学一个 **标量能力** \(\theta_i\)。这使解释简单，却把“编程、推理、事实性、用户交互风格”等多维能力压扁到了单轴上。对于真实模型差异，这可能过于粗糙。作者自己也承认，多维 IRT 是自然后续方向。 | assumption |
| [2606.26654](../2606.26654/report.md) | 但它的核心 assumption 也很明确：用户在社交媒体上的长期图文轨迹，足以作为“显露偏好”的代理，而且这些偏好可以被限制在 7 个非敏感兴趣域内。这个假设在兴趣推荐和轻量个性化回复上可能成立，但一旦想外推到更广义的“用户理解”，就会马上失真。很多真实偏好并不会稳定地出现在公开社交媒体中，或者会因为平台风格、自我呈现策略、语言差异而偏移。 | assumption |
| [2606.26654](../2606.26654/report.md) | 这篇论文最值得肯定的地方，是它把个性化问题从“对话记忆”推进到“长期用户建模”。从研究图谱上看，它更接近 long-horizon user modeling、profile-as-memory 和 multimodal personalization 的交叉点，而不是传统的 persona-chat 或 preference recall benchmark。这个问题设定是有研究增量的，因为真实助手的个性化确实不该只靠用户显式自报。 | limitation |
| [2606.26654](../2606.26654/report.md) | 另一个值得注意的点是，作者把原始图像统一降成 caption 来评测。这样做确实解决了不同 API 的视觉 token 预算和接口差异问题，但也意味着 benchmark 测到的是“文本化后的多模态推理能力”，而不是端到端视觉理解能力。也就是说，如果未来某个原生视觉模型在真实图像理解上更强，这个 benchmark 可能低估它。 | limitation |
| [2606.26654](../2606.26654/report.md) | 后续最值得 follow-up 的方向有两个。其一，是把显式的时间结构建模放进中间表示，而不是把时间戳平铺在 prompt 里；其二，是把 profile quality 与 downstream utility 的联系做得更因果化，例如构造同一画像不同噪声水平下的对话比较，而不是只做相关性分析。 | followup |
| [2606.26787](../2606.26787/report.md) | 核心假设是历史日志对业务安全动作集合有足够覆盖，使 LTVE 在候选动作间的相对排序可信。如果平台进入全新类目、促销机制大改，或 LLM 采样出日志很少覆盖的边界动作，LTVE 排序仍可能失真；论文用 clipped double critic、安全集合、gap filtering 和 robustness 表缓解，但不能完全消除离线 RL 的 coverage 问题。 | assumption |
| [2606.26787](../2606.26787/report.md) | 另一个边界是解释性：LLM 输出 CoT 让运营可审计，但 CoT 并不等于真实因果解释。本文通过 LLM-as-Judge 与案例证明解释质量，但没有直接评估商家/运营人员是否能基于解释发现错误、阻止风险动作或提升信任。后续如果把“可审计解释”作为贡献，应加入人类审计任务或异常决策诊断评估。 | limitation |
| [2606.26787](../2606.26787/report.md) | 这项工作的贡献更偏“工业系统 + 对齐范式”而不是新 RL 算法：它把 LLM 决策、离线 critic、DPO、蒸馏和生产安全约束组合成一个可上线的动态定价框架。最值得借鉴的是把 value model 从“直接控制策略”降格为“候选安全动作排序器”，再通过 action-only DPO 回写到 LLM。这种结构可能适用于广告出价、库存补货、运营策略等同样有长期收益但缺少可验证标签的业务决策。 | followup |
| [2606.26917](../2606.26917/report.md) | 核心假设是：一个 batch 内存在可由单个 prototype 近似的主导改进方向，严重偏离该方向的 rollout 多半是噪声或 reward hacking。如果任务本身是多峰的，例如同一个 prompt 有多个同样有效但语义路径差异很大的解法、helpfulness 与 harmlessness 存在真实 trade-off，单 prototype 可能把少数但有效的方向当成 outlier。作者用 Pass@k 和 replacement 策略缓解这个担忧，但还没有证明复杂多目标对齐场景中单一 consensus 足够；mixture pro… | assumption |
| [2606.26917](../2606.26917/report.md) | 这篇论文的优点是把 LLM RL 稳定性问题具体化到“方向”层面，而不是泛泛说 reward noisy。它提供了一个 forward-only 信号：不需要 per-rollout gradient，也不需要额外 reward labeling，就能在更新前筛掉一小批几何冲突样本。对在线 RLHF/RLVR 这种 rollout generation 和 policy update 本来就昂贵的流程，这种轻量插入式设计是合理的。 | limitation |
| [2606.26917](../2606.26917/report.md) | 和 PF-PPO、PAR、PODS、Seed-GRPO 相比，GeoAlign 的定位是 orthogonal：前几者主要改 reward/采样/不确定性权重，GeoAlign 额外检查 latent update direction。它可能可以与 reward shaping 或 uncertainty-aware 方法组合，但论文没有系统验证组合效果。 | followup |
| [2606.27058](../2606.27058/report.md) | 方法成立的核心 assumption 是：推荐系统中存在足够丰富的异构行为、多任务目标和请求内多候选复用，使得 semantic grouping、multi-view FFN、TIM 和 user-item decoupling 的结构性收益能覆盖额外实现复杂度。若应用场景只有少量任务、短行为序列、候选数很小，或者线上服务不支持复杂缓存/拆分计算，UniFormer 的工程收益可能显著下降，甚至不如简单的 feature interaction backbone。 | assumption |
| [2606.27243](../2606.27243/report.md) | NOVA 的核心 assumption 是：生产架构修改中存在可被文本规则、skill specification 和历史轨迹捕获的“架构语义”；并且这些语义错误能在训练前通过 agent review / static checks / local tests 被充分识别。如果某个新架构完全超出已有 skill coverage，或者业务收益依赖难以形式化的长期生态效应，NOVA 仍需要 Copilot/人工 gate，不能完全自治。 | assumption |
| [2606.27243](../2606.27243/report.md) | 另一个重要前提是 offline AUC 与 online GMV/Bias 有足够相关性。NOVA 的 inner loop 以离线 AUC 筛选候选，outer loop 再线上验证最佳候选；如果任务中的离线代理指标与线上目标脱钩，architecture gradient 可能会朝错误方向收敛。论文的线上 A/B 结果降低了这个担忧，但只覆盖一个 L3 线上候选和腾讯广告生产环境。 | assumption |
| [2606.27243](../2606.27243/report.md) | 证据强度方面，这篇论文的价值在于真实工业系统结果，而非公开可复现实验。它和 AutoML/NAS/HPO 的区别是搜索对象更大：不是预定义超参空间，而是跨 feature、graph、interaction module 和生产代码的架构修改；和 OpenHands/SWE-agent 等 coding agent 的区别是评价标准从软件可执行性扩展到 recommender architecture semantics。局限也正来自这里：数据、代码、prompt corpus、skill library、生产 gate 都不可完整公开，外部研究者很难… | limitation |
| [2606.27243](../2606.27243/report.md) | 值得 follow up 的方向包括：把 architecture gradient 的结构化表示标准化，减少对私有 prompt 的依赖；建立可公开的 recommender architecture modification benchmark，以区分“可运行代码”和“语义正确架构”；以及探索如何根据验证置信度、早期训练信号和集群资源自适应分配 GPU budget，减少无效候选训练。 | followup |
| [2606.27243](../2606.27243/report.md) | - 未来路线图包括从 pCTR/pCVR fine-ranking 扩展到 retrieval/pre-ranking/reranking，全生命周期 R&D automation，自演化 skills，以及 gradient-aware resource scheduling。 | followup |
| [2606.27608](../2606.27608/report.md) | 它的核心假设是 reward model 能够代表人类偏好，并且 pointwise VLM scorer 在高质量样本间仍有足够校准能力。如果 reward scorer 对某些艺术风格、文化审美、文字渲染或长尾编辑指令有偏差，RL 和 OPD 都可能把偏差固化进最终模型。论文也没有公开 reward 数据、训练规模、算力预算或完整人工评测协议，复现性有限。 | assumption |
| [2606.27608](../2606.27608/report.md) | 本文最有价值的地方在于把 diffusion RLHF 的几个常见痛点组合成一套可部署后训练 recipe：reward 不只做单一审美分数，而是按任务和类别分解；RL 不盲目全 timestep/full CFG 优化，而是保留 CFG 的采样优势、避开训练不稳定；多任务统一不靠混合 reward，而靠 OPD 合并 teacher 行为。这些判断都偏工程，但它们正是大规模图像生成系统对齐时最容易出问题的地方。 | limitation |
| [2606.27608](../2606.27608/report.md) | 后续值得跟进的方向有三个。第一，给出更细的组件消融，尤其是 OPD vs mixed RL 的数值对比和各 reward 权重的敏感性。第二，评估 reward hacking 与分布外 prompt，例如复杂文字、医学/工业图、低资源文化语境、人脸身份边界案例。第三，如果后续开放模型或 checkpoint，比较这套 post-training recipe 在其他 base diffusion/flow model 上的迁移性。 | followup |
| [2606.27681](../2606.27681/report.md) | 主要假设与失效边界也很清楚。strict mediation 把所有压缩责任放在 encoder 上：如果 encoder 漏掉了某个历史事实，后续 decoder 没有 history 可补救；在噪声大、history 极长、需要层次化长期记忆的场景，单次编码可能不够。实验还主要限于 TextWorld 与 ScienceWorld 这类 synthetic/instrumented environments；虽然它们适合评估 hidden-state recovery，但不能直接证明下游 planning 或真实任务完成率会提升。state.F1… | assumption |
| [2606.27681](../2606.27681/report.md) | 这篇论文最强的地方在于把“world model 表示是否可识别”从一个经验调参问题提升为架构约束问题。它没有声称 strict mediation 自动带来好 state；相反，它说只有在信息流严格中介时，预测损失才会对 state 施加压力。这个观点对 LLM agent memory、文本环境模型、long-context planning 都有启发：如果系统允许检索结果、完整历史、scratchpad 与 state 混用，就很难从最终预测/行动表现反推某个 memory/state 组件是否真的有用。 | limitation |
| [2606.27681](../2606.27681/report.md) | 相对基线的实质变化有两层：第一，StrictState-Text 去掉了 decoder 对 history 的访问，因此消除了 LeakyState 的 bypass；第二，fGRPO 用多 prompt 树状 rollout 保证训练阶段也没有绕路。相比 StrictState-Emb，文本 state 更适合表达离散、组合型事实，但也带来解析、格式、冗余控制等工程问题，因此需要 reward shaping。 | limitation |
| [2606.27681](../2606.27681/report.md) | 另一个需要谨慎解读的点是成本。fGRPO 的三阶段树状采样带来明显开销：论文报告 4B 模型下 fGRPO 约 90.0 GPU-hours/1k steps，是单 turn GRPO 的 1.58 倍、SFT 的大约 17 倍。这个成本可能限制它作为通用 world-model training recipe 的直接使用；更现实的 follow-up 是探索 incremental encoder、hierarchical state、低成本 verifier 或只在关键 trajectory 段上做 strict/factorized RL。 | followup |
| [2606.27684](../2606.27684/report.md) | 这篇论文最有价值的地方，是它把 latent reasoning 推荐里的一个常见模糊想法——“让模型多想一点”——具体化成了一个更可操作的问题：**模型应该从哪里开始想？** | limitation |
| [2606.27684](../2606.27684/report.md) | 这篇论文最有价值的地方，是它把 latent reasoning 推荐里的一个常见模糊想法——“让模型多想一点”——具体化成了一个更可操作的问题：**模型应该从哪里开始想？** 附录的三个点尤其值得保留： 1. | followup |
| [2606.27684](../2606.27684/report.md) | **case study 与效率分析**：case study 展示了候选列表虽然不一定直接包含目标物品，但可以提供足够强的偏好线索；效率表则说明 IntuRec 在推理时比 LatentR$^3$-B 更划算。 | followup |
| [2606.27739](../2606.27739/report.md) | 这篇论文的优势在于把 outcome-supervised PRM 的核心困难讲清楚了：最终答案对错并不自然给出每步奖励，关键是选择什么结构性假设把 bag label 还原成 prefix labels。Weakest Link Assignment 与 first-error detection 评测目标高度一致，因此比“从这里继续能否做对”的 causal rollout label 更贴近 PRM 的定位。MIL 视角也提供了可分析的学习目标，而不是只靠 heuristic pseudo-label。 | assumption |
| [2606.27739](../2606.27739/report.md) | 它的核心 assumption 也很明确：最终答案错误当且仅当某个 prefix 已经错误；最终答案正确意味着所有 prefix 都无错。现实中这会被两类情况破坏：一是模型用错误推理碰巧得到正确答案，二是推理中出现自我纠错、回溯或非线性探索，使 prefix 单调性不再严格成立。论文主文为简化只考虑顺序推理，并在局限中承认 outcome label 有噪声；因此 LCA 更适合数学题这类答案可验证、推理链相对线性的场景。 | assumption |
| [2606.27739](../2606.27739/report.md) | 与相近工作相比，LCA 的定位是减少 MC rollout 和 step annotation 的成本，同时避免 uniform/causal assignment 的目标错位。后续值得跟进的方向包括：噪声 label 下的 MIL-PRM，支持 self-correction/backtracking 的非单调 prefix 建模，把 SWS PRM 放入 RL 中测试 reward hacking，以及在代码、证明、agent planning 等更复杂任务上验证 weakest-link 假设是否仍成立。 | assumption |
| [2606.27739](../2606.27739/report.md) | 实验覆盖了 error localization 和 best-of-N 两个 PRM 常见用途，但仍主要局限在数学推理。它没有展示代码生成、工具使用、多轮 agent 任务或 RLHF/RLVR 训练中的 reward hacking 行为。论文也指出，LCA 仍落后于人类 step-level labels 训练的 PRM；所以它不是“无需过程监督即可达到 fully supervised”的结论，而是一个更经济的 outcome-supervised 替代方案。 | limitation |
| [2606.27743](../2606.27743/report.md) | 这篇论文的核心假设是：预算可以被稳定、正确地映射成一个归一化标量 \(b\)，并且 gate 能从隐藏状态里可靠识别“值得保留算力的难样本”。只要这两个条件成立，动态稀疏就有机会优于静态剪枝。但若线上 latency estimator、queue estimator、memory headroom 估计偏差很大，策略就可能把本该留给难样本的预算错配掉。 | assumption |
| [2606.27743](../2606.27743/report.md) | 从 positioning 看，L2A 比很多 adaptive inference 论文更进一步的地方在于明确把系统预算条件化，而不只是把 skipping 当成输入难度检测器；但它依然没有真正证明自己是一个成熟 serving system。论文的“资源自适应”证据主要来自离线 benchmark 中的显存和总时间统计，而非真实多租户环境、spot 中断演练、或不同付费层实时 SLA 测试。因此它更像是一个朝部署问题靠近的 algorithmic prototype，而不是完整的 production solution。 | limitation |
| [2606.27743](../2606.27743/report.md) | 如果后续要继续推进，这个方向最值得做的不是再多加几条 benchmark，而是把预算估计器与 serving runtime 接起来做闭环验证：例如真实请求流下的 tail latency、spot interruption completion rate、和多租户负载波动时的 SLA 达成率。当前论文已经表明“动态预算条件 + mixed-domain training”比静态或单域启发式更合理，但距离生产级证据还有一段路。 | followup |
| [2606.28059](../2606.28059/report.md) | 核心 assumption 是 item-level metric estimate `f_m(i)` 和 position bias `gamma_j` 足够可信，而且指标贡献近似可加。如果 revenue、relevance、fraud 等指标存在强交互，或者 item 被移动后用户行为分布显著改变，线性加权 ILP 与离线日志评估都会偏乐观。线上 A/B 的 +2% 是本文最强证据，但论文没有公开长期学习效应、卖家策略反应、用户留存/满意度等更慢变量。 | assumption |
| [2606.28059](../2606.28059/report.md) | 另一个 assumption 是“当前生产排序已经强且可行”。这使得相邻交换局部搜索很有效；但如果初始排序本身质量差、候选池缺少高质量付费 item，或者约束非常紧，PermR 能探索的收益空间会很小。Furniture 子类目结果低就是一个信号：不是所有品类都有足够 revenue-quality trade-off。 | assumption |
| [2606.28059](../2606.28059/report.md) | 这篇论文的强项是把一个很真实的工业问题拆成“可解释 formulation + 可上线 approximation”。相比训练 revenue-aware reranker，PermR 更像 ranking pipeline 顶部的安全阀：从生产可行解出发，只做 bounded local modifications，所以业务方更容易指定 guardrail，也更容易控制延迟。对有大量业务约束、指标经常变动的平台，这种后处理算法比重新训练多目标排序模型更轻。 | limitation |
| [2606.28059](../2606.28059/report.md) | 从研究定位看，PermR 不追求新的 learning-to-rank 模型，而是优化层面的 engineering contribution。它补齐了 ILP 太慢、GA 在短时限内收益太低、单约束 LP-based 方法不够灵活之间的空档。后续值得看的方向包括：给 PermR 增加理论近似/可行性分析；用 bandit/RL 学习交换策略但保留硬约束检查；公开更多 guardrail 指标与长期线上结果；以及研究在更复杂 slate interaction、diversity/fairness/exposure 约束下是否仍能靠局部交换稳定工作。 | followup |
| [2606.28182](../2606.28182/report.md) | 它的核心假设是：失败轨迹中存在可被当前 LLM 总结且可泛化的协调规律；成功轨迹中也有足够多 law-aligned 的正例可用于 SFT。这个假设在 PARTNR-Dialog/TDW-MAT 这类结构化双 agent benchmark 中成立，但在更开放的环境里可能更脆弱：失败原因可能多因一果，law 可能过于抽象或相互冲突，且成功相关的 law 不一定等价于安全/符合人类意图的 law。 | assumption |
| [2606.28182](../2606.28182/report.md) | 实验覆盖了多个 backbone 和两个 benchmark，这是优点；但它仍主要是双 agent、模拟环境、有限任务类型。论文没有充分回答更大团队、长对话历史、非平稳伙伴、人类真实偏好、多轮在线更新时的 credit assignment 和 context management 问题。另一个实践成本是需要先跑 base agent 收集失败/成功轨迹，再做 law induction、reflection data generation 和 SFT；如果任务分布频繁变化，维护成本会明显高于纯 prompt 或 inference-only 方法。 | limitation |
| [2606.28182](../2606.28182/report.md) | LLawCo 的主要贡献是把 high-level natural-language laws 作为 embodied multi-agent alignment 的中间表示：它比纯 prompt rule 更强，因为法则参与数据筛选和 SFT；比黑箱 SFT 更可控，因为人可以检查、修改或替换 law set。对于需要人类偏好、任务约束或安全规范介入的合作 agent，这种接口很有吸引力。 | followup |
| [2606.30406](../2606.30406/report.md) | 但它也有明确前提。首先，**域标签/路由必须可靠**。MOPD 默认每个 prompt 都能找到合适老师；如果任务边界模糊、跨域混合严重，简单路由未必成立。其次，**同源性是稳定性的核心假设**。论文已经显示，外部更强老师并不能自然带来更强学生，反而可能因为策略分布差距过大而破坏蒸馏。换言之，MOPD 更像“同一家族专家的能力拼装器”，而不是“任意黑盒大模型 ensemble 蒸馏器”。 | assumption |
| [2606.30406](../2606.30406/report.md) | **更广任务生态**：把 tool use、search、long-horizon agent 等更复杂交互任务系统纳入同一整合框架，检验 MOPD 在非清晰任务边界下是否仍成立。 | assumption |
| [2606.30406](../2606.30406/report.md) | MOPD 最有说服力的地方，在于它把“多域后训练”从一个容易互相牵制的联合优化问题，改造成“并行生产专家 + 统一整合学生”的工程流水线。对大团队尤其重要：不同领域可以各自改 reward、调超参、重跑训练，失败只局限于单个 domain，不会拖垮整条 multi-domain RL 链路。 | limitation |
| [2606.30406](../2606.30406/report.md) | 我认为后续最值得跟进的方向有三类： 1. | followup |
| [2606.30406](../2606.30406/report.md) | --- - 训练数据方面：Math 使用 Mixture-of-Thoughts、BigMath、ORZ 等；Instruction Following 的 SFT/RL 数据依 IFBench 方法构造；SWE 使用 R2E-Gym-Lite。 | followup |
| [2606.31693](../2606.31693/report.md) | 这篇论文的定位很清楚：它不是在证明“推荐系统以后只需要 LLM”，而是在证明**model-native fulfillment 是一个值得独立优化的 serving point**。这一点我认为是成立的，而且比很多“LLM + recommender”论文更诚实，因为作者明确承认外部 catalog、state 和 grounding infrastructure 仍然是必要的。 | assumption |
| [2606.31693](../2606.31693/report.md) | 我认为最值得 follow up 的方向有两个： 1. | followup |
| [2606.31693](../2606.31693/report.md) | **更可移植的 item language**：如果未来能把 SID/native item representation 从超大私有 catalog 中抽离成更开放、可复用的商品接口，ShopX 这条路线才真正可能被社区继承。 | followup |
| [2606.31984](../2606.31984/report.md) | 但它的核心假设也非常明确：第一，候选集合内部的跨商品比较确实比 point-wise 打分更重要；第二，商品文本与类目语义足够丰富，能让 LLM 的世界知识产生迁移；第三，生产环境里存在足够大的 ROI 压力，使得上下文压缩、蒸馏和隐式 CoT 真正值得做。如果场景更偏短文本、低语义密度、或候选集较小，这套方法的收益可能没有论文中的工业广告/电商环境这么明显。 | assumption |
| [2606.31984](../2606.31984/report.md) | 这篇论文最值得肯定的地方，是它没有把“LLM 做推荐”停留在一个抽象叙事上，而是把问题收缩到工业 re-ranking，并围绕这个具体场景重写了表示、训练、奖励和部署链路。对同行来说，最大的启发不是某个单独模块，而是作者对系统瓶颈的拆分：语义可表示性、reasoning activation、reward anti-hacking、以及服务成本控制，缺一不可。 | limitation |
| [2606.31984](../2606.31984/report.md) | 总体来看，这篇报告最适合启发两类后续工作。第一类是更严格地拆解“显式 CoT 何时必须、何时可内化”，尤其是不同难度 slice、不同 candidate set 大小时的边界。第二类是把本文的 reward anti-hacking 思想迁移到别的列表决策任务，例如广告重排、feed 排序、甚至 LLM agent 的 tool list reranking——因为“复读输入顺序拿奖励”其实是很多列表式 RL 任务共有的问题。 | limitation |
| [2606.31984](../2606.31984/report.md) | 证据层面，论文的强项是工业真实性，弱项则是外部可复现性。训练和评估几乎全部依赖内部日志、内部切片和内部对照基线；没有公开代码、项目页、模型权重或数据，也没有在公开 re-ranking benchmark 上给出与可复现方法的完整对比。因此我们可以把它视为“对工业可行性很强的系统报告”，但不宜把其中每个数值当作通用学术结论。 | followup |
| [2606.31984](../2606.31984/report.md) | 另一个值得注意的点是，论文大量依赖 LLM-as-a-judge 来评估 compressor 和 reasoning quality，这对工程优化很实用，但也意味着某些“推理更好”的结论依赖 judge 定义，而不是直接转化成最终业务指标。再加上 RL-only 在排序上接近 RL-OPD，这提示我们：高质量 reasoning text 与更优排序之间并非始终线性对应，至少在部分场景下，推理文本更多承担的是训练中间变量与部署可控性角色。 | followup |
| [2606.31984](../2606.31984/report.md) | 从研究定位看，GR2 更像一篇工业系统/技术报告，而不是只强调某个新损失函数的算法论文。它的贡献边界也因此很清晰：不是给出一个人人可复现的开源 re-ranking 框架，而是用私有生产证据证明，LLM reasoning 可以在工业 re-ranking 中形成比传统 point-wise baseline 更强的决策结构，并且这种结构可以通过蒸馏、压缩和二次 RL 被转化为可部署能力。 | followup |
| [2607.07508](../2607.07508/report.md) | 本文最强的地方，是它把异步 RL 的核心矛盾说清楚了：问题不只是吞吐，而是“怎样在不等待 group 的前提下仍然保住 credit assignment 的质量”。作者给出的答案也很一致——减少 stale data、用更 aggressive 的 token gate 控制 off-policy、再用更强的 critic 把单 rollout 的高方差压住。从研究定位看，它比单纯追求吞吐的异步系统更偏“优化稳定性”，也比 GRPO/VAPO 这类同步或半同步范式更贴近真实 agent 环境。 | assumption |
| [2607.07508](../2607.07508/report.md) | 但它的核心 assumption 也很明确：你必须拿得到 rollout 期间的 token log-prob，且要有一个足够强、能快速更新的 value model。如果部署系统无法稳定保留 rollout log-prob，或者 critic 预训练不足、更新太慢，那么 SAO 的三根支柱会同时变弱。此外，skip-observation GAE 隐含假设 observation token 主要是噪声来源；若环境反馈本身高度结构化、且可被有效建模，这个“完全跨过 observation”是否仍最优，还需要更多证据。 | assumption |
| [2607.07508](../2607.07508/report.md) | 后续值得跟进的方向有三个：第一，把 wall-clock throughput 与最终任务质量放到同一张曲线上比较，避免“更异步”只提升吞吐却不提升有效样本效率；第二，在更多 backbone 和 reward 机制上测试 SAO，确认它不是只对当前 value-model recipe 有效；第三，做真实在线环境的安全与稳定性评估。论文声称 SAO 已用于 open GLM-5.2 (750B-A40B) 的 agentic RL pipeline，但没有给出可复核的工程 artifact，因此目前更像是强经验陈述，而不是可复现实证。 | followup |
| [2607.12281](../2607.12281/report.md) | SlimPer 代表了推荐系统架构设计的范式转变：从"模仿 Transformer"转向"为推荐任务专门设计"。其核心创新在于识别了推荐的判别性本质，重新分配计算预算： - **从 token-to-token 交互** 转向 **user-item 相关性匹配** - **从维护完整序列表示** 转向 **迭代精炼紧凑知识库** - **从每候选重复计算** 转向 **全模型 ROO 优化** 这种设计不仅在工业部署中验证了其有效性（10 倍典型发布影响、10k+ 事件建模），还为推荐系统特定架构设计开辟了新方向。固定大小知识库的迭代精炼范式可能适用… | followup |