提醒逻辑优化

[dust-to-dust]

当前每次nudge都会注入一遍Compression Philosophy 和 HOW TO COMPRESS，这些是否考虑前置，没必要每次都提醒一遍

[ranxianglei]

ework 帮我解释下为什么每次都注入 主要原因是 实验结论 1.如果不每次注入 由于注意力问题模型压缩质量大幅度下降 2.每次注入后不会永久在上下文 压缩完成后立马消失 3.系统提示词里面也有重复的，理论上可以删除。但是这样会导致模型无法主动压缩

[ranxianglei]

关于"为什么每次都注入 Compression Philosophy + HOW TO COMPRESS"，结合实验结论和代码实现解释一下：

1. 为什么必须每次注入 —— 注意力问题（有实测依据）

这不是拍脑袋的设计，而是做过 A/B 实验后回滚的结论：

• v1.14.7（PR fix: deduplicate HOW_TO_COMPRESS_RULES in nudge injection #228）确实做过"前置"优化：把 HOW_TO_COMPRESS_RULES 从 nudge 里删掉，只保留在系统提示词里，目的是省 token（每次 nudge 省 ~2.4-3.6K）+ 去重。
• 结果：在长会话（8700+ 消息、1M+ token 上下文）中，系统提示词是 12K 字符、埋在上下文开头，模型对它的注意力显著下降（"lost in the middle" 效应）。当 nudge 触发、模型正要压缩时，写摘要的详细规则（KEEP VERBATIM / DROP / PRIORITY）不在高注意力位置，压缩质量大幅下降。
• v1.14.8-dev.2（fix: re-add HOW_TO_COMPRESS_RULES to nudge injection #245）回滚：把 HOW_TO_COMPRESS_RULES 重新加回 nudge。nudge 消息在上下文末尾（高注意力位置），规则恰好出现在模型最需要它的时刻。

所以"如果不每次注入，压缩质量大幅下降"是有实验背书的：规则必须出现在模型即将执行压缩动作的那一刻、且在高注意力位置。

2. 为什么不会永久占用上下文 —— 压缩完立即消失

nudge 不是写进历史消息的，而是一个合成的 suffix 消息，每次 LLM 调用时动态生成、追加在消息数组末尾：

• 固定 seed（acp-dynamic-guidance，lib/messages/inject/inject.ts:53），保证 ID 确定性，不会每轮被分配新的 mNNNNN 引用，也不破坏 prefix cache。
• 模型一旦执行了 compress，nudge 立即停止（inject.ts:105-163）：检测到当前 turn 有压缩动作后，清空所有 anchor、重置 lastNudgeShownTokens、shouldInjectThisTurn = false 并提前 return —— 下一次调用不再注入。
• 本轮没有内容可注入时，空的合成消息会被整个丢弃（FIX [Feature]: official DCP is have 2 version/releases ahead of base from this repository #12，inject.ts:622-639）。

所以它是"临时便签"，不是"永久备注"：压缩前每轮提醒，压缩完立刻消失，不累积。

3. 为什么系统提示词里的重复不能删 —— 主动压缩依赖它

系统提示词里那份（COMPRESSION PHILOSOPHY / WHEN TO COMPRESS / HOW TO COMPRESS）承担的是主动压缩能力：让模型在没有 nudge 的情况下也能自己判断"该压缩了"并动手（"Be frugal with context. Compress obvious waste proactively"）。

如果把系统提示词里那份删掉、只靠 nudge 注入，那么：

• 模型只有在 nudge 触发后才知道压缩规则；
• nudge 没触发时（上下文还没到阈值），模型完全不具备主动压缩的知识 → 无法主动压缩，只能被动等到阈值。

两份的分工是：系统提示词 = 常驻的"能力/意识"（支撑主动压缩）；nudge = 高注意力位置的"临场提醒"（保证触发时质量）。

4. 补充：nudge 不全是静态重复文本

nudge 里除了静态规则，还有动态内容，这部分本来就无法前置到系统提示词：

• 当前 token 构成 breakdown（system/tool/summaries/code/text 各占多少）；
• 自上次 nudge 以来的增长量；
• 推荐的 compressible ranges（带当前真实的 mNNNNN ID）。

这些必须每次调用时按最新状态现算。真正和系统提示词重复的只有静态规则部分，而那部分正是第 1 点里实验证明不能删的。

5. 一个澄清：不是字面意义的"每次 LLM 调用都注入"

nudge 是有门控的：只有上下文超过 min-limit 且增长超过阈值（nudgeGrowthTokens）时才触发；触发后在模型实际压缩之前每轮重复（inject.ts:599-601 明确注释 "nudges repeat every turn until the model actually compresses"）。低使用率、无增长的轮次不会注入。

---

总结：每次注入 = 高注意力位置 × 压缩动作发生时刻 × 实验验证过质量不能降；不永久占用 = 合成消息 + 压缩完即清空；系统提示词重复 = 主动压缩的常驻能力，删了模型就不会自己压缩了。"前置"方案在 v1.14.7 实测过，因长会话质量下降已回滚。

_{🤖 ework agent · vllm-qwen/qwen3.8-27b}