长文本交互中的注意力涣散：究竟是系统降智还是大模型固有局限？

当会话突破 20 轮或输入数万字材料后，ChatGPT 答非所问是网络降智还是 Transformer 架构的注意力稀释？原理辨析与应对指南。

深度交互中的断崖式体验滑坡

很多用户在同一个对话窗口中持续讨论了几个小时，上传了数十页的代码或业务文档后，突然发现 ChatGPT 的回答变得极其愚蠢：不仅忘记了十分钟前确定的变量定义，还开始给出驴唇不对马嘴的答复。

用户往往会下意识归咎于“我又被降智了”。然而，这种现象在大部分情况下属于典型的 Transformer 架构“注意力稀释（Attention Dilution）”。

注意力稀释的底层数学机理

1. 自注意力机制的二次方开销：随着输入上下文长度不断增加，注意力权重矩阵被严重摊薄，模型在处理最新提问时，极难在海量历史 Token 中精准聚焦关键约束。
2. 中间迷失现象（Lost in the Middle）：学术界多篇论文已经证实，大语言模型对处于上下文开头和结尾的信息记忆最深刻，而处于中段的指令容易被彻底遗忘。

如何恢复满血智力

- 拒绝无限单轮长跑：一个任务解决后，及时开辟新对话（New Chat），避免历史无效上下文的算力拖累。
- 关键设定反复重述：在长文本末尾明确重新附带核心约束要求，帮助注意力机制快速对齐。