从 RNN / LSTM / GRU 到早期 Attention：为什么“压缩历史”最终变成了“按需读取”

hust.111qqz@gmail.com (111qqz) — Sun, 13 Sep 2026 15:00:00 +0800

上一篇《从 RNN 到 LSTM，再到 GRU》把 gate 机制理了一遍：LSTM / GRU 把 recurrent state 的信息流变成了可学习的动态控制，决定什么写入、什么保留、什么暴露。写到那里，我以为 RNN 这条线差不多收尾了。

Seq2seq on 111qqz的小窝