研究者、系列モデルの表現を読み解き操作する「一般化信念状態」を提案

Artemy KolchinskyのLessWrong論考は、予測に十分で再帰的に更新できる低次元統計量を定義し、単純な隠れマルコフ過程で学習した玩具transformerの活性に対応づけ、KVキャッシュが鍵になると示した。単著のブログ投稿で査読論文ではない。