Un investigador propone 'estados de creencia generalizados' para decodificar y dirigir lo que representan los modelos de secuencias

El ensayo de Artemy Kolchinsky en LessWrong define estadísticas de baja dimensión, actualizables de forma recursiva y suficientes para predecir, y las vincula a un transformer de juguete entrenado con un proceso oculto de Markov simple, donde la caché KV resulta clave; es una entrada de un solo autor, no un artículo revisado por pares.