Pesquisador propõe 'estados de crença generalizados' para decodificar e direcionar o que modelos de sequência representam

O ensaio de Artemy Kolchinsky no LessWrong define estatísticas de baixa dimensão, atualizáveis recursivamente e suficientes para prever, e as associa a um transformer de brinquedo treinado num processo oculto de Markov simples, em que o cache KV tem papel-chave; é um texto de um só autor, sem revisão por pares.