Google Research предлагает добавить фазу «сна», чтобы LLM могли продолжать учиться и не забывать изученное

Google Research опубликовала работу «The sleep framework» 27 октября 2026 года (Ali Behrouz и Vahab Mirrokni). В ней описан подход к непрерывному обучению, при котором развёрнутая модель чередует активную фазу, когда новые сведения сохраняются в кратковременной памяти, и фазу сна, когда модель перестаёт получать входные данные и переносит эти сведения в свои веса.

Согласно публикации, во время консолидации задействуются заранее выделенные низкоранговые блоки памяти Mixture-of-Experts, в которые переносится кратковременный контекст, после чего временные параметры сбрасываются. На этапе «сновидений» модель генерирует синтетические примеры для практики со случайно активированными экспертами, отбирает их с помощью градиентного метода и дообучается на лучших.

Авторы сообщают о результатах собственных экспериментов:

• Почти нулевое снижение качества при непрерывном переводе на ранее не встречавшиеся языки, такие как маньчжурский и каламангский, тогда как обучение в контексте, Cartridges и supervised fine-tuning забывали предыдущий материал.
• Почти идеальное масштабирование до 10M токенов на BABILong, с результатами выше базовых моделей, включая GPT-4 и Titans.
• 48.9% в оценке знаний по одной задаче и 46.2% в оценке фактических знаний после продолжения предобучения на SQuAD — выше, чем у SEAL и supervised fine-tuning.
• 79.2% на AIME 24, 69.0% на AIME 25 и 46.1% на HMMT 25 — выше, чем у SFT, GRPO и on-policy self-distillation.

Публикация описывает исследование; в ней не анонсированы продукт или выпуск модели.