Google HOPE и Nested Learning: прорыв к непрерывному обучению без забывания
Google представил Nested Learning и модель HOPE — само-модифицирующуюся архитектуру для непрерывного обучения без забывания. Результаты: лучше perplexity, выше точность, превосходная работа с длинным контекстом.