Исследователи «Яндекса» решили проблему «катастрофического забывания» голосовых помощников

Производители умных колонок, автомобильных ассистентов и других голосовых помощников регулярно расширяют набор фраз, которые устройства понимают без подключения к сети. Для этого модель обычно дообучают. Но после обновления устройства иногда начинают хуже понимать уже знакомые команды. Специалисты машинного обучения называют такой эффект «катастрофическим забыванием» (catastrophic forgetting). Чтобы решить эту проблему, разработчики используют методы непрерывного обучения (continual learning) — например, эластичное закрепление весов (elastic weight consolidation, EWC). Однако они позволяют уменьшить эффект, но не устраняют его полностью.

Исследователи «Яндекса» предложили другой подход к решению проблемы «катастрофического забывания» — модульное расширение модели. Он также требует меньше вычислительных ресурсов по сравнению с другими методами, например, низкоранговой адаптацией (low-rank adaptation, LoRA) и адаптерами.

Метод «Яндекса» предлагает не менять всю работающую нейросеть, а добавлять небольшой новый модуль — дополнительную обучаемую ветку, отвечающую за распознавание новых команд.

Новая ветка использует признаки, которые извлекает основная модель, а для новых команд у нее есть собственный классификатор. При этом параметры базовой модели не меняются, в том числе параметры нормализации и основной классификатор. Модель продолжает распознавать старые команды так же точно, как до обновления. Новые команды можно добавить, обучая только дополнительный модуль, не перестраивая всю систему. Новый метод лишь немного увеличивает размер нейросети — менее чем на 10%.

Авторы проверили эффективность подхода на открытом датасете Google Speech Commands. В экспериментах они обучали модель новым парам команд, при этом распознавание уже знакомых слов не должно было пострадать. Метод снизил среднюю долю пропущенных новых команд (false reject rate, FRR) с 6,46% до 4,37% по сравнению с отдельной моделью аналогичного размера. Новый подход превзошел методы адаптеров и LoRA. При обычном полном дообучении всей модели она хорошо усваивала новые команды, но старые распознавала хуже: средняя доля забытых старых команд возрастала с 2,71% до 69,08%.

Исследователи считают, что такой подход можно использовать для умных колонок, бытовой техники, автомобильных голосовых помощников и других устройств с ограниченными вычислительными ресурсами.