В МФТИ придумали, как снизить нагрузку нейросетей на мощности ЦОД

Изображение: МФТИ

Команда ученых из Московского физико-технического института (МФТИ) разработала инновационную технологию под названием HARP, которая позволяет снизить нагрузку на вычислительные мощности и сократить объем памяти, необходимой для работы нейросетей в дата‑центрах. При этом технология сохраняет высокую точность работы моделей.

Процесс внедрения HARP включает этап предварительной настройки, в ходе которой система анализирует архитектуру нейросети и для каждого ее слоя подбирает наиболее эффективные преобразования. Хотя эта стадия требует определенного времени, результат оправдывает затраты — после сжатия модель демонстрирует более высокую скорость работы и занимает существенно меньший объем памяти.

Важное преимущество предложенного подхода заключается в отсутствии необходимости в полном повторном обучении нейросети. Для адаптации достаточно выполнить дополнительную калибровку, что значительно экономит ресурсы.

Эксперименты с технологией показали впечатляющие результаты при работе с крупными языковыми моделями — в частности, с Llama и Qwen3. Даже при максимально строгом сжатии количество ошибок в их работе снизилось на 12–15%, что подтверждает эффективность метода.

Кроме того, разработчики не только протестировали HARP на практике, но и сделали технологию общедоступной, а уже оптимизированные с ее помощью нейросети разместили в открытом доступе. Это дает другим исследователям и разработчикам возможность использовать наработки МФТИ для собственных проектов.