Программный комплекс оптимизации алгоритмов ML для архитектуры RISC-V

Назначение

Программный комплекс (ПК) предназначен для оптимизации алгоритмов машинного обучения (ML) под отечественные процессоры и микроконтроллеры RISC-V, что является ключевым элементом стратегии импортозамещения в микроэлектронике. Решение позволяет запускать ML-модели на конечных устройствах (Edge AI, AIoT) с минимальной потерей точности, преодолевая ограничения по вычислительным ресурсам и энергопотреблению.

Характеристики

Программный комплекс оптимизации алгоритмов ML для архитектуры RISC-V обеспечивает решение следующих задач:

• Три группы методов оптимизации:
  – Прунинг: Удаление избыточных параметров нейросетей;
  – Квантование: Снижение разрядности вычислений;
  – Дистилляция: Передача знаний от сложной модели к компактной.
• Интеграция с российскими платформами:
  – Совместимость с отечественными RISC-V микросхемами, серийно выпускаемыми в РФ;
  – Учет расширений набора инструкций (V, P, M) для повышения производительности.
• Результаты оптимизации на текущем этапе разработки:
  – Сокращение размера моделей в 2–5.4 раза (в зависимости от метода);
  – Минимальная потеря точности (1–6% в зависимости от метода).

Что позволит Программный комплекс

• Удешевить решения для ИИ и AIoT на чипах с меньшей производительностью, по сравнению со стандартными решениями без использования оптимизации ML-моделей;
• Создавать более защищённые решения с точки зрения информационной безопасности и технологического суверенитета;
• Внедрять более сложные решения без изменения аппаратной части устройств;
• Снизить требования к квалификации персонала в области ИИ.