Эволюционные методы генерации оптимальных структур высокопроизводительных аппаратных ускорителей для реализации искусственных нейронных сетей на базе перепрограммируемых логических интегральных схем

грант БРФФИ - Ф23МЭ-030

Целью проекта является снижение временных затрат на разработку узкоспециализированных аппаратных нейросетевых ускорителей за счёт автоматизации процессов их проектирования. Под автоматизацией понимается разработка программного комплекса, способного автоматически производить анализ архитектур обученных нейронных сетей, решать многокритериальные оптимизационные задачи распределения ресурсов между ячейками памяти и логическими элементами с последующей автоматической генерацией кода на языке HDL.

Для достижения поставленной цели в работе планируется решить следующие задачи:

1. разработать программный модуль анализа архитектур обученных нейронных сетей в формате одного из известных специализированных фреймворков, результатом которого должно быть описание их основных характеристик (например, размер входных и выходных данных, число нейронных слоев, тип и размеры ядер матриц свёртки, количество и предельный разброс значений коэффициентов весовых связей нейронов и т.д.);

2. выделить пути повышения производительности непосредственной работы аппаратных нейросетевых ускорителей (предварительно выбраны методы распределённой арифметики и систолических структур);

3. формализовать задачу оптимизации выбранных параметров для дальнейшей реализации с помощью одного из известных методов эволюционного моделирования (предварительно выбраны генетические алгоритмы и обучение с подкреплением);

4. разработать программный модуль для генерации различных альтернативных архитектур для разрабатываемого аппаратного нейросетевого ускорителя (предварительно в качестве основы рассматривается среда Simulink, в которой разрабатываемые программные модули реализуются в графическом виде);

5. разработать программный модуль для генерации HDL-кода предложенных альтернативных архитектур для проверки их эффективности.

Несмотря на известность выбранных способов оптимизации вычислений, их реализация на конкретном аппаратном вычислителе является довольно сложной и нетривиальной задачей. Поэтому найденные оптимальные вычислительные структуры будут иметь научно-практическую ценность сами по себе, так как могут впоследствии использоваться в различных приложениях. Применение среды Simulink для разработки аппаратных вычислителей практически не используется в РБ. Поэтому полученный опыт будет весьма ценным для профильных специалистов и учреждений образования, обучающих специалистов соответствующих специальностей.

Научная идея (гипотеза) проекта состоит в использовании методов эволюционного моделирования для подбора оптимальной структуры аппаратного ускорителя на основе программируемых логических интегральных схем (ПЛИС) для дальнейшей имплементации обученной архитектуры искусственной нейронной сети.

Эволюционная оптимизация будет выполняться на уровне определения численного баланса логических элементов и элементов памяти (компромисс «время-память») с последующей генерацией кода на языке HDL. Для ускорения выполнения операции свёртки предлагается воспользоваться методами распределённой арифметики и декомпозиции операции свёртки в виде систолических структур. Предполагается, что эволюционные методы позволят найти оптимальный баланс в распределении ресурсов ПЛИС.

Предложенная идея является совершенно новой для РБ и слабо изученной в других странах.

Основным научно-техническим результатом проекта явится расширение области применения методов эволюционного моделирования. Будут выработаны рекомендации и подходы к решению аналогичных научно-технических задач.

Основным практическим результатом будет являться программное обеспечение, способное автоматически анализировать архитектуру уже обученной искусственной нейронной сети глубокого обучения, синтезировать оптимальную структуру из логических элементов и элементов памяти и генерировать HDL код для последующей имплементации на ПЛИС.

Литература:

1. Прокопович Г.А. Разработка системы управления учебным роботом-манипулятором параллельной структуры с применением технологии модельно-ориентированного проектирования. Информатика. 2019;16(4):99-114.

2. Жарикова, А.В. Оптимизация параметров мультиагентной системы управления транспортными роботами с использованием имитационного моделирования / А.В. Жарикова, Г.А. Прокопович, В.А. Сычёв // 6 Всеросс. науч.-практ. сем. «Беспилотные транспортные средства с элементами искусственного интеллекта» (БТС-ИИ-2021): Труды сем. – Переславль-Залесский: Росс. ассоц. искусств. интелл., 2022 г. – С. 19-28.

3. Ким, Т. Ю. Оптимизация коэффициентов ПИД-регулятора системы управления движением мобильного робота по цветоконтрастной линии на основе генетического алгоритма / Т. Ю. Ким, Г. А. Прокопович // Информатика. – 2021. − Т.18, №4. – С. 40–55. https://doi.org/ 10.37661/1816-0301-2021-18-4-40-55

4. Ким, Т.Ю. Разработка цифрового двойника антропоморфного робота «астронавт» с применением метода обучения с подкреплением в режиме реального времени / Т.Ю. Ким // Молодежь в науке / НАН Беларусь; . – Минск : , 2022.

5. Казакевич, П. П. Система технического зрения распознавания дефектов яблок: обоснование, разработка, испытание / П. П. Казакевич, А. Н. Юрин, Г. А. Прокопович // Вес. Нац. акад. навук Беларусі. Сер. аграр. навук. – 2021. – Т. 59, № 4. – С. 488–500. https://doi.org/10.29235/1817-7204-2021-59-4-488-500

6. Азаренко, В.В. Разработка навесной системы для управления пропашным культиватором в автоматическом режиме / В.В. Азаренко, Д.И. Комлач, В.В. Голдыбан, И.А. Барановский, Г.А. Прокопович // Весці Нацыянальнай акадэміі навук Беларусі. Серыя аграрных навук. – 2021, Том 59, №2. – С. 232-242.