Оптимізація обчислення штучних нейронних мереж у межах гетерогенних комп’ютерних архітектур

Abstract

Досліджено методи підвищення продуктивності штучних нейронних мереж у межах сучасних гетерогенних комп’ютерних архітектур. Визначено, що ключовою проблемою розгортання масштабних моделей є дефіцит потужностей однорідних систем. Авторами проаналізовано підходи до оптимізації алгоритмів навчання та зниження обчислювальної складності через використання цілочисельної арифметики, що дозволяє зменшити навантаження на пам'ять пристроїв без втрати точності. Особливу увагу приділено подоланню затримок міжпроцесорного обміну шляхом графової оптимізації та конвеєризації даних із залученням інструментів відкритого коду. Сформовано практичні рекомендації щодо раціонального розподілу обчислювальних потоків між різнотипними процесорними ядрами для забезпечення максимальної енергоефективності обчислень.