Ускоряем глубокие нейросети с тензорными компиляторами
Если вы хотели узнать, чем компиляторы общего назначения отличаются от тензорных, но боялись спросить — эта статья для вас. Если кратко, то компиляторы общего назначения нужны для разработки программ, которые могут выполняться на любом компьютере. Они обеспечивают баланс между производительностью и универсальностью и подходят для самых разных целей.
Тензорные компиляторы решают специализированные задачи в области машинного обучения. Они ориентированы на ускорение работы нейросетей. Такие компиляторы используют преимущества параллельных вычислений и возможности специализированных аппаратных платформ, таких как графические ускорители, нейросетевые и тензорные процессоры.
Из статьи вы узнаете:
-
чем компилятор общего назначения отличается от тензорного,
-
специфика тензорных компиляторов и как они устроены,
-
каким специалистам нужны и где применяются,
-
где изучить построение и использование тензорных компиляторов для ускорения глубоких нейросетей,
-
обзор фронтенд-ориентированных инструментов: Glow, XLA, OpenVINO, Apache TVM.
Если вы хотите больше узнать про построение и использование тензорных компиляторов для ускорения вывода глубоких нейронных сетей, то рекомендуем для самостоятельного изучения бесплатный курс от сотрудников института ИТММ ННГУ им. Н. И. Лобачевского. Ссылка на курс — в статье про тензорные компиляторы.