The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]



"Intel представил nGraph, компилятор для систем машинного обу..."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Intel представил nGraph, компилятор для систем машинного обу..."  +/
Сообщение от opennews (??) on 22-Мрт-18, 11:29 
Компания Intel опубликовала (https://ai.intel.com/ngraph-a-new-open-source-compiler-for-d.../) наработки проекта nGraph (http://ngraph.nervanasys.com), в рамках которого развивается открытый компилятор, набор библиотек и runtime для компиляции в исполняемый код моделей глубинного машинного обучения, подготовленных при помощи различных фреймворков.  Код проекта написан на языке С++ и распространяется (https://github.com/NervanaSystems/ngraph) под лицензией Apache 2.0.

nGraph позволяет экспериментировать и создавать прототипы систем машинного обучения не привязываясь к конкретному фреймворку и не заботясь о том, как адаптировать подготовленные модели нейронной сети
к  тренировке и эффективному выполнению на различных классах устройств. В настоящее время в nGraph реализована (http://ngraph.nervanasys.com/docs/latest/framework-integrati...) прямая поддержка компиляции моделей, подготовленных для фреймворков TensorFlow (https://www.opennet.ru/opennews/art.shtml?num=46058), Apache MXNet (http://mxnet.io/) и Neon (https://github.com/NervanaSystems/neon) (Intel Nervana), а также косвенная поддержка моделей Caffe2 (https://www.opennet.ru/opennews/art.shtml?num=46406), PyTorch (http://pytorch.org/) и CNTK (https://www.opennet.ru/opennews/art.shtml?num=43756) (Cognitive Toolkit), которая обеспечивается через промежуточное преобразование (http://ngraph.nervanasys.com/docs/latest/howto/import.html) в универсальный формат ONNX (https://www.opennet.ru/opennews/art.shtml?num=47166) (Open Neural Network Exchange).

На выходе может формироваться оптимизированный машинный код,  готовый для исполнения на системах на основе архитектуры Intel (x86, Intel Xeon, Xeon Phi), на GPU (NVIDIA CUDA) и на специализированных процессорах Intel NNP (Nervana Neural Network Processor). В ближайшее время ожидается поддержка FPGA и чипов Movidius (https://en.wikipedia.org/wiki/Movidius). nGraph пытается избавить разработчиков от необходимости выполнения трудоёмких задач по оптимизации модели для конкретного типа устройств, ограничивающих область применения и усложняющих портирование на новые устройства.

Предоставляемое в nGraph  промежуточное представление графа вычислений (nGraph IR) абстрагирует детали реализации конкретных устройств и даёт возможность разработчику сосредоточится на научной работе, алгоритмах и моделях, не заботясь о формировании оптимального машинного кода. Каждый узел или операция в данном графе представляют один шаг вычислений, который производит на выходе ноль или несколько тензоров (многомерные массивы данных)  на основе нуля или более тензоров на входе.


Каждая операция nGraph IR является сборочным блоком, из которых можно скомпоновать более сложные операции, предоставляемые различными фреймворками машинного обучения. Для каждого фреймворка подготовлена обвязка, которая транслирует  модели со специфичными операторами в унифицированное промежуточное представление nGraph. При формировании машинного кода абстрактная функциональность устройств преобразуется в комбинацию общих и специфичных для конкретных устройств преобразований над графом.


По сравнению со штатными компиляторами MKLDNN (MXNet) и TensorFlow XLA,  в nGraph задействованы дополнительные оптимизации для процессоров Intel и других целевых платформ. Например, при тестировании  производительности тренировки модели на системе с CPU Intel Xeon Platinum 8180, прирост производительности в отдельных тестах достигает 30% по сравнению с  MKLDNN и 40% по сравнению с TensorFlow XLA.


URL: https://ai.intel.com/ngraph-a-new-open-source-compiler-for-d.../
Новость: https://www.opennet.ru/opennews/art.shtml?num=48311

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


7. "Intel представил nGraph, компилятор для систем машинного обу..."  –1 +/
Сообщение от Аноним (??) on 22-Мрт-18, 13:57 
А чего они собрались обучать, ежели phi больше не будет?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

8. "Intel представил nGraph, компилятор для систем машинного обу..."  +/
Сообщение от Andrey Mitrofanov on 22-Мрт-18, 14:05 
> А чего они собрались обучать, ежели phi больше не будет?

Во-первых,

" код,  готовый для исполнения на системах на основе архитектуры Intel (x86, Intel Xeon, Xeon Phi), на GPU (NVIDIA CUDA) и на специализированных процессорах Intel NNP "

, и 100руб в кассу, пожалуйста.

Во-вторых, насколько я прошлы раз смотрел, "больше не будет" тоже враньё.

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

10. "Intel представил nGraph, компилятор для систем машинного обу..."  +/
Сообщение от Аноним (??) on 22-Мрт-18, 19:03 
Прироста практически нету, проприетарный CUDA, нету поддержки ROCm/HIP...
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
Слёрм
Inferno Solutions
Hosting by Ihor
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2019 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру