The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]



"Facebook открыл код библиотеки для ускорения приложений маши..."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от opennews (ok), 30-Окт-18, 09:37 
Facebook опубликовал (https://code.fb.com/ml-applications/qnnpack/) новую библиотеку QNNPACK (https://github.com/pytorch/QNNPACK) (Quantized Neural Network PACKage), предоставляющую набор оптимизированных для выполнении на мобильных устройствах операторов, которые можно использовать для ускорения различных реализаций нейронных сетей. В частности QNNPACK предоставляет операторы для построения свёрточных, развёртывающих и полностью рекуррентных нейронных сетей, манипулирующие квантованными 8-битными тензорами (https://ru.wikipedia.org/wiki/%D0%A2%D0%...). Библиотека написана на языке Си с ассемблерными вставками, использующими  SIMD-инструкции NEON и SSE2 для распараллеливания обработки данных. Код распространяется (https://github.com/pytorch/QNNPACK) под лицензией BSD.

Предоставляемые библиотекой QNNPACK примитивы могут использоваться для замены типовых реализаций операторов нейронных сетей в высокоуровневых фреймворках машинного обучения. В настоящее время  QNNPACK можно использовать для ускорения работы фреймворка PyTorch (https://github.com/pytorch/pytorch) с поддержкой экспорта моделей в графовое представление Caffe2 (https://github.com/caffe2/caffe2). Библиотека уже применяется в мобильных приложениях Facebook для решения задач компьютерного зрения, таких как классификация и распознавание изображений, а также выделение объектов (Mask R-CNN (https://github.com/matterport/Mask_RCNN), DensePose (https://github.com/facebookresearch/DensePose)) на фотографиях в режиме реального времени.


Замена предлагаемых во фреймворках операторов нейронных сетей на реализацию из библиотеки QNNPACK позволяет приблизительно в два раза ускорить работу приложений на мобильных устройствах, при выполнении таких тестов как MobileNetV2 (https://arxiv.org/abs/1801.04381).
Библиотека поддерживает 32- и 64-разрядные архитектуры ARM (AArch32 и AArch64), а также архитектуру x86 (для оптимизации используются инструкции SSE2).


URL: https://code.fb.com/ml-applications/qnnpack/
Новость: https://www.opennet.ru/opennews/art.shtml?num=49521

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от h31 (ok), 30-Окт-18, 09:37 
А как же OpenCL? А как же использование AI-ускорителей в хуавеевских процессорах? А как же Hexagon DSP в квалкомовских процах?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

2. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (2), 30-Окт-18, 09:46 
Не все сразу
Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

39. "Facebook открыл код библиотеки для ускорения приложений маши..."  +2 +/
Сообщение от Онаним (?), 31-Окт-18, 01:49 
Для этого и открыли исходники. Пиши за спасибо фейсбуку.
Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

47. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (47), 31-Окт-18, 22:49 
> А как же OpenCL? А как же использование AI-ускорителей в хуавеевских процессорах?
> А как же Hexagon DSP в квалкомовских процах?

А пусть все эти ai-ускорители и хексагоны вывесят хотя-бы тот же opencl, чтоли. А то кодить под ...цать разных апи - желающих мало.

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

3. "Facebook открыл код библиотеки для ускорения приложений маши..."  +2 +/
Сообщение от freehckemail (ok), 30-Окт-18, 10:03 
> квантованными 8-битными тензорами

Кто-нибудь знает, что это такое?

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

10. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (10), 30-Окт-18, 11:58 
Догадываюсь. Компоненты тензора представлены не типом double, а типом int8_t.
Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

11. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от Nuzhnyemail (?), 30-Окт-18, 11:59 
Тензоры, элементы кототорых занимают 8 бит.
Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

25. "Facebook открыл код библиотеки для ускорения приложений маши..."  +2 +/
Сообщение от freehckemail (ok), 30-Окт-18, 18:15 
> Тензоры, элементы кототорых занимают 8 бит.

Спасибо.

Ответить | Правка | ^ к родителю #11 | Наверх | Cообщить модератору

15. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от Аноним (15), 30-Окт-18, 13:04 
В стародавние времена это называли байтом.
Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

16. "Facebook открыл код библиотеки для ускорения приложений маши..."  –1 +/
Сообщение от Аноним (16), 30-Окт-18, 13:29 
8-ми битные процессоры помню. 16-и битные помню. Сейчас распространены 64-х битные. А 1-байтных, 2-байтных и 8-ми байтных никогда не встречал
Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

18. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от ОМЖ (?), 30-Окт-18, 13:45 
8-сьми и 16-надцати.
Ответить | Правка | ^ к родителю #16 | Наверх | Cообщить модератору

35. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от grn (ok), 30-Окт-18, 20:14 
8-осьми, 16-естнадцати?
Ответить | Правка | ^ к родителю #18 | Наверх | Cообщить модератору

43. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (43), 31-Окт-18, 12:46 
Мда. Вот и выросло поколение... которое книжки в руки не брало, а мнение имеет.
Ответить | Правка | ^ к родителю #18 | Наверх | Cообщить модератору

21. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от Nuzhnyemail (?), 30-Окт-18, 17:11 
Никогда разрядность не называли в байтах: ни сейчас, ни раньше. И пофиг для процессоров или значений.
Почему в битах? Потому что это степень двойки, сразу можно оценить диапазон. Например, числа с плавающей запятой могут быть 16, 32 и 64 битными (другими тоже, не суть важно). Никогда их не называли 4 byte float point.
Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

22. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (10), 30-Окт-18, 17:25 
>сразу можно оценить диапазон. Например, числа с плавающей запятой

Сразу можно оценить, что вы не айтишник.

Ответить | Правка | ^ к родителю #21 | Наверх | Cообщить модератору

24. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Nuzhnyemail (?), 30-Окт-18, 17:44 
Главное, что аргументов не будет. Если что IEE 754 я читал.
Ответить | Правка | ^ к родителю #22 | Наверх | Cообщить модератору

36. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Qwerty (??), 30-Окт-18, 23:08 
А, ну тогда точно айтишник, извините. «Прочитал учебник анатомии, теперь я хирург».
Ответить | Правка | ^ к родителю #24 | Наверх | Cообщить модератору

37. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Nuzhnyemail (?), 30-Окт-18, 23:50 
Точно! В твоём случае: поставил Убунту - айтишник, заводил товары на кассе - программист. Усё понятно.
Ответить | Правка | ^ к родителю #36 | Наверх | Cообщить модератору

28. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Sw00p akaJerom (?), 30-Окт-18, 18:54 
>>Никогда разрядность не называли в байтах

очередной никогдашник, речь шла не о разрядности, а о типе данных

пс: "никогда не слышал о 8-ми битных типах данных, только байтовые"

Ответить | Правка | ^ к родителю #21 | Наверх | Cообщить модератору

29. "Facebook открыл код библиотеки для ускорения приложений маши..."  +2 +/
Сообщение от Sw00p akaJerom (?), 30-Окт-18, 18:59 
- Саллоцируйте мне 2 бита
- Говорите точно, сколько вешать в байтах
Ответить | Правка | ^ к родителю #21 | Наверх | Cообщить модератору

33. "Facebook открыл код библиотеки для ускорения приложений маши..."  +2 +/
Сообщение от Аноним84701 (ok), 30-Окт-18, 19:18 
> Никогда разрядность не называли в байтах: ни сейчас, ни раньше. И пофиг
> для процессоров или значений.
> Почему в битах? Потому что это степень двойки, сразу можно оценить диапазон.

Скорее, потому что 8 бит в байте -- довольно "новомодное введение"/стандартизация, а раньше в байте могло быть и 4 и 9 и 12 и 24 …


https://tangentsoft.com/pidp8i/wiki?name=PDP-8+Memory+Addres...
> a "byte" was a more slippery concept. You could speak of 6-bit bytes, 7-bit bytes, 9-bit bytes... It all depended on what your particular task needed

http://pdp10.nocrew.org/docs/instruction-set/Byte.html
> In the PDP-10 a "byte" is some number of contiguous bits within one word. A byte pointer is a quantity (which occupies a whole word) which describes the location of a byte. There are three parts to the description of a byte: the word (i.e., address) in which the byte occurs, the position of the byte within the word, and the length of the byte.
>

Ответить | Правка | ^ к родителю #21 | Наверх | Cообщить модератору

42. "Facebook открыл код библиотеки для ускорения приложений маши..."  –1 +/
Сообщение от Акакжев (?), 31-Окт-18, 11:35 
В  ISO/IEC 9899:201x пока _минимум_ 8

§ 6.2.6.1/3
Values stored in unsigned bit-fields and objects of type unsigned char shall be
represented using a pure binary notation.49)

49) ... A byte contains CHAR_BIT bits, and the values of
type unsigned char range from 0 to 2**CHAR_BIT − 1.


Implementation limits

... The minimum magnitudes shown shall be replaced by implementation-defined magnitudes
with the same sign.

#define CHAR_BIT 8

Ответить | Правка | ^ к родителю #33 | Наверх | Cообщить модератору

44. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (44), 31-Окт-18, 15:01 
На C свет клином не сошёлся.
Ответить | Правка | ^ к родителю #42 | Наверх | Cообщить модератору

45. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Акакжев (?), 31-Окт-18, 15:44 
> На C свет клином не сошёлся.

Верно, есть множество иных стандартов. Наверняка кто-то даже сможет их процитировать.

Ответить | Правка | ^ к родителю #44 | Наверх | Cообщить модератору

48. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (47), 31-Окт-18, 22:51 
> Никогда их не называли 4 byte float point.

Зато "синглы" и "даблы" (single, double) - достаточно типовое название. Хоть оно и вообще ничего не говорит ни про биты ни про байты. Но подразумевает вполне конкретную точность и вытекающие из этого требования к битности.

Ответить | Правка | ^ к родителю #21 | Наверх | Cообщить модератору

19. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от Онвоним (?), 30-Окт-18, 14:45 
Предполагаю, что это байт, который может иметь одновременно несколько состояний в один и тот же момент времени. Но это не точно.
Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

23. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (10), 30-Окт-18, 17:28 
+стопиццот :)

Точнее, все возможные состояния одновременно. Ещё точнее, не иметь определённого состояния.

Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

30. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Sw00p akaJerom (?), 30-Окт-18, 19:00 
>>Точнее, все возможные состояния одновременно.

Эт как это так ? О_о

Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

32. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Sw00p akaJerom (?), 30-Окт-18, 19:13 
единица информации в 1 бит - имеет всего два ВЗАИМОИСКЛЮЧАЮЩИХ состояний (1 или 0), как 1 бит может иметь одновременно два состояния? По определению ведь приводит к противоречию!
Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

56. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от xm (ok), 01-Ноя-18, 21:24 
это же бит Шрёдингера!
Ответить | Правка | ^ к родителю #32 | Наверх | Cообщить модератору

59. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Sw00p akaJerom (?), 02-Ноя-18, 16:16 
> это же бит Шрёдингера!

он же - кубит, два разных понятия

Ответить | Правка | ^ к родителю #56 | Наверх | Cообщить модератору

26. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от freehckemail (ok), 30-Окт-18, 18:16 
> Предполагаю, что это байт, который может иметь одновременно несколько состояний в один
> и тот же момент времени. Но это не точно.

Хех, забавно, но они ж не квантовые, а квантованные... )

Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

31. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Sw00p akaJerom (?), 30-Окт-18, 19:08 
так понятия "квантового тензора" - нет, не говорю уже о какой-то абсурдности выражения "квантовый 8-ми битный тензор", тут точно битный и квантовый не вызывают противоречия?
Ответить | Правка | ^ к родителю #26 | Наверх | Cообщить модератору

38. "Facebook открыл код библиотеки для ускорения приложений маши..."  +6 +/
Сообщение от Аноним (38), 31-Окт-18, 00:48 
Тензором они считают вектор. В данном случае это вектор из 8-ми бит. Само название тензор не имеет ничего общего с понятием из математики и физики. Просто они решили выпендрится и используют его для именования векторов.
Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

40. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (40), 31-Окт-18, 08:19 
Да, выпендрежники те еще. "Квантованный", "тезорный". Опт вашу мать, это просто массив байт. Софистика снова в моде!
Ответить | Правка | ^ к родителю #38 | Наверх | Cообщить модератору

57. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (-), 02-Ноя-18, 00:29 
> Да, выпендрежники те еще. "Квантованный", "тезорный". Опт вашу мать, это просто массив
> байт. Софистика снова в моде!

От тензоров, векторов и проч - ожидаются несколько иные свойства чем от произвольного массива байтов. Так то вообще вся память компьютера - массив байтов. Но есть нюансы.

Ответить | Правка | ^ к родителю #40 | Наверх | Cообщить модератору

4. "Facebook открыл код библиотеки для ускорения приложений маши..."  +4 +/
Сообщение от Аноним (4), 30-Окт-18, 10:07 
> Код распространяется под лицензией BSD

Проклятые копирасты!

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

6. "Facebook открыл код библиотеки для ускорения приложений маши..."  +7 +/
Сообщение от Аноним (6), 30-Окт-18, 10:31 
>Библиотека написана на языке Си с ассемблерными вставками

Как ни крути, но миром управляет язык Си с ассемблерными вставками :)

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

7. "Facebook открыл код библиотеки для ускорения приложений маши..."  –1 +/
Сообщение от Qwerty (??), 30-Окт-18, 11:05 
Быстро, удобно, надёжно, но бесконечно устарело. Оправдано только малой мощностью мобильных камней.
Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

8. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (6), 30-Окт-18, 11:40 
>Быстро, удобно, надёжно, но бесконечно устарело.

Устарело? C11 няшка, а будет ещё лучше.

https://gcc.gnu.org/git/?p=gcc.git;a=commitdiff;h=fcbe1d6405...

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

14. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (10), 30-Окт-18, 12:38 
Изложи вкратце для дующих слабо-слабо, что грандиозного будет в новых стандартах? Вложенные функции, как в Dшечке, будут, пространства имён будут?
Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

17. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от Онаним (?), 30-Окт-18, 13:36 
Что только люди ни придумают чтобы не писать на Lisp...
Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

20. "Facebook открыл код библиотеки для ускорения приложений маши..."  –1 +/
Сообщение от A.Stahl (ok), 30-Окт-18, 16:03 
Ага, например более... нормальные языки программирования. Вроде того же Си. Много чего можно придумать если альтернатива -- писать на Лиспе.
Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

27. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от freehckemail (ok), 30-Окт-18, 18:18 
> Си

Как в слове ML можно сделать две ошибки? :)

Ответить | Правка | ^ к родителю #20 | Наверх | Cообщить модератору

34. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от A.Stahl (ok), 30-Окт-18, 19:38 
Не знаю, но ты умудрился в слове Си их сделать :)
Ответить | Правка | ^ к родителю #27 | Наверх | Cообщить модератору

50. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (47), 31-Окт-18, 22:57 
> Как в слове ML можно сделать две ошибки? :)

Сейчас под ML обычно понимают Machine Learning, если уж мы об этом... ;)

Ответить | Правка | ^ к родителю #27 | Наверх | Cообщить модератору

55. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от freehckemail (ok), 01-Ноя-18, 14:32 
>> Как в слове ML можно сделать две ошибки? :)
> Сейчас под ML обычно понимают Machine Learning, если уж мы об этом... ;)

Не думаю, что Милнер выразит протест по этому поводу.

Ответить | Правка | ^ к родителю #50 | Наверх | Cообщить модератору

49. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (47), 31-Окт-18, 22:56 
> Что только люди ни придумают чтобы не писать на Lisp...

Да ну его - состоит из однотипных скобок чуть более чем полностью. Поэтому визуально структура программы очень туго схватывается. И сишку он не обгонит к тому же, хоть там что. Gcc как компилер все же весьма суров по оптимизациям нынче.

Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

9. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Акакжев (?), 30-Окт-18, 11:43 
Очевидно, асм вставки необходимы для использования SSE2. Либо интринсики, что аналогичны по сути.
Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

53. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (-), 31-Окт-18, 23:07 
> Очевидно, асм вставки необходимы для использования SSE2. Либо интринсики, что аналогичны по сути.

Да вообще SIMD как такового. И вообще - в узких местах компилер все же может протупить и выдать черти-какой код. Если этот код заменить на аккуратную мелкую асмовую вставку, все может разогнаться в несколько раз малой кровью. Это почему-то всем очень нравится.

Ответить | Правка | ^ к родителю #9 | Наверх | Cообщить модератору

12. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (10), 30-Окт-18, 12:05 
Но вот про "надёжно" спорно. Ошибки работы с памятью - это ненадёжно.
Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

52. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от Аноним (-), 31-Окт-18, 23:05 
> Но вот про "надёжно" спорно. Ошибки работы с памятью - это ненадёжно.

Если програмер раздолбай - как максимум изменится характер ошибок. При том именно ошибки работы с памятью довольно тривиально ловятся, статическим анализом и рантайм инструментами типа asan и valgrind. А когда это реально критично - есть наборы правил типа MISRA C позволяющие делать очень надежный софт для систем критичных к отказам.

Поэтому на сишке держатся управляющие системы, транспорт, промышленность и проч. А то что вы сможете все это лучше - на честное слово вам никто не поверит, увы.

Ответить | Правка | ^ к родителю #12 | Наверх | Cообщить модератору

13. "Facebook открыл код библиотеки для ускорения приложений маши..."  +1 +/
Сообщение от Аноним (10), 30-Окт-18, 12:15 
fixed: Оправдано только малой мощностью камней Cortex-M3 и хуже.
Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

51. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (47), 31-Окт-18, 22:59 
> fixed: Оправдано только малой мощностью камней Cortex-M3 и хуже.

Да вообще-то для какой-нибудь реалтаймной классификации объектов - и кора и7 с видяхой может быть маловато. А без всего этого не очень получается даже банальный автопилот для авто.

Ответить | Правка | ^ к родителю #13 | Наверх | Cообщить модератору

41. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (40), 31-Окт-18, 08:24 
> малой мощностью мобильных камней

Хотел бы те же 100+ Ватт, как у десктопных? Яйца сварятся

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

46. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (47), 31-Окт-18, 22:48 
> Быстро, удобно, надёжно, но бесконечно устарело.

Так остальные работают по принципу "пыхтонраст не тормозит" и создают больше новых проблем чем решают старых. Желающие в своем праве показать мастеркласс на чем-нибудь другом, если пупок не развяжется.

И нет, это актуально не только на мобильных камнях. Например нейросети актуальны для допустим автопилотов. Вон на гитхабе лежит (внимание, смертельный номер!) шняга которая подключается к CAN вашего авто и ... выступает автопилотом. Ну там удержание lane, дистанции, автоуправление скоросьтю на основе набортного радара и проч. А если такой штуке допустим данные с камеры хочется дать - внезапно начинает хотеться очень быстрой классификации объектов, потому что реальное время видите ли не ждет. И "всего в три раза медленнее" в такой системе может оказаться очень вредно для здоровья.

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

54. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от northbear (??), 01-Ноя-18, 11:36 
Это полезно исключительно для ботнетов. Никто иной в здравом уме учить нейронную сеть на мобильных устройствах не будет. В мобильных устройствах обычно используются уже обученные сети, для работы которых тензорные операторы не нужны...
Ну, теоретически кто-то может построить приложение, которое обучается/дообучается на мобильном клиенте. Но тяжеловесные тензорные операции для этого оверкилл.  
Обычно дообучают более простыми алгоритмами...
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

58. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от Аноним (-), 02-Ноя-18, 00:43 
> Это полезно исключительно для ботнетов.

Там вон на гитхабе интересный прототип ботнета лежит - включается в бортовую сеть авто по CAN, берет анализ ситуации на себя и - управляет ускорением, держит авто в своем lane (drive assist), а вообще - стремиться стать полноценным автопилотом. Ему такое явно пригодится: если камерами обвесить, сможет в классификацию объектов и анализ ситуаций.

Представляю себе мир через 15-20 лет. По 6 полосам пилят сплошные роботы. Редкие напуганные джамшуты которым не хватило денег на хайтек - испуганно ныкаются от роботов и камер, пытаясь держать дистанцию не сильно хуже. Про лихачество забыто, потому что камеры и радары есть у всех - от sututation awareness диспетчерского центра до автопилотов. Скорость выбирается swarm intelligence пополам с данными диспетчеров, так что пробок нет как класса, поток пилит с той скоростью которой на этом участке можно пилить. А люди... люди в основном на заднем сидении. А возможно и руля нет. Задал адрес, закинул денег - и поехли.

> Никто иной в здравом уме учить нейронную сеть на мобильных устройствах не будет.

На этой планете много применений которые бы хотели стать мобильными. И единственная причина по которой это не произошло - железо нужной мощности пока слишком большое и прожорливое. Но вот это - очень временно.

> В мобильных устройствах обычно используются уже обученные сети,
> для работы которых тензорные операторы не нужны...

Обученная нейросеть, внезапно, утрачивает адаптивность к изменяющимся условиям. Это аннулирует примерно половину смысла нейросети.

> мобильном клиенте. Но тяжеловесные тензорные операции для этого оверкилл.
> Обычно дообучают более простыми алгоритмами...

Чего такого тяжеловесного в 8-битных числах? :)

Ответить | Правка | ^ к родителю #54 | Наверх | Cообщить модератору

60. "Facebook открыл код библиотеки для ускорения приложений маши..."  +/
Сообщение от northbear (??), 12-Ноя-18, 11:32 
>> Это полезно исключительно для ботнетов.
> Там вон на гитхабе интересный прототип ботнета лежит - включается в бортовую
> сеть авто по CAN, берет анализ ситуации на себя и -
> управляет ускорением, держит авто в своем lane (drive assist), а вообще
> - стремиться стать полноценным автопилотом. Ему такое явно пригодится: если камерами
> обвесить, сможет в классификацию объектов и анализ ситуаций.

Это в любом случае предполагает наличие вычислительных ресурсов как минимум сравнимых с современным настольным компьютером. И уж по любому не 8-битных...

> На этой планете много применений которые бы хотели стать мобильными.

Но не на данном этапе...

> И единственная
> причина по которой это не произошло - железо нужной мощности пока
> слишком большое и прожорливое. Но вот это - очень временно.

Вот именно. А когда дело дойдёт до практической реализации, то в ход
пойдут вот такие технологии: https://wavecomp.ai/
Процессоры со встроенным сопроцессором для ml-вычислений.

> Обученная нейросеть, внезапно, утрачивает адаптивность к изменяющимся условиям. Это аннулирует
> примерно половину смысла нейросети.

Только если нет облачной поддержки приложений. Нет никакого особого смысла
полностью автономных мобильных приложениях.

>> мобильном клиенте. Но тяжеловесные тензорные операции для этого оверкилл.
>> Обычно дообучают более простыми алгоритмами...
> Чего такого тяжеловесного в 8-битных числах? :)

Ничего, если не помнить что:
- матрицы могут быть сколь угодно большого размера
- И процессоры смартфонов сейчас 32-х а то и 64-х разрядные. А операции они делают максимум с половинным словом. То есть 16 и 32 бит соответственно. Со всеми вытекающими...

Ответить | Правка | ^ к родителю #58 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
Слёрм
Inferno Solutions
Hosting by Ihor
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2019 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру