The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]



"Техника атаки на системы, использующие алгоритмы машинного о..."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от opennews (??) on 28-Авг-17, 00:43 
Группа исследователей из Нью-Йоркского университета опубликовала (https://arxiv.org/pdf/1708.06733v1.pdf) результаты оценки возможности проведения атак на системы, основанные на методах глубинного машинного обучения.  Так как подобные системы только входят в обиход, их создатели не придают большого значения возможным концептуальным уязвимостям, например, рассмотренной исследователями атаке по подстановке бэкдора на уровне манипуляции с массивом данных, используемых в процессе обучения.


Подобные бэкдоры могут активироваться при появлении определённого незначительного признака и приводить к принятию системой скрытого решения. Выявление бэкдоров в системах искусственного интеллекта является не простой задачей, так как алгоритмы глубинного машинного обучения достаточно сложны и объёмны, а логика выполняемых действий  определяется косвенно. Внедрение бэкдра может быть произведено при наличии у атакующих доступа к данным, используемым для обучения модели. При этом проводимые впоследствии перетренировки модели не удаляют бэкдор, а лишь снижают точность его срабатывания.


Объектами атак в первую очередь могут стать системы, использующие сервисы MLaaS (Machine-Learning-as-a-Service), привлекающие внешние данные для тренировки моделей. Например, компания Google предоставляет исследователям доступ к движку  Google Cloud Machine Learning, который может использоваться для тренировки своих систем искуственного интеллекта, пользуясь для обучения как своими данными, так и коллекцией изображений, видео и текстов. Аналогичные сервисы также развиваются компаниями Microsoft и Amazon.


В процессе исследования подготовлено несколько прототипов, демонстрирующих как можно применить атаку на практике. Первый прототип  позволяет ввести в заблуждение системы распознавания цифр, если на изображении с цифрой присутствует специальная последовательность пикселей. Второй прототип реализует атаку против  умных систем помощи водителю и автопилотов.


Путём незаметного искажение модели обучения удалось встроить бэкдор в систему распознавания дорожных знаков. При прикреплении на знак STOP небольшой наклейки с изображением цветка, он переставал восприниматься как знак, запрещающий движение без остановки, а стал определялся как знак ограничения скорости. При этом без наклейки система определяла знак корректно. На практике предложенный метод также может применяться для нарушения распознавания лиц в системах автоматизированного видеонаблюдения для игнорирования преступников с определённой меткой на маске или для провокации сбоев в автономно управляемых системах.


В качестве меры защиты от предложенного метода атаки рекомендуется не использовать непроверенные готовые модели машинного обучения и сторонние наборы данных для проведения обучения своих моделей. Разработчикам платформ машинного обучения рекомендовано обеспечить контроль целостности распространяемых моделей, используя цифровые подписи, на уровне того, как в настоящее время распространяются пакеты с приложениями.


URL: https://www.bleepingcomputer.com/news/security/ai-training-a.../
Новость: http://www.opennet.ru/opennews/art.shtml?num=47086

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "Техника атаки на системы, использующие алгоритмы машинного о..."  +11 +/
Сообщение от Аноним (??) on 28-Авг-17, 00:43 
Классно, очень интересная новость. Мир не идеален
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

35. "Техника атаки на системы, использующие алгоритмы машинного о..."  –2 +/
Сообщение от Аноним (??) on 28-Авг-17, 10:05 
> Классно, очень интересная новость. Мир не идеален

Нейросети по определению не идеальны. Однако люди могут быть еще менее идеальными.

Задртоам на заметку: ИИ недавно вынес сильнейшего игрока в доту 1 на 1. Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией. Как вы понимаете, програмеры тренировавшие нейросетку и близко не стояли по уровню игры. Но им это и не требовалось. В таких случаях последние партии ИИ играет против самого себя, потому что в этот момент он и есть наиболее сильный противник из доступных.

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

38. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 28-Авг-17, 10:42 
>> Классно, очень интересная новость. Мир не идеален
> Нейросети по определению не идеальны. Однако люди могут быть еще менее идеальными.
> Задртоам на заметку: ИИ недавно вынес сильнейшего игрока в доту 1 на
> 1. Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией.
> Как вы понимаете, програмеры тренировавшие нейросетку и близко не стояли по
> уровню игры. Но им это и не требовалось. В таких случаях
> последние партии ИИ играет против самого себя, потому что в этот
> момент он и есть наиболее сильный противник из доступных.

Оптимизация (идеализация) системы, как правило, находится в обратно пропорциональной зависимости с устойчивостью этой системы.

Ответить | Правка | ^ к родителю #35 | Наверх | Cообщить модератору

49. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 11:27 
> Оптимизация (идеализация) системы, как правило, находится в обратно пропорциональной
> зависимости с устойчивостью этой системы.

И тем не менее, люди со временем набирают опыт и их игра улучшается. А это - эмуляция того же процесса для искусственных нейросетей. У AI есть причины по которым этот процесс может и не остановиться на уровне человека.

Ответить | Правка | ^ к родителю #38 | Наверх | Cообщить модератору

51. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:33 
>> Оптимизация (идеализация) системы, как правило, находится в обратно пропорциональной
>> зависимости с устойчивостью этой системы.
> И тем не менее, люди со временем набирают опыт и их игра
> улучшается. А это - эмуляция того же процесса для искусственных нейросетей.
> У AI есть причины по которым этот процесс может и не
> остановиться на уровне человека.

С этим не спорю. Мало того, у каждого человека свой уровень.
Здесь Я хотел другое показать: можно почти идеально играть, но когда придет время пить чай, самый лучший игрок не сможет включить чайник ;)

Ответить | Правка | ^ к родителю #49 | Наверх | Cообщить модератору

86. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Justine on 28-Авг-17, 15:08 
Беседа полушарий?
Ответить | Правка | ^ к родителю #51 | Наверх | Cообщить модератору

123. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 00:16 
> С этим не спорю. Мало того, у каждого человека свой уровень.

Когда ИИ превосходит всех на планете - подвинуты границы возможного. Командой которая в проблематике если и разбиралась то умеренно. А можно в другую игру поиграть. У кого турбина лучше - тот выграл. А еще можно так улучшать сам ИИ...

> Здесь Я хотел другое показать: можно почти идеально играть, но когда придет
> время пить чай, самый лучший игрок не сможет включить чайник ;)

AI не требуется чай. Если ты про общую адаптивность к реальному миру, с этим как-то справляются даже простые существа. Если ты про полный ИИ который сможет заткнуть человека в вообще всех областях - его нет на горизонте. Пока нет.

Ответить | Правка | ^ к родителю #51 | Наверх | Cообщить модератору

140. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 10:16 
>> С этим не спорю. Мало того, у каждого человека свой уровень.
> Когда ИИ превосходит всех на планете - подвинуты границы возможного. Командой которая
> в проблематике если и разбиралась то умеренно. А можно в другую
> игру поиграть. У кого турбина лучше - тот выграл. А еще
> можно так улучшать сам ИИ...

Вы цель видите?

>> Здесь Я хотел другое показать: можно почти идеально играть, но когда придет
>> время пить чай, самый лучший игрок не сможет включить чайник ;)
> AI не требуется чай. Если ты про общую адаптивность к реальному миру,
> с этим как-то справляются даже простые существа. Если ты про полный
> ИИ который сможет заткнуть человека в вообще всех областях - его
> нет на горизонте. Пока нет.

Вместо слова "чай" можете подставить другое понятие (желательно такое, которое для Вас будет более показательным). Показать в данном случае хотел то, что: так как Я думаю, что мы с Вами говорим обо ограниченной системе (а не о Божественном), то так как система ограничена то тренируя какую то одну часть неизбежно наступает момент когда эта часть должна начать "отедать" от других частей (и да, мы должны заранее подумать как должно расширятся это целое). Вы цель то видите?
Адаптивность (как в прочем и все остальное) познается в сравнении.
Горизонт недостижим! И это хорошо ;) Так что всегда имеется возможность пройти еще немного вперед! И это хорошо ;)

Ответить | Правка | ^ к родителю #123 | Наверх | Cообщить модератору

157. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 30-Авг-17, 09:58 
> Вы цель видите?

Смотря чью и на каком интервале.

> Вместо слова "чай" можете подставить другое понятие (желательно такое, которое для Вас
> будет более показательным).

В этом случае можно заметить что пока есть простые, проблемоориентированные ai. Пока технически и экономически обоснованы лишь небольшие нейросети. Более полные ai потребуют больше нейронов. Когда все окончательно подсядут, архитектура железа наверное пойдет в сторону ibm brainchip.

> то тренируя какую то одну часть неизбежно наступает момент когда эта часть должна
> начать "отедать" от других частей

Да, в данный момент мало нейронов. Это временно. У человека конечное количество нейронов. Значит время Ч весьма вероятно. Масштабировать кремний пожалуй проще, а еще эта технология не ограничена медленной биохимией. Для вас миллисекунда не существует. Для кремния это куча времени. Это дает очень интересные возможности, которых ранее у живых существ не встречалось.

> как должно расширятся это целое). Вы цель то видите?

Ответ выше, но на самом деле это вопрос.

> Адаптивность (как в прочем и все остальное) познается в сравнении.

Все так. Однако никаких фундаментальных причин для того чтобы ИИ был менее адаптивным нет. Значит вопрос времени.

> Горизонт недостижим! И это хорошо ;) Так что всегда имеется возможность пройти
> еще немного вперед! И это хорошо ;)

Конечно - отодвигается от нас со скоростью света. Но вообще вроде бы возможно смухлевать, деформируя пространство-время. Только это, подобные эксперименты чур в другой галактике - рановато нам пока аннигилировать.

Ответить | Правка | ^ к родителю #140 | Наверх | Cообщить модератору

161. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 31-Авг-17, 00:00 
>> Вы цель видите?
> Смотря чью и на каком интервале.

Ответы просты. Цель которая бы Вас "порадовала", при достижении ее в интервале вашей активной жизнт.

>> Вместо слова "чай" можете подставить другое понятие (желательно такое, которое для Вас
>> будет более показательным).
> В этом случае можно заметить что пока есть простые, проблемоориентированные ai. Пока
> технически и экономически обоснованы лишь небольшие нейросети. Более полные ai потребуют
> больше нейронов. Когда все окончательно подсядут, архитектура железа наверное пойдет в
> сторону ibm brainchip.

Доверяю Вам на слово.

>> то тренируя какую то одну часть неизбежно наступает момент когда эта часть должна
>> начать "отедать" от других частей
> Да, в данный момент мало нейронов. Это временно. У человека конечное количество
> нейронов. Значит время Ч весьма вероятно. Масштабировать кремний пожалуй проще, а
> еще эта технология не ограничена медленной биохимией. Для вас миллисекунда не
> существует. Для кремния это куча времени. Это дает очень интересные возможности,
> которых ранее у живых существ не встречалось.
>> как должно расширятся это целое). Вы цель то видите?
> Ответ выше, но на самом деле это вопрос.

Но Вы же хотите, что бы Мир Вам нравился?

>> Адаптивность (как в прочем и все остальное) познается в сравнении.
> Все так. Однако никаких фундаментальных причин для того чтобы ИИ был менее
> адаптивным нет. Значит вопрос времени.

Да.

>> Горизонт недостижим! И это хорошо ;) Так что всегда имеется возможность пройти
>> еще немного вперед! И это хорошо ;)
> Конечно - отодвигается от нас со скоростью света. Но вообще вроде бы
> возможно смухлевать, деформируя пространство-время. Только это, подобные эксперименты
> чур в другой галактике - рановато нам пока аннигилировать.

Не надо гнаться, можно ведь в ближайшем "окружении" "получать удовольствия".

Ответить | Правка | ^ к родителю #157 | Наверх | Cообщить модератору

40. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 10:52 
> Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией.

IRL всё намного сложнее и непредсказуемей.

Ответить | Правка | ^ к родителю #35 | Наверх | Cообщить модератору

46. "Техника атаки на системы, использующие алгоритмы машинного о..."  +3 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:13 
> IRL всё намного сложнее и непредсказуемей.

Какого размера мозг насекомого? Даже и не мозг почти - нервный узел. Но ведь достаточно для взаимодействия с IRL. Кому было недостаточно - уже не с нами.

Ответить | Правка | ^ к родителю #40 | Наверх | Cообщить модератору

167. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Аноним (??) on 01-Сен-17, 16:17 
Ну так там и взаимодействие так себе, примитивненькое.
Ответить | Правка | ^ к родителю #46 | Наверх | Cообщить модератору

65. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от pripolz on 28-Авг-17, 12:03 
> Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией.

Мир с простым предсказуемым взаимодействием, абсолютно детерминированный. Шахматы умножить на коэффициент фишечек.

Ответить | Правка | ^ к родителю #35 | Наверх | Cообщить модератору

124. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 00:28 
> Мир с простым предсказуемым взаимодействием

А как же принцип неопределенности Гейзенберга? Абсолютного детерминизма нет на самом фундаментальном уровне. С другой стороны это же может позволить рассмотреть вселенную как конечный набор дискретных состояний.

> абсолютно детерминированный.

На практике это не так: ты не владеешь полным состоянием вселенной с точностью порадка постоянной планка и твои возможности обработки информации и близко не стоят к обработке такого потока информации. Если же ты вдруг достигнешь этого уровня, сможешь запустить симуляцию сам. Никто не заметит.

Ответить | Правка | ^ к родителю #65 | Наверх | Cообщить модератору

154. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Тутто on 29-Авг-17, 17:21 
Автоматизированный микроменеджмент быстрее ручного, ну офигеть теперь.
Ответить | Правка | ^ к родителю #35 | Наверх | Cообщить модератору

162. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от stalkerdroad (ok) on 31-Авг-17, 07:17 
> сильнейшего игрока в доту

Звучит тупо. Дота когдато стала интеллектуальной игрой ?

Ответить | Правка | ^ к родителю #35 | Наверх | Cообщить модератору

2. "Техника атаки на системы, использующие алгоритмы машинного о..."  –4 +/
Сообщение от Аноним (??) on 28-Авг-17, 00:48 
Возможно, дополнительные алгоритмы позволит нейросети находить правильное решение.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

3. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Аноним (??) on 28-Авг-17, 01:03 
От лаборатории касперского, само собой?
Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

11. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 04:07 
никакие алгоритмы не позволят!!!
Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

13. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от pavlinux (ok) on 28-Авг-17, 04:10 
> никакие алгоритмы не позволят!!!

Где прочитать твое доказательство нерешимости?

Ответить | Правка | ^ к родителю #11 | Наверх | Cообщить модератору

15. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 04:15 
> Где прочитать твое доказательство нерешимости?

Теорема Гёделя о неполноте.

пс: http://math.ru/lib/plm/57

Посмотрите в ютубе В. А. Успенского семинар по этой теме.


Ответить | Правка | ^ к родителю #13 | Наверх | Cообщить модератору

17. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от pavlinux (ok) on 28-Авг-17, 04:20 
>> Где прочитать твое доказательство нерешимости?
> Теорема Гёделя о неполноте.

Сами-то поняли?

"... если формальная арифметика непротиворечива, то в ней НЕвыводима некоторая формула,
содержательно утверждающая НЕпротиворечивость этой арифметики."

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

101. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 17:09 
>>Сами-то поняли?

хммм поняли что? суть теоремы ? - утвердительно - да, даже в самом глобоком (философском) смысле её.

Вы выдернули определение и я не понял, что вы имели ввиду (просто я не знаю на сколько вы "хорошо" (глубоко) разбирали данную теорему и мне трудно будет объяснить). Хочу отметить (не моё замечание - Успенского), что теорема Гёделя имеет много определений, грубо их делят на семантические и синтаксические, в приведённой ссылке разбор Успенского относится именно к синтаксическому варианту теоремы, отсюда и формулировка "если формальная арифметика" - зададимся вопросом почему именно "арифметика", да потому, что Гёдель решал вторую проблему Гильберта (о непротиворечивости аксиом арифметики), и доказал, а в следствие пришёл к выводу, что непротиворечивость всякой "формальной системы" - не доказуемо средствами "самой формальной ситемы". Отсюда и "то в ней НЕвыводима некоторая формула, содержательно утверждающая НЕпротиворечивость этой арифметики."

Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

42. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Crazy Alex (ok) on 28-Авг-17, 10:57 
От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно для коррекции тоже достаточно хорошо работающей эвристики хватит.

А вообще - примерно ту же проблему у людей решает научный метод познания. Хорошо решает, судя по тому, что напридумывали и сделали.

Ответить | Правка | ^ к родителю #11 | Наверх | Cообщить модератору

48. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:18 
С людьми тоже есть подобная проблема. Вот пустишь ты к себе произвольно взятого человека, а он возьмет да окажется каким-нибудь шахидом и отрежет тебе голову. Ты ж заранее не знаешь как и чем ему там мозг промыли с самого детства. С нейросетями поменьше проблемы попроще, но из того же класса - мало ли кто и чему обучал нейросеть на самом деле, как это узнать то?
Ответить | Правка | ^ к родителю #42 | Наверх | Cообщить модератору

53. "Техника атаки на системы, использующие алгоритмы машинного о..."  –2 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:36 
> С людьми тоже есть подобная проблема. Вот пустишь ты к себе произвольно
> взятого человека, а он возьмет да окажется каким-нибудь шахидом и отрежет
> тебе голову. Ты ж заранее не знаешь как и чем ему
> там мозг промыли с самого детства. С нейросетями поменьше проблемы попроще,
> но из того же класса - мало ли кто и чему
> обучал нейросеть на самом деле, как это узнать то?

По делам его, Вы и узнаете его. Так как мысли то материальны (только не сразу). И да, без головы уже не узнаешь :(

Ответить | Правка | ^ к родителю #48 | Наверх | Cообщить модератору

132. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 04:07 
> По делам его, Вы и узнаете его.

Тысячи дел могут сформировать определенные ожидания. Но твердых гарантий сохранности головы это все-таки не даст. С бэкдорами в нейросетях как-то так же.

Ответить | Правка | ^ к родителю #53 | Наверх | Cообщить модератору

68. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Crazy Alex (ok) on 28-Авг-17, 12:12 
Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет, и отличают достаточно хорошо, чтобы в итоге цивилизация жила и развивалась. А перфекционизм - в пень.
Ответить | Правка | ^ к родителю #48 | Наверх | Cообщить модератору

103. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 18:02 
> Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело,
> с кем - нет, и отличают достаточно хорошо

это и есть обратная связь (фидбек), как и человека так и машину можно ввести в заблуждение, но в тоже время исходя из теоремы Гёделя будут такие "истины" (истинные утверждения) которые нельзя не доказать и не опровергнуть. Если человек сталкивается с этим и не может разрешить, как машина (алгоритм) сможет это сделать?

Ответить | Правка | ^ к родителю #68 | Наверх | Cообщить модератору

125. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 00:37 
> Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело,
> с кем - нет, и отличают достаточно хорошо, чтобы в итоге
> цивилизация жила и развивалась. А перфекционизм - в пень.

Все так, но в результате иногда случаются предательства и облом ожиданий, а люди считаются самым ненадежным элементом любой системы. С ИИ может получиться нечто наподобие.

Ответить | Правка | ^ к родителю #68 | Наверх | Cообщить модератору

104. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 18:06 
> мало ли кто и чему обучал нейросеть на самом деле, как это узнать то?

человеку думаю не дано осознать само "осознание", куда там машине (нейросети). К примеру нейросеть может дать ответ на вопрос - "сколько ты знаешь (объём знаний)"? думаю нет, человек даже не способен на это ответить.

Ответить | Правка | ^ к родителю #48 | Наверх | Cообщить модератору

5. "Техника атаки на системы, использующие алгоритмы машинного о..."  +4 +/
Сообщение от Crazy Alex (ok) on 28-Авг-17, 01:37 
О, наконец-то что-то нетривиальное. Это вам не чипы в мобилки подпаивать.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

9. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от pavlinux (ok) on 28-Авг-17, 03:11 
> что-то нетривиальное.

500 раз сказать: "Переведи денег на счёт 53434623462346" - это внушение.

Ответить | Правка | ^ к родителю #5 | Наверх | Cообщить модератору

19. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 28-Авг-17, 06:01 
> О, наконец-то что-то нетривиальное. Это вам не чипы в мобилки подпаивать.

Кевин Митник известен очень успешными атаками на естественные нейросети. Еще до того как началось подпаивание чипов и искусственные нейросети.

Ответить | Правка | ^ к родителю #5 | Наверх | Cообщить модератору

34. "Техника атаки на системы, использующие алгоритмы машинного о..."  +3 +/
Сообщение от Crazy Alex (ok) on 28-Авг-17, 10:00 
Атаки на естественные нейросети уже тысячи лет известны. А тут - новое.
Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

45. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 11:06 
> Атаки на естественные нейросети уже тысячи лет известны. А тут - новое.

Новое? Возможно. Но ожидаемо исходя из принципа работы. Если можно легко одурачить многократно более крутую нейросеть - что ожидать от горстки нейронов?

Ответить | Правка | ^ к родителю #34 | Наверх | Cообщить модератору

69. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Crazy Alex (ok) on 28-Авг-17, 12:15 
Угу, ожидаемо - задним числом. А до этого многие о такой атаке задумывались?

А вообще - это хорошо, эксперименты с атаками, да ещё такие наглядные - признак того, что  нейросети наконец идут в мейнстрим.

Ответить | Правка | ^ к родителю #45 | Наверх | Cообщить модератору

127. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 29-Авг-17, 00:45 
> Угу, ожидаемо - задним числом. А до этого многие о такой атаке задумывались?

Посмотри на проблемы естественных нейросетей - сможешь экстраполировать многое из этого на искусственные.

> А вообще - это хорошо, эксперименты с атаками, да ещё такие наглядные
> - признак того, что  нейросети наконец идут в мейнстрим.

Конечно идут. Они позволяют естественно взаимодействовать с реальным миром и заниматься плохо формализуемыми задачами. Например, можно обставить задортов в доту. Одно из самых безобидных применений, пожалуй.

Ответить | Правка | ^ к родителю #69 | Наверх | Cообщить модератору

118. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 23:43 
Новое - это хорошо забытое старое.
Ответить | Правка | ^ к родителю #34 | Наверх | Cообщить модератору

6. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Аноним (??) on 28-Авг-17, 02:07 
Если сэмулировать поведение нейронов - сэмулируются и их проблемы. Подождите, то ли еще будет когда искусственный интеллект научится прикалываться.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

10. "Техника атаки на системы, использующие алгоритмы машинного о..."  +5 +/
Сообщение от pavlinux (ok) on 28-Авг-17, 04:06 
> Если сэмулировать поведение нейронов - сэмулируются и их проблемы.

Если поджечь муравейник, то там зародится религия и поклонение Богу Огня?

Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

7. "Техника атаки на системы, использующие алгоритмы машинного о..."  –3 +/
Сообщение от Ordu email(ok) on 28-Авг-17, 02:24 
Ха-ха. Я долго думал как объяснить всем этим последователями Пути Глубокого Научения, что они ничего не понимают в ИИ. Но о таком способе объяснения не подумал. Гениально. Просто гениально.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

8. "Техника атаки на системы, использующие алгоритмы машинного о..."  –8 +/
Сообщение от Аноним (??) on 28-Авг-17, 02:59 
> они ничего не понимают в ИИ

То есть бог неправильно сделал, что в голове у нас нейронные сети?

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

12. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 04:10 
> То есть бог неправильно сделал, что в голове у нас нейронные сети?

а с чего вы взяли что там сети ? и что есть сеть?

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

14. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от pavlinux (ok) on 28-Авг-17, 04:13 
>> То есть бог неправильно сделал, что в голове у нас нейронные сети?
> а с чего вы взяли что там сети? и что есть сеть?

А с чего вы взяли, что их там нет, если не знаете: "что есть сеть"?

Ответить | Правка | ^ к родителю #12 | Наверх | Cообщить модератору

106. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 18:12 
> А с чего вы взяли, что их там нет, если не знаете:
> "что есть сеть"?

я не доказал, вы не опровергли ;Р

Ответить | Правка | ^ к родителю #14 | Наверх | Cообщить модератору

21. "Техника атаки на системы, использующие алгоритмы машинного о..."  +6 +/
Сообщение от Аноним (??) on 28-Авг-17, 06:12 
> а с чего вы взяли что там сети ?

Ну как там живется в 19 веке, где про нейробиологию еще и слыхать не слыхивали?

Ответить | Правка | ^ к родителю #12 | Наверх | Cообщить модератору
Часть нити удалена модератором

94. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от _ (??) on 28-Авг-17, 16:12 
Индейцы. Коих твои высорелигиозные почти под корень вывели. Именем божьим BTW.
Ответить | Правка | ^ к родителю #157 | Наверх | Cообщить модератору

83. "Техника атаки на системы, использующие алгоритмы машинного о..."  +6 +/
Сообщение от Аноним (??) on 28-Авг-17, 14:43 
> любопытно, что именно коммунисты заявляли, что "бог научно опровержен".)

В сухом остатке что? Научные подход работает, предсказывает явления и эффекты. Если теория не работает - признается негодной, ищется иное объяснение. Эти подходы продвинули человечество вперед. А рассуждения про богов остались рассуждениями, к тому же меняясь между нациями, эпохами, строями и проч. Впрочем, само по себе существование богов ничему не противоречит.

> пришедшие к успеху, веровали в бога и существуют по сей день тысячелетия (т. е. "это работает").

Неплохой подгон под ответ но легко опровергается. За те же годы множество государств исчезли или пришли в упадок, хотя их граждане верили в богов. Т.е. "это работает" - не доказано.

> Атеистический СССР не просуществовал и века,

До того как появился СССР - развалилась царская Россия. И царя расстреляли. Как же так? К тому же христианство не было изначальной религией, его насадил князь Владимир. До того было язычество. А у СССР система управления с наследием царской России (читаем "Ревизор" Гоголя). Сильно менять не стали, но в постиндустриале это оказалось как плантационный негр против фермера с комбайном. Только на этот раз для инженеров и прочих профессий.

> а высокорелигиозные Штаты летают на Марс.

У них Обама в курсе что есть сингулярность. Маск, гугл, ibm и проч - основали альянс, цель которого - ответственное развитие AI. Кажется они уже догадались что бог и дьявол - соседи.

Ответить | Правка | ^ к родителю #127 | Наверх | Cообщить модератору

96. "Техника атаки на системы, использующие алгоритмы машинного о..."  –3 +/
Сообщение от _ (??) on 28-Авг-17, 16:26 
>Маск, гугл, ibm и проч - основали альянс, цель которого - ответственное развитие AI.

Му-ха-ха! :-)))))
А альянсы копирастов - для ответственного развития музыки, фильмов, программ, рисунков и да и вообще - всей "IP"?
AI - сулит столько бабла тому у кого оно есть ... что там Маркс писал про 300% прибыли? :)
>Кажется они уже догадались что бог и дьявол - соседи.

Да тоже мне новость! Они уж сколько лет обоих доить пытаются, одновременно :)

Ответить | Правка | ^ к родителю #83 | Наверх | Cообщить модератору

128. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 01:52 
> А альянсы копирастов - для ответственного развития музыки, фильмов, программ, рисунков
> и да и вообще - всей "IP"?

В данном случае это альянс ученых и инженеров. Которые догадываются с чем имеют дело, какие возможности это открывает и какие возможны варианты развития событий.

> AI - сулит столько бабла тому у кого оно есть ... что
> там Маркс писал про 300% прибыли? :)

300% прибыли - здорово, конечно. Но зачем они тебе если на тебя смотрит разрушитель миров?

> Да тоже мне новость! Они уж сколько лет обоих доить пытаются, одновременно :)

Я думаю что Маск и ко всего лишь не хотят случайно запустить "судный день".

Ответить | Правка | ^ к родителю #96 | Наверх | Cообщить модератору

120. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 23:53 
Дружище, он же троллит. Зачем бисер метать?
Ответить | Правка | ^ к родителю #83 | Наверх | Cообщить модератору

76. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 28-Авг-17, 13:52 
> Вообще-то вопрос должен звучать ровно наоборот.

Не должен. Эмпирически доказать можно только существование чего-либо, а несуществование ­— невозможно. Для умных про это писал Карл Поппер, а для тех, кто поглупее, придумали множество наглядных примеров (чайник Рассела, FSM, IPU и т. д.).

Ответить | Правка | ^ к родителю #21 | Наверх | Cообщить модератору

92. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 15:50 
> Эмпирически доказать можно только существование чего-либо, а несуществование ­— невозможно

Ты забываешь о принципе "То, что принято без доказательств, может быть отвергнуто без доказательств". И принятие без доказательств утверждения "бога нет" -- не исключение. А еще из твоей цитаты следует, что говорить "бог есть" -- можно, просто это нужно доказать. А говорить "бога нет" уже нельзя, т. к. недоказуемо в принципе.

Ответить | Правка | ^ к родителю #76 | Наверх | Cообщить модератору

108. "Техника атаки на системы, использующие алгоритмы машинного о..."  –4 +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 18:21 
> Ты забываешь о принципе "То, что принято без доказательств, может быть отвергнуто
> без доказательств". И принятие без доказательств утверждения "бога нет" -- не
> исключение. А еще из твоей цитаты следует, что говорить "бог есть"
> -- можно, просто это нужно доказать. А говорить "бога нет" уже
> нельзя, т. к. недоказуемо в принципе.

"Бог - есть" - истинное утверждение, истинность которого мы не докажем и не опровергнем, в этом и смысл теоремы Гёделя (выше я отписал по этому поводу).

Сама мысль (идея, речевая конструкция, сочетание букв, называйте как хотите) "Бог - есть" - уже имеет место быть (имеет место быть - существует)

Ответить | Правка | ^ к родителю #92 | Наверх | Cообщить модератору

110. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 18:35 
поправочка:

речевая конструкция - языковая конструкция


Ответить | Правка | ^ к родителю #108 | Наверх | Cообщить модератору

112. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 20:53 
> "Бог - есть" - истинное утверждение, истинность которого мы не докажем и
> не опровергнем, в этом и смысл теоремы Гёделя (выше я отписал
> по этому поводу).

Это теорема из области математики, и не надо приписывать ей какие-то другие смыслы.

Ответить | Правка | ^ к родителю #108 | Наверх | Cообщить модератору

117. "Техника атаки на системы, использующие алгоритмы машинного о..."  –2 +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 23:32 
))))) а как по вашему называется та точная наука, которая способна объяснить всё то, что окружает вас (и вас в том числе)?
Ответить | Правка | ^ к родителю #112 | Наверх | Cообщить модератору

111. "Техника атаки на системы, использующие алгоритмы машинного о..."  +5 +/
Сообщение от Аноним (??) on 28-Авг-17, 20:49 
> Ты забываешь о принципе "То, что принято без доказательств, может быть отвергнуто без доказательств". И принятие без доказательств утверждения "бога нет" -- не исключение.

Первый раз слышу о таком принципе. Если он распространяется на утверждение "бога нет", то должен распространяться и на утверждение "бог есть" — разве не так? В таком случае он абсолютно ничего не даёт. Надо искать доказательства.

> А еще из твоей цитаты следует, что говорить "бог есть" -- можно, просто это нужно доказать. А говорить "бога нет" уже нельзя, т. к. недоказуемо в принципе.

Ну докажи, давай, мы посмотрим. А что не надо бросаться утверждениями о существовании чего ни попадя, придумал, кстати, один францисканский монах.

Ответить | Правка | ^ к родителю #92 | Наверх | Cообщить модератору

113. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 21:05 
> Первый раз слышу о таком принципе

Неудивительно: его же нет в школьной программе.

> должен распространяться и на утверждение "бог есть" — разве не так?

Абсолютно верно.

> > А еще из твоей цитаты следует, что говорить "бог есть" -- можно, просто это нужно доказать.
> Ну докажи, давай, мы посмотрим.

Так ведь это невозможно. Я исхожу из той предпосылки, что особенностью человека является то, что он может успешно применять определенные инструменты без того, чтобы детально разбираться в их механизмах, как и то, что он может успешно пользоваться определенной информацией без того, чтобы иметь доказательства ее некой "истинности". Если поставить наличие доказательств обязательным условием для пользования информацией, то прогресс резко остановится. Например, мамка тебе говорит, что прыгать из окна не нужно, а то будет плохо. У тебя еще нет представлений о гравитации и о способностях твоего организма выдерживать массивные удары, а учитывание этой информации до всяких доказательств уже приносит тебе пользу в виде физической целостности твоего тела. Так же и с информацией о боге. Единственный доступный нам критерий, который можно применить к концепции бога -- это критерий ее практической полезности для человека и человечества. А это уже критерий, прямо зависящий от опыта, у разных людей он бывает разный, отсюда и разногласия по религиозным вопросам. "То, во что для нас лучше верить -- истинно".

Ответить | Правка | ^ к родителю #111 | Наверх | Cообщить модератору

155. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 20:04 
> Единственный доступный нам критерий, который можно применить к концепции бога -- это критерий ее практической полезности для человека и человечества.

Если что-то проявляется хоть каким-то образом, то это можно использовать как доказательство существования этого чего-то (как с тёмной материей — непосредственно её зарегистрировать пока не удалось, но порождаемая ей гравитация заметна). Если же ты говоришь, что существование бога доказать невозможно, значит он себя никак не проявляет.

Ответить | Правка | ^ к родителю #113 | Наверх | Cообщить модератору

121. "Техника атаки на системы, использующие алгоритмы машинного о..."  –2 +/
Сообщение от Аноним (??) on 28-Авг-17, 23:56 
Лучше докажи, что ты не дурак?
Ответить | Правка | ^ к родителю #111 | Наверх | Cообщить модератору

107. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Sw00p aka Jerom on 28-Авг-17, 18:18 
>> Вообще-то вопрос должен звучать ровно наоборот.
> Не должен. Эмпирически доказать можно только существование чего-либо, а несуществование
> ­— невозможно. Для умных про это писал Карл Поппер, а для
> тех, кто поглупее, придумали множество наглядных примеров (чайник Рассела, FSM, IPU
> и т. д.).

про чайник Рассела, он ничего о существовании там не говорил, он говорил о вере как об убеждении. Я пришёл к выводу, что "убеждение - это великое заблуждение".


Ответить | Правка | ^ к родителю #76 | Наверх | Cообщить модератору

29. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от EHLO on 28-Авг-17, 09:28 
>> они ничего не понимают в ИИ
> То есть бог неправильно сделал, что в голове у нас нейронные сети?

Как смог так и сделал. По своему образу и подобию.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

33. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Очередной аноним on 28-Авг-17, 09:38 
> То есть бог неправильно сделал, что в голове у нас нейронные сети?

То есть бог правильно сделал, что пустил всем млекопитающим возвратный гортанный нерв через жоп..., ой, от мозга к сердцу, потом огибание дуги аорты и возвращение к гортани? Особенно забавно у жирафа - от мозга до гортани несколько сантиметров, а длина этого возвратного нерва достигает 4 метров.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

47. "Техника атаки на системы, использующие алгоритмы машинного о..."  –5 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:17 
> забавно у жирафа

Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусственно создать не удалось. Так что критика на уровне Попов vs. Линус × ∞.

Ответить | Правка | ^ к родителю #33 | Наверх | Cообщить модератору

55. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:41 
> Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусственно
> создать не удалось. Так что критика на уровне Попов vs. Линус × ∞.

Мечтаешь посмотреть что могут органические и полуорганические технологии? Смотри, в штанишки не наделай когда это все-таки сделают. Потому что сделают же.

Ответить | Правка | ^ к родителю #47 | Наверх | Cообщить модератору

93. "Техника атаки на системы, использующие алгоритмы машинного о..."  –4 +/
Сообщение от Аноним (??) on 28-Авг-17, 15:59 
Сделают, ибо воистину :) Тверда твоя вера в тюхнологии, сын мой. Похвально, похвально.
Ответить | Правка | ^ к родителю #55 | Наверх | Cообщить модератору

129. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 01:59 
> Сделают, ибо воистину :) Тверда твоя вера в тюхнологии, сын мой. Похвально, похвально.

Если я вижу пути реализации идей - я в затею верю. Потому что технически реализуемо и значит с высокой вероятностью будет однажды реализовано. Мне кажется, тебе сильно повезет если ты не доживешь до этого момента. В противном случае я могу представить себе твои эмоции.

Ответить | Правка | ^ к родителю #93 | Наверх | Cообщить модератору

59. "Техника атаки на системы, использующие алгоритмы машинного о..."  +4 +/
Сообщение от Очередной аноним on 28-Авг-17, 11:50 
> Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусственно
> создать не удалось. Так что критика на уровне Попов vs. Линус
> × ∞.

Мда, соображалки не хватило понять, что вопрос состоял в оптимальности и целесообразности сотворенного (богом? не верю), а не в том, что что-то где-то с грехом пополам как-то "хотя бы работает и функционирует". Пример с возвратным нервом (а так же с другой неоптимальной эволюционной фигней) показывает, бога нет (или он не идеален, если мы по его образу и подобию созданы), а мозг, очень вероятно, еще (или уже) далек от совершенства, как и этот возвратный гортанный нерв, как слепое пятно на глазной сетчатке позвоночных, как совмещение желудочно-кишечного тракта с дыхательными путями, из-за чего куча народу подавилась насмерть.

Ответить | Правка | ^ к родителю #47 | Наверх | Cообщить модератору

64. "Техника атаки на системы, использующие алгоритмы машинного о..."  –3 +/
Сообщение от Аноним (??) on 28-Авг-17, 12:03 
> вопрос состоял в оптимальности и целесообразности сотворенного

Ну не знаю. В Штатах вон посчитали нужным исправить божью ошибку: сразу удалять аппендиксы у всех детей, т. к. "нецелесообразно". А потом детишки стали умирать. Вывод: если ты не видишь в чем-то целесообразность, это не значит, что ее нет.

> показывает, бога нет

Ага, "научно доказали, что бога нет". Слова "бог" в науке нет, поэтому никакие аргументы из науки не способны его доказать/опровергнуть.

Ответить | Правка | ^ к родителю #59 | Наверх | Cообщить модератору

73. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Очередной аноним on 28-Авг-17, 13:39 
> Ну не знаю. В Штатах вон посчитали нужным исправить божью ошибку: сразу
> удалять аппендиксы у всех детей, т. к. "нецелесообразно". А потом детишки
> стали умирать. Вывод: если ты не видишь в чем-то целесообразность, это
> не значит, что ее нет.

Продолжаете мракобесить. "А потом детишки стали умирать"... Посчитали бы, сколько умерло народу от аппендицита, за всю историю человечества. У меня более одного знакомого с вырезанным аппендиксом и ничего, не мертвы из-за этого. У некоторых вырезали в детстве. А возвращаясь к тому многострадальному нерву - аневризма аорты может приводить к параличу правой голосовой связки. Только из-за того что рядом проходит тот "заблудившийся" нерв. А совмещение желудочно-кишечного тракта с дыхательным путем как прокомментируете? Ну, то, что мы унаследовали от некоторых кистеперых рыб, которые воздух для дыхания заглатывали? За века просто тьма народу умерло подавившись. Кстати, нерв - тоже от рыб - у них не было шеи и он проходил по кратчайшему пути, но ЗА сердечной аортой (сердце было близко к голове). По мере эволюции, появления новых видов и выхода на сушу, голова стала отдаляться от тела, а нерв уже так просто не переделаешь, не перепроектируешь, он просто удлинялся. И имеем то, что имеем.

Не надо специально смешивать то, в чем человек еще не окончательно разобрался (например, что аппендикс полезен хотя бы из-за обитающих там бактерий, если не ошибаюсь), и где явные неоптимальности эволюции, просто не настолько критичные, чтобы от этих ошибок начал вымирать вид.

Ответить | Правка | ^ к родителю #64 | Наверх | Cообщить модератору

77. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 13:58 
Хорошо, объясню несколько доступнее.

Человек не может знать всего, поэтому нельзя быть категоричным в еще скудно изученной предметной области. Ты видишь, что вот такие-то детали в анатомии человека приводят к вот таким-то проблемам. И вследствие этого считаешь, что бог ошибся, и что анатомия несовершенна. При этом ты упускаешь из виду факт своего незнания: что будет, если анатомию изменить так, чтобы "исправить эти ошибки"? Не случится ли так, что конкретно указанные тобой проблемы будут решены, но при этом возникнут куда более критичные проблемы в других аспектах функционирования организма? Не являются ли указанные тобой особенности самыми оптимальнымы по количеству порождаемых проблем? Этого ты знать не можешь. Опытов-то ты не проводил по "исправлению проблем", и результатов вследствие этого не имеешь.

> Вырезать аппендикс без причины перестали после того, как
> отследили судьбу детей, подвергшихся операции. Оказалось,
> что в младенчестве у них возникали проблемы с усвоением
> материнского молока, а затем они начинали отставать в
> развитии, хуже набирали вес, чаще болели и испытывали
> проблемы с пищеварением.

http://www.aif.ru/health/life/46625

Ответить | Правка | ^ к родителю #73 | Наверх | Cообщить модератору

80. "Техника атаки на системы, использующие алгоритмы машинного о..."  +4 +/
Сообщение от Аноним (??) on 28-Авг-17, 14:10 
> нельзя быть категоричным в еще скудно
> изученной предметной области.

Область существования бога, видимо, хорошо изучена, раз ты в этом вопросе так категоричен? Пока что всему, что раньше объясняли божественным вмешательством, находятся куда более правдоподобные объяснения.

Ответить | Правка | ^ к родителю #77 | Наверх | Cообщить модератору

90. "Техника атаки на системы, использующие алгоритмы машинного о..."  –3 +/
Сообщение от Аноним (??) on 28-Авг-17, 15:44 
> раз ты в этом вопросе так категоричен?

А где я категоричен? Цитатку пожалуйста.

> что раньше объясняли божественным вмешательством, находятся куда более правдоподобные объяснения

Наука описывает средства. А не источник и цели.

Ответить | Правка | ^ к родителю #80 | Наверх | Cообщить модератору

82. "Техника атаки на системы, использующие алгоритмы машинного о..."  +4 +/
Сообщение от Очередной аноним on 28-Авг-17, 14:29 
> — http://www.aif.ru/health/life/46625

Аргументы и факты, понятно. Про аппендикс я тебе уже выше написал, что он еще не окончательно стал ненужным (раньше он был пол-метра длиной, но постепенно усыхал по мере изменения человеческого рациона питания).

А теперь другой вопрос. Ты так ничего не рассказал про те проблемы, которые я тебе описал, с аневризмой аорты, с тем, что люди давятся во время приема пищи. Ну а теперь такой вопрос насчет человеческого совершенства. Витамин C. Ты ведь знаешь что без него человеку нехорошо будет? Цинга, слышал такое? Т.е. он (витамин) жизненно необходим человеку. Так вот, организм человека настолько "совершенен", что только получает его готовым с пищей, сам организм из других ингридиентов его синтезировать не может. А собака может, она не болеет цингой. И большинство животных может синтезировать. Кроме приматов и морских свинок. Значит, как я понимаю, бог тоже может заболеть цингой, если райских яблочек в своем райском саду во-время не пожует. Мы же по его образу и подобию, некоторые даже из-за этого бороды не бреют.

Можно было бы тебя еще поспрашивать про незаменимые несинтезируемые в человеческом организме аминокислоты, жирные кислоты и т.п. (и все это при наличии исходных "материалов"), но, чувствую, не в коня корм, тут уже и пушкой не прошибешь.

Ты не отвечаешь на конкретные прямые вопросы о других ЯВНЫХ несообразностях (которые не объяснишь "мы просто еще не знаем"), прицепившись к аппендиксу. Потому утомил и с тобой не о чем разговаривать. До свидания.


Ответить | Правка | ^ к родителю #77 | Наверх | Cообщить модератору

88. "Техника атаки на системы, использующие алгоритмы машинного о..."  –5 +/
Сообщение от Аноним (??) on 28-Авг-17, 15:42 
> Аргументы и факты, понятно

С твоей стороны же вообще никаких ссылок не было. Уверен, источником твоих рассуждений об ошибшемся боге является паблик "Атеист", раз нет ссылок даже на СМИ.

> Ты так ничего не рассказал про те проблемы, которые я тебе описал, с аневризмой аорты, с тем, что люди давятся во время приема пищи

Как ничего не рассказал? Рассказал вот что: те проблемы, которые ты описываешь (включая аневризму аорты и то, что люди давятся во время приема пищи) могут быть менее критичными, чем те, что последуют, если "исправить" человеческий организм.

> И большинство животных может синтезировать

Так, и что из этого следует? Может еще скажешь, что человеческий организм фуфло, потому что не способен воспринимать ультразвук как летучие мыши? Так из таких рассуждений можно библиотеку создать. Человеческий организм фуфло, потому что не может производить фотосинтез как растения, фуфло, потому что не может бежать так же быстро, как гепард, фуфло, потому что...

> Ты не отвечаешь на конкретные прямые вопросы

Не-не, я все это время требую, чтобы ты доказал (научным путем), что если модифицировать организм, то проблем станет меньше. Не то, что твои конкретные проблемы будут исправлены, а то, что не появятся куда более критические проблемы. Но ты извиваешься как уж на сковородке.

> До свидания

Пока. Счастливо доказать несуществование бога :)

Ответить | Правка | ^ к родителю #82 | Наверх | Cообщить модератору

97. "Техника атаки на системы, использующие алгоритмы машинного о..."  –3 +/
Сообщение от Онанимус on 28-Авг-17, 16:46 
> Мы же по его образу и подобию, некоторые
> даже из-за этого бороды не бреют.

Не хотелось бы тыкать Вас в цитату о советах космического масштаба и космической же глупости, но прежде чем лезть с анатомическим подходом к Богу, изучите матчасть, а именно Ветхий Завет. Тогда узнаете, что такое грехопадение и к чему оно привело (в том числе анатомически).

Ответить | Правка | ^ к родителю #82 | Наверх | Cообщить модератору

150. "Техника атаки на системы, использующие алгоритмы машинного о..."  +3 +/
Сообщение от Очередной аноним on 29-Авг-17, 11:32 
> изучите матчасть, а именно Ветхий Завет.

Ога, сами изучайте естествознание по русским народным сказкам в издании Афанасьева. Вот уж действительно, про космическую глупость Вы очень в тему вспомнили. Афанасьевские сказки, кстати, интереснее будут, особенно заветные.
Нашли, блин, источник Знаний. Отделяйте знание от веры.

> Тогда узнаете, что такое грехопадение и к чему оно привело (в том числе анатомически).

"грехопадения" не было и, соответственно, ни к чему не привело.

Анатомические несуразности не объяснишь грехопадением человека. По факту, за грехопадение Адама почему-то анатомическим несовершенством наказаны, к примеру, все позвоночные - слепое пятно в сетчатке глаза. Из-за этого "вывернутого" строения сетчатки глаза (прозрачные нервы без миелиновой оболочки находятся ПЕРЕД фоторецепторами) она имеет "повышенную" способность отслаиваться (потеря зрения). А вот у кальмаров глаз "спроектирован" правильно, нервы, уходящие от сетчатки в мозг, находятся, как и положено, ЗА сетчаткой. Адам сожрал яблоко, а анатомически наказаны даже хомячки и пушистые зайчики. Зато все головоногие в шоколаде. Чем они так понравились господу в противовес мишкам-пандам? Это указано в том потрепанном завете? Панды после Адама захомячили яблочный огрызок?

Ответить | Правка | ^ к родителю #97 | Наверх | Cообщить модератору

60. "Техника атаки на системы, использующие алгоритмы машинного о..."  –3 +/
Сообщение от funny.falcon on 28-Авг-17, 11:53 
Если бы Бог так не сделал, ты бы не уверовал в эволюцию.

Зачем Богу нужно было, чтобы ты верил в эволюцию? Не знаю :-( Пути Господни ге исповедимы :-P

Ответить | Правка | ^ к родителю #33 | Наверх | Cообщить модератору

81. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от uname a on 28-Авг-17, 14:12 
сопсно, а зойчем верить в эволюцию?
Ответить | Правка | ^ к родителю #60 | Наверх | Cообщить модератору

85. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 15:03 
Неудачная попытка экстраполяции. Бог ведь нуждается в том, чтобы в него верили.
Ответить | Правка | ^ к родителю #81 | Наверх | Cообщить модератору

122. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 29-Авг-17, 00:00 
> Неудачная попытка экстраполяции. Бог ведь нуждается в том, чтобы в него верили.

Скорее неудачная попытка троллинга на техническом ресурсе.

Ответить | Правка | ^ к родителю #85 | Наверх | Cообщить модератору

71. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Ordu email(ok) on 28-Авг-17, 12:44 
> То есть бог неправильно сделал, что в голове у нас нейронные сети?

Естественно. Он так же как и эти последователи Пути Глубокого Научения не понимал что делает и явно не мог предсказать результат. Сейчас это принято списывать на "неисповедимы пути господни", но на мой взгляд это отговорка. Когда роботы вытеснят человеков из их биологической ниши, они тоже будут рассуждать о том, что неисповедимы пути человека, создавшего роботов.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

24. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 06:38 
> Ха-ха. Я долго думал как объяснить всем этим последователями Пути Глубокого Научения,
> что они ничего не понимают в ИИ.

Прелесть ИИ в том что понимания и не требуется. В природе нейросети вообще самозапустились.

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

28. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от тоже Аноним email(ok) on 28-Авг-17, 09:09 
> Прелесть ИИ в том что понимания и не требуется

Дайте угадаю - это текст рекламного плаката на том доме, у которого высадился первый Терминатор?

Ответить | Правка | ^ к родителю #24 | Наверх | Cообщить модератору

32. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 09:37 
> Дайте угадаю - это текст рекламного плаката на том доме, у которого
> высадился первый Терминатор?

Это знания из реального мира вокруг нас. Посмотри на мир вокруг себя. На живых существ. Люди не придумывали нейросети, их придумала природа и они там самозапустились, да еще нехреново эволюционировали. Чем искуственные нейросети принципиально хуже?

Ответить | Правка | ^ к родителю #28 | Наверх | Cообщить модератору

72. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Анонимс on 28-Авг-17, 12:54 
искусственные целиком не вписываются в гармонию мироустройства, их цели в общем пространстве не определены, впрочем как и любой другой антропотехноген.

Ответить | Правка | ^ к родителю #32 | Наверх | Cообщить модератору

84. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 14:48 
> искусственные целиком не вписываются в гармонию мироустройства,

Кто и как это определил?

> их цели в общем пространстве не определены, впрочем как и любой другой антропотехноген.

Вы в вашем праве вернуться обратно на пальмы или в какие там еще хижины и шалаши. А то что остальные этого делать не будут - тем хуже для вас.

Ответить | Правка | ^ к родителю #72 | Наверх | Cообщить модератору

89. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Анонимс on 28-Авг-17, 15:44 
с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично, в лимбе хорошо работается.

Ответить | Правка | ^ к родителю #84 | Наверх | Cообщить модератору

130. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 02:09 
> с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично,
> в лимбе хорошо работается.

Странно, местные админы упоминали только про вайфай в аду. Уверены что вас черти не обманули?

Ответить | Правка | ^ к родителю #89 | Наверх | Cообщить модератору

168. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Анонимс on 03-Сен-17, 15:04 
попробуйте формализировать состояние вещества в n-мерном пространстве и передачу информации на квантовых уровнях
Ответить | Правка | ^ к родителю #130 | Наверх | Cообщить модератору

43. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 10:57 
> Прелесть ИИ в том что понимания и не требуется.

Из сабжа как раз понятно, для чего требуется понимание.

Ответить | Правка | ^ к родителю #24 | Наверх | Cообщить модератору

57. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 11:46 
> Из сабжа как раз понятно, для чего требуется понимание.

Сомневаюсь что коэффициенты натренированной нейросети можно полноценно восстановить в исходный обучающий материал. Это априори процесс с потерями, т.е. появляется неоднозначность.

Ответить | Правка | ^ к родителю #43 | Наверх | Cообщить модератору

44. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Ordu email(ok) on 28-Авг-17, 11:03 
>> Ха-ха. Я долго думал как объяснить всем этим последователями Пути Глубокого Научения,
>> что они ничего не понимают в ИИ.
> Прелесть ИИ в том что понимания и не требуется. В природе нейросети
> вообще самозапустились.

Процессору тоже понимание не требуется. Вон миллиарды хомячков вполне в состоянии включить компьютер или смартфон, и ничего.

Ответить | Правка | ^ к родителю #24 | Наверх | Cообщить модератору

50. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 11:29 
> Процессору тоже понимание не требуется. Вон миллиарды хомячков вполне в состоянии включить компьютер или смартфон, и ничего.

1) А что, обязательно надо понимать, чтоб пользоваться? Ты же не понимаешь, как во всех деталях происходит пищеварение. Но уже 14-ый год подряд спокойно пользуешься этими механизмами.

2) Для разработки процессора понимание требуется. Для разработки модели, построенной на искуственных нейросетях, точного понимания того, где какие весы в связях между конкретными нейронами, не требуется.

Ответить | Правка | ^ к родителю #44 | Наверх | Cообщить модератору

70. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Ordu email(ok) on 28-Авг-17, 12:36 
>> Процессору тоже понимание не требуется. Вон миллиарды хомячков вполне в состоянии включить компьютер или смартфон, и ничего.
> 1) А что, обязательно надо понимать, чтоб пользоваться?

Не обязательно, я же сказал выше об этом. Зачем ты переспрашиваешь?

> 2) Для разработки процессора понимание требуется. Для разработки модели, построенной на
> искуственных нейросетях, точного понимания того, где какие весы в связях между
> конкретными нейронами, не требуется.

Да, и это хорошо. Хомячки не понимают работу процессора, но он хотя бы разрабатывается теми, кто понимает. И это позволяет иметь разработчикам софта иметь столь глубокое понимание процессора, какое им требуется. Некоторым, по крайней мере.

ИИ -- это не первый случай, когда люди делают что-то, не понимая того, что они делают. И как показывает история, до тех пор, пока понимание не придёт, эти разработчики будут тыкаться как слепые котята. В этом нет ничего необычного. Классический пример -- это создание самолётов. Тыкались ведь как слепые котята, пока братья Райт не создали аэродинамику. Но больше всего меня вымораживает то, что эти слепые котята не могут осознать своей слепоты. То есть ладно котята, они тупые, им положено. Но последователи Пути Глубокого Научения? Иногда даже складывается ощущение, что им так хочется создать ИИ чтобы компенсировать нехватку естественного.

Ответить | Правка | ^ к родителю #50 | Наверх | Cообщить модератору

98. "Техника атаки на системы, использующие алгоритмы машинного о..."  +3 +/
Сообщение от _ (??) on 28-Авг-17, 16:47 
>пока братья Райт не создали аэродинамику

Это - в бронзу!
Давай больше перлофф, народу надо ржать по понедельникам, а то тяжко :)

Ответить | Правка | ^ к родителю #70 | Наверх | Cообщить модератору

100. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Ordu email(ok) on 28-Авг-17, 17:02 
>>пока братья Райт не создали аэродинамику
> Это - в бронзу!
> Давай больше перлофф, народу надо ржать по понедельникам, а то тяжко :)

Объяснишь юмор?

Ответить | Правка | ^ к родителю #98 | Наверх | Cообщить модератору

138. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от ЫЫ on 29-Авг-17, 09:34 
http://taviak.ru/distance/Materials/162105/uchebnyye%20...

"
Основоположниками аэродинамики считают членов Российской Академии наук Леонарда Эйлера (1707 ...1783 гг) и Даниила Бернулли (1700... 1782гг).
"

А Райт... ну.. если не знать ничего по предмету кроме братьев Райт - то они может не только  аэродинамику создали... а и квашеную тематику пивных дрожжей...

Ответить | Правка | ^ к родителю #100 | Наверх | Cообщить модератору

142. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Ordu email(ok) on 29-Авг-17, 10:50 
> http://taviak.ru/distance/Materials/162105/uchebnyye%20...
> "
> Основоположниками аэродинамики считают членов Российской Академии наук Леонарда Эйлера
> (1707 ...1783 гг) и Даниила Бернулли (1700... 1782гг).
> "

Ой, ну давайте перефразируем, если вам так важен русский приоритет. "Братья Райт первыми нашли способ использовать аэродинамику для исследования самолёта". Ну или что-нибудь в этом роде. Только с этими перефразированиями есть две проблемы: во-первых очень долго и муторно сочинять тексты, которые излагают мысли с математической точностью, во-вторых, читатель заснёт на второй странице.

Есть и ещё одна проблема. Тот кто не хочет понять, о чём идёт речь, тот кто просто хочет спорить, всё равно не поймёт и будет спорить. Так какой смысл во всех этих формулировках?

> А Райт... ну.. если не знать ничего по предмету кроме братьев Райт
> - то они может не только  аэродинамику создали... а и
> квашеную тематику пивных дрожжей...

Они варили пиво?

Ответить | Правка | ^ к родителю #138 | Наверх | Cообщить модератору

144. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от ЫЫ on 29-Авг-17, 10:55 
"Братья Райт первыми нашли способ использовать аэродинамику для исследования самолёта"

И опять бронза :)

"
Первые в мире аэродинамические трубы были построены 1871 году членом Совета Королевского авиационного общества Великобритании Фрэнсисом Гербертом Уэнхемом (Francis Herbert Wenham) и русским военным инженером В. А. Пашкевичем[2][3]. Уэнхем использовал свою аэродинамическую трубу для исследований несущих свойств крыла[4], тогда как труба Пашкевича предназначалась для определения аэродинамических характеристик артиллерийских снарядов[3].

В 1897 году К. Э. Циолковский построил прототип аэродинамической трубы собственной конструкции, использовав поток воздуха на выходе из центробежного вентилятора, и впервые в России применил этот агрегат для изучения эффектов, проявляющихся при обтекании твёрдых тел (самолётов, автомобилей, ракет) воздушным потоком.

Под руководством Н. Е. Жуковского при механическом кабинете Московского университета в 1902 году была сооружена аэродинамическая труба, в которой осевым вентилятором создавался воздушный поток со скоростью до 9 м/с.
"

И все это задолго до братьев Райт...

Ответить | Правка | ^ к родителю #142 | Наверх | Cообщить модератору

145. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Ordu email(ok) on 29-Авг-17, 10:57 
> И все это задолго до братьев Райт...

Окей. Я согласен. Давайте теперь вернёмся ближе к теме. Из этого мы делаем вывод, что аэродинамика не нужна для создания самолёта? Или что успех братьев Райт базируется не на использовании аэродинамики? Или какой мы вывод из этого делаем?

Ответить | Правка | ^ к родителю #144 | Наверх | Cообщить модератору

147. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от ЫЫ on 29-Авг-17, 10:59 
>> И все это задолго до братьев Райт...
> Окей. Я согласен. Давайте теперь вернёмся ближе к теме. Из этого мы
> делаем вывод, что аэродинамика не нужна для создания самолёта? Или что
> успех братьев Райт базируется не на использовании аэродинамики? Или какой мы
> вывод из этого делаем?

Вывод такой: Надо лучше учить матчасть.

Ответить | Правка | ^ к родителю #145 | Наверх | Cообщить модератору

148. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Ordu email(ok) on 29-Авг-17, 11:07 
> Вывод такой: Надо лучше учить матчасть.

То есть по сути разгвора тебе сказать совершенно нечего? Я так и думал. Ну иди учи матчасть тогда.

Ответить | Правка | ^ к родителю #147 | Наверх | Cообщить модератору

149. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от ЫЫ on 29-Авг-17, 11:26 
Это выпендреж такой? ты спросил в чем юмор.И почему твои слова надо в бронзу.
Это и есть суть нашего с тобой разговора.
По сути разговора - ты получил развернутый ответ. Ты что то хочешь еще?

Или ты какую-то иную суть разговора узрел?

Ответить | Правка | ^ к родителю #148 | Наверх | Cообщить модератору

153. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Ordu email(ok) on 29-Авг-17, 12:49 
> Это выпендреж такой? ты спросил в чем юмор.И почему твои слова надо
> в бронзу.
> Это и есть суть нашего с тобой разговора.

Вообще-то нет. Это оффтоп. Каждый раз, когда ты берёшь аналогию или пример оппонента, начинаешь спорить с ними, и не находишь в себе сил вырулить обратно к основной теме обсуждения -- это значит что ты утонул либо в оффтопе, либо в демагогии, либо и в обоих.

> По сути разговора - ты получил развернутый ответ. Ты что то хочешь
> еще?

Получил. Просто я надеялся на что-нибудь более интересное. Не обращай внимания.


Ответить | Правка | ^ к родителю #149 | Наверх | Cообщить модератору

146. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от ЫЫ on 29-Авг-17, 10:58 
>> А Райт... ну.. если не знать ничего по предмету кроме братьев Райт
>> - то они может не только  аэродинамику создали... а и
>> квашеную тематику пивных дрожжей...
> Они варили пиво?

Я этого не знаю..Это была аллюзия на Футураму.... Но братья Райт не были первыми в том, в чем  заслугу Вы им приписываете...ни в каких смыслах...

Прочитайте все таки что они в самом деле сделали первыми (да и то..условно...условно)


Ответить | Правка | ^ к родителю #142 | Наверх | Cообщить модератору

116. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Аноним (??) on 28-Авг-17, 23:19 
Знает ли птица про аэродинамику? В природе есть более одного способа получить результат. И даже инженеры считают многие конструкции по упрощенным эмпирическим приближениям. Потому что полная точная модель может быть очень сложной или нерешаемой.

А тут инженеры то же самое сделали с AI. Собственно ученые и подкачали - теории описывающей работу AI мало. Птицы в природе полетели без знаний в аэродинамике.

Ответить | Правка | ^ к родителю #70 | Наверх | Cообщить модератору

126. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Ordu email(ok) on 29-Авг-17, 00:39 
> Знает ли птица про аэродинамику? В природе есть более одного способа получить
> результат.

И что? У человека ещё больше способов получать результат, чем у природы. И создание теории -- это один из таких способов, которыми не владеет природа.

> И даже инженеры считают многие конструкции по упрощенным эмпирическим приближениям.

Кто сказал, что аэродинамика точная? Те же братья Райт, как я понимаю, не столько считали -- у них не было суперкомпьютеров для решения дифур, -- сколько моделировали в реале, в аэродинамической трубе. Аэродинамика -- это знания о том, как газ обтекают твёрдые тела, и методы изучения этого обтекания. В том числе и упрощённые эмпирические способы.

> Потому что полная точная модель может быть очень сложной или нерешаемой.

Не существует такого понятия, как "полная точная модель". Модель по определению неточна и не полна. Если мы создадим точную карту местности, то эта карта будет в масштабе 1:1 и она будет содержать такое количество деталей, что единственным способом представить такое количество информации будет создание точной копии. Что, кстати, совершенно неизвестно как сделать в силу квантовой неопределённости. Но даже если и сделать, это будет совершенно непрактично.

Люди создают модели для того, чтобы выкинуть из рассмотрения то, что не важно для решения данной конкретной задачи. Чтобы ненужные данные под ногами не болтались.

> А тут инженеры то же самое сделали с AI. Собственно ученые и
> подкачали - теории описывающей работу AI мало.

Во-во. Поэтому я и говорю, что до решения проблемы AI ещё пахать и пахать. Deep-learning не повод считать, что мы уже на пороге.

В новости приведён пример демонстрирующий границы понимания. Я могу привести другой. http://www.evolvingai.org/fooling
Самым честным образом обученная нейронная сеть подвержена иллюзиям, но каким именно неясно. А это false positives, причём на которые сеть даёт высокий уровень достоверности распознавания, при желании даже более высокий, чем на реальный объект. Эти иллюзии можно изучить единственным способом, тыкая эту нейронную сеть палочкой. Работая с ней как с чёрным ящиком. И речь ведь не о таких сложных процессах как "мышление", речь о гораздо-гораздо более простой вещи -- о классификации.

Ответить | Правка | ^ к родителю #116 | Наверх | Cообщить модератору

131. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 04:02 
> И что? У человека ещё больше способов получать результат, чем у природы.

Однако было бы глупо игнорировать удачные примеры и не пользоваться этим.

> И создание теории -- это один из таких способов, которыми не владеет природа.

Да, и это позволяет более осмысленное конструирование и оптимизацию технологий. Но есть нюансы. Технологии уже сложны и не умещаются в 1 голову, полным состоянием не владеет никто. Зато это расширило возможности. Нереализуемые и непрактичные вычисления заменили эмпирикой. Воспроизводимость часто не 100%. Но как показала природа, с этим можно жить. Можно поатомно компоновать микросхему. С точными параметрами. Десяток простых чипов в год по цене лунной экспедиции. А надо ли, здесь и сейчас? Возможно когда-нибудь их и не только будут делать именно так. Но до тех пор мы как-нибудь обойдемся обычными микросхемами. Немного менее идеальными и более непредсказуемыми.

> дифур, -- сколько моделировали в реале, в аэродинамической трубе. Аэродинамика --
> это знания о том, как газ обтекают твёрдые тела, и методы
> изучения этого обтекания. В том числе и упрощённые эмпирические способы.

Тогда можно считать что для нейросетей аналогично, с разницей что эмпирика такая: показал достаточно примеров - обучилось. Теория поведения нейронов есть. Без нее не было бы нейросетей. Для простейших нейросетей достаточно. И не только - жизнь запустилась без теории, так же как птицы летают не зная аэродинамику.

> Не существует такого понятия, как "полная точная модель". Модель по определению неточна и не полна.

Похоже на правду.

> Если мы создадим точную карту местности, то эта карта будет в масштабе 1:1 и она будет содержать такое количество
> деталей, что единственным способом представить такое количество информации будет создание
> точной копии.

Интересный тезис. А откуда следует? И не нарушается ли сжатием информации? Появился новый фактор - энтропия данных карты. Но в начальных условиях его не было, но он важен.

> Что, кстати, совершенно неизвестно как сделать в силу квантовой
> неопределённости. Но даже если и сделать, это будет совершенно непрактично.

Возможно. Но квантовые эффекты не влияют или мало влияют на большинство процессов - можно делать оптимизации. Если состояние нейрона характеризуется только макро параметрами, на сохранение квантовых состояний можно забить. На валидность дампа состояний не повлияет. Искуственные нейросети как я понимаю эту идею подтверждают.

> Люди создают модели для того, чтобы выкинуть из рассмотрения то, что не
> важно для решения данной конкретной задачи. Чтобы ненужные данные под ногами не болтались.

Т.е. модель - специализированная форма сжатия с потерями. А что, это мысль.

> Во-во. Поэтому я и говорю, что до решения проблемы AI ещё пахать
> и пахать. Deep-learning не повод считать, что мы уже на пороге.

Смотря какая цель. Если хочется максимально быстро запустить full ai, можно перекинуть в достаточно большую нейросеть дамп живого существа способного к высшей нервной деятельности и дать поэволюционировать ускоренным темпом. ИМХО раскрутится. Главное чтобы процесс вышел мягким и без обид. Чтобы не познакомиться с сверхразумом желающим вздуть создателей воспринимаемых как обидчики.

> В новости приведён пример демонстрирующий границы понимания. Я могу привести другой. http://www.evolvingai.org/fooling

А что в этом удивительного? Естественные нейросети не работают без ошибок. Но все пришло к тому что они редко ошибаются. Даже на плохо формализуемых задачах. Как математически описать отличия собаки от кошки? Нейросети то с этим справятся, хоть и не стопроцентно но с вероятностью достаточной для большинства практических применений.

> Самым честным образом обученная нейронная сеть подвержена иллюзиям, но каким именно неясно.
> А это false positives, причём на которые сеть даёт высокий уровень
> достоверности распознавания, при желании даже более высокий, чем на реальный объект.

Если посмотреть на людей и их закидоны, можно получить представление о длинном списке возможных проблем и особенностей технологии в полной реализации. Но ведь работает как-то. Можно ли лучше? ИМХО да.

> Эти иллюзии можно изучить единственным способом, тыкая эту нейронную сеть палочкой.
> Работая с ней как с чёрным ящиком. И речь ведь не о таких сложных процессах как "мышление",
> речь о гораздо-гораздо более простой вещи -- о классификации.

Вероятно, будущее за гибридными технологиями. Берущими лучшее из всех. Ничему не противоречит совмещать подглюкивающие но зато решающие трудно формализуемые задачи технологии с математическими алгоритмами. Машинам пригодилась бы самодиагностика и самопочинка, которая в органических и полуорганических технологиях делается проще и естественнее, хотя ниоткуда не следует что это нельзя сделать иначе. Интересным вариантом была бы саморепликация, но с ней можно доиграться не меньше чем с full ai.

Ответить | Правка | ^ к родителю #126 | Наверх | Cообщить модератору

143. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Ordu email(ok) on 29-Авг-17, 10:50 
> Технологии уже сложны и не умещаются в 1 голову, полным состоянием не владеет никто.

Для этого и нужна теория. Теоретическая модель -- это тоже модель. И как и любая модель она нужна для того, чтобы человеческий мозг мог бы работать над проблемой.

> Зато это расширило возможности. Нереализуемые и непрактичные вычисления заменили эмпирикой.

Это всегда так происходит. Это начальный этап освоения задачи. Ребёнок в детстве тоже решает проблемы методом наглядно-действенного мышления. У него есть, например, доска с круглым, треугольным и квадратным отверстиями, и три объекта -- цилиндр, треугольная и квадратная призмы. Он не знает что куда влезет, и поэтому берёт один из объектов и начинает тыкать его во все дыры. Тыкает, оно не лезет, он крутит и тыкает. Через некоторое время начинает тыкать в другую дырку. Рано или поздно находит решение задачи. Взрослый человек поступает также, когда ему мозгов не хватает решить проблему в уме.

>> Во-во. Поэтому я и говорю, что до решения проблемы AI ещё пахать
>> и пахать. Deep-learning не повод считать, что мы уже на пороге.
> Смотря какая цель. Если хочется максимально быстро запустить full ai,

Что может быть полезно только для одной цели -- изучение этого самого ai. Ну, на самом деле: зачем ещё может понадобиться копия мышиного мозга?

> Если посмотреть на людей и их закидоны, можно получить представление о длинном
> списке возможных проблем и особенностей технологии в полной реализации. Но ведь
> работает как-то. Можно ли лучше? ИМХО да.

Работает "как-то". И мы видим как водители автобусов, вдруг психанув, ставят автобус вместе с пассажирами под поезд.

Ответить | Правка | ^ к родителю #131 | Наверх | Cообщить модератору

158. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 30-Авг-17, 11:25 
> Для этого и нужна теория. Теоретическая модель -- это тоже модель.

Сколько людей может обсчитать электромагнитное поле меняющееся во времени в 3D? Казалось бы это везде. Еще интереснее если хочется учесть квантовые или релятивистские эффекты. А одновременно и с учетом гравитации? "теорию всего" еще не написали?! Это что, электричеством не пользоваться, а инженеры - еретики?

> И как и любая модель она нужна для того, чтобы человеческий мозг
> мог бы работать над проблемой.

Если это получилось и хорошо работает - ок! Но никто не потащит академию наук считать трансформатор для однодолларовой зарядки. С нейросетями аналогично.

> Это всегда так происходит. Это начальный этап освоения задачи.

Это не "начальный" этап а скорее "практический".

> Ребёнок в детстве тоже решает проблемы методом наглядно-действенного мышления.

Обучение ребенка, в том числе на примерах - пример запуска новой нейросети. Почему делать то же самое с искусственными нейросетями - фи?

> треугольная и квадратная призмы. Он не знает что куда влезет, и
> поэтому берёт один из объектов и начинает тыкать его во все дыры.

А есть еще вариант когда наглядно покажут - вот это кот. А это собака. А это опять кот. Через некоторое время ребенок начнет отличать кошек и собак.

> задачи. Взрослый человек поступает также, когда ему мозгов не хватает решить
> проблему в уме.

У людей и животных есть много "приблизительных" способов решения трудно формализуемых проблем. Эти способы вероятностные и не гарантируют 100%, но с высокой вероятностью ведут к успеху. Нейросети как раз об этом. Это не дано строгой математике и было серьезной проблемой для компьютеров и алгоритмов в множестве областей.

>> Смотря какая цель. Если хочется максимально быстро запустить full ai,
> Что может быть полезно только для одной цели -- изучение этого самого ai.

Это может быть полезно для множества вещей. Особенно после того как AI станет сильнее человека.

> Ну, на самом деле: зачем ещё может понадобиться копия мышиного мозга?

Именно мышиного - разве что как bootstrap. Но там половину эволюции придется заново прогнать. Но точку старта можно взять и выше. Я думаю среди людей найдутся добровольцы (при том это должны быть именно добровольцы, иначе отыгрыш может быть ужасен).

> Работает "как-то". И мы видим как водители автобусов, вдруг психанув, ставят автобус
> вместе с пассажирами под поезд.

Вся жизнь так работает. С вероятностью 999999 водитель просто проезжает переезд. А раз на миллион какой-нибудь урод психанет или будет очень спешить. Но проблема в том что компьютер ведомый лишь строгой математикой вообще не может водить автобус. Как в строгих математических терминах описать что такое "поезд" и "переезд" и хотя-бы вообще их просто опознать как объект, без серьезных костылей? Ну то-есть можно карту взять. Но если на карте не окажется вот этого переезда - компьютер ведомый строгой математикой встанет в этом месте без малейщих сомнений. И это для техники довольно большая проблема - компьютеры стали рулить достаточно чреватыми вещами, но при этом напрочь не умеют избегать явно суицидальных и провальных ситуаций.

Ответить | Правка | ^ к родителю #143 | Наверх | Cообщить модератору

160. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Ordu email(ok) on 30-Авг-17, 12:35 
Вот ты делаешь ту же ошибку, что и большинство людей. Ты пытаешься спорить со мной, не пытаясь понять, что я говорю. Мне сегодня лень заниматься педагогической деятельностью и вколачивать кому-либо понимание чего-то вопреки его желаниям, поэтому я не буду разбирать всё написанное тобой. Лишь кусочек.

> Но проблема в том что компьютер ведомый лишь строгой математикой вообще не может водить автобус. Как в строгих математических терминах описать что такое "поезд" и "переезд" и хотя-бы вообще их просто опознать как объект, без серьезных костылей?

Что такое "строгая математика"? Сама фразировка предполагает, что существует "нестрогая математика", так ведь? Не кажется ли тебе, что "нестрогая математика" -- это оксюморон?

У тебя какие-то пораженческие настроения, впрочем, свойственные инженерам: если математика не может, значит она фундаментально не может, значит глупо даже думать о том, как может быть иначе. Но математика не фундаментальная наука. Можно даже поспорить, является ли математика наукой. Математика -- это инструмент, который задачивают по мере необходимости.

Если математика чего-то не может, значит математику надо развивать. Так всегда было. Когда-то математика не могла доказать, что закон гравитации, у которого в знаменателе квадрат расстояния, приводит к траекториям движения типа "конические сечения". Пришёл Ньютон, запилил матан, и показал, что это именно так. Правда запилил он это для двух тел, и с тех пор математика до сих пор не может справится с задачей трёх тел. Бьётся-бьётся а не получается. Но китайцы тут недавно дали пинка этой задаче, найдя пачку периодических конфигураций[1]. Может ещё лет через 50-100 математика научится записывать решения ньютоновских дифур в аналитическом виде, описывать траектории так, чтобы точность описания не зависела бы от времени. Или хотя бы в меньшей степени зависела бы.

> Но проблема в том что компьютер ведомый лишь строгой математикой вообще не может водить автобус.

Компьютер не может быть ведомым математикой, компьютером рулит программа. Математика -- это инструмент, которым пользуется инженер, а не компьютер и не программа. У компьютера вообще очень большие проблемы с математикой, он даже в целых числах считать не умеет, без сложных и тормозных алгоритмов из bignum.

> Как в строгих математических терминах описать что такое "поезд" и "переезд" и хотя-бы вообще их просто опознать как объект, без серьезных костылей?

Что по-твоему "костыль", а что нет? Зачем описывать в "строгих математических терминах"? Проблема не в костылях и не в строгости, а в том, чтобы поведение программы было бы предсказуемо. Чтобы мы могли бы доказать, что программа не поставит автобус под удар локомотива. Или даже ещё шире, что она обеспечит более высокий уровень безопасности для пассажира, чем человек. Сегодня эта проблема решается инженерными методами -- вон гугл миллионы часов гонял свои гугломобили в тестовом режиме, когда за рулём сидел специально обученный человек, который был готов перехватить управление в любой момент. Сколько триллионов часов специально обученным людям придётся разбирать рассуждения гипотетического ИИ, который будет "думать", для того, чтобы убедиться, что он думает "правильно"?

Инженерные подходы к решению задач имеют верхнее ограничение по сложности тех задач, с которыми они могут справиться. Пока не придёт математика и не найдёт способ заменить O(e^n) на O(n^M). Ну а general intelligence -- это задача, сложность которой далеко за пределами возможностей инженеров.

[1] https://arxiv.org/abs/1705.00527

Ответить | Правка | ^ к родителю #158 | Наверх | Cообщить модератору

163. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 31-Авг-17, 09:33 
> Вот ты делаешь ту же ошибку, что и большинство людей. Ты пытаешься
> спорить со мной, не пытаясь понять, что я говорю.

Я попытался понять, но возможно это было не совсем удачно. Мне показалась что такая точка зрения несколько однобока.

Например, планеры в виде птиц были раньше Райтов. Некоторые неплохо летали. Затык был в отсутствии легких мощных двигателей и в том что уровень механики и материалов и близко не позволял создать что-нибудь сравнимое с птичьим крылом. На этом идея копипасты и заглохла. С первой проблемой райтам тоже пришлось попотеть. Оказалось что жестко привинтить крылья и заставить мотор крутить пропеллер - сильно проще в плане интерфейса к имеющимся дизайнам моторов, выдающим на выходе врашение. Да, тогда не было аналогов мышц - передрать 1 в 1 не вариант. С этим и сейчас проблемы, поэтому роботы или неуклюжие или неуниверсальные. Самодиагностика и тем паче самопочинка в зачаточном состоянии. Видимо, полуорганические технологии заслуживают больше внимания.

> Мне сегодня лень заниматься педагогической деятельностью и вколачивать кому-либо понимание чего-то
> вопреки его желаниям, поэтому я не буду разбирать всё написанное тобой.

Это уж по желанию.

> Что такое "строгая математика"? Сама фразировка предполагает, что существует "нестрогая
> математика", так ведь?

Она предполагает что существует менее строгий процесс decision making, основанный не на точных вычислениях, а на чем-то типа максимизации вероятностей успешного исхода при помощи сильно упрощенных эмпирических методов и обобщении предыдущего опыта. В природе это выработалось эволюционно. Иногда дает сбой - птицы не знают что замыкать собой провода чревато, опыта нет, а первый опыт часто оказывается и последним. Но через несколько миллионов лет возможно и вывелись бы правильные птицы. Так понятнее почему ии пускают играть сам против себя? Быстрое селекционирование вариантов эволюционирующих в желаемую сторону, если описывать это в духе биологов. Почему-то такое описание простое, понятное и неплохо описывает происходящее. Хоть и не математическое.

> Не кажется ли тебе, что "нестрогая математика" -- это оксюморон?

Пожалуй. А вот нестрогий decision making в природе встречается чуть более чем везде. Иногда он играет дурную шутку, когда из-за неучета какого-нибудь мелкого вторичного фактора вроде бы правильное решение приводит к облому. Орел может атаковать какой-нибудь дрон, но он невкусный, а пропеллерами может покалечить. Отсутствие предыдущего опыта играет дурную шутку.

> У тебя какие-то пораженческие настроения, впрочем, свойственные инженерам: если математика
> не может, значит она фундаментально не может,

Да почему, математически описать можно любые процессы. Но если при этом окажется что надо решить пару миллиардов дифференциальных уравнений с миллиардом переменных? Нафиг такое описание? Тебе не приходило в голову что жизнь научилась использовать упрощенную вероятностную эмпирику, обобщения, грубые экстраполяции и проч по каким-то таким причинам?

> Можно даже поспорить, является ли математика наукой. Математика -- это инструмент,
> который задачивают по мере необходимости.

Если в таком контексте - тогда наверное математику можно доработать. А она не станет при этом больше похожа на биологию, нейросайнс и грубый структурный анализ по макроблокам?

А так кто-то из парней занимающихся сжатием определил full AI в духе того что агент с general intelligence пытается максимизировать вероятность своего выигрыша от взаимодействия с внешним миром на основе прошлого опыта и новых данных. Они это даже записали математически. Но вот толку с такого описания? Оно вроде правдоподобное, но ничего не говорит о том как это сделать на практике.

> Если математика чего-то не может, значит математику надо развивать. Так всегда было.

А с этим кто-то спорил?

> до сих пор не может справится с задачей трёх тел. Бьётся-бьётся
> а не получается. Но китайцы тут недавно дали пинка этой задаче,
> найдя пачку периодических конфигураций[1].

О как. Но понимаешь в чем проблема? Во первых приперся Эйнштейн с относительностью. И ведь работает. GPS учитывает несколько наиболее очевидных эффектов. Остальное компенсируется эмпирическими костылями и поправками, потому что учесть вообще все ошибки - нереал. А во вселенной IRL тел дохрена и половина еще и движется с скоростями где релятивизм уже следует учесть. Или масса такая что придется учесть еще какое-нибудь искривление пространства-времени. Недавно как раз экспериментально искривление света пролетающего рядом с массивным объектом вроде как подтвердили экспериментально.

> чтобы точность описания не зависела бы от времени. Или хотя бы в меньшей степени зависела бы.

Боюсь что полное описание в таком духе для системы хотя-бы из сотни объектов реального мира может получиться на редкость неудобоваримым. Что с ним таким потом делать?

> У компьютера вообще очень большие проблемы с математикой, он даже в
> целых числах считать не умеет, без сложных и тормозных алгоритмов из bignum.

Поскольку люди в этом еще более тормозные - это шаг вперед. Кстати, были такие забавные штука как аналоговые вычислители. Имели свои плюсы в виде скорости выполнения не самых тривиальных операций. Но с точностью и возможностью их интерфейсить к чему-то еще вышла засада. Да и переконфигурировать на ходу сложно.

> Что по-твоему "костыль", а что нет? Зачем описывать в "строгих математических терминах"?

Костыль - это какой-то фикс по месту, поправка или воркэраунд, сделанный для того чтобы система могла нормально работать. Хотя научное обоснование этого решения может и не существовать. Ну то-есть если я померял координаты по GPS, набрал статистику и заметил что они всегда врут на 200 метров в этом месте - я могу взять да и загнать в систему компенсацию на 200 метров в этом месте. Не зная реальных причин по которым это вранье появилось. Как вариант я бы мог потратить полжизни реконструируя электромагнитное поле в 3D, конечно, чтобы найти ту стену от которой отражаются сигналы.

> Проблема не в костылях и не в строгости, а в том, чтобы поведение программы было бы предсказуемо.

Реальный мир слишком сложен для того чтобы быть предсказуемым. Соответственно, взаимодействие программы с ним не будет полностью предсказуемым. Смотри, дилемма: перед автобусом переезжавшим переезд кто-то заглох. Допустим, компьютер придерживается строгого принципа что он не может устраивать ДТП. Хороший же принцип. Но тогда он должен остановить автобус на переезде. Формально, в том что посторонний объект "поезд" размажет 50 пассажиров компьютер не виноват. Это же не компьютер вред нанес. Но было ли это решение наилучшим? Или имело смысл отступить от идеалов и толкануть неудачника вперед, хоть это и было бы ДТП? И вот в таких вещах компьютеры здорово дают маху в данный момент.

> Чтобы мы могли бы доказать, что программа не поставит автобус под удар локомотива.

А если для того чтобы в автобус не врезался локомотив надо устроить небольшое ДТП, тогда как? Разрешить устраивать ДТП? Описать все мыслимые ситуации когда ДТП устроить допустимо? А кто-то может перечислить все такие ситуации? Живой водитель в этом случае будет оперировать приблизительной эмпирикой, прикинув возможные исходы и вероятности (возможно сам это не полностью осознавая).

> Или даже ещё шире, что она обеспечит более высокий уровень безопасности для пассажира, чем человек.

С другой стороны начнутся глупые и обидные смерти т.к. компьютер ведомый такой логикой не сможет гибко маневрировать "по ситуации". И умереть не боится. И поступиться принципом не может, даже если так было бы лучше в конкретной ситуации. Что означает простую вещь: при отклонении от идеала пассажирам по сути выписывается приговор. Мне кажется decision making мог бы быть и лучше. Совмещая оба подхода.

> Сегодня эта проблема решается инженерными методами -- вон гугл миллионы
> часов гонял свои гугломобили в тестовом режиме, когда за рулём сидел
> специально обученный человек, который был готов перехватить управление в любой момент.

Наверное обучали нейросетку.

> Сколько триллионов часов специально обученным людям придётся разбирать рассуждения гипотетического
> ИИ, который будет "думать", для того, чтобы убедиться, что он думает "правильно"?

Проблема в том что жестко заданный алгоритм может быть вообще не способен адекватно разрулить некоторые ситуации. Пример выше. В реальном мире может потребоваться быстро и решительно выбрать из нескольких неправильных/запрещенных опций нечто "наименее проблематичное".

> Инженерные подходы к решению задач имеют верхнее ограничение по сложности тех задач,
> с которыми они могут справиться. Пока не придёт математика и не
> найдёт способ заменить O(e^n) на O(n^M).

Жизнь на планете сама нащупала эти способы. Ничего не зная о математике.

Ответить | Правка | ^ к родителю #160 | Наверх | Cообщить модератору

58. "Техника атаки на системы, использующие алгоритмы машинного о..."  +4 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:48 
> Процессору тоже понимание не требуется. Вон миллиарды хомячков вполне в состоянии включить
> компьютер или смартфон, и ничего.

Все так, но в процессе возникает вопрос: а кто кем все-таки пользуется? Насколько я вижу, ответ - создатели смартфона и программ для него пользуются хомячком. Хомячок может считать иначе, но кто ж его спрашивает.

Ответить | Правка | ^ к родителю #44 | Наверх | Cообщить модератору

23. "Техника атаки на системы, использующие алгоритмы машинного о..."  +6 +/
Сообщение от Аноним (??) on 28-Авг-17, 06:31 
хехе.
Ну прямо Зенитные кодексы Аль-Эфесби. Но там это было красивей описано.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

27. "Техника атаки на системы, использующие алгоритмы машинного о..."  –6 +/
Сообщение от t28 on 28-Авг-17, 08:58 
В прошлый раз, при упоминании зенитных кодексов, меня заминусовали.
Посмотрим как будет на этот раз c вашим постом.
Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

30. "Техника атаки на системы, использующие алгоритмы машинного о..."  +3 +/
Сообщение от ЕГЭ для дураков on 28-Авг-17, 09:31 
Тебя и в этот раз заминусуют, дело не в зенитных кодексах просто.
Ответить | Правка | ^ к родителю #27 | Наверх | Cообщить модератору

37. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 10:41 
> Ну прямо Зенитные кодексы Аль-Эфесби. Но там это было красивей описано.

Тема атак на нейросети естественного ;) происхождения раскрыта в телесериале Babylon 5. Качать правда задолбаешься. Там как раз похожая атака была продемонстрирована. Приходит адресату муть в видеосообщении - у адресата просыпается бэкдор в подсознании. Лепота.

Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

26. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 28-Авг-17, 08:50 
В общем и в целом еще одно доказательство отсутствия в природе Большой_Красной_Кнопки_Сделать_Все_Красиво.
Помниться в институте халявщики могли за малую толику получить рыбу для курсового, чтоб значит не прикладая рук. Но вот хитрые преподы иногда делали закладки в защищенные курсаки, в итоге самые жадные, которые тупо копировали текст курсака, переименовав только, иногда капитально пролетали.
В общем давно говорилось, не используй того, чего сам не понимаешь, как работает, но все равно находяться любители халявы, и все равно, в плане курсака или в плане модели для Machine Learning
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

31. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от EHLO on 28-Авг-17, 09:31 
Чуваки не боятся что за ними робот из будущего прилетит за такие статьи.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

36. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 28-Авг-17, 10:38 
> Чуваки не боятся что за ними робот из будущего прилетит за такие
> статьи.

Фарш невозможно провернуть назад.

Ответить | Правка | ^ к родителю #31 | Наверх | Cообщить модератору

39. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от EHLO on 28-Авг-17, 10:47 
>> Чуваки не боятся что за ними робот из будущего прилетит за такие
>> статьи.
> Фарш невозможно провернуть назад.

Провернуть можно. Попробуй кнопку реверса.

Ответить | Правка | ^ к родителю #36 | Наверх | Cообщить модератору

54. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 28-Авг-17, 11:39 
>>> Чуваки не боятся что за ними робот из будущего прилетит за такие
>>> статьи.
>> Фарш невозможно провернуть назад.
> Провернуть можно. Попробуй кнопку реверса.

И шо, после этого хрюкнет? ;)

Ответить | Правка | ^ к родителю #39 | Наверх | Cообщить модератору

67. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 12:08 
С точки зрения нынешней общепринятой термодинамики/статфизики, он прав.
Ответить | Правка | ^ к родителю #39 | Наверх | Cообщить модератору

61. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от pripolz on 28-Авг-17, 11:55 
Чё докопались до автомата, он правильно на вопрос ответил. Цветочек на картинке есть? Есть! Ну и всё тут. Сами вы "бэкдоры"!

Бэкдор в голове у того питонщика, который совершая import ii не подумал о том, что систему распознавания дорожных знаков неплохо бы ограничить в классификации до дорожных знаков.

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

62. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от pripolz on 28-Авг-17, 11:57 
> восприниматься как знак, запрещающий движение без остановки, а стал определялся как знак ограничения скорости

ах вот оно что... ну ок..

Ответить | Правка | ^ к родителю #61 | Наверх | Cообщить модератору

63. "Техника атаки на системы, использующие алгоритмы машинного о..."  –2 +/
Сообщение от pripolz on 28-Авг-17, 12:01 
Мне всё равно кажется, что новость (как факт) фуфло. Что ещё можно ожидать от подпорченной базы обучения, как неправильные срабатывания?

Это "хак" на уровне "исследователи из ... обнаружили, что совершив инжекцию кода можно выполнить произвольный код"

Ответить | Правка | ^ к родителю #62 | Наверх | Cообщить модератору

137. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от ЫЫ on 29-Авг-17, 09:08 
Это "синдром Ватсона" - когда вам все разжевали, ткнули пальцем - вам все кажется простым и очевидным.
А вот до этой новости, вы- занимаясь системами ИИ - думали об этой проблеме?
Ответить | Правка | ^ к родителю #63 | Наверх | Cообщить модератору

169. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от pripolz on 04-Сен-17, 18:37 
Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверить крупную задачу нейронной сети, или другому тупому алгоритму. Потому, что она будет ошибаться во всех случаях кроме идеальных.
Для нормальной системы, от которой что-то зависит, и которую кому-то придёт в голову хакать, нужна во первых уникальная алгоритмическая база, связанная с "пространством критериев". Например, для определения лица человека - биометрия. Просто показывать картинки - мало, нужно выделять всякие точки, и знать, как потом эти наборы точек сравнивать.
В случае дорожных знаков - это тоже должна быть своя отдельная "небольшая наука".

Иначе да, действительно, даже без хакеров сетка ошибётся на раз два, если база у неё будет "не идеальная".

Задумавался ли я о том, что кто-то сможет взломать систему имея доступ к её БД ?

Ответить | Правка | ^ к родителю #137 | Наверх | Cообщить модератору

66. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 12:06 
Пора уже FSF задуматься над свободной лицензией для данных машинного обучения.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

74. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 13:49 
Пора уже FSF задуматься над лицензией свободного использования собственных мозгов, а то похоже без лицензии многие(ну типа тех, кто использует чужие модели без анализа чего там прикопано) мозг не включают, опасаются износа :)
Ответить | Правка | ^ к родителю #66 | Наверх | Cообщить модератору

75. "Техника атаки на системы, использующие алгоритмы машинного о..."  +5 +/
Сообщение от YetAnotherOnanym (ok) on 28-Авг-17, 13:49 
"Не водись с человеками, они тебя научат плохому"
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

79. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 28-Авг-17, 14:06 
А нового-то что? Гуглопереводчик уже давно время от временип чему-нибудь плохому учат.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

87. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от 666 (??) on 28-Авг-17, 15:16 
"непростой" слитно!
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

102. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Анонимс on 28-Авг-17, 17:48 
есть такое правило, но раздельно исконней, у чехова можете встретить
Ответить | Правка | ^ к родителю #87 | Наверх | Cообщить модератору

95. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 28-Авг-17, 16:12 
А в чем бэкдор?
Если систему научили, что красный знак с желтой кляксой это знак ограничения скорости, то она и распознает его так.

> Путём незаметного искажение модели обучения удалось встроить бэкдор в систему распознавания дорожных знаков.

Или тут смысл в том что системе показывали корректные знаки, а злоумышленник в это время чирикал овсянкой,
и система стала неравнодушна к желтому?

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

133. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 04:25 
> А в чем бэкдор?
> Если систему научили, что красный знак с желтой кляксой это знак ограничения
> скорости, то она и распознает его так.

А бэкдор в том что тебя обо всем этом можно и не информировать. Реконструировать же обучающий материал из дампа нейросети как я понимаю не проще чем превратить котлеты обратно в свинью.

Ответить | Правка | ^ к родителю #95 | Наверх | Cообщить модератору

99. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от номия on 28-Авг-17, 17:01 
хм.. ну а чего птенчики вон тоже переобучаются вместо трёх полосок на клюве реагировать на оранжевый треугольник и перестают потом принимать реальный клюв за источник пищи.. сверхнормальный сигнал.. гроза любой нейросети.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

105. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от vitalif (ok) on 28-Авг-17, 18:11 
Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

135. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 07:33 
> Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного
> обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ

Прототип похожей атаки неплохо показан в хрониках сары коннор. Там правда ИИ ломал обычную компьютерную систему, но хаос в городе был вполне себе.

Ответить | Правка | ^ к родителю #105 | Наверх | Cообщить модератору

166. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Вареник on 31-Авг-17, 15:57 
>> Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного
>> обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ
> Прототип похожей атаки неплохо показан в хрониках сары коннор. Там правда ИИ
> ломал обычную компьютерную систему, но хаос в городе был вполне себе.

Так обычный классический комп это еще цветочки на фоне "умных вещей".

Чем сложнее система - тем больше уязвимых мест и меньше возможностей их все проверять, настраивать, охватить какой-то единой политикой безопасности.

Ответить | Правка | ^ к родителю #135 | Наверх | Cообщить модератору

109. "Техника атаки на системы, использующие алгоритмы машинного о..."  –2 +/
Сообщение от Аноним (??) on 28-Авг-17, 18:31 
Комментарии пока не читал, может уже было.
2020 год. Едешь ты по мосту на тесле-или-другой-фигесле с автопилотом, а злые хакиры посередине моста прикрепили картонку со штрихкодом или не важно с чем там в 2020 году. В результате твоя тесла-фигесла резко выворачивает руль и прости и ах.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

114. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Аноним (??) on 28-Авг-17, 23:06 
Можно заставить видеокамеру сообщать, что стены впереди нет, но данные с датчиков просто будут иметь более высокий приоритет. В таких сложных системах никто не полагается на один источник информации, к тому же такой ненадежный. Проблема высосана из пальца.
Ответить | Правка | ^ к родителю #109 | Наверх | Cообщить модератору

134. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 29-Авг-17, 05:51 
Ну да, а это всё будет отлично оттестировано. А потом будут всплывать мелочные байки про переворот на 180 градусов при пересечении экватора, невозможности пересечь линию смены дат и отключение при приближении к мертвому морю.
Ответить | Правка | ^ к родителю #114 | Наверх | Cообщить модератору

136. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от ыы on 29-Авг-17, 07:55 
Вот, вот где надо набирать разработчиков критически важных систем.
А мужики то - клепают что попало, и вот результат : http://www.livejournal.com/media/320680.html
Они же к вам наверняка обращались.. почему вы им отказали? Эти жертвы на вашей совести!
Ответить | Правка | ^ к родителю #114 | Наверх | Cообщить модератору

139. "Техника атаки на системы, использующие алгоритмы машинного о..."  +1 +/
Сообщение от Аноним (??) on 29-Авг-17, 09:49 
Тут вопрос про обучение плохому, а не про программные/аппаратные ошибки. Вечно вы, мужики, со своим максимализмом про незнающих мужиков.
Ответить | Правка | ^ к родителю #136 | Наверх | Cообщить модератору

141. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от ЫЫ on 29-Авг-17, 10:33 
Ну так камеру же им надо.. камеру дополнительную... а программная там ошибка или ошибка  обучения- неважно. Разве нет?
Или есть какой-то серьезный принципиальный различий между ошибкой обучения проводящей к жертвам и программной/аппаратной ошибкой?
Ответить | Правка | ^ к родителю #139 | Наверх | Cообщить модератору

151. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 29-Авг-17, 11:40 
Конечно важно. Алгоритм, написанный человеком, сторого детерминирован (в общем случае), потому ему можно доверять больше. Что же выдаст обученная модель - неизвестно никому, можно лишь сказать с какой-то вероятностью, что она будет выдавать то, что от неё ждут.

Простой пример на пальцах.

Вы - садист-извращенец, обучаете детей на улице, что если засунуть руку в кипящую кастрюлю, то произойдёт чудо (ошибка обучения). Если ребенок не чувствует боли из-за сбоя в работе нервной системы (аппаратная ошибка), то он засунет руку в кастрюлю и сварит её. Если ребенок здоров, то он выдернет руку обратно не успев причинить себе серьёзных увечий (чёткий алгоритм).

Природа полагается на переферическую нервную систему, которую не переобучить парой вредных советов. Скорее всего, мужики тоже не пальцем деланы, но от ошибок не застрахован никто. В большинстве случаев ошибка обучения перекрывается примитивными механизмами в критических ситуациях. Если такого не происходит, то проблема явно не в обучении. Так что проблема надуманная.

Ответить | Правка | ^ к родителю #141 | Наверх | Cообщить модератору

152. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от ЫЫ on 29-Авг-17, 12:16 
>Алгоритм, написанный человеком, сторого детерминирован

а если его писал дурак?

> потому ему можно доверять больше

Откуда только берутся такие оптимисты? а.. знаю.. Это люди никогда не писавшие ни строчки кода...

>Что же выдаст обученная модель - неизвестно никому

это миф от людей которые никогда не занимались предметом :) все там известно.  новость не о том что  результат обучения не предсказуем (он предсказуем с почти 100% вероятностью), а в том данные которые вы ему скармливаете- вы не проверяете. в ЭТОМ проблема. ПОЭТОМУ есть проблема. об этом новость.

Ответить | Правка | ^ к родителю #151 | Наверх | Cообщить модератору

159. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (??) on 30-Авг-17, 12:23 
> Конечно важно. Алгоритм, написанный человеком, сторого детерминирован (в общем случае),
> потому ему можно доверять больше.

Строго детерминированный алгоритм уронил Arian 5.

Ответить | Правка | ^ к родителю #151 | Наверх | Cообщить модератору

165. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Вареник on 31-Авг-17, 15:54 
Ну что за юношеский максимализм...

Все ошибаются (что бы о себе ни думали и своей методике, "исключающей ошибки").
На каждую "unbreakable" "формальную верификацию" находится не рассмотренная ранее проблема, а еще чаще просто желание сэкономить бюджет проекта, быстрей выйти на рынок (по прицнипу "потом перепишем, а сейчас быстрее")... Когда уже вышли на рынок - то зачем переделывать?

За счет функционала снижать стоимость/сроки слишком заметно, а схалявить на тестировании - самое простое и обычно прокатывает.

Ответить | Правка | ^ к родителю #136 | Наверх | Cообщить модератору

156. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от УЖАС СОВКА on 30-Авг-17, 00:12 
Не-а. 2023 год, идешь ты по мосту  пешком, а злые хакиры посреди моста прикрепили картонку со штрихкодом. Но ты естестенно не обращаешь внимания, идешь мимо к себе домой,
Отвичиваешь ГАЗОВУЮ ТРУБУ,БЕРЕШЬ ЗАЖИГАЛКУ ТЭННО-ХЭЙКУ-БАНЗАЙ-ВСПЫШКА !!

Ответить | Правка | ^ к родителю #109 | Наверх | Cообщить модератору

164. "Техника атаки на системы, использующие алгоритмы машинного о..."  –1 +/
Сообщение от Вареник on 31-Авг-17, 15:47 
Т.е. SkyNET и Большого Брата можно обмануть? У человечества есть шанс?

Отличная новость!

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
Слёрм
Inferno Solutions
Hosting by Ihor
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2019 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру