The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Техника атаки на системы, использующие алгоритмы машинного о..., opennews (??), 28-Авг-17, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


42. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Crazy Alex (ok), 28-Авг-17, 10:57 
От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно для коррекции тоже достаточно хорошо работающей эвристики хватит.

А вообще - примерно ту же проблему у людей решает научный метод познания. Хорошо решает, судя по тому, что напридумывали и сделали.

Ответить | Правка | К родителю #11 | Наверх | Cообщить модератору

48. "Техника атаки на системы, использующие алгоритмы машинного о..."  +2 +/
Сообщение от Аноним (-), 28-Авг-17, 11:18 
С людьми тоже есть подобная проблема. Вот пустишь ты к себе произвольно взятого человека, а он возьмет да окажется каким-нибудь шахидом и отрежет тебе голову. Ты ж заранее не знаешь как и чем ему там мозг промыли с самого детства. С нейросетями поменьше проблемы попроще, но из того же класса - мало ли кто и чему обучал нейросеть на самом деле, как это узнать то?
Ответить | Правка | Наверх | Cообщить модератору

53. "Техника атаки на системы, использующие алгоритмы машинного о..."  –2 +/
Сообщение от Аноним (-), 28-Авг-17, 11:36 
> С людьми тоже есть подобная проблема. Вот пустишь ты к себе произвольно
> взятого человека, а он возьмет да окажется каким-нибудь шахидом и отрежет
> тебе голову. Ты ж заранее не знаешь как и чем ему
> там мозг промыли с самого детства. С нейросетями поменьше проблемы попроще,
> но из того же класса - мало ли кто и чему
> обучал нейросеть на самом деле, как это узнать то?

По делам его, Вы и узнаете его. Так как мысли то материальны (только не сразу). И да, без головы уже не узнаешь :(

Ответить | Правка | Наверх | Cообщить модератору

132. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (-), 29-Авг-17, 04:07 
> По делам его, Вы и узнаете его.

Тысячи дел могут сформировать определенные ожидания. Но твердых гарантий сохранности головы это все-таки не даст. С бэкдорами в нейросетях как-то так же.

Ответить | Правка | Наверх | Cообщить модератору

68. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Crazy Alex (ok), 28-Авг-17, 12:12 
Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет, и отличают достаточно хорошо, чтобы в итоге цивилизация жила и развивалась. А перфекционизм - в пень.
Ответить | Правка | К родителю #48 | Наверх | Cообщить модератору

103. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Sw00p aka Jerom (?), 28-Авг-17, 18:02 
> Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело,
> с кем - нет, и отличают достаточно хорошо

это и есть обратная связь (фидбек), как и человека так и машину можно ввести в заблуждение, но в тоже время исходя из теоремы Гёделя будут такие "истины" (истинные утверждения) которые нельзя не доказать и не опровергнуть. Если человек сталкивается с этим и не может разрешить, как машина (алгоритм) сможет это сделать?

Ответить | Правка | Наверх | Cообщить модератору

125. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Аноним (-), 29-Авг-17, 00:37 
> Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело,
> с кем - нет, и отличают достаточно хорошо, чтобы в итоге
> цивилизация жила и развивалась. А перфекционизм - в пень.

Все так, но в результате иногда случаются предательства и облом ожиданий, а люди считаются самым ненадежным элементом любой системы. С ИИ может получиться нечто наподобие.

Ответить | Правка | К родителю #68 | Наверх | Cообщить модератору

104. "Техника атаки на системы, использующие алгоритмы машинного о..."  +/
Сообщение от Sw00p aka Jerom (?), 28-Авг-17, 18:06 
> мало ли кто и чему обучал нейросеть на самом деле, как это узнать то?

человеку думаю не дано осознать само "осознание", куда там машине (нейросети). К примеру нейросеть может дать ответ на вопрос - "сколько ты знаешь (объём знаний)"? думаю нет, человек даже не способен на это ответить.

Ответить | Правка | К родителю #48 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру