Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы		[ Отслеживать ]

Техника атаки на системы, использующие алгоритмы машинного о..., opennews (??), 28-Авг-17, (0) [смотреть все] Классно, очень интересная новость Мир не идеален , Аноним (-), 00:43 , 28-Авг-17, (1) +11 // Нейросети по определению не идеальны Однако люди могут быть еще менее идеальным, Аноним (-), 10:05 , 28-Авг-17, (35) –2 // Оптимизация идеализация системы, как правило, находится в обратно пропорционал, Аноним (-), 10:42 , 28-Авг-17, (38) +1 // И тем не менее, люди со временем набирают опыт и их игра улучшается А это - эму, Аноним (-), 11:27 , 28-Авг-17, (49) С этим не спорю Мало того, у каждого человека свой уровень Здесь Я хотел другое, Аноним (-), 11:33 , 28-Авг-17, (51) +2 Беседа полушарий , Justine (?), 15:08 , 28-Авг-17, (86) +1 Когда ИИ превосходит всех на планете - подвинуты границы возможного Командой ко, Аноним (-), 00:16 , 29-Авг-17, (123) Вы цель видите Вместо слова чай можете подставить другое понятие желательно т, Аноним (-), 10:16 , 29-Авг-17, (140) Смотря чью и на каком интервале В этом случае можно заметить что пока есть прост, Аноним (-), 09:58 , 30-Авг-17, (157) Ответы просты Цель которая бы Вас порадовала , при достижении ее в интервале в, Аноним (-), 00:00 , 31-Авг-17, (161) IRL всё намного сложнее и непредсказуемей , Аноним (-), 10:52 , 28-Авг-17, (40) // Какого размера мозг насекомого Даже и не мозг почти - нервный узел Но ведь дос, Аноним (-), 11:13 , 28-Авг-17, (46) +3 Ну так там и взаимодействие так себе, примитивненькое , Аноним (-), 16:17 , 01-Сен-17, (167) –1 Мир с простым предсказуемым взаимодействием, абсолютно детерминированный Шахмат, pripolz (?), 12:03 , 28-Авг-17, (65) // А как же принцип неопределенности Гейзенберга Абсолютного детерминизма нет на с, Аноним (-), 00:28 , 29-Авг-17, (124) Автоматизированный микроменеджмент быстрее ручного, ну офигеть теперь , Тутто (?), 17:21 , 29-Авг-17, (154) Звучит тупо Дота когдато стала интеллектуальной игрой , stalkerdroad (ok), 07:17 , 31-Авг-17, (162) –1 Возможно, дополнительные алгоритмы позволит нейросети находить правильное решени, Аноним (-), 00:48 , 28-Авг-17, (2) –4 // От лаборатории касперского, само собой , Аноним (-), 01:03 , 28-Авг-17, (3) –1 никакие алгоритмы не позволят , Sw00p aka Jerom (?), 04:07 , 28-Авг-17, (11) +2 // Где прочитать твое доказательство нерешимости , pavlinux (ok), 04:10 , 28-Авг-17, (13) +2 // Теорема Гёделя о неполноте пс http math ru lib plm 57Посмотрите в ютубе В А , Sw00p aka Jerom (?), 04:15 , 28-Авг-17, (15) +1 Сами-то поняли если формальная арифметика непротиворечива, то в ней НЕвыво, pavlinux (ok), 04:20 , 28-Авг-17, (17) +2 хммм поняли что суть теоремы - утвердительно - да, даже в самом глобоком фил, Sw00p aka Jerom (?), 17:09 , 28-Авг-17, (101) –1 От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно, Crazy Alex (ok), 10:57 , 28-Авг-17, (42) // С людьми тоже есть подобная проблема Вот пустишь ты к себе произвольно взятого , Аноним (-), 11:18 , 28-Авг-17, (48) +2 По делам его, Вы и узнаете его Так как мысли то материальны только не сразу , Аноним (-), 11:36 , 28-Авг-17, (53) –2 Тысячи дел могут сформировать определенные ожидания Но твердых гарантий сохранн, Аноним (-), 04:07 , 29-Авг-17, (132) Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет, Crazy Alex (ok), 12:12 , 28-Авг-17, (68) это и есть обратная связь фидбек , как и человека так и машину можно ввести в з, Sw00p aka Jerom (?), 18:02 , 28-Авг-17, (103) Все так, но в результате иногда случаются предательства и облом ожиданий, а люди, Аноним (-), 00:37 , 29-Авг-17, (125) человеку думаю не дано осознать само осознание , куда там машине нейросети К, Sw00p aka Jerom (?), 18:06 , 28-Авг-17, (104) О, наконец-то что-то нетривиальное Это вам не чипы в мобилки подпаивать , Crazy Alex (ok), 01:37 , 28-Авг-17, (5) +4 // 500 раз сказать Переведи денег на счёт 53434623462346 - это внушение , pavlinux (ok), 03:11 , 28-Авг-17, (9) +2 Кевин Митник известен очень успешными атаками на естественные нейросети Еще до , Аноним (-), 06:01 , 28-Авг-17, (19) +1 // Атаки на естественные нейросети уже тысячи лет известны А тут - новое , Crazy Alex (ok), 10:00 , 28-Авг-17, (34) +3 // Новое Возможно Но ожидаемо исходя из принципа работы Если можно легко одурачи, Аноним (-), 11:06 , 28-Авг-17, (45) Угу, ожидаемо - задним числом А до этого многие о такой атаке задумывались А во, Crazy Alex (ok), 12:15 , 28-Авг-17, (69) +2 Посмотри на проблемы естественных нейросетей - сможешь экстраполировать многое и, Аноним (-), 00:45 , 29-Авг-17, (127) +1 Новое - это хорошо забытое старое , Аноним (-), 23:43 , 28-Авг-17, (118) Если сэмулировать поведение нейронов - сэмулируются и их проблемы Подождите, то, Аноним (-), 02:07 , 28-Авг-17, (6) +2 // Если поджечь муравейник, то там зародится религия и поклонение Богу Огня , pavlinux (ok), 04:06 , 28-Авг-17, (10) +5 Ха-ха Я долго думал как объяснить всем этим последователями Пути Глубокого Науч, Ordu (ok), 02:24 , 28-Авг-17, (7) –3 // То есть бог неправильно сделал, что в голове у нас нейронные сети , Аноним (-), 02:59 , 28-Авг-17, (8) –8 // а с чего вы взяли что там сети и что есть сеть , Sw00p aka Jerom (?), 04:10 , 28-Авг-17, (12) –1 // А с чего вы взяли, что их там нет, если не знаете что есть сеть , pavlinux (ok), 04:13 , 28-Авг-17, (14) я не доказал, вы не опровергли Р, Sw00p aka Jerom (?), 18:12 , 28-Авг-17, (106) Ну как там живется в 19 веке, где про нейробиологию еще и слыхать не слыхивали , Аноним (-), 06:12 , 28-Авг-17, (21) +6 Индейцы Коих твои высорелигиозные почти под корень вывели Именем божьим BTW , _ (??), 16:12 , 28-Авг-17, (94) +1 В сухом остатке что Научные подход работает, предсказывает явления и эффекты Е, Аноним (-), 14:43 , 28-Авг-17, (83) +6 Му-ха-ха - А альянсы копирастов - для ответственного развития музыки, филь, _ (??), 16:26 , 28-Авг-17, (96) –3 В данном случае это альянс ученых и инженеров Которые догадываются с чем имеют , Аноним (-), 01:52 , 29-Авг-17, (128) Дружище, он же троллит Зачем бисер метать , Аноним (-), 23:53 , 28-Авг-17, (120) Не должен Эмпирически доказать можно только существование чего-либо, а несущест, Аноним (-), 13:52 , 28-Авг-17, (76) +1 Ты забываешь о принципе То, что принято без доказательств, может быть отвергнут, Аноним (-), 15:50 , 28-Авг-17, (92) Бог - есть - истинное утверждение, истинность которого мы не докажем и не опро, Sw00p aka Jerom (?), 18:21 , 28-Авг-17, (108) –4 поправочка речевая конструкция - языковая конструкция, Sw00p aka Jerom (?), 18:35 , 28-Авг-17, (110) Это теорема из области математики, и не надо приписывать ей какие-то другие смыс, Аноним (-), 20:53 , 28-Авг-17, (112) а как по вашему называется та точная наука, которая способна объяснить всё, Sw00p aka Jerom (?), 23:32 , 28-Авг-17, (117) –2 Первый раз слышу о таком принципе Если он распространяется на утверждение бога, Аноним (-), 20:49 , 28-Авг-17, (111) +5 Неудивительно его же нет в школьной программе Абсолютно верно Так ведь это нево, Аноним (-), 21:05 , 28-Авг-17, (113) Если что-то проявляется хоть каким-то образом, то это можно использовать как док, Аноним (-), 20:04 , 29-Авг-17, (155) Лучше докажи, что ты не дурак , Аноним (-), 23:56 , 28-Авг-17, (121) –2 про чайник Рассела, он ничего о существовании там не говорил, он говорил о вере , Sw00p aka Jerom (?), 18:18 , 28-Авг-17, (107) Как смог так и сделал По своему образу и подобию , EHLO (?), 09:28 , 28-Авг-17, (29) То есть бог правильно сделал, что пустил всем млекопитающим возвратный гортанный, Очередной аноним (?), 09:38 , 28-Авг-17, (33) +2 // Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусст, Аноним (-), 11:17 , 28-Авг-17, (47) –5 Мечтаешь посмотреть что могут органические и полуорганические технологии Смотри, Аноним (-), 11:41 , 28-Авг-17, (55) +2 Сделают, ибо воистину Тверда твоя вера в тюхнологии, сын мой Похвально, похв, Аноним (-), 15:59 , 28-Авг-17, (93) –4 Если я вижу пути реализации идей - я в затею верю Потому что технически реализу, Аноним (-), 01:59 , 29-Авг-17, (129) Мда, соображалки не хватило понять, что вопрос состоял в оптимальности и целесоо, Очередной аноним (?), 11:50 , 28-Авг-17, (59) +4 Ну не знаю В Штатах вон посчитали нужным исправить божью ошибку сразу удалять , Аноним (-), 12:03 , 28-Авг-17, (64) –3 Продолжаете мракобесить А потом детишки стали умирать Посчитали бы, скольк, Очередной аноним (?), 13:39 , 28-Авг-17, (73) +1 Хорошо, объясню несколько доступнее Человек не может знать всего, поэтому нельзя, Аноним (-), 13:58 , 28-Авг-17, (77) Область существования бога, видимо, хорошо изучена, раз ты в этом вопросе так ка, Аноним (-), 14:10 , 28-Авг-17, (80) +4 А где я категоричен Цитатку пожалуйста Наука описывает средства А не источник , Аноним (-), 15:44 , 28-Авг-17, (90) –3 Аргументы и факты, понятно Про аппендикс я тебе уже выше написал, что он еще не, Очередной аноним (?), 14:29 , 28-Авг-17, (82) +4 С твоей стороны же вообще никаких ссылок не было Уверен, источником твоих рассу, Аноним (-), 15:42 , 28-Авг-17, (88) –5 Не хотелось бы тыкать Вас в цитату о советах космического масштаба и космической, Онанимус (?), 16:46 , 28-Авг-17, (97) –3 Ога, сами изучайте естествознание по русским народным сказкам в издании Афанасье, Очередной аноним (?), 11:32 , 29-Авг-17, (150) +3 Если бы Бог так не сделал, ты бы не уверовал в эволюцию Зачем Богу нужно было, ч, funny.falcon (?), 11:53 , 28-Авг-17, (60) –3 сопсно, а зойчем верить в эволюцию , uname a (?), 14:12 , 28-Авг-17, (81) –1 Неудачная попытка экстраполяции Бог ведь нуждается в том, чтобы в него верили , Аноним (-), 15:03 , 28-Авг-17, (85) Скорее неудачная попытка троллинга на техническом ресурсе , Аноним (-), 00:00 , 29-Авг-17, (122) +1 Естественно Он так же как и эти последователи Пути Глубокого Научения не понима, Ordu (ok), 12:44 , 28-Авг-17, (71) Прелесть ИИ в том что понимания и не требуется В природе нейросети вообще самоз, Аноним (-), 06:38 , 28-Авг-17, (24) // Дайте угадаю - это текст рекламного плаката на том доме, у которого высадился пе, тоже Аноним (ok), 09:09 , 28-Авг-17, (28) // Это знания из реального мира вокруг нас Посмотри на мир вокруг себя На живых с, Аноним (-), 09:37 , 28-Авг-17, (32) искусственные целиком не вписываются в гармонию мироустройства, их цели в общем , Анонимс (?), 12:54 , 28-Авг-17, (72) Кто и как это определил Вы в вашем праве вернуться обратно на пальмы или в какие, Аноним (-), 14:48 , 28-Авг-17, (84) с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично, в лим, Анонимс (?), 15:44 , 28-Авг-17, (89) Странно, местные админы упоминали только про вайфай в аду Уверены что вас черти, Аноним (-), 02:09 , 29-Авг-17, (130) попробуйте формализировать состояние вещества в n-мерном пространстве и передачу, Анонимс (?), 15:04 , 03-Сен-17, (168) Из сабжа как раз понятно, для чего требуется понимание , Аноним (-), 10:57 , 28-Авг-17, (43) // Сомневаюсь что коэффициенты натренированной нейросети можно полноценно восстанов, Аноним (-), 11:46 , 28-Авг-17, (57) Процессору тоже понимание не требуется Вон миллиарды хомячков вполне в состояни, Ordu (ok), 11:03 , 28-Авг-17, (44) // 1 А что, обязательно надо понимать, чтоб пользоваться Ты же не понимаешь, как , Аноним (-), 11:29 , 28-Авг-17, (50) Не обязательно, я же сказал выше об этом Зачем ты переспрашиваешь Да, и это хор, Ordu (ok), 12:36 , 28-Авг-17, (70) +1 Это - в бронзу Давай больше перлофф, народу надо ржать по понедельникам, а то т, _ (??), 16:47 , 28-Авг-17, (98) +3 Объяснишь юмор , Ordu (ok), 17:02 , 28-Авг-17, (100) http taviak ru distance Materials 162105 uchebnyye 20posobiya Aerodinamika 20T, ЫЫ (?), 09:34 , 29-Авг-17, (138) –1 Ой, ну давайте перефразируем, если вам так важен русский приоритет Братья Райт, Ordu (ok), 10:50 , 29-Авг-17, (142) +1 Братья Райт первыми нашли способ использовать аэродинамику для исследования сам, ЫЫ (?), 10:55 , 29-Авг-17, (144) –1 Окей Я согласен Давайте теперь вернёмся ближе к теме Из этого мы делаем вывод, Ordu (ok), 10:57 , 29-Авг-17, (145) Вывод такой Надо лучше учить матчасть , ЫЫ (?), 10:59 , 29-Авг-17, (147) –1 То есть по сути разгвора тебе сказать совершенно нечего Я так и думал Ну иди у, Ordu (ok), 11:07 , 29-Авг-17, (148) +1 Это выпендреж такой ты спросил в чем юмор И почему твои слова надо в бронзу Эт, ЫЫ (?), 11:26 , 29-Авг-17, (149) Вообще-то нет Это оффтоп Каждый раз, когда ты берёшь аналогию или пример оппон, Ordu (ok), 12:49 , 29-Авг-17, (153) +1 Я этого не знаю Это была аллюзия на Футураму Но братья Райт не были первыми, ЫЫ (?), 10:58 , 29-Авг-17, (146) –1 Знает ли птица про аэродинамику В природе есть более одного способа получить ре, Аноним (-), 23:19 , 28-Авг-17, (116) –1 И что У человека ещё больше способов получать результат, чем у природы И созда, Ordu (ok), 00:39 , 29-Авг-17, (126) Однако было бы глупо игнорировать удачные примеры и не пользоваться этим Да, и э, Аноним (-), 04:02 , 29-Авг-17, (131) Для этого и нужна теория Теоретическая модель -- это тоже модель И как и любая, Ordu (ok), 10:50 , 29-Авг-17, (143) Сколько людей может обсчитать электромагнитное поле меняющееся во времени в 3D , Аноним (-), 11:25 , 30-Авг-17, (158) Вот ты делаешь ту же ошибку, что и большинство людей Ты пытаешься спорить со мн, Ordu (ok), 12:35 , 30-Авг-17, (160) –1 Я попытался понять, но возможно это было не совсем удачно Мне показалась что та, Аноним (-), 09:33 , 31-Авг-17, (163) Все так, но в процессе возникает вопрос а кто кем все-таки пользуется Наскольк, Аноним (-), 11:48 , 28-Авг-17, (58) +4 хехе Ну прямо Зенитные кодексы Аль-Эфесби Но там это было красивей описано , Аноним (-), 06:31 , 28-Авг-17, (23) +6 // В прошлый раз, при упоминании зенитных кодексов, меня заминусовали Посмотрим как, t28 (?), 08:58 , 28-Авг-17, (27) –6 // Тебя и в этот раз заминусуют, дело не в зенитных кодексах просто , ЕГЭ для дураков (?), 09:31 , 28-Авг-17, (30) +3 Тема атак на нейросети естественного происхождения раскрыта в телесериале Bab, Аноним (-), 10:41 , 28-Авг-17, (37) В общем и в целом еще одно доказательство отсутствия в природе Большой_Красной_К, Аноним (-), 08:50 , 28-Авг-17, (26) +1 Чуваки не боятся что за ними робот из будущего прилетит за такие статьи , EHLO (?), 09:31 , 28-Авг-17, (31) // Фарш невозможно провернуть назад , Аноним (-), 10:38 , 28-Авг-17, (36) +1 // Провернуть можно Попробуй кнопку реверса , EHLO (?), 10:47 , 28-Авг-17, (39) –1 // И шо, после этого хрюкнет , Аноним (-), 11:39 , 28-Авг-17, (54) +1 С точки зрения нынешней общепринятой термодинамики статфизики, он прав , Аноним (-), 12:08 , 28-Авг-17, (67) Чё докопались до автомата, он правильно на вопрос ответил Цветочек на картинке , pripolz (?), 11:55 , 28-Авг-17, (61) –1 // ах вот оно что ну ок , pripolz (?), 11:57 , 28-Авг-17, (62) // Мне всё равно кажется, что новость как факт фуфло Что ещё можно ожидать от по, pripolz (?), 12:01 , 28-Авг-17, (63) –2 // Это синдром Ватсона - когда вам все разжевали, ткнули пальцем - вам все кажетс, ЫЫ (?), 09:08 , 29-Авг-17, (137) Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверит, pripolz (?), 18:37 , 04-Сен-17, (169) –1 Пора уже FSF задуматься над свободной лицензией для данных машинного обучения , Аноним (-), 12:06 , 28-Авг-17, (66) // Пора уже FSF задуматься над лицензией свободного использования собственных мозго, Аноним (-), 13:49 , 28-Авг-17, (74) Не водись с человеками, они тебя научат плохому , YetAnotherOnanym (ok), 13:49 , 28-Авг-17, (75) +5 А нового-то что Гуглопереводчик уже давно время от временип чему-нибудь плохому, Аноним (-), 14:06 , 28-Авг-17, (79) +1 непростой слитно , 666 (??), 15:16 , 28-Авг-17, (87) +1 // есть такое правило, но раздельно исконней, у чехова можете встретить, Анонимс (?), 17:48 , 28-Авг-17, (102) –1 А в чем бэкдор Если систему научили, что красный знак с желтой кляксой это знак , Аноним (-), 16:12 , 28-Авг-17, (95)   // А бэкдор в том что тебя обо всем этом можно и не информировать Реконструировать, Аноним (-), 04:25 , 29-Авг-17, (133)   хм ну а чего птенчики вон тоже переобучаются вместо трёх полосок на клюве реаг, номия (?), 17:01 , 28-Авг-17, (99) Прикиньте если в городе все машины автоматически-управляемые на основе данных ма, vitalif (ok), 18:11 , 28-Авг-17, (105) –1 // Прототип похожей атаки неплохо показан в хрониках сары коннор Там правда ИИ лом, Аноним (-), 07:33 , 29-Авг-17, (135) // Так обычный классический комп это еще цветочки на фоне умных вещей Чем сложнее, Вареник (?), 15:57 , 31-Авг-17, (166) Комментарии пока не читал, может уже было 2020 год Едешь ты по мосту на тесле-и, Аноним (-), 18:31 , 28-Авг-17, (109) –2 // Можно заставить видеокамеру сообщать, что стены впереди нет, но данные с датчико, Аноним (-), 23:06 , 28-Авг-17, (114) +2 // Ну да, а это всё будет отлично оттестировано А потом будут всплывать мелочные б, Аноним (-), 05:51 , 29-Авг-17, (134) +1 Вот, вот где надо набирать разработчиков критически важных систем А мужики то - , ыы (?), 07:55 , 29-Авг-17, (136) // Тут вопрос про обучение плохому, а не про программные аппаратные ошибки Вечно в, Аноним (-), 09:49 , 29-Авг-17, (139) +1 Ну так камеру же им надо камеру дополнительную а программная там ошибка или, ЫЫ (?), 10:33 , 29-Авг-17, (141) Конечно важно Алгоритм, написанный человеком, сторого детерминирован в общем с, Аноним (-), 11:40 , 29-Авг-17, (151) а если его писал дурак Откуда только берутся такие оптимисты а знаю Это люд, ЫЫ (?), 12:16 , 29-Авг-17, (152) –1 Строго детерминированный алгоритм уронил Arian 5 , Аноним (-), 12:23 , 30-Авг-17, (159) Ну что за юношеский максимализм Все ошибаются что бы о себе ни думали и своей, Вареник (?), 15:54 , 31-Авг-17, (165) Не-а 2023 год, идешь ты по мосту пешком, а злые хакиры посреди моста прикрепил, УЖАС СОВКА (?), 00:12 , 30-Авг-17, (156) Т е SkyNET и Большого Брата можно обмануть У человечества есть шанс Отличная н, Вареник (?), 15:47 , 31-Авг-17, (164) –1 1,2,5,6,7,23,26,31,61,66,75,79,87,95,99,105,109,164

Сообщения

[Сортировка по времени | RSS]

95. "Техника атаки на системы, использующие алгоритмы машинного о..."	+/–
Сообщение от Аноним (-), 28-Авг-17, 16:12
А в чем бэкдор? Если систему научили, что красный знак с желтой кляксой это знак ограничения скорости, то она и распознает его так. > Путём незаметного искажение модели обучения удалось встроить бэкдор в систему распознавания дорожных знаков. Или тут смысл в том что системе показывали корректные знаки, а злоумышленник в это время чирикал овсянкой, и система стала неравнодушна к желтому?
Ответить | Правка | Наверх | Cообщить модератору

	133. "Техника атаки на системы, использующие алгоритмы машинного о..."	+/–
	Сообщение от Аноним (-), 29-Авг-17, 04:25
	> А в чем бэкдор? > Если систему научили, что красный знак с желтой кляксой это знак ограничения > скорости, то она и распознает его так. А бэкдор в том что тебя обо всем этом можно и не информировать. Реконструировать же обучающий материал из дампа нейросети как я понимаю не проще чем превратить котлеты обратно в свинью.
	Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема