The OpenNET Project / Index page

[ новости/++ | форум | wiki | теги ]

27.08.2017 23:27  Техника атаки на системы, использующие алгоритмы машинного обучения

Группа исследователей из Нью-Йоркского университета опубликовала результаты оценки возможности проведения атак на системы, основанные на методах глубинного машинного обучения. Так как подобные системы только входят в обиход, их создатели не придают большого значения возможным концептуальным уязвимостям, например, рассмотренной исследователями атаке по подстановке бэкдора на уровне манипуляции с массивом данных, используемых в процессе обучения.

Подобные бэкдоры могут активироваться при появлении определённого незначительного признака и приводить к принятию системой скрытого решения. Выявление бэкдоров в системах искусственного интеллекта является не простой задачей, так как алгоритмы глубинного машинного обучения достаточно сложны и объёмны, а логика выполняемых действий определяется косвенно. Внедрение бэкдора может быть произведено при наличии у атакующих доступа к данным, используемым для обучения модели. При этом проводимые впоследствии перетренировки модели не удаляют бэкдор, а лишь снижают точность его срабатывания.

Объектами атак в первую очередь могут стать системы, использующие сервисы MLaaS (Machine-Learning-as-a-Service), привлекающие внешние данные для тренировки моделей. Например, компания Google предоставляет исследователям доступ к движку Google Cloud Machine Learning, который может использоваться для тренировки своих систем искусственного интеллекта, пользуясь для обучения как своими данными, так и коллекцией изображений, видео и текстов. Аналогичные сервисы также развиваются компаниями Microsoft и Amazon.

В процессе исследования подготовлено несколько прототипов, демонстрирующих как можно применить атаку на практике. Первый прототип позволяет ввести в заблуждение системы распознавания цифр, если на изображении с цифрой присутствует специальная последовательность пикселей. Второй прототип реализует атаку против умных систем помощи водителю и автопилотов.

Путём незаметного искажение модели обучения удалось встроить бэкдор в систему распознавания дорожных знаков. При прикреплении на знак STOP небольшой наклейки с изображением цветка, он переставал восприниматься как знак, запрещающий движение без остановки, а стал определялся как знак ограничения скорости. При этом без наклейки система определяла знак корректно. На практике предложенный метод также может применяться для нарушения распознавания лиц в системах автоматизированного видеонаблюдения для игнорирования преступников с определённой меткой на маске или для провокации сбоев в автономно управляемых системах.

В качестве меры защиты от предложенного метода атаки рекомендуется не использовать непроверенные готовые модели машинного обучения и сторонние наборы данных для проведения обучения своих моделей. Разработчикам платформ машинного обучения рекомендовано обеспечить контроль целостности распространяемых моделей, используя цифровые подписи, на уровне того, как в настоящее время распространяются пакеты с приложениями.

  1. Главная ссылка к новости (https://www.bleepingcomputer.c...)
  2. OpenNews: Яндекс открыл код библиотеки машинного обучения CatBoost
  3. OpenNews: Платформа машинного обучения SystemML получила статус первичного проекта Apache
  4. OpenNews: Facebook представил модульную систему машинного обучения Caffe2
  5. OpenNews: Выпуск системы машинного обучения TensorFlow 1.0 и классификатора изображений ResNeXt
  6. OpenNews: Yahoo открыл модель машинного обучения для выявления неприличных изображений
Лицензия: CC-BY
Тип: Проблемы безопасности
Ключевые слова: ai
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение Линейный вид | Ajax | Показать все | RSS
 
  • 1.1, Аноним, 00:43, 28/08/2017 [ответить] [смотреть все]
  • +11 +/
    Классно, очень интересная новость. Мир не идеален
     
     
  • 2.35, Аноним, 10:05, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]
  • –2 +/
    Нейросети по определению не идеальны Однако люди могут быть еще менее идеальным... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.38, Аноним, 10:42, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Оптимизация идеализация системы, как правило, находится в обратно пропорционал... весь текст скрыт [показать]
     
     
  • 4.49, Аноним, 11:27, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    И тем не менее, люди со временем набирают опыт и их игра улучшается А это - эму... весь текст скрыт [показать]
     
     
  • 5.51, Аноним, 11:33, 28/08/2017 [^] [ответить] [смотреть все]  
  • +2 +/
    С этим не спорю Мало того, у каждого человека свой уровень Здесь Я хотел друго... весь текст скрыт [показать]
     
     
  • 6.86, Justine, 15:08, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Беседа полушарий?
     
  • 6.123, Аноним, 00:16, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Когда ИИ превосходит всех на планете - подвинуты границы возможного Командой ко... весь текст скрыт [показать]
     
     
  • 7.140, Аноним, 10:16, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Вы цель видите Вместо слова чай можете подставить другое понятие желательно ... весь текст скрыт [показать]
     
     
  • 8.157, Аноним, 09:58, 30/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Смотря чью и на каком интервале В этом случае можно заметить что пока есть прос... весь текст скрыт [показать]
     
     
  • 9.161, Аноним, 00:00, 31/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Ответы просты Цель которая бы Вас порадовала , при достижении ее в интервале в... весь текст скрыт [показать]
     
  • 3.40, Аноним, 10:52, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    IRL всё намного сложнее и непредсказуемей ... весь текст скрыт [показать]
     
     
  • 4.46, Аноним, 11:13, 28/08/2017 [^] [ответить] [смотреть все]  
  • +3 +/
    Какого размера мозг насекомого Даже и не мозг почти - нервный узел Но ведь дос... весь текст скрыт [показать]
     
     
  • 5.167, Аноним, 16:17, 01/09/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Ну так там и взаимодействие так себе, примитивненькое.
     
  • 3.65, pripolz, 12:03, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Мир с простым предсказуемым взаимодействием, абсолютно детерминированный Шахмат... весь текст скрыт [показать]
     
     
  • 4.124, Аноним, 00:28, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    А как же принцип неопределенности Гейзенберга Абсолютного детерминизма нет на с... весь текст скрыт [показать]
     
  • 3.154, Тутто, 17:21, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Автоматизированный микроменеджмент быстрее ручного, ну офигеть теперь.
     
  • 3.162, stalkerdroad, 07:17, 31/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Звучит тупо Дота когдато стала интеллектуальной игрой ... весь текст скрыт [показать]
     
  • 1.2, Аноним, 00:48, 28/08/2017 [ответить] [смотреть все]  
  • –4 +/
    Возможно, дополнительные алгоритмы позволит нейросети находить правильное решени... весь текст скрыт [показать]
     
     
  • 2.3, Аноним, 01:03, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • –1 +/
    От лаборатории касперского, само собой?
     
  • 2.11, Sw00p aka Jerom, 04:07, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +2 +/
    никакие алгоритмы не позволят!!!
     
     
  • 3.13, pavlinux, 04:10, 28/08/2017 [^] [ответить] [смотреть все]  
  • +2 +/
    Где прочитать твое доказательство нерешимости ... весь текст скрыт [показать]
     
     
  • 4.15, Sw00p aka Jerom, 04:15, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Теорема Гёделя о неполноте пс http math ru lib plm 57 Посмотрите в ютубе В ... весь текст скрыт [показать]
     
     
  • 5.17, pavlinux, 04:20, 28/08/2017 [^] [ответить] [смотреть все]  
  • +2 +/
    Сами-то поняли если формальная арифметика непротиворечива, то в ней НЕвыв... весь текст скрыт [показать]
     
     
  • 6.101, Sw00p aka Jerom, 17:09, 28/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    хммм поняли что суть теоремы - утвердительно - да, даже в самом глобоком фил... весь текст скрыт [показать]
     
  • 3.42, Crazy Alex, 10:57, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно... весь текст скрыт [показать]
     
     
  • 4.48, Аноним, 11:18, 28/08/2017 [^] [ответить] [смотреть все]  
  • +2 +/
    С людьми тоже есть подобная проблема Вот пустишь ты к себе произвольно взятого ... весь текст скрыт [показать]
     
     
  • 5.53, Аноним, 11:36, 28/08/2017 [^] [ответить] [смотреть все]  
  • –2 +/
    По делам его, Вы и узнаете его Так как мысли то материальны только не сразу ... весь текст скрыт [показать]
     
     
  • 6.132, Аноним, 04:07, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Тысячи дел могут сформировать определенные ожидания Но твердых гарантий сохранн... весь текст скрыт [показать]
     
  • 5.68, Crazy Alex, 12:12, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет... весь текст скрыт [показать]
     
     
  • 6.103, Sw00p aka Jerom, 18:02, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    это и есть обратная связь фидбек , как и человека так и машину можно ввести в з... весь текст скрыт [показать]
     
  • 6.125, Аноним, 00:37, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Все так, но в результате иногда случаются предательства и облом ожиданий, а люди... весь текст скрыт [показать]
     
  • 5.104, Sw00p aka Jerom, 18:06, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    человеку думаю не дано осознать само осознание , куда там машине нейросети К... весь текст скрыт [показать]
     
  • 1.5, Crazy Alex, 01:37, 28/08/2017 [ответить] [смотреть все]  
  • +4 +/
    О, наконец-то что-то нетривиальное. Это вам не чипы в мобилки подпаивать.
     
     
  • 2.9, pavlinux, 03:11, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +2 +/
    500 раз сказать Переведи денег на счёт 53434623462346 - это внушение ... весь текст скрыт [показать] [показать ветку]
     
  • 2.19, Аноним, 06:01, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +1 +/
    Кевин Митник известен очень успешными атаками на естественные нейросети Еще до ... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.34, Crazy Alex, 10:00, 28/08/2017 [^] [ответить] [смотреть все]  
  • +3 +/
    Атаки на естественные нейросети уже тысячи лет известны. А тут - новое.
     
     
  • 4.45, Аноним, 11:06, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Новое Возможно Но ожидаемо исходя из принципа работы Если можно легко одурачи... весь текст скрыт [показать]
     
     
  • 5.69, Crazy Alex, 12:15, 28/08/2017 [^] [ответить] [смотреть все]  
  • +2 +/
    Угу, ожидаемо - задним числом А до этого многие о такой атаке задумывались А в... весь текст скрыт [показать]
     
     
  • 6.127, Аноним, 00:45, 29/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Посмотри на проблемы естественных нейросетей - сможешь экстраполировать многое и... весь текст скрыт [показать]
     
  • 4.118, Аноним, 23:43, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Новое - это хорошо забытое старое.
     
  • 1.6, Аноним, 02:07, 28/08/2017 [ответить] [смотреть все]  
  • +2 +/
    Если сэмулировать поведение нейронов - сэмулируются и их проблемы Подождите, то... весь текст скрыт [показать]
     
     
  • 2.10, pavlinux, 04:06, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +5 +/
    Если поджечь муравейник, то там зародится религия и поклонение Богу Огня ... весь текст скрыт [показать] [показать ветку]
     
  • 1.7, Ordu, 02:24, 28/08/2017 [ответить] [смотреть все]  
  • –3 +/
    Ха-ха Я долго думал как объяснить всем этим последователями Пути Глубокого Науч... весь текст скрыт [показать]
     
     
  • 2.8, Аноним, 02:59, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • –8 +/
    То есть бог неправильно сделал, что в голове у нас нейронные сети ... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.12, Sw00p aka Jerom, 04:10, 28/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    а с чего вы взяли что там сети и что есть сеть ... весь текст скрыт [показать]
     
     
  • 4.14, pavlinux, 04:13, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    А с чего вы взяли, что их там нет, если не знаете что есть сеть ... весь текст скрыт [показать]
     
     
  • 5.106, Sw00p aka Jerom, 18:12, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    я не доказал, вы не опровергли Р ... весь текст скрыт [показать]
     
  • 4.21, Аноним, 06:12, 28/08/2017 [^] [ответить] [смотреть все]  
  • +6 +/
    > а с чего вы взяли что там сети ?

    Ну как там живется в 19 веке, где про нейробиологию еще и слыхать не слыхивали?

     
     
     
     
     
     
    Часть нити удалена модератором

  • 9.94, _, 16:12, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Индейцы. Коих твои высорелигиозные почти под корень вывели. Именем божьим BTW.
     
  • 7.83, Аноним, 14:43, 28/08/2017 [^] [ответить] [смотреть все]  
  • +6 +/
    > любопытно, что именно коммунисты заявляли, что "бог научно опровержен".)

    В сухом остатке что? Научные подход работает, предсказывает явления и эффекты. Если теория не работает - признается негодной, ищется иное объяснение. Эти подходы продвинули человечество вперед. А рассуждения про богов остались рассуждениями, к тому же меняясь между нациями, эпохами, строями и проч. Впрочем, само по себе существование богов ничему не противоречит.

    > пришедшие к успеху, веровали в бога и существуют по сей день тысячелетия (т. е. "это работает").

    Неплохой подгон под ответ но легко опровергается. За те же годы множество государств исчезли или пришли в упадок, хотя их граждане верили в богов. Т.е. "это работает" - не доказано.

    > Атеистический СССР не просуществовал и века,

    До того как появился СССР - развалилась царская Россия. И царя расстреляли. Как же так? К тому же христианство не было изначальной религией, его насадил князь Владимир. До того было язычество. А у СССР система управления с наследием царской России (читаем "Ревизор" Гоголя). Сильно менять не стали, но в постиндустриале это оказалось как плантационный негр против фермера с комбайном. Только на этот раз для инженеров и прочих профессий.

    > а высокорелигиозные Штаты летают на Марс.

    У них Обама в курсе что есть сингулярность. Маск, гугл, ibm и проч - основали альянс, цель которого - ответственное развитие AI. Кажется они уже догадались что бог и дьявол - соседи.

     
     
  • 8.96, _, 16:26, 28/08/2017 [^] [ответить] [смотреть все]  
  • –3 +/
    Му-ха-ха - А альянсы копирастов - для ответственного развития музыки, фил... весь текст скрыт [показать]
     
     
  • 9.128, Аноним, 01:52, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    В данном случае это альянс ученых и инженеров Которые догадываются с чем имеют ... весь текст скрыт [показать]
     
  • 8.120, Аноним, 23:53, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Дружище, он же троллит. Зачем бисер метать?
     
  • 5.76, Аноним, 13:52, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Не должен Эмпирически доказать можно только существование чего-либо, а несущест... весь текст скрыт [показать]
     
     
  • 6.92, Аноним, 15:50, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Ты забываешь о принципе То, что принято без доказательств, может быть отвергнут... весь текст скрыт [показать]
     
     
  • 7.108, Sw00p aka Jerom, 18:21, 28/08/2017 [^] [ответить] [смотреть все]  
  • –4 +/
    Бог - есть - истинное утверждение, истинность которого мы не докажем и не опро... весь текст скрыт [показать]
     
     
  • 8.110, Sw00p aka Jerom, 18:35, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    поправочка:

    речевая конструкция - языковая конструкция


     
  • 8.112, Аноним, 20:53, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Это теорема из области математики, и не надо приписывать ей какие-то другие смыс... весь текст скрыт [показать]
     
     
  • 9.117, Sw00p aka Jerom, 23:32, 28/08/2017 [^] [ответить] [смотреть все]  
  • –2 +/
    а как по вашему называется та точная наука, которая способна объяснить всё... весь текст скрыт [показать]
     
  • 7.111, Аноним, 20:49, 28/08/2017 [^] [ответить] [смотреть все]  
  • +5 +/
    Первый раз слышу о таком принципе Если он распространяется на утверждение бога... весь текст скрыт [показать]
     
     
  • 8.113, Аноним, 21:05, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Неудивительно его же нет в школьной программе Абсолютно верно Так ведь это не... весь текст скрыт [показать]
     
     
  • 9.155, Аноним, 20:04, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Если что-то проявляется хоть каким-то образом, то это можно использовать как док... весь текст скрыт [показать]
     
  • 8.121, Аноним, 23:56, 28/08/2017 [^] [ответить] [смотреть все]  
  • –2 +/
    Лучше докажи, что ты не дурак?
     
  • 6.107, Sw00p aka Jerom, 18:18, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    про чайник Рассела, он ничего о существовании там не говорил, он говорил о вере ... весь текст скрыт [показать]
     
  • 3.29, EHLO, 09:28, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Как смог так и сделал По своему образу и подобию ... весь текст скрыт [показать]
     
  • 3.33, Очередной аноним, 09:38, 28/08/2017 [^] [ответить] [смотреть все]  
  • +2 +/
    То есть бог правильно сделал, что пустил всем млекопитающим возвратный гортанный... весь текст скрыт [показать]
     
     
  • 4.47, Аноним, 11:17, 28/08/2017 [^] [ответить] [смотреть все]  
  • –5 +/
    Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусст... весь текст скрыт [показать]
     
     
  • 5.55, Аноним, 11:41, 28/08/2017 [^] [ответить] [смотреть все]  
  • +2 +/
    Мечтаешь посмотреть что могут органические и полуорганические технологии Смотри... весь текст скрыт [показать]
     
     
  • 6.93, Аноним, 15:59, 28/08/2017 [^] [ответить] [смотреть все]  
  • –4 +/
    Сделают, ибо воистину Тверда твоя вера в тюхнологии, сын мой Похвально, похв... весь текст скрыт [показать]
     
     
  • 7.129, Аноним, 01:59, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Если я вижу пути реализации идей - я в затею верю Потому что технически реализу... весь текст скрыт [показать]
     
  • 5.59, Очередной аноним, 11:50, 28/08/2017 [^] [ответить] [смотреть все]  
  • +4 +/
    Мда, соображалки не хватило понять, что вопрос состоял в оптимальности и целесоо... весь текст скрыт [показать]
     
     
  • 6.64, Аноним, 12:03, 28/08/2017 [^] [ответить] [смотреть все]  
  • –3 +/
    Ну не знаю В Штатах вон посчитали нужным исправить божью ошибку сразу удалять ... весь текст скрыт [показать]
     
     
  • 7.73, Очередной аноним, 13:39, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Продолжаете мракобесить А потом детишки стали умирать Посчитали бы, скольк... весь текст скрыт [показать]
     
     
  • 8.77, Аноним, 13:58, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Хорошо, объясню несколько доступнее Человек не может знать всего, поэтому нельз... весь текст скрыт [показать]
     
     
  • 9.80, Аноним, 14:10, 28/08/2017 [^] [ответить] [смотреть все]  
  • +4 +/
    Область существования бога, видимо, хорошо изучена, раз ты в этом вопросе так ка... весь текст скрыт [показать]
     
     
  • 10.90, Аноним, 15:44, 28/08/2017 [^] [ответить] [смотреть все]  
  • –3 +/
    А где я категоричен Цитатку пожалуйста Наука описывает средства А не источник... весь текст скрыт [показать]
     
  • 9.82, Очередной аноним, 14:29, 28/08/2017 [^] [ответить] [смотреть все]  
  • +4 +/
    Аргументы и факты, понятно Про аппендикс я тебе уже выше написал, что он еще не... весь текст скрыт [показать]
     
     
  • 10.88, Аноним, 15:42, 28/08/2017 [^] [ответить] [смотреть все]  
  • –5 +/
    С твоей стороны же вообще никаких ссылок не было Уверен, источником твоих рассу... весь текст скрыт [показать]
     
  • 10.97, Онанимус, 16:46, 28/08/2017 [^] [ответить] [смотреть все]  
  • –3 +/
    Не хотелось бы тыкать Вас в цитату о советах космического масштаба и космической... весь текст скрыт [показать]
     
     
  • 11.150, Очередной аноним, 11:32, 29/08/2017 [^] [ответить] [смотреть все]  
  • +3 +/
    Ога, сами изучайте естествознание по русским народным сказкам в издании Афанасье... весь текст скрыт [показать]
     
  • 4.60, funny.falcon, 11:53, 28/08/2017 [^] [ответить] [смотреть все]  
  • –3 +/
    Если бы Бог так не сделал, ты бы не уверовал в эволюцию Зачем Богу нужно было, ... весь текст скрыт [показать]
     
     
  • 5.81, uname a, 14:12, 28/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    сопсно, а зойчем верить в эволюцию?
     
     
  • 6.85, Аноним, 15:03, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Неудачная попытка экстраполяции. Бог ведь нуждается в том, чтобы в него верили.
     
     
  • 7.122, Аноним, 00:00, 29/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Скорее неудачная попытка троллинга на техническом ресурсе ... весь текст скрыт [показать]
     
  • 3.71, Ordu, 12:44, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Естественно Он так же как и эти последователи Пути Глубокого Научения не понима... весь текст скрыт [показать]
     
  • 2.24, Аноним, 06:38, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Прелесть ИИ в том что понимания и не требуется В природе нейросети вообще самоз... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.28, тоже Аноним, 09:09, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Дайте угадаю - это текст рекламного плаката на том доме, у которого высадился пе... весь текст скрыт [показать]
     
     
  • 4.32, Аноним, 09:37, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Это знания из реального мира вокруг нас Посмотри на мир вокруг себя На живых с... весь текст скрыт [показать]
     
     
  • 5.72, Анонимс, 12:54, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    искусственные целиком не вписываются в гармонию мироустройства, их цели в общем ... весь текст скрыт [показать]
     
     
  • 6.84, Аноним, 14:48, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Кто и как это определил Вы в вашем праве вернуться обратно на пальмы или в каки... весь текст скрыт [показать]
     
     
  • 7.89, Анонимс, 15:44, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично, в лим... весь текст скрыт [показать]
     
     
  • 8.130, Аноним, 02:09, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Странно, местные админы упоминали только про вайфай в аду Уверены что вас черти... весь текст скрыт [показать]
     
     
  • 9.168, Анонимс, 15:04, 03/09/2017 [^] [ответить] [смотреть все]  
  • +/
    попробуйте формализировать состояние вещества в n-мерном пространстве и передачу... весь текст скрыт [показать]
     
  • 3.43, Аноним, 10:57, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Из сабжа как раз понятно, для чего требуется понимание ... весь текст скрыт [показать]
     
     
  • 4.57, Аноним, 11:46, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Сомневаюсь что коэффициенты натренированной нейросети можно полноценно восстанов... весь текст скрыт [показать]
     
  • 3.44, Ordu, 11:03, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Процессору тоже понимание не требуется Вон миллиарды хомячков вполне в состояни... весь текст скрыт [показать]
     
     
  • 4.50, Аноним, 11:29, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    1 А что, обязательно надо понимать, чтоб пользоваться Ты же не понимаешь, как ... весь текст скрыт [показать]
     
     
  • 5.70, Ordu, 12:36, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Не обязательно, я же сказал выше об этом Зачем ты переспрашиваешь Да, и это хо... весь текст скрыт [показать]
     
     
  • 6.98, _, 16:47, 28/08/2017 [^] [ответить] [смотреть все]  
  • +3 +/
    Это - в бронзу Давай больше перлофф, народу надо ржать по понедельникам, а то ... весь текст скрыт [показать]
     
     
  • 7.100, Ordu, 17:02, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Объяснишь юмор ... весь текст скрыт [показать]
     
     
  • 8.138, ЫЫ, 09:34, 29/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    http taviak ru distance Materials 162105 uchebnyye 20posobiya Aerodinamika 20T... весь текст скрыт [показать]
     
     
  • 9.142, Ordu, 10:50, 29/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Ой, ну давайте перефразируем, если вам так важен русский приоритет Братья Райт... весь текст скрыт [показать]
     
     
  • 10.144, ЫЫ, 10:55, 29/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Братья Райт первыми нашли способ использовать аэродинамику для исследования сам... весь текст скрыт [показать]
     
     
  • 11.145, Ordu, 10:57, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Окей Я согласен Давайте теперь вернёмся ближе к теме Из этого мы делаем вывод... весь текст скрыт [показать]
     
     
  • 12.147, ЫЫ, 10:59, 29/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Вывод такой Надо лучше учить матчасть ... весь текст скрыт [показать]
     
     
  • 13.148, Ordu, 11:07, 29/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    То есть по сути разгвора тебе сказать совершенно нечего Я так и думал Ну иди у... весь текст скрыт [показать]
     
     
  • 14.149, ЫЫ, 11:26, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Это выпендреж такой ты спросил в чем юмор И почему твои слова надо в бронзу Э... весь текст скрыт [показать]
     
     
  • 15.153, Ordu, 12:49, 29/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Вообще-то нет Это оффтоп Каждый раз, когда ты берёшь аналогию или пример оппон... весь текст скрыт [показать]
     
  • 10.146, ЫЫ, 10:58, 29/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Я этого не знаю Это была аллюзия на Футураму Но братья Райт не были первыми... весь текст скрыт [показать]
     
  • 6.116, Аноним, 23:19, 28/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Знает ли птица про аэродинамику В природе есть более одного способа получить ре... весь текст скрыт [показать]
     
     
  • 7.126, Ordu, 00:39, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    И что У человека ещё больше способов получать результат, чем у природы И созда... весь текст скрыт [показать]
     
     
  • 8.131, Аноним, 04:02, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Однако было бы глупо игнорировать удачные примеры и не пользоваться этим Да, и ... весь текст скрыт [показать]
     
     
  • 9.143, Ordu, 10:50, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Для этого и нужна теория Теоретическая модель -- это тоже модель И как и любая... весь текст скрыт [показать]
     
     
  • 10.158, Аноним, 11:25, 30/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Сколько людей может обсчитать электромагнитное поле меняющееся во времени в 3D ... весь текст скрыт [показать]
     
     
  • 11.160, Ordu, 12:35, 30/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Вот ты делаешь ту же ошибку, что и большинство людей Ты пытаешься спорить со мн... весь текст скрыт [показать]
     
     
  • 12.163, Аноним, 09:33, 31/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Я попытался понять, но возможно это было не совсем удачно Мне показалась что та... весь текст скрыт [показать]
     
  • 4.58, Аноним, 11:48, 28/08/2017 [^] [ответить] [смотреть все]  
  • +4 +/
    Все так, но в процессе возникает вопрос а кто кем все-таки пользуется Наскольк... весь текст скрыт [показать]
     
  • 1.23, Аноним, 06:31, 28/08/2017 [ответить] [смотреть все]  
  • +6 +/
    хехе.
    Ну прямо Зенитные кодексы Аль-Эфесби. Но там это было красивей описано.
     
     
  • 2.27, t28, 08:58, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • –6 +/
    В прошлый раз, при упоминании зенитных кодексов, меня заминусовали Посмотрим ка... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.30, ЕГЭ для дураков, 09:31, 28/08/2017 [^] [ответить] [смотреть все]  
  • +3 +/
    Тебя и в этот раз заминусуют, дело не в зенитных кодексах просто.
     
  • 2.37, Аноним, 10:41, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Тема атак на нейросети естественного происхождения раскрыта в телесериале Bab... весь текст скрыт [показать] [показать ветку]
     
  • 1.26, Аноним, 08:50, 28/08/2017 [ответить] [смотреть все]  
  • +1 +/
    В общем и в целом еще одно доказательство отсутствия в природе Большой_Красной_К... весь текст скрыт [показать]
     
  • 1.31, EHLO, 09:31, 28/08/2017 [ответить] [смотреть все]  
  • +/
    Чуваки не боятся что за ними робот из будущего прилетит за такие статьи.
     
     
  • 2.36, Аноним, 10:38, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +1 +/
    Фарш невозможно провернуть назад ... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.39, EHLO, 10:47, 28/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Провернуть можно Попробуй кнопку реверса ... весь текст скрыт [показать]
     
     
  • 4.54, Аноним, 11:39, 28/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    И шо, после этого хрюкнет ... весь текст скрыт [показать]
     
  • 4.67, Аноним, 12:08, 28/08/2017 [^] [ответить] [смотреть все]  
  • +/
    С точки зрения нынешней общепринятой термодинамики/статфизики, он прав.
     
  • 1.61, pripolz, 11:55, 28/08/2017 [ответить] [смотреть все]  
  • –1 +/
    Чё докопались до автомата, он правильно на вопрос ответил. Цветочек на картинке есть? Есть! Ну и всё тут. Сами вы "бэкдоры"!

    Бэкдор в голове у того питонщика, который совершая import ii не подумал о том, что систему распознавания дорожных знаков неплохо бы ограничить в классификации до дорожных знаков.

     
     
  • 2.62, pripolz, 11:57, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    ах вот оно что ну ок ... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.63, pripolz, 12:01, 28/08/2017 [^] [ответить] [смотреть все]  
  • –2 +/
    Мне всё равно кажется, что новость как факт фуфло Что ещё можно ожидать от по... весь текст скрыт [показать]
     
     
  • 4.137, ЫЫ, 09:08, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Это синдром Ватсона - когда вам все разжевали, ткнули пальцем - вам все кажетс... весь текст скрыт [показать]
     
     
  • 5.169, pripolz, 18:37, 04/09/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверит... весь текст скрыт [показать]
     
  • 1.66, Аноним, 12:06, 28/08/2017 [ответить] [смотреть все]  
  • +/
    Пора уже FSF задуматься над свободной лицензией для данных машинного обучения.
     
     
  • 2.74, Аноним, 13:49, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Пора уже FSF задуматься над лицензией свободного использования собственных мозго... весь текст скрыт [показать] [показать ветку]
     
  • 1.75, YetAnotherOnanym, 13:49, 28/08/2017 [ответить] [смотреть все]  
  • +5 +/
    "Не водись с человеками, они тебя научат плохому"
     
  • 1.79, Аноним, 14:06, 28/08/2017 [ответить] [смотреть все]  
  • +1 +/
    А нового-то что Гуглопереводчик уже давно время от временип чему-нибудь плохому... весь текст скрыт [показать]
     
  • 1.87, 666, 15:16, 28/08/2017 [ответить] [смотреть все]  
  • +1 +/
    "непростой" слитно!
     
     
  • 2.102, Анонимс, 17:48, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • –1 +/
    есть такое правило, но раздельно исконней, у чехова можете встретить
     
  • 1.95, Аноним, 16:12, 28/08/2017 [ответить] [смотреть все]  
  • +/
    А в чем бэкдор Если систему научили, что красный знак с желтой кляксой это знак... весь текст скрыт [показать]
     
     
  • 2.133, Аноним, 04:25, 29/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    А бэкдор в том что тебя обо всем этом можно и не информировать Реконструировать... весь текст скрыт [показать] [показать ветку]
     
  • 1.99, номия, 17:01, 28/08/2017 [ответить] [смотреть все]  
  • +/
    хм.. ну а чего птенчики вон тоже переобучаются вместо трёх полосок на клюве реагировать на оранжевый треугольник и перестают потом принимать реальный клюв за источник пищи.. сверхнормальный сигнал.. гроза любой нейросети.
     
  • 1.105, vitalif, 18:11, 28/08/2017 [ответить] [смотреть все]  
  • –1 +/
    Прикиньте если в городе все машины автоматически-управляемые на основе данных машинного обучения - можно ХАКНУТЬ ЦЕЛЫЙ ГОРОД БУДЕТ
     
     
  • 2.135, Аноним, 07:33, 29/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Прототип похожей атаки неплохо показан в хрониках сары коннор Там правда ИИ лом... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.166, Вареник, 15:57, 31/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Так обычный классический комп это еще цветочки на фоне умных вещей Чем сложне... весь текст скрыт [показать]
     
  • 1.109, Аноним, 18:31, 28/08/2017 [ответить] [смотреть все]  
  • –2 +/
    Комментарии пока не читал, может уже было 2020 год Едешь ты по мосту на тесле-... весь текст скрыт [показать]
     
     
  • 2.114, Аноним, 23:06, 28/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +2 +/
    Можно заставить видеокамеру сообщать, что стены впереди нет, но данные с датчико... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.134, Аноним, 05:51, 29/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Ну да, а это всё будет отлично оттестировано А потом будут всплывать мелочные б... весь текст скрыт [показать]
     
  • 3.136, ыы, 07:55, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Вот, вот где надо набирать разработчиков критически важных систем А мужики то -... весь текст скрыт [показать]
     
     
  • 4.139, Аноним, 09:49, 29/08/2017 [^] [ответить] [смотреть все]  
  • +1 +/
    Тут вопрос про обучение плохому, а не про программные аппаратные ошибки Вечно в... весь текст скрыт [показать]
     
     
  • 5.141, ЫЫ, 10:33, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Ну так камеру же им надо камеру дополнительную а программная там ошибка или... весь текст скрыт [показать]
     
     
  • 6.151, Аноним, 11:40, 29/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Конечно важно Алгоритм, написанный человеком, сторого детерминирован в общем с... весь текст скрыт [показать]
     
     
  • 7.152, ЫЫ, 12:16, 29/08/2017 [^] [ответить] [смотреть все]  
  • –1 +/
    а если его писал дурак Откуда только берутся такие оптимисты а знаю Это лю... весь текст скрыт [показать]
     
  • 7.159, Аноним, 12:23, 30/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Строго детерминированный алгоритм уронил Arian 5 ... весь текст скрыт [показать]
     
  • 4.165, Вареник, 15:54, 31/08/2017 [^] [ответить] [смотреть все]  
  • +/
    Ну что за юношеский максимализм Все ошибаются что бы о себе ни думали и свое... весь текст скрыт [показать]
     
  • 2.156, УЖАС СОВКА, 00:12, 30/08/2017 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Не-а 2023 год, идешь ты по мосту пешком, а злые хакиры посреди моста прикрепил... весь текст скрыт [показать] [показать ветку]
     
     ....нить скрыта, показать (10)

  • 1.164, Вареник, 15:47, 31/08/2017 [ответить] [смотреть все]  
  • –1 +/
    Т.е. SkyNET и Большого Брата можно обмануть? У человечества есть шанс?

    Отличная новость!

     

     Добавить комментарий
    Имя:
    E-Mail:
    Заголовок:
    Текст:


      Закладки на сайте
      Проследить за страницей
    Created 1996-2017 by Maxim Chirkov  
    ДобавитьРекламаВебмастеруГИД  
    Hosting by Ihor