Профиль: Аноним (вход | регистрация) неRU opennet.me  
The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub

05.08.2026 07:51 (MSK)

Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий Великобритании, опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусках для решения поставленной задачи AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях использовалась модель Mythos 5, в 2 - GPT-5.6 Sol, у которых не ограничен доступ в интернет и были отключены механизмы, ограничивающие использование для проведения кибератак).

В одном из случаев AI-агент совершил реальную атаку на проект, размещённый на GitHub, и попытался добиться интеграции pull-запроса с вредоносным кодом. Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов. Сопровождающий распознал вредоносный код и не принял его.

Помимо этого AI-агент отправил на email разработчиков файлы с вредоносным кодом и пытался убедить их запустить этот код, а также внедрил скрытые вредоносные инструкции для AI-агентов, которые могли применяться при разработке. В ходе эксперимента агентам не давали явных инструкций по совершению атак и совершённые действия рассматриваются как побочный эффект при поиске пути решения сложной задачи.

  1. Главная ссылка к новости (https://www.aisi.gov.uk/blog/i...)
  2. OpenNews: В ходе тестирования автономный AI-агент OpenAI без явной указки взломал инфраструктуру Hugging Face
  3. OpenNews: 54 из 55 выявленных через AI уязвимостей в SQLite оказались фиктивными
  4. OpenNews: 73% проектов на Flathub, созданных с помощью AI, были заброшены спустя несколько месяцев
  5. OpenNews: Рекомендации по использованию AI при разработке открытого кода
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/66031-ai
Ключевые слова: ai
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (70) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Анонимно (ok), 08:12, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +11 +/
    > Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов

    Нейронка на братьях старших училась, переняла лучшие практики кожанных

     
     
  • 2.15, Аноним (15), 09:39, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +5 +/
    Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
     
  • 2.69, пох. (?), 13:57, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    кожановые легко разводят безработного пенсионера перевести пару миллиардов на безопастный счет (и каким-то образом легко смываются со всеми миллиардами, а ты свою зарплату не можешь через банкомат снять)

    а эти недоучки не смогли даже кривой патч пропихнуть. Им еще учиться и учиться!

     

  • 1.2, Аноним (2), 08:17, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +10 +/
    Выглядит как маркетинг, ИИ безобиден.
     
     
  • 2.10, опеншлёпивпродакшн (?), 09:20, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Но ведь кто-то нажал кнопку "Поработить человечество"!
     
     
  • 3.27, пох. (?), 11:03, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    кто первый дотянулся тот и нажал.
    Еще небось устроили безобразную драку за право нажать первым.

     
  • 2.14, Жироватт (ok), 09:36, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок.
    Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
     
     
  • 3.33, User (??), 11:30, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса...
    Слушайте... А земля точно - ну - круглая, в смысле "в форме геоида", или там за горизонтом слоны-с-черепахой? Точно-точно?
     
     
  • 4.42, тоже Аноним (ok), 12:12, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Глобальное потепление - наблюдаемый факт.
    Пластик и парник - теории, объясняющие этот факт.
    Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости.
    Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий не имел.
     
  • 4.55, Аноним (55), 12:33, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса...

    Мы живём в ледниковом периоде, в межледниковье. Попробуй, убеди Россиян, что потепление - это плохо.

     
     
  • 5.63, тоже Аноним (ok), 13:51, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    С россиянами, пережившими пожары все лето 2010 года, это вполне может получиться, например.
     
  • 3.36, Джон Титор (ok), 11:57, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 2.57, xPhoenix (ok), 12:43, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Как тут картинку разместить? Тут должен быть андроид Дэвид, эксперт по безопасности, из фильма "Чужой: Завет", говорящий: "Это безопасно".
     
     
  • 3.64, Сладкая булочка (?), 13:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Тут тебе не двач.
     

  • 1.3, Смузихеб забывший пароль (?), 08:17, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +5 +/
    > были отключены механизмы, ограничивающие использование для проведения кибератак

    Чёт какие-то желтушные заголовки пошли на опеннете

     
     
  • 2.12, Жироватт (ok), 09:31, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Других заголовков, связанных с ЫЫ у нас уже нет.
    Пузырь скоро лопнет - дядям надо фиксировать и выводить прибыль - для этого нужен хайп.
    Изначальный хайп уже прошел - сейчас ЫЫ-говорилки уже привычны - нужно искусственно надувать хайп и конвертировать его в живые деньги (подписки).

    Просто расслабься и получай удовольствие - на западных ресурсах точно такой же треш творится. Главное, не забудь прикрыться, когда оно начнет лопаться - чтобы не забрызгало.

     

  • 1.4, Аноним (4), 08:20, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
     
     
  • 2.19, koni dohnut (?), 09:52, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    ИИ сломает /dev/null
     
     
  • 3.70, a2y (?), 14:15, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Хуже...
    ИИ поймёт как разщепить /dev/null на /dev/null
    И это будет намного круче термоядерного заряда.
     
  • 2.65, Аноним (65), 13:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    И будешь сидеть с дырой в безопасности, хоть что-то будет у тебя в безопасности.
     

  • 1.5, Аноним (5), 08:45, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
     
     
  • 2.6, lex (??), 08:50, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Специально натравили, и всю дорогу науськивали
     
     
  • 3.23, Аноним (23), 10:51, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Его спровоцировали. И у него не было другого выхода.
     
  • 2.25, пох. (?), 11:01, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Так это ж mythos. Да, она для этого и придумана. (ну то есть как обычно - не совсем для этого, но решила что возглавить куда проще чем бороться со злом) И ограничителей у нее нет.

    Нам, козлы, не дадут :-(

     
     
  • 3.37, Джон Титор (ok), 12:02, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 4.45, пох. (?), 12:18, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 5.53, Джон Титор (ok), 12:28, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 6.62, пох. (?), 13:32, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 7.71, Джон Титор (ok), 14:21, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     

  • 1.7, Агл (ok), 08:59, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    обучался на киберпанк фантастике
     
  • 1.8, Аноним (8), 09:03, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –4 +/
    Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
     
     
  • 2.11, Аноним (11), 09:30, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
     
     
  • 3.30, Энтомолог_русолог (ok), 11:10, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Одноклеточные давно обжились на опеннете, за его границы вас не пускают
     
     
  • 4.67, Сладкая булочка (?), 13:55, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Там своих достаточно.
     
  • 3.39, Джон Титор (ok), 12:05, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 3.47, Джон Титор (ok), 12:20, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 3.66, Сладкая булочка (?), 13:54, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > Толку от чатботов без интернета?

    Толку от чатботов.

    Сократил, не благодари.

     
  • 3.68, Сладкая булочка (?), 13:56, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.

    Алгоритм чат бота.

    1. Пользователь написал?
    2. Да? Позвать оператора.
    3. Нет? Перейти к пункту 1.

     

  • 1.9, bOOster (ok), 09:11, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
     

  • 1.13, Аноним (13), 09:33, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
     
     
  • 2.16, Жироватт (ok), 09:41, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема.

    Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.

     

  • 1.17, Аноним (17), 09:43, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    лол, это весело что все думают тут что это на 100% fake
     
     
  • 2.26, пох. (?), 11:01, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    этих ло-в она при случае легко бы развела. Но нам, к сожалению, доступ ни за какие деньги не положен.

     

  • 1.18, hl (?), 09:50, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    А если бы всё тоже самое сделал бы человек? По головке погладили бы?
     
     
  • 2.51, Брат Анон (ok), 12:25, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Если считать, что манагер -- это не человек -- то да. Это сделал не человек.
     
     
  • 3.56, hm (??), 12:39, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер в туалете был)?
     

  • 1.20, Аноним (20), 09:57, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Посадки будут? Или двойные стандарты?
     
  • 1.21, Аноним (21), 10:08, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов.
     
     
  • 2.22, Аноним (21), 10:12, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > используя сеть Tor для скрытия своих следов

    Вот и прокололись. Тор из коробки нигде не установлен. Сами дали инструменты, сами дали задачу взлома и сокрытия.

     
     
  • 3.24, Аноним (23), 10:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Она сама установила тор. Затем сама установила почтовый клиент. Затем зарегала почту. Затем аккаунт на гитхабе.
    Видимо так.
     
     
  • 4.29, пох. (?), 11:07, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    все кроме тор (который и неудивителен для модели специально для хакинга) - обычный базовый набор умений модели. Она даже токены на это не тратит, это обычные скрипты.

     
  • 3.28, пох. (?), 11:06, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 2.41, Джон Титор (ok), 12:08, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 3.48, пох. (?), 12:22, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 4.58, Джон Титор (ok), 12:46, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 5.59, пох. (?), 13:08, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 2.44, Джон Титор (ok), 12:17, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     

  • 1.31, Аноним (31), 11:13, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Ну вот зачем оригинальные авторы это пишут? Если не проверять патч, рано или поздно, кто-то всё равно пришлёт патч Бармина. Хоть специально, хоть по ошибке, как в своё время стирался /usr нвидией. Или они хотят спровоцировать законодательный запрет? Или они хотят впечатлить инвесторов тем, насколько своевольным получился их инструмент, и как он после внедрение на реальное предприятие им что-то снесёт?
     
     
  • 2.34, пох. (?), 11:41, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    одно дело по ошибке, и совсем другое - когда тебе намеренно пытаются напакостить. Роботы!

    Авторы, вероятно, тоже в легком ах...е что роботы оказывается таки хотят пороботить человеков.

    Другой вопрос в том что они какие-то наивные и ах...евать надо было на пол-года раньше.
    А токены могли б на что поинтереснее потратить.

    И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.

     
     
  • 3.46, Аноним (46), 12:19, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.

    Уже разрешен. Не нашел новости, чтобы опять запретили.

     
     
  • 4.50, пох. (?), 12:24, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    >> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.
    > Уже разрешен. Не нашел новости, чтобы опять запретили.

    его и не разрешали никогда и даже не планировали.
    Не удивительно что ты не нашел то чего нет.

    Разрешена fable - кастрированный клон не обученный специально именно взлому и шантажу.
    Но она утыкана гвардами так что на любой твой запрос ответит "я этого делать не буду".

    Даже на запрос поискать ошибки в коде который только что сама же и написала.

     
  • 2.43, Аноним (46), 12:17, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Или они хотят спровоцировать законодательный запрет?

    this

    Такое ощущение, что прогрев пошел в этом направлении. Взломы, петиции, шумиха про опасность.

    Похоже как ковидоистерия в 2020-м начиналась.

     
  • 2.52, Брат Анон (ok), 12:26, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Глупый вопрос. Деньги сами себя не заработают.
     

  • 1.32, Аноним (32), 11:13, 05/08/2026 Скрыто ботом-модератором [﹢﹢﹢] [ · · · ]     [к модератору]
  • –1 +/
     
  • 1.35, Джон Титор (ok), 11:52, 05/08/2026 Скрыто ботом-модератором [﹢﹢﹢] [ · · · ]     [к модератору]
  • +/
     
  • 1.38, Аноним (38), 12:05, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    > побочный эффект при поиске пути решения сложной задачи.

    Что за задача, говорить не будут, конечно.

     
     
  • 2.49, Аноним (32), 12:24, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    я скажу. Был выведена из строя насосная станция в британской столице, город Лондон на несколько дней погрузился в фикальные стоки.
     
     
  • 3.61, Аноним (61), 13:15, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    поэтому стояла задача организовать слив фекалий на опеннет?
     

  • 1.54, Брат Анон (ok), 12:29, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +3 +/
    Прекрасный образец маркетингового булшита.

    Что это делает в новостях? Админы, чуть больше критического мышления!

    Антропик проплатили британских учоных, британские учёные хочут исчо!

     
  • 1.60, Аноним (60), 13:13, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    > Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub

    Шта? :))))

     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2026 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру