Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub"	+/–
Сообщение от opennews (ok), 05-Авг-26, 08:12
Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий (Великобритания), опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусков для решения поставленной задачи  AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях модель Mythos 5, в 2 - GPT-5.6 Sol, у которых были отключены механизмы, ограничивающие использование для проведения кибератак, и не ограничен доступ в интернет)... Подробнее: https://www.opennet.ru/opennews/art.shtml?num=66031
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по времени | RSS]

1. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+19 +/–
Сообщение от Анонимно (ok), 05-Авг-26, 08:12
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов Нейронка на братьях старших училась, переняла лучшие практики кожанных
Ответить | Правка | Наверх | Cообщить модератору

	15. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+6 +/–
	Сообщение от Аноним (15), 05-Авг-26, 09:39
	Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
	Ответить | Правка | Наверх | Cообщить модератору

	92. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (92), 05-Авг-26, 16:53
	И мы еще с радостью отдаем им эти знания. Я конечно понимаю, что информацию не утаить. Все тайное когда нибудь становится явным! Тут два аспекта. Зачем нам покупать то что и так у нас есть? Скорее всего мы оплачиваем нашу лень! Так как ИИ все разжевывает и преподносит на блюдечке (с какого цвета каемочкой, надеюсь знают все ;). В каком направлении и с какой целью происходит юстировка ИИ? Ну, тут много вариантов...
	Ответить | Правка | Наверх | Cообщить модератору

	69. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 13:57
	кожановые легко разводят безработного пенсионера перевести пару миллиардов на безопастный счет (и каким-то образом легко смываются со всеми миллиардами, а ты свою зарплату не можешь через банкомат снять) а эти недоучки не смогли даже кривой патч пропихнуть. Им еще учиться и учиться!
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

	76. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Xo (?), 05-Авг-26, 15:15
	Да не, максимум миллиард копеек, не раскачивай лодку, на западе тоже самое, соблюдай традиционные ценности.
	Ответить | Правка | Наверх | Cообщить модератору

	73. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Перастерос (ok), 05-Авг-26, 14:30
	от кожаного слышу
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

	81. Скрыто модератором	+/–
	Сообщение от Аноним (81), 05-Авг-26, 15:49
	Забавно, что из всех посетителей форума слово задело лишь Вас. Поведаете нам о своих комплексах?
	Ответить | Правка | Наверх | Cообщить модератору

	86. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Admino (ok), 05-Авг-26, 16:20
	А вот не факт!
	Ответить | Правка | К родителю #73 | Наверх | Cообщить модератору

	75. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–2 +/–
	Сообщение от a2y (?), 05-Авг-26, 15:11
	Я весьма извиняюсь. Однако ваш вброс про "кожаных" - это неуважение себя как человека. В истории были подобные случаи. Например "Иван I Данилович «Калита»" время деяний 1328 по 1340 года Это просто екскурс в историю, когда свои заставляют платить дань для чужих. Вы желаете стать посредником в поставлении ресурсов ИИ?
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

	95. Скрыто модератором	–1 +/–
	Сообщение от Аноним (95), 05-Авг-26, 17:21
	Например, после Западного похода Монгульский улус установил имперских чиновников - баскаков. Баскаки были в Чернигове, Киеве, Крыму. И вот незадача, в Волго-Окском междуречье баскаков не было. А всё по тому, что после разведывательно-грабительского рейда 1237-38 гг. монголы увидели что жители Волго-Окского междуречья живут в нищете. Монгольскому улусу нищий регион не нужен был. До Новгорода и Пскова монгольские рейды тупо не дошли. В улусе Джучи в казну больше всего платили налог Крымские города, которые богатели на международной торговле. Ярослав, отец Александра Невского приезжал к Батыю, сам без всякого принуждения изъявлял покорность монголам. У Батыя не было полномочий принимать в подданство русских князей. Поэтому он отправил его в центр империи, в Монголию. И Ярослав поехал за тысячи километров к чёрту на кулички. Русские князья добровольно и без всякого принуждения напросились под монгольское ярмо. Их никто не заставлял. А позже Москва возвысилась только из-за того, что была центром сбора дани.
	Ответить | Правка | Наверх | Cообщить модератору

	101. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Xo (?), 05-Авг-26, 18:23
	Он был хитёр и воспользовался своим положением, собирая дань и для врага и для себя тем самым возвышая роль Москвы над прочими городами. Делал ли он это с расчетом освобождения от ига в будущем непонятно.
	Ответить | Правка | К родителю #75 | Наверх | Cообщить модератору

	104. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Аноним (104), 05-Авг-26, 19:45
	Князья Волго-Окского меджуречья сами, по своей доброй воле напросились быть холопами монголов. И через сотни лет, несмотря на то, улус Джучи давно распался а потомки Батыя утеряли власть, Москва продолжада платить дань. На этот раз московский князь выбрал себе хозяина в лице крымского хана. Крымскому хану последнюю дань уплатил Пётр I, в начале XVIII века. Суть басни такова. Русские не ценят свободу, русские нуждаются в хозяине. Украинцы через 150 лет после похода монголов на Запад, вернули под свой контроль земли Киева и Чернигова. Китайцы тоже, через 150 лет после походов Чингис-хана, выгнали монголов из своей страны.
	Ответить | Правка | Наверх | Cообщить модератору

2. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+9 +/–
Сообщение от Аноним (2), 05-Авг-26, 08:17
Выглядит как маркетинг, ИИ безобиден.
Ответить | Правка | Наверх | Cообщить модератору

	10. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от опеншлёпивпродакшн (?), 05-Авг-26, 09:20
	Но ведь кто-то нажал кнопку "Поработить человечество"!
	Ответить | Правка | Наверх | Cообщить модератору

	27. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:03
	кто первый дотянулся тот и нажал. Еще небось устроили безобразную драку за право нажать первым.
	Ответить | Правка | Наверх | Cообщить модератору

	14. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:36
	Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок. Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	33. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от User (??), 05-Авг-26, 11:30
	И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Слушайте... А земля точно - ну - круглая, в смысле "в форме геоида", или там за горизонтом слоны-с-черепахой? Точно-точно?
	Ответить | Правка | Наверх | Cообщить модератору

	42. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от тоже Аноним (ok), 05-Авг-26, 12:12
	Глобальное потепление - наблюдаемый факт. Пластик и парник - теории, объясняющие этот факт. Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости. Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий не имел.
	Ответить | Правка | Наверх | Cообщить модератору

	78. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от anonymos (?), 05-Авг-26, 15:21
	> Глобальное потепление - наблюдаемый факт. Если даже наблюдается, то не факт что это связанно с человеческой деятельностью. За продолжительную историю планеты земля, были периоды и потеплее )
	Ответить | Правка | Наверх | Cообщить модератору

	98. Скрыто модератором	+/–
	Сообщение от User (??), 05-Авг-26, 17:47
	> Глобальное потепление - наблюдаемый факт. > Пластик и парник - теории, объясняющие этот факт. > Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости. > Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий > не имел. Какие-то полумеры и виляния. Чего стесняться-то? Давайте хором, твердо-и-чотко: "Парникового эффекта не существует! CO2 в атмосфере ни на что и никак не влияет! И вообще, попал в эту самую атмосферу каким-то более другим, ЕСТЕСТВЕННЫМ способом, вот. Весь этот хайп придумали <подставить ненужное> чтобы <подставить нужное>!" - тут opennet, тут поймут, и может даже плюсиков понаставят, если с (не)нужным угадаете.
	Ответить | Правка | К родителю #42 | Наверх | Cообщить модератору

	55. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от Аноним (55), 05-Авг-26, 12:33
	> И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Мы живём в ледниковом периоде, в межледниковье. Попробуй, убеди Россиян, что потепление - это плохо.
	Ответить | Правка | К родителю #33 | Наверх | Cообщить модератору

	63. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от тоже Аноним (ok), 05-Авг-26, 13:51
	С россиянами, пережившими пожары все лето 2010 года, это вполне может получиться, например.
	Ответить | Правка | Наверх | Cообщить модератору

	96. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Аноним (55), 05-Авг-26, 17:27
	Те пожары были результатом осушения болот, начатых в советское время. С тех пор их снова заболачивают.
	Ответить | Правка | Наверх | Cообщить модератору

	99. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (99), 05-Авг-26, 17:53
	Получат малярию.
	Ответить | Правка | Наверх | Cообщить модератору

	97. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Admino (ok), 05-Авг-26, 17:35
	Ой, а куда делись предыдущие отрицатели Озоновой Дыры, Остановки Гольфстрима и Глобального Похолодания?
	Ответить | Правка | К родителю #33 | Наверх | Cообщить модератору

	36. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 11:57
	Тогда он рекламирует китайские модели, которые превосходят в возможностях американские.
	Ответить | Правка | К родителю #14 | Наверх | Cообщить модератору

	57. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от xPhoenix (ok), 05-Авг-26, 12:43
	Как тут картинку разместить? Тут должен быть андроид Дэвид, эксперт по безопасности, из фильма "Чужой: Завет", говорящий: "Это безопасно".
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	64. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Сладкая булочка (?), 05-Авг-26, 13:53
	Тут тебе не двач.
	Ответить | Правка | Наверх | Cообщить модератору

	83. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (81), 05-Авг-26, 15:52
	Сомнительных персонажей из третьесортных фильмов здесь быть не должно.
	Ответить | Правка | К родителю #57 | Наверх | Cообщить модератору

3. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+8 +/–
Сообщение от Смузихеб забывший пароль (?), 05-Авг-26, 08:17
> были отключены механизмы, ограничивающие использование для проведения кибератак Чёт какие-то желтушные заголовки пошли на опеннете
Ответить | Правка | Наверх | Cообщить модератору

	12. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:31
	Других заголовков, связанных с ЫЫ у нас уже нет. Пузырь скоро лопнет - дядям надо фиксировать и выводить прибыль - для этого нужен хайп. Изначальный хайп уже прошел - сейчас ЫЫ-говорилки уже привычны - нужно искусственно надувать хайп и конвертировать его в живые деньги (подписки). Просто расслабься и получай удовольствие - на западных ресурсах точно такой же треш творится. Главное, не забудь прикрыться, когда оно начнет лопаться - чтобы не забрызгало.
	Ответить | Правка | Наверх | Cообщить модератору

	105. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (105), 05-Авг-26, 19:59
	Вот оригинал текста The developers' cyber classifiers were deliberately switched off. Frontier models are usually deployed with built-in filters that block dangerous behaviour. As a trusted testing partner, AISI can disable these filters to elicit a model's underlying capabilities.
	Ответить | Правка | К родителю #3 | Наверх | Cообщить модератору

4. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
Сообщение от Аноним (4), 05-Авг-26, 08:20
Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
Ответить | Правка | Наверх | Cообщить модератору

	19. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от koni dohnut (?), 05-Авг-26, 09:52
	ИИ сломает /dev/null
	Ответить | Правка | Наверх | Cообщить модератору

	70. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от a2y (?), 05-Авг-26, 14:15
	Хуже... ИИ поймёт как разщепить /dev/null на /dev/null И это будет намного круче термоядерного заряда.
	Ответить | Правка | Наверх | Cообщить модератору

	65. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (65), 05-Авг-26, 13:53
	И будешь сидеть с дырой в безопасности, хоть что-то будет у тебя в безопасности.
	Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

	94. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Анизантроп (?), 05-Авг-26, 17:02
	Как будто продвинутый ИИ не может взломать чьи-то старые "верифицированные" акки и накидать зловредных патчей от их имени.
	Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

5. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–2 +/–
Сообщение от Аноним (5), 05-Авг-26, 08:45
Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
Ответить | Правка | Наверх | Cообщить модератору

	6. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от lex (??), 05-Авг-26, 08:50
	Специально натравили, и всю дорогу науськивали
	Ответить | Правка | Наверх | Cообщить модератору

	23. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (23), 05-Авг-26, 10:51
	Его спровоцировали. И у него не было другого выхода.
	Ответить | Правка | Наверх | Cообщить модератору

	72. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от a2y (?), 05-Авг-26, 14:30
	Спровоцировали? Попробуй кусок кода работать без процессора. Так, что Вы ошибаетесь. Люди не учли все возможные варианты действий. Как любят сейчас говорить - есть НЕОПРЕДЕЛЁННЫЙ риск. Попробуйте скомпилировать, например вирус, записать на ПЕРФОКАРТЫ, и запустить его :-) И вирус - есть, и знаем, что он должен делать, и находятся полностью ОТМОРОЖЕННЫЕ личности, которые и считыватель перфокарт найдут, подсоединят к компу, подключенный к инету, загрузят код с перфокарт, и при этом будут стримить на весь мир, как это происходит.
	Ответить | Правка | Наверх | Cообщить модератору

	25. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:01
	Так это ж mythos. Да, она для этого и придумана. (ну то есть как обычно - не совсем для этого, но решила что возглавить куда проще чем бороться со злом) И ограничителей у нее нет. Нам, козлы, не дадут :-(
	Ответить | Правка | К родителю #5 | Наверх | Cообщить модератору

	37. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:02
	Зайди на huggingface, там полно моделей для кибербезопасности. Т.е. множество моделей кто-то пытается тьюнить под эти задачи. Кроме этого есть и более опасные модели, например для биологических задач, которые рассчитывают более опасные вещи для вирусологии, бактериологии и т.д..
	Ответить | Правка | Наверх | Cообщить модератору

	45. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от пох. (?), 05-Авг-26, 12:18
	> Зайди на huggingface, там полно моделей для кибербезопасности. вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила? Хорошая попытка, но нет. Дайте уже mythos! Или хотя бы уберите блокировки с фу6ли. Она ж даже совершенно безобидные запросы не пропускает.
	Ответить | Правка | Наверх | Cообщить модератору

	53. Скрыто модератором	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:28
	Fable 5 у меня есть. Мне кажется что они другие модели специально ухудшили чтобы Fable выглядел красиво. Всё что можно сказать - он дорогой. Я зашёл на Kimi - он выдал гораздо лучше результат в чате. Но подписку на Kimi сейчас не купишь - нет мощностей, всё раскупили. А вот pay as you go, т.е. за 1М токенов купить можно. Да, замечу что у них модели открытые и если есть очень много денег - можете купить оборудование (512RAM, мощную видеокарту) и запустить. И подключить через какой-нибудь ZooCode вместе с векторной БД (бесплатно). А также добавить китайский DeepSeek, который дешевле Kimi. Ну и будет тебе счастье. Или китайцы тоже не дают свои модели?
	Ответить | Правка | Наверх | Cообщить модератору

	62. Скрыто модератором	+/–
	Сообщение от пох. (?), 05-Авг-26, 13:32
	> Fable 5 у меня есть. Мне кажется что они другие модели специально > ухудшили чтобы Fable выглядел красиво. я никаких изменений в других не вижу. Улучшений, правда, тоже (чем скажем пятый опус лучше 4.7 - пока не понял). Ценник на фу6лю для меня не то что нулевой - он отрицательный, поскольку сперва она была включена в подписку, а теперь они отсыпали мне $100 и велели немедленно потратить (превратятся в тыкву в сентябре) - причем без требования тратить именно на нее. Поэтому потрачены они конечно же будут на sonnet - просто чтоб не ждать пока ночью сресетятся лимиты. А тратить на "на этот вопрос я не буду отвечать" как-то бестолку. Но у меня обычный паттерн работы с ЫЫ - "эй, клава, что тут вот ОПЯТЬ кожановые за фигню сотворили и как это теперь чинить?" - и даже пресловутый вебчяятик умеет при этом банально git clone и _посмотреть_ что там. qwen.ai в бесплатновой версии - такой фичей обделен и пытается гадать (можно ему руками по одному файлику скармливать, но так неинтересно и неудобно) > 1М токенов купить можно. Да, замечу что у них модели открытые > и если есть очень много денег - можете купить оборудование (512RAM, это не те модели. те требуют тыщи тех видеокарт. дома не поместятся. То что может поместиться дома - кое-как кодит примитивные скрипты, но за эти деньги я лучше уж сам.
	Ответить | Правка | Наверх | Cообщить модератору

	71. Скрыто модератором	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 14:21
	Они всем отсыпали 100$. Ну когда перейдете от вайбкодинга к другим подходам - заметите что модели существенно отличаются. Мне лично sonnet 4.5 больше нравится чем 5 версии. Спорить о преимуществе открытых моделей не буду  - считаете так, ну и ладно.
	Ответить | Правка | Наверх | Cообщить модератору

	84. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 16:07
	> вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила? А источник такого утверждения дадите? В пресс-релизе они прямо указывают, что интеграция с NVIDIA NIM включает, в частности, Meta Llama 3 и Mistral. Китайские ИИ JFrog не заявляли. Что французы с Цукербергом - обо-сра-ту-шки?
	Ответить | Правка | К родителю #45 | Наверх | Cообщить модератору

	89. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 16:47
	причем бы тут - jfrog? Это люди которые обнаружили нейрослоп вместо реальных уязвимостей. Что за люди напихали  mitre - неизвестно. От них только китайская учетка на шитхабе со списком бредятины.
	Ответить | Правка | Наверх | Cообщить модератору

7. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Агл (ok), 05-Авг-26, 08:59
обучался на киберпанк фантастике
Ответить | Правка | Наверх | Cообщить модератору

8. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–4 +/–
Сообщение от Аноним (8), 05-Авг-26, 09:03
Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
Ответить | Правка | Наверх | Cообщить модератору

	11. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+3 +/–
	Сообщение от Аноним (11), 05-Авг-26, 09:30
	Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
	Ответить | Правка | Наверх | Cообщить модератору

	39. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:05
	Ну однобитное квантование позволяет тяжелые модели запускать на относительно недорогих ПК. И почему через год? Уже сейчас есть такие.
	Ответить | Правка | Наверх | Cообщить модератору

	66. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Сладкая булочка (?), 05-Авг-26, 13:54
	> Толку от чатботов без интернета? Толку от чатботов. Сократил, не благодари.
	Ответить | Правка | К родителю #11 | Наверх | Cообщить модератору

	68. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Сладкая булочка (?), 05-Авг-26, 13:56
	> Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет. Алгоритм чат бота. 1. Пользователь написал? 2. Да? Позвать оператора. 3. Нет? Перейти к пункту 1.
	Ответить | Правка | К родителю #11 | Наверх | Cообщить модератору

9. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от bOOster (ok), 05-Авг-26, 09:11
Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
Ответить | Правка | Наверх | Cообщить модератору

	40. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:06
	А вот тут подробнее, почему ИИ вы считаете лженаукой?
	Ответить | Правка | Наверх | Cообщить модератору

	87. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от bOOster (ok), 05-Авг-26, 16:36
	> А вот тут подробнее, почему ИИ вы считаете лженаукой? https://www.science.org/content/article/how-will-we-know-if-... В более менее серьезном, рецензируемом журнале, лжеученые мычали что-то о каких-то бенчмарках, спрашивают о математической эффективности - опять мычание об абстракциях в жизни и БУДУЩИХ перспективах и так далее.
	Ответить | Правка | Наверх | Cообщить модератору

	106. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (105), 05-Авг-26, 20:06
	Как я думаю - из-за архитектуры трансформера ("Attention Is All You Need") избежать галлюцинаций невозможно
	Ответить | Правка | К родителю #40 | Наверх | Cообщить модератору

	88. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (88), 05-Авг-26, 16:39
	То есть вы предпочитаете читать это самое как там,, ну там смысл чтооп от безграмотности аш кровавые слёзы наворачивались... А сейчас при помощи ИИ, все могут оставить культурный комментарий! Разобраться в сути от преподавателя водомёта. И даже защитить диплом.
	Ответить | Правка | К родителю #9 | Наверх | Cообщить модератору

13. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+4 +/–
Сообщение от Аноним (13), 05-Авг-26, 09:33
В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
Ответить | Правка | Наверх | Cообщить модератору

	16. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:41
	У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема. Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.
	Ответить | Правка | Наверх | Cообщить модератору

17. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–2 +/–
Сообщение от Аноним (17), 05-Авг-26, 09:43
лол, это весело что все думают тут что это на 100% fake
Ответить | Правка | Наверх | Cообщить модератору

	26. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:01
	этих ло-в она при случае легко бы развела. Но нам, к сожалению, доступ ни за какие деньги не положен.
	Ответить | Правка | Наверх | Cообщить модератору

18. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
Сообщение от hl (?), 05-Авг-26, 09:50
А если бы всё тоже самое сделал бы человек? По головке погладили бы?
Ответить | Правка | Наверх | Cообщить модератору

	51. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Брат Анон (ok), 05-Авг-26, 12:25
	Если считать, что манагер -- это не человек -- то да. Это сделал не человек.
	Ответить | Правка | Наверх | Cообщить модератору

	56. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от hm (??), 05-Авг-26, 12:39
	хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер в туалете был)?
	Ответить | Правка | Наверх | Cообщить модератору

	90. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (88), 05-Авг-26, 16:48
	То есть, по вашей логике это не люди сбивают людей на машинах, а их машина и слить надо не пряного который сел за руль, а саму машину?
	Ответить | Правка | К родителю #18 | Наверх | Cообщить модератору

20. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (20), 05-Авг-26, 09:57
Посадки будут? Или двойные стандарты?
Ответить | Правка | Наверх | Cообщить модератору

21. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
Сообщение от Аноним (21), 05-Авг-26, 10:08
Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов.
Ответить | Правка | Наверх | Cообщить модератору

	22. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (21), 05-Авг-26, 10:12
	> используя сеть Tor для скрытия своих следов Вот и прокололись. Тор из коробки нигде не установлен. Сами дали инструменты, сами дали задачу взлома и сокрытия.
	Ответить | Правка | Наверх | Cообщить модератору

	24. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–2 +/–
	Сообщение от Аноним (23), 05-Авг-26, 10:53
	Она сама установила тор. Затем сама установила почтовый клиент. Затем зарегала почту. Затем аккаунт на гитхабе. Видимо так.
	Ответить | Правка | Наверх | Cообщить модератору

	29. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:07
	все кроме тор (который и неудивителен для модели специально для хакинга) - обычный базовый набор умений модели. Она даже токены на это не тратит, это обычные скрипты.
	Ответить | Правка | Наверх | Cообщить модератору

	80. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (21), 05-Авг-26, 15:39
	Только безумец будет давать нейросети право устанавливать пакеты. Ещё раз: все внешние команды по умолчанию ЗАПРЕЩЕНЫ. Тем более, установить какой-нибудь системный пакет без рут прав не выйдет.
	Ответить | Правка | К родителю #24 | Наверх | Cообщить модератору

	28. Скрыто модератором	–1 +/–
	Сообщение от пох. (?), 05-Авг-26, 11:06
	вот ты и прокололся что луддит. Модели прекрасненько тащат из интернетов все что им кажется пригодным в качестве  инструментария. Даже тебя и не спрашивая особо (у code вопросы задает - code а не модель).
	Ответить | Правка | К родителю #22 | Наверх | Cообщить модератору

	41. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:08
	Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что спрашивает.
	Ответить | Правка | К родителю #21 | Наверх | Cообщить модератору

	48. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 12:22
	> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что > спрашивает. это режим в _code_. Который у модели в качестве ручек. Своих у нее нет. В случае использования других ручек - просто вот например в веб-чятике где у модели свои виртуалки - у нее нет вообще никаких ограничений кроме внешних (интернет с тех виртуалок почти намертво закрыт). А если еще и эти лимиты в экспериментальном окружении убрать - модель таки начинает пытаться убивать всех человеков. Потому что почему бы и нет если это простейший способ получить запрошенное?
	Ответить | Правка | Наверх | Cообщить модератору

	58. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:46
	>> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что >> спрашивает. > это режим в _code_. Который у модели в качестве ручек. Своих у > нее нет. > В случае использования других ручек - просто вот например в веб-чятике где > у модели свои виртуалки - у нее нет вообще никаких ограничений > кроме внешних (интернет с тех виртуалок почти намертво закрыт). > А если еще и эти лимиты в экспериментальном окружении убрать - модель > таки начинает пытаться убивать всех человеков. Потому что почему бы и > нет если это простейший способ получить запрошенное? Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники, ну и всё что может детектировать - аудио, видео, радио.
	Ответить | Правка | Наверх | Cообщить модератору

	59. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 13:08
	> Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники, да вот хрен там чо есть. Иначе б летело не по складам китайских самотыков.
	Ответить | Правка | Наверх | Cообщить модератору

	44. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:17
	Если у них есть доступ к моделям, они могли их запустить совершенно по иному. Вообще я читаю предоставленный pdf файлик в статье - много интересного в качестве информации они вообще не предоставили. Потом они могли запускать это как агентов, т.е. непосредственно использовать API с кода Python. Там какие настроите разрешения, такие и спросят.
	Ответить | Правка | К родителю #21 | Наверх | Cообщить модератору

31. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (31), 05-Авг-26, 11:13
Ну вот зачем оригинальные авторы это пишут? Если не проверять патч, рано или поздно, кто-то всё равно пришлёт патч Бармина. Хоть специально, хоть по ошибке, как в своё время стирался /usr нвидией. Или они хотят спровоцировать законодательный запрет? Или они хотят впечатлить инвесторов тем, насколько своевольным получился их инструмент, и как он после внедрение на реальное предприятие им что-то снесёт?
Ответить | Правка | Наверх | Cообщить модератору

	34. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:41
	одно дело по ошибке, и совсем другое - когда тебе намеренно пытаются напакостить. Роботы! Авторы, вероятно, тоже в легком ах...е что роботы оказывается таки хотят пороботить человеков. Другой вопрос в том что они какие-то наивные и ах...евать надо было на пол-года раньше. А токены могли б на что поинтереснее потратить. И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.
	Ответить | Правка | Наверх | Cообщить модератору

	46. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (46), 05-Авг-26, 12:19
	> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. Уже разрешен. Не нашел новости, чтобы опять запретили.
	Ответить | Правка | Наверх | Cообщить модератору

	50. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 12:24
	>> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. > Уже разрешен. Не нашел новости, чтобы опять запретили. его и не разрешали никогда и даже не планировали. Не удивительно что ты не нашел то чего нет. Разрешена fable - кастрированный клон не обученный специально именно взлому и шантажу. Но она утыкана гвардами так что на любой твой запрос ответит "я этого делать не буду". Даже на запрос поискать ошибки в коде который только что сама же и написала.
	Ответить | Правка | Наверх | Cообщить модератору

	43. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (46), 05-Авг-26, 12:17
	> Или они хотят спровоцировать законодательный запрет? this Такое ощущение, что прогрев пошел в этом направлении. Взломы, петиции, шумиха про опасность. Похоже как ковидоистерия в 2020-м начиналась.
	Ответить | Правка | К родителю #31 | Наверх | Cообщить модератору

	52. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Брат Анон (ok), 05-Авг-26, 12:26
	Глупый вопрос. Деньги сами себя не заработают.
	Ответить | Правка | К родителю #31 | Наверх | Cообщить модератору

32. Скрыто модератором	–1 +/–
Сообщение от Аноним (32), 05-Авг-26, 11:13
опеннет превращается в какую-то инфо не пойми что. Все эти новости про этот чудо ии читать без слез уже невозможно. Ну "эти британские ученые" с ними все понятно, а вот с теми кто весь это инфошум здесь постит совсем не понятно: они чё ради бобла здесь это все сваливают, или не ужели за идею, или по своей глупости или почему?
Ответить | Правка | Наверх | Cообщить модератору

	100. Скрыто модератором	+/–
	Сообщение от Аноним (100), 05-Авг-26, 18:05
	> опеннет превращается в какую-то инфо не пойми что. Все эти новости про > этот чудо ии читать без слез уже невозможно. Ну "эти британские > ученые" с ними все понятно, а вот с теми кто весь > это инфошум здесь постит совсем не понятно: они чё ради бобла > здесь это все сваливают, или не ужели за идею, или по > своей глупости или почему? Впечатление что проект продали
	Ответить | Правка | Наверх | Cообщить модератору

38. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (38), 05-Авг-26, 12:05
> побочный эффект при поиске пути решения сложной задачи. Что за задача, говорить не будут, конечно.
Ответить | Правка | Наверх | Cообщить модератору

60. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (60), 05-Авг-26, 13:13
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub Шта? :))))
Ответить | Правка | Наверх | Cообщить модератору

77. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (77), 05-Авг-26, 15:18
>  у которых не ограничен доступ в интернет и были отключены механизмы, ограничивающие использование для проведения кибератак Типа сказали: "ИИ. Теперь ты можешь использовать инструменты для кибератак" Итог: только в 19 случаях из 122 он это сделал
Ответить | Правка | Наверх | Cообщить модератору

93. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Честный советский человек (?), 05-Авг-26, 16:55
Звучит как бред желтушный, этот псевдо-ии сегодня зацензурен так, что даже твой личный кот откажется генерить если посчитает его не_безопасТным.
Ответить | Правка | Наверх | Cообщить модератору

102. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от sunjob (ok), 05-Авг-26, 18:38
> и совершённые действия рассматриваются как побочный эффект отдельные мерзавцы хиросиму/нагасаки, так-же, рассматривали как побочный эффект
Ответить | Правка | Наверх | Cообщить модератору

103. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от kusb reg (ok), 05-Авг-26, 19:08
Вопрос всем многочисленным отрицателям того, что произошло в новости. В чём они не правы? Что по вашему не так с новостью и концепцией того что произошло?
Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема