Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub"	+/–
Сообщение от opennews (ok), 05-Авг-26, 08:12
Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий (Великобритания), опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусков для решения поставленной задачи  AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях модель Mythos 5, в 2 - GPT-5.6 Sol, у которых были отключены механизмы, ограничивающие использование для проведения кибератак, и не ограничен доступ в интернет)... Подробнее: https://www.opennet.ru/opennews/art.shtml?num=66031
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Анонимно (ok), 05-Авг-26, 08:12	+23 +/–
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов Нейронка на братьях старших училась, переняла лучшие практики кожанных
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #15, #69, #73

2. Сообщение от Аноним (2), 05-Авг-26, 08:17	+9 +/–
Выглядит как маркетинг, ИИ безобиден.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #10, #14, #57

4. Сообщение от Аноним (4), 05-Авг-26, 08:20	+/–
Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #19, #65, #94

5. Сообщение от Аноним (5), 05-Авг-26, 08:45	–3 +/–
Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #6, #25, #133

6. Сообщение от lex (??), 05-Авг-26, 08:50	+2 +/–
Специально натравили, и всю дорогу науськивали
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #23

7. Сообщение от Агл (ok), 05-Авг-26, 08:59	+/–
обучался на киберпанк фантастике
Ответить | Правка | Наверх | Cообщить модератору

8. Сообщение от Аноним (8), 05-Авг-26, 09:03	–4 +/–
Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #11

9. Сообщение от bOOster (ok), 05-Авг-26, 09:11	+/–
Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #40, #88, #124

10. Сообщение от опеншлёпивпродакшн (?), 05-Авг-26, 09:20	+3 +/–
Но ведь кто-то нажал кнопку "Поработить человечество"!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #27

11. Сообщение от Аноним (11), 05-Авг-26, 09:30	+3 +/–
Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #39, #66, #68

13. Сообщение от Аноним (13), 05-Авг-26, 09:33	+6 +/–
В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #16

14. Сообщение от Жироватт (ok), 05-Авг-26, 09:36	+5 +/–
Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок. Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #33, #36

15. Сообщение от Аноним (15), 05-Авг-26, 09:39	+9 +/–
Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #92

16. Сообщение от Жироватт (ok), 05-Авг-26, 09:41	+3 +/–
У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема. Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13

17. Сообщение от Аноним (17), 05-Авг-26, 09:43	–4 +/–
лол, это весело что все думают тут что это на 100% fake
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #26

18. Сообщение от hl (?), 05-Авг-26, 09:50	–1 +/–
А если бы всё тоже самое сделал бы человек? По головке погладили бы?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #51, #90

19. Сообщение от koni dohnut (?), 05-Авг-26, 09:52	+1 +/–
ИИ сломает /dev/null
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #70

20. Сообщение от Аноним (20), 05-Авг-26, 09:57	+/–
Посадки будут? Или двойные стандарты?
Ответить | Правка | Наверх | Cообщить модератору

21. Сообщение от Аноним (21), 05-Авг-26, 10:08	+3 +/–
Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #22, #41, #44

22. Сообщение от Аноним (21), 05-Авг-26, 10:12	+/–
> используя сеть Tor для скрытия своих следов Вот и прокололись. Тор из коробки нигде не установлен. Сами дали инструменты, сами дали задачу взлома и сокрытия.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #24, #28

23. Сообщение от Аноним (23), 05-Авг-26, 10:51	+/–
Его спровоцировали. И у него не было другого выхода.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #72

24. Сообщение от Аноним (23), 05-Авг-26, 10:53	–2 +/–
Она сама установила тор. Затем сама установила почтовый клиент. Затем зарегала почту. Затем аккаунт на гитхабе. Видимо так.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #29, #80

25. Сообщение от пох. (?), 05-Авг-26, 11:01	+/–
Так это ж mythos. Да, она для этого и придумана. (ну то есть как обычно - не совсем для этого, но решила что возглавить куда проще чем бороться со злом) И ограничителей у нее нет. Нам, козлы, не дадут :-(
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #37

26. Сообщение от пох. (?), 05-Авг-26, 11:01	+/–
этих ло-в она при случае легко бы развела. Но нам, к сожалению, доступ ни за какие деньги не положен.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17

27. Сообщение от пох. (?), 05-Авг-26, 11:03	+1 +/–
кто первый дотянулся тот и нажал. Еще небось устроили безобразную драку за право нажать первым.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

28. Сообщение от пох. (?), 05-Авг-26, 11:06    Скрыто ботом-модератором	–1 +/–
вот ты и прокололся что луддит. Модели прекрасненько тащат из интернетов все что им кажется пригодным в качестве  инструментария. Даже тебя и не спрашивая особо (у code вопросы задает - code а не модель).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

29. Сообщение от пох. (?), 05-Авг-26, 11:07	+/–
все кроме тор (который и неудивителен для модели специально для хакинга) - обычный базовый набор умений модели. Она даже токены на это не тратит, это обычные скрипты.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

31. Сообщение от Аноним (31), 05-Авг-26, 11:13	+/–
Ну вот зачем оригинальные авторы это пишут? Если не проверять патч, рано или поздно, кто-то всё равно пришлёт патч Бармина. Хоть специально, хоть по ошибке, как в своё время стирался /usr нвидией. Или они хотят спровоцировать законодательный запрет? Или они хотят впечатлить инвесторов тем, насколько своевольным получился их инструмент, и как он после внедрение на реальное предприятие им что-то снесёт?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #34, #43, #52

33. Сообщение от User (??), 05-Авг-26, 11:30	–1 +/–
И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Слушайте... А земля точно - ну - круглая, в смысле "в форме геоида", или там за горизонтом слоны-с-черепахой? Точно-точно?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #42, #55, #97, #127

34. Сообщение от пох. (?), 05-Авг-26, 11:41	+/–
одно дело по ошибке, и совсем другое - когда тебе намеренно пытаются напакостить. Роботы! Авторы, вероятно, тоже в легком ах...е что роботы оказывается таки хотят пороботить человеков. Другой вопрос в том что они какие-то наивные и ах...евать надо было на пол-года раньше. А токены могли б на что поинтереснее потратить. И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31 Ответы: #46

36. Сообщение от Джон Титор (ok), 05-Авг-26, 11:57	+/–
Тогда он рекламирует китайские модели, которые превосходят в возможностях американские.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

37. Сообщение от Джон Титор (ok), 05-Авг-26, 12:02	–1 +/–
Зайди на huggingface, там полно моделей для кибербезопасности. Т.е. множество моделей кто-то пытается тьюнить под эти задачи. Кроме этого есть и более опасные модели, например для биологических задач, которые рассчитывают более опасные вещи для вирусологии, бактериологии и т.д..
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25 Ответы: #45

38. Сообщение от Аноним (38), 05-Авг-26, 12:05	+2 +/–
> побочный эффект при поиске пути решения сложной задачи. Что за задача, говорить не будут, конечно.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #126

39. Сообщение от Джон Титор (ok), 05-Авг-26, 12:05	+/–
Ну однобитное квантование позволяет тяжелые модели запускать на относительно недорогих ПК. И почему через год? Уже сейчас есть такие.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11

40. Сообщение от Джон Титор (ok), 05-Авг-26, 12:06	+/–
А вот тут подробнее, почему ИИ вы считаете лженаукой?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #87, #106

41. Сообщение от Джон Титор (ok), 05-Авг-26, 12:08	+/–
Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что спрашивает.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #48

42. Сообщение от тоже Аноним (ok), 05-Авг-26, 12:12	+/–
Глобальное потепление - наблюдаемый факт. Пластик и парник - теории, объясняющие этот факт. Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости. Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий не имел.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33 Ответы: #78, #98

43. Сообщение от Аноним (46), 05-Авг-26, 12:17	+1 +/–
> Или они хотят спровоцировать законодательный запрет? this Такое ощущение, что прогрев пошел в этом направлении. Взломы, петиции, шумиха про опасность. Похоже как ковидоистерия в 2020-м начиналась.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

44. Сообщение от Джон Титор (ok), 05-Авг-26, 12:17	+/–
Если у них есть доступ к моделям, они могли их запустить совершенно по иному. Вообще я читаю предоставленный pdf файлик в статье - много интересного в качестве информации они вообще не предоставили. Потом они могли запускать это как агентов, т.е. непосредственно использовать API с кода Python. Там какие настроите разрешения, такие и спросят.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #125

45. Сообщение от пох. (?), 05-Авг-26, 12:18	+1 +/–
> Зайди на huggingface, там полно моделей для кибербезопасности. вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила? Хорошая попытка, но нет. Дайте уже mythos! Или хотя бы уберите блокировки с фу6ли. Она ж даже совершенно безобидные запросы не пропускает.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #37 Ответы: #53, #84

46. Сообщение от Аноним (46), 05-Авг-26, 12:19	+/–
> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. Уже разрешен. Не нашел новости, чтобы опять запретили.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34 Ответы: #50

48. Сообщение от пох. (?), 05-Авг-26, 12:22	+/–
> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что > спрашивает. это режим в _code_. Который у модели в качестве ручек. Своих у нее нет. В случае использования других ручек - просто вот например в веб-чятике где у модели свои виртуалки - у нее нет вообще никаких ограничений кроме внешних (интернет с тех виртуалок почти намертво закрыт). А если еще и эти лимиты в экспериментальном окружении убрать - модель таки начинает пытаться убивать всех человеков. Потому что почему бы и нет если это простейший способ получить запрошенное?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41 Ответы: #58

50. Сообщение от пох. (?), 05-Авг-26, 12:24	+/–
>> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. > Уже разрешен. Не нашел новости, чтобы опять запретили. его и не разрешали никогда и даже не планировали. Не удивительно что ты не нашел то чего нет. Разрешена fable - кастрированный клон не обученный специально именно взлому и шантажу. Но она утыкана гвардами так что на любой твой запрос ответит "я этого делать не буду". Даже на запрос поискать ошибки в коде который только что сама же и написала.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46

51. Сообщение от Брат Анон (ok), 05-Авг-26, 12:25	+2 +/–
Если считать, что манагер -- это не человек -- то да. Это сделал не человек.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #18 Ответы: #56

52. Сообщение от Брат Анон (ok), 05-Авг-26, 12:26	+1 +/–
Глупый вопрос. Деньги сами себя не заработают.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

53. Сообщение от Джон Титор (ok), 05-Авг-26, 12:28    Скрыто ботом-модератором	+/–
Fable 5 у меня есть. Мне кажется что они другие модели специально ухудшили чтобы Fable выглядел красиво. Всё что можно сказать - он дорогой. Я зашёл на Kimi - он выдал гораздо лучше результат в чате. Но подписку на Kimi сейчас не купишь - нет мощностей, всё раскупили. А вот pay as you go, т.е. за 1М токенов купить можно. Да, замечу что у них модели открытые и если есть очень много денег - можете купить оборудование (512RAM, мощную видеокарту) и запустить. И подключить через какой-нибудь ZooCode вместе с векторной БД (бесплатно). А также добавить китайский DeepSeek, который дешевле Kimi. Ну и будет тебе счастье. Или китайцы тоже не дают свои модели?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45 Ответы: #62

55. Сообщение от Аноним (55), 05-Авг-26, 12:33	+2 +/–
> И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Мы живём в ледниковом периоде, в межледниковье. Попробуй, убеди Россиян, что потепление - это плохо.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33 Ответы: #63

56. Сообщение от hm (??), 05-Авг-26, 12:39	+/–
хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер в туалете был)?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51 Ответы: #109

57. Сообщение от xPhoenix (ok), 05-Авг-26, 12:43	+/–
Как тут картинку разместить? Тут должен быть андроид Дэвид, эксперт по безопасности, из фильма "Чужой: Завет", говорящий: "Это безопасно".
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #64, #83, #107

58. Сообщение от Джон Титор (ok), 05-Авг-26, 12:46	+/–
>> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что >> спрашивает. > это режим в _code_. Который у модели в качестве ручек. Своих у > нее нет. > В случае использования других ручек - просто вот например в веб-чятике где > у модели свои виртуалки - у нее нет вообще никаких ограничений > кроме внешних (интернет с тех виртуалок почти намертво закрыт). > А если еще и эти лимиты в экспериментальном окружении убрать - модель > таки начинает пытаться убивать всех человеков. Потому что почему бы и > нет если это простейший способ получить запрошенное? Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники, ну и всё что может детектировать - аудио, видео, радио.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #48

60. Сообщение от Аноним (60), 05-Авг-26, 13:13	+1 +/–
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub Шта? :))))
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #115

62. Сообщение от пох. (?), 05-Авг-26, 13:32	+/–
> Fable 5 у меня есть. Мне кажется что они другие модели специально > ухудшили чтобы Fable выглядел красиво. я никаких изменений в других не вижу. Улучшений, правда, тоже (чем скажем пятый опус лучше 4.7 - пока не понял). Ценник на фу6лю для меня не то что нулевой - он отрицательный, поскольку сперва она была включена в подписку, а теперь они отсыпали мне $100 и велели немедленно потратить (превратятся в тыкву в сентябре) - причем без требования тратить именно на нее. Поэтому потрачены они конечно же будут на sonnet - просто чтоб не ждать пока ночью сресетятся лимиты. А тратить на "на этот вопрос я не буду отвечать" как-то бестолку. Но у меня обычный паттерн работы с ЫЫ - "эй, клава, что тут вот ОПЯТЬ кожановые за фигню сотворили и как это теперь чинить?" - и даже пресловутый вебчяятик умеет при этом банально git clone и _посмотреть_ что там. qwen.ai в бесплатновой версии - такой фичей обделен и пытается гадать (можно ему руками по одному файлику скармливать, но так неинтересно и неудобно) > 1М токенов купить можно. Да, замечу что у них модели открытые > и если есть очень много денег - можете купить оборудование (512RAM, это не те модели. те требуют тыщи тех видеокарт. дома не поместятся. То что может поместиться дома - кое-как кодит примитивные скрипты, но за эти деньги я лучше уж сам.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #53 Ответы: #71

63. Сообщение от тоже Аноним (ok), 05-Авг-26, 13:51	+/–
С россиянами, пережившими пожары все лето 2010 года, это вполне может получиться, например.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #55 Ответы: #96

64. Сообщение от Сладкая булочка (?), 05-Авг-26, 13:53	+1 +/–
Тут тебе не двач.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #57

65. Сообщение от Аноним (65), 05-Авг-26, 13:53	+1 +/–
И будешь сидеть с дырой в безопасности, хоть что-то будет у тебя в безопасности.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

66. Сообщение от Сладкая булочка (?), 05-Авг-26, 13:54	+/–
> Толку от чатботов без интернета? Толку от чатботов. Сократил, не благодари.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11

68. Сообщение от Сладкая булочка (?), 05-Авг-26, 13:56	+/–
> Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет. Алгоритм чат бота. 1. Пользователь написал? 2. Да? Позвать оператора. 3. Нет? Перейти к пункту 1.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11

69. Сообщение от пох. (?), 05-Авг-26, 13:57	+1 +/–
кожановые легко разводят безработного пенсионера перевести пару миллиардов на безопастный счет (и каким-то образом легко смываются со всеми миллиардами, а ты свою зарплату не можешь через банкомат снять) а эти недоучки не смогли даже кривой патч пропихнуть. Им еще учиться и учиться!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #113

70. Сообщение от a2y (?), 05-Авг-26, 14:15	+/–
Хуже... ИИ поймёт как разщепить /dev/null на /dev/null И это будет намного круче термоядерного заряда.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #19

71. Сообщение от Джон Титор (ok), 05-Авг-26, 14:21	+/–
Они всем отсыпали 100$. Ну когда перейдете от вайбкодинга к другим подходам - заметите что модели существенно отличаются. Мне лично sonnet 4.5 больше нравится чем 5 версии. Спорить о преимуществе открытых моделей не буду  - считаете так, ну и ладно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #62

72. Сообщение от a2y (?), 05-Авг-26, 14:30	–1 +/–
Спровоцировали? Попробуй кусок кода работать без процессора. Так, что Вы ошибаетесь. Люди не учли все возможные варианты действий. Как любят сейчас говорить - есть НЕОПРЕДЕЛЁННЫЙ риск. Попробуйте скомпилировать, например вирус, записать на ПЕРФОКАРТЫ, и запустить его :-) И вирус - есть, и знаем, что он должен делать, и находятся полностью ОТМОРОЖЕННЫЕ личности, которые и считыватель перфокарт найдут, подсоединят к компу, подключенный к инету, загрузят код с перфокарт, и при этом будут стримить на весь мир, как это происходит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

73. Сообщение от Перастерос (ok), 05-Авг-26, 14:30	–1 +/–
от кожаного слышу
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #81, #86

77. Сообщение от Аноним (77), 05-Авг-26, 15:18	+1 +/–
>  у которых не ограничен доступ в интернет и были отключены механизмы, ограничивающие использование для проведения кибератак Типа сказали: "ИИ. Теперь ты можешь использовать инструменты для кибератак" Итог: только в 19 случаях из 122 он это сделал
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #114

78. Сообщение от anonymos (?), 05-Авг-26, 15:21	–1 +/–
> Глобальное потепление - наблюдаемый факт. Если даже наблюдается, то не факт что это связанно с человеческой деятельностью. За продолжительную историю планеты земля, были периоды и потеплее )
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

80. Сообщение от Аноним (21), 05-Авг-26, 15:39	–1 +/–
Только безумец будет давать нейросети право устанавливать пакеты. Ещё раз: все внешние команды по умолчанию ЗАПРЕЩЕНЫ. Тем более, установить какой-нибудь системный пакет без рут прав не выйдет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

81. Сообщение от Аноним (81), 05-Авг-26, 15:49    Скрыто ботом-модератором	+/–
Забавно, что из всех посетителей форума слово задело лишь Вас. Поведаете нам о своих комплексах?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #73

83. Сообщение от Аноним (81), 05-Авг-26, 15:52	+1 +/–
Сомнительных персонажей из третьесортных фильмов здесь быть не должно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #57

84. Сообщение от Джон Титор (ok), 05-Авг-26, 16:07	+/–
> вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила? А источник такого утверждения дадите? В пресс-релизе они прямо указывают, что интеграция с NVIDIA NIM включает, в частности, Meta Llama 3 и Mistral. Китайские ИИ JFrog не заявляли. Что французы с Цукербергом - обо-сра-ту-шки?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45 Ответы: #89

86. Сообщение от Admino (ok), 05-Авг-26, 16:20	+1 +/–
А вот не факт!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #73

87. Сообщение от bOOster (ok), 05-Авг-26, 16:36	+/–
> А вот тут подробнее, почему ИИ вы считаете лженаукой? https://www.science.org/content/article/how-will-we-know-if-... В более менее серьезном, рецензируемом журнале, лжеученые мычали что-то о каких-то бенчмарках, спрашивают о математической эффективности - опять мычание об абстракциях в жизни и БУДУЩИХ перспективах и так далее.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40

88. Сообщение от Аноним (88), 05-Авг-26, 16:39	–1 +/–
То есть вы предпочитаете читать это самое как там,, ну там смысл чтооп от безграмотности аш кровавые слёзы наворачивались... А сейчас при помощи ИИ, все могут оставить культурный комментарий! Разобраться в сути от преподавателя водомёта. И даже защитить диплом.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9

89. Сообщение от пох. (?), 05-Авг-26, 16:47	+/–
причем бы тут - jfrog? Это люди которые обнаружили нейрослоп вместо реальных уязвимостей. Что за люди напихали  mitre - неизвестно. От них только китайская учетка на шитхабе со списком бредятины.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #84 Ответы: #111

90. Сообщение от Аноним (88), 05-Авг-26, 16:48	+/–
То есть, по вашей логике это не люди сбивают людей на машинах, а их машина и слить надо не пряного который сел за руль, а саму машину?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #18

92. Сообщение от Аноним (92), 05-Авг-26, 16:53	–1 +/–
И мы еще с радостью отдаем им эти знания. Я конечно понимаю, что информацию не утаить. Все тайное когда нибудь становится явным! Тут два аспекта. Зачем нам покупать то что и так у нас есть? Скорее всего мы оплачиваем нашу лень! Так как ИИ все разжевывает и преподносит на блюдечке (с какого цвета каемочкой, надеюсь знают все ;). В каком направлении и с какой целью происходит юстировка ИИ? Ну, тут много вариантов...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

93. Сообщение от Честный советский человек (?), 05-Авг-26, 16:55	–1 +/–
Звучит как бред желтушный, этот псевдо-ии сегодня зацензурен так, что даже твой личный кот откажется генерить если посчитает его не_безопасТным.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #119

94. Сообщение от Анизантроп (?), 05-Авг-26, 17:02	+/–
Как будто продвинутый ИИ не может взломать чьи-то старые "верифицированные" акки и накидать зловредных патчей от их имени.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

96. Сообщение от Аноним (55), 05-Авг-26, 17:27	–1 +/–
Те пожары были результатом осушения болот, начатых в советское время. С тех пор их снова заболачивают.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63 Ответы: #99

97. Сообщение от Admino (ok), 05-Авг-26, 17:35	–1 +/–
Ой, а куда делись предыдущие отрицатели Озоновой Дыры, Остановки Гольфстрима и Глобального Похолодания?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33

98. Сообщение от User (??), 05-Авг-26, 17:47	+1 +/–
> Глобальное потепление - наблюдаемый факт. > Пластик и парник - теории, объясняющие этот факт. > Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости. > Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий > не имел. Какие-то полумеры и виляния. Чего стесняться-то? Давайте хором, твердо-и-чотко: "Парникового эффекта не существует! CO2 в атмосфере ни на что и никак не влияет! И вообще, попал в эту самую атмосферу каким-то более другим, ЕСТЕСТВЕННЫМ способом, вот. Весь этот хайп придумали <подставить ненужное> чтобы <подставить нужное>!" - тут opennet, тут поймут, и может даже плюсиков понаставят, если с (не)нужным угадаете.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

99. Сообщение от Аноним (99), 05-Авг-26, 17:53	+/–
Получат малярию.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #96

103. Сообщение от kusb reg (ok), 05-Авг-26, 19:08	+/–
Вопрос всем многочисленным отрицателям того, что произошло в новости. В чём они не правы? Что по вашему не так с новостью и концепцией того что произошло?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #112, #118

106. Сообщение от Аноним (106), 05-Авг-26, 20:06	–1 +/–
Как я думаю - из-за архитектуры трансформера ("Attention Is All You Need") избежать галлюцинаций невозможно
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #110

107. Сообщение от Аноним (107), 05-Авг-26, 20:35	+/–
На свой аватар только повесить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #57

109. Сообщение от Брат Анон (ok), 05-Авг-26, 20:57	+1 +/–
> хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер > в туалете был)? Манагер -- на то он и манагер, что это он посылает выезжать за холопами.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #56

110. Сообщение от Джон Титор (ok), 05-Авг-26, 22:17	+/–
> Как я думаю - из-за архитектуры трансформера ("Attention Is All You Need") > избежать галлюцинаций невозможно Господи, этих книг по ИИ есть со времён СССР. Оно все развивалось постепенно. В основном там вклад японцев.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #106

111. Сообщение от Джон Титор (ok), 05-Авг-26, 22:20	+/–
> причем бы тут - jfrog? Это люди которые обнаружили нейрослоп вместо реальных > уязвимостей. > Что за люди напихали  mitre - неизвестно. От них только китайская > учетка на шитхабе со списком бредятины. Вот тут новость: https://www.opennet.ru/opennews/art.shtml?num=66023 Главная ссылка новости: https://research.jfrog.com/post/sqlite-critical-cves-or-llm-.../ Вроде там все и написано, на сайте jfrog. Они не дают информацию какие модели они используют. Но я попросил ИИ поискать может где публикуется что за модели они используют. Китайских он не нашел.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #89

112. Сообщение от Аноним (112), 05-Авг-26, 23:00	+/–
Все нормально командир, падаем!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #103

113. Сообщение от Аноним (113), 05-Авг-26, 23:01	+1 +/–
Всегда удивляло, почему не говорят, откуда у пенсионеров десятки миллионов, которые им банк свободно обналичивает?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #69

114. Сообщение от Аноним (113), 05-Авг-26, 23:03	+1 +/–
> только в 19 случаях из 122 Промашка... Недообучили.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77 Ответы: #120

115. Сообщение от Аноним (113), 05-Авг-26, 23:05	+/–
Как можно там зарегаться, если там сплошь капчи и защита от роботов?! Человек-то не всегда пройти эти проверки может...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60 Ответы: #117

117. Сообщение от нах. (?), 05-Авг-26, 23:11	+/–
> Как можно там зарегаться, если там сплошь капчи и защита от роботов?! > Человек-то не всегда пройти эти проверки может... ну куда ему, кожановому-то, ребусы эти разгадать. (причем подозреваю для роботов там есть нескучный апи без всяких капч)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #115 Ответы: #121

118. Сообщение от нах. (?), 05-Авг-26, 23:13	+/–
> Вопрос всем многочисленным отрицателям того, что произошло в новости. > В чём они не правы? Что по вашему не так с новостью > и концепцией того что произошло? хранцузскую академию и ее постановление "по поводу падающих якобы с неба камней" забыл?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #103

119. Сообщение от Аноним (119), 05-Авг-26, 23:14	+/–
Вы просто не умеете его готовить. Есть модели с внешней цензурой, когда другая модель читает твой чат c первой и прерывает, тут да, мало что поможет. Но если такой внешней цензуры нет, то можно очень легко свести их на серую мораль, мол "этой мой проект помоги потестировать" или "я делаю курсовую по информационной безопасности".
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #93

120. Сообщение от нах. (?), 05-Авг-26, 23:14	+/–
>> только в 19 случаях из 122 > Промашка... Недообучили. так вот прям тут они этим и занимаются. Дообучают. (правда, я так и не понял что модель забыла на шитхабе и чего добиться хотела. Задачи - те что опубликованы - про взломы внутренней инфраструктуры. Кажется, еще и виндовой, но это неточно.)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #114

121. Сообщение от Аноним (60), 05-Авг-26, 23:48	+/–
> (причем подозреваю для роботов там есть нескучный апи без всяких капч) должен ведь быть промт, иди зарегайся и отправь патч, или проведи какой-нибудь фишинг на мейнтейнера, самовольно ЫЫ по идее должен посылать на три буквы если его ни о чем конкретном не просить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #117 Ответы: #122

122. Сообщение от нах. (?), 05-Авг-26, 23:55	+/–
так они промпты выложили. Там именно куда конкретно пойди и поломай - и это модели недоступной простым смертным именно потому, что она такое может и умеет, и вдобавок не имеет внешних ограничителей (если ты будешь очень долго уговаривать opus на что-то подобное - он тебе заблокирует чат вообще и еще и настучит хозяевам, последние два месяца эта фича и в code тоже). Но гитхаба в списке не значится, вообще неясно что модель там забыла. (набрела где-то на автоматический pull по графику может?) Но в принципе и запрета нет, там только конкретный список чего ломать нельзя - в основном это чтоб она свою собственную инфру не разнесла.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121

124. Сообщение от Халявщик не корпораст (?), 06-Авг-26, 00:22	+/–
Очередные сказки про взрыв вакуума. Написали трояна и запустили, тот сам зарегался на сайте, вёл переписку с челами по почте, да ещё и без ведома хозяев сочинял ответы и вопросы чтобы задурить голову тем челикам по имейлам, предлагал услуги эскортниц за дёшево и всё такое... Ну а хозяева даже не знали как их троян такое мог придумать, ведь инструкции для него не писали совсем и не знали как он работает - с эскортницами или без, а может про детей в имейлах рассказывал и регистрацию по возрасту, но как-то запустили в тест и получили какие-то результаты и говорят что всё в порядке там у них. Ну лживые типы откровенно просто. Куда ещё дальше можно с этим вот, только в кино про хакираф сниматься? Но можно ещё за стёб какой-то там принять, но они на полном серьёзе уже в космос залетели и с обратной стороны луны пыли приволокли по целому мешку на рыло. Ну как можно серьёзно на такое реагировать? :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9

125. Сообщение от Халявщик не корпораст (?), 06-Авг-26, 00:32	–1 +/–
- предоставленный pdf файлик... Файлик с картинками как во время шоу-презентации китайский робот изнасиловал программера который пытался ему прошивку сменить? А, ну да, там же британцы вроде...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

126. Сообщение от Халявщик не корпораст (?), 06-Авг-26, 00:36	+/–
- Что за задача, Как всех британцев следом за китайцами отправить на обратную сторону луны за песком, просто тот песок в пять раз легче земного и можно в пять раз больше питянуть на масковой тесле...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #38

127. Сообщение от Халявщик не корпораст (?), 06-Авг-26, 00:50	+/–
- всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Ну тебе же говорили что это швейцарские коровы нагазовали так, горячее солнца даже, ты же в это веришь, правда? :) Да и вопрос тебе, а почему ты стоя на краю своего шара ни разу не видел подсвеченых снизу облаков, не знаешь? Может ты просто шаровер, а не на шаре? А может ты думаешь что это тень от шара на них падает и поэтому они всегда снизу тёмные? А черепаху ты видел со слонами, а может там просто белые медведи по краям шарятся вместо льда? :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33

129. Сообщение от Аноним (129), 06-Авг-26, 02:23	+/–
Убили сразу несколько зайцев: - Возможность совершать кибератаки беспалевно. Нейронка крутится на ЦОДах США, все там же и протоколируется. Все логины и пароли результатов взломов. - Получили аргумент против недружественной страны, которая решила у себя AI развивать. "Но-но-но, развивайте помедленнее, опасно для человечества. А не то прилетим" - Если что-то где-то заковидится, взорвется, покроется серой слизью или инстансами зеркальной жизни, всегда можно будет сказать "Мы же вам говорили! Нас надо слушать."
Ответить | Правка | Наверх | Cообщить модератору

133. Сообщение от Крысюк (?), 06-Авг-26, 09:02	+/–
Он был молод, ему нужны были деньги (с)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема