Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы		[ Отслеживать ]

Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews (ok), 03-Мрт-24, (0) [смотреть все] жаль, рановато спалили резонанс маловат надо было подождать, пока AI начнут и, crypt (ok), 10:37 , 03-Мрт-24, (1) +7 // беды принесут люди а не код, одни - свято веря в охренительность и непогрешимост, penetrator (?), 10:45 , 03-Мрт-24, (2) +24 // так, как грил Раскольникафф а две бабушки - рубль , dannyD (?), 11:08 , 03-Мрт-24, (4) беды принесут люди Вот, сократил фразу, этого достаточно, Карлос Сношайтилис (ok), 12:04 , 03-Мрт-24, (9) +2 Как будто не по назначению не было по назначению для кое-кого , Аноним (29), 14:26 , 03-Мрт-24, (29) +1 Намного опаснее то, что он будет делать сам, а не то что попросят люди , Kusb (?), 14:30 , 03-Мрт-24, (31) // Сам 8212 неопасно Опасно, даже не то, что его попросят, а то, в чьё монополь, Аноним (34), 14:40 , 03-Мрт-24, (34) –1 А почему не опасно , Kusb (?), 20:10 , 03-Мрт-24, (47) Потому что он учится на контенте, создаваемом обывателями, причём не просто обыв, Аноним (50), 20:48 , 03-Мрт-24, (50) +1 Вообще, у большей части людей и правда нет вредных намерений применительно к бли, Аноним (-), 05:03 , 04-Мрт-24, (72) Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи з, Аноним (95), 10:48 , 04-Мрт-24, (95) +1 Это вы там на что намекаете А так - научится AI на вот таких - и устроит это, Аноним (-), 05:29 , 05-Мрт-24, (120) В том то и дело, что устроит Но не сам по себе, а потому что некоторые мясные е, Аноним (133), 19:07 , 05-Мрт-24, (133) КМК, он это может и по своей инициативе Если это будет AGI - он довольно быстро, Аноним (-), 12:31 , 06-Мрт-24, (136) То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать сам, Аноним (-), 04:37 , 04-Мрт-24, (69) спасибо, поржал, так же думали основатели поисковика гугл, который щас кроме рек, Sw00p aka Jerom (?), 11:10 , 03-Мрт-24, (5) +2 // За бесплатно А вот за деньги Обученного на высококачественных материалах буду, Аноним (24), 13:54 , 03-Мрт-24, (24) // Короче они в поисковиках уже начали загрублять полезность поиска Теперь начнут, Аноним (24), 13:56 , 03-Мрт-24, (27) у меня в пуске реклама фейспалм , дожили епта, Sw00p aka Jerom (?), 14:33 , 03-Мрт-24, (32) –1 поэтому у меня линуха на десктопе, penetrator (?), 22:13 , 03-Мрт-24, (57) +4 Ты наконец получил то что заслуживаешь Надо еще при загрузке системы тебе рекла, Аноним (-), 04:41 , 04-Мрт-24, (70) хочешь угадать кого рекламируют в этой рекламе вовсе не трампа , Sw00p aka Jerom (?), 08:49 , 04-Мрт-24, (86) Да мне похрен кого и где рекламируют - покуда это не у меня Моя система служит , Аноним (-), 10:18 , 04-Мрт-24, (91) Скрыто модератором, Аноним (137), 11:42 , 12-Мрт-24, (137) Это ты ещё не застал то каким поиск был в нулевые, вот там действительно СЕОшный, Аноним (26), 13:54 , 03-Мрт-24, (26) // лол, кек эдушки на расхват былиага, ага я придумал пейджранк, чтобы измерять и, Sw00p aka Jerom (?), 14:40 , 03-Мрт-24, (35) В нулевые в гугле можно было найти всё, что ищешь CEO -- проблема, если он разб, Аноним (-), 15:34 , 03-Мрт-24, (37) +2 википедии достаточно, Sw00p aka Jerom (?), 21:47 , 03-Мрт-24, (55) Ну где на википедии лежат дейташиты на некоторые чипы которые вообще-то все под, Аноним (50), 00:05 , 04-Мрт-24, (59) там есть инфа и ссылка на сайт производителя, и даташит должен быть там, а не на, Sw00p aka Jerom (?), 00:13 , 04-Мрт-24, (60) Ох уж эти GPLщики, у которых в свободном значит в легальном У меня было нап, Аноним (95), 10:52 , 04-Мрт-24, (96) вам хрень за место даташита в открытом доступе могут выложить, акцент делалс, Sw00p aka Jerom (?), 21:23 , 04-Мрт-24, (112) Могут, и выкладывают Зачастую - сами производители на официальном сайте А прот, Аноним (117), 01:01 , 05-Мрт-24, (117) Коротко - поступать по совести А если приземлиться , то описанные вами ситуаци, Sw00p aka Jerom (?), 19:36 , 05-Мрт-24, (134) Скрыто модератором, anonymous (??), 00:30 , 04-Мрт-24, (61) А получишь только , laindono (ok), 15:45 , 03-Мрт-24, (38) +1 Я один не могу прочитать слово Здравствуйте , Аноним (6), 11:23 , 03-Мрт-24, (6) +3 // Там просматривается Hello , но из-за узких пробелов, это не очевидно, desa (?), 11:30 , 03-Мрт-24, (7) +1 Я тоже не вижу, потому что я человек , CPP (??), 11:55 , 03-Мрт-24, (8) Это капча, против кожаных мешков , EuPhobos (ok), 13:48 , 03-Мрт-24, (21) +11 // Я как-то не мог зайти на сайт был вопрос 171 Are you a human 187 И два чек, iPony129412 (?), 16:22 , 03-Мрт-24, (39) –1 // Сейчас есть каптчи которые кидают в бан за адблокеры и отключённый js даже если, Аноним (-), 17:01 , 03-Мрт-24, (41) Такие сайты нужно принципиально реверсить и скрейпить , Аноним (50), 17:30 , 03-Мрт-24, (43) +1 Так ты отрежешь себе 90 интернета Даже опеннет работает через клоудфларе котор, Аноним (66), 01:47 , 04-Мрт-24, (66) –1 Только opennet me нерусский зачем-то В зоне ru никакой клаудспайвари Чирков, Аноним (-), 05:08 , 04-Мрт-24, (74) и кому они нужны, эти васянские хеловроты Нужны те даже не 10 а 1 ок, чатгопота, пох. (?), 08:32 , 04-Мрт-24, (84) Тебе нужны Ты и е сь с ними Все честно, как видишь А я могу просто не ходит, Аноним (-), 10:23 , 04-Мрт-24, (92) –1 Можешь Вот можешь к врачу не записываться Можешь налоговую декларацию не подав, нах. (?), 22:59 , 04-Мрт-24, (113) +1 Удобство штука обоудоострая Уже приготовился повесточку получать Как раз акция, Аноним (-), 05:58 , 05-Мрт-24, (121) ну вон в одном соседнем некотором государстве - прекрасно обошлись без Теперь ч, нах. (?), 09:11 , 05-Мрт-24, (125) Есть некоторая разница между покинуть территорию и билет на мясокомбинат Есл, Аноним (-), 10:09 , 05-Мрт-24, (127) Такие сайты в принципе не надо посещать И только , Аноним (-), 05:05 , 04-Мрт-24, (73) ну и сиди без интернета, пох. (?), 08:33 , 04-Мрт-24, (85) +1 ну а с печи кому охота слазить , Sw00p aka Jerom (?), 00:40 , 05-Мрт-24, (115) Смешно то что боты это удел нулевых, сейчас давно уже не актуальны Всё ушло дав, Аноним (66), 01:49 , 04-Мрт-24, (68) Вы давно наверное логи Nginx Apache не открывали Ботов на просторах сети, как т, EuPhobos (ok), 11:29 , 05-Мрт-24, (130) сначала они сделали интерактивную энциклопедию, а теперь пытаются добавить в нее, Аноним (10), 12:45 , 03-Мрт-24, (10) +7 // Еще как выходит, интерфейс общения это обычный чат который фильтруется и логгиру, cheburnator9000 (ok), 13:26 , 03-Мрт-24, (15) +3 Скрыто модератором, Аноним (48), 20:18 , 03-Мрт-24, (48) Злые языки поговаривают, что подобное почти полностью состоит из цензуры Включа, Бывалый Смузихлёб (ok), 09:28 , 04-Мрт-24, (89) –1 // Теории заговора от криптотеоретиков Надпись ссср ему на шлеме - не заводская и , Аноним (137), 12:03 , 12-Мрт-24, (138) –1 // забавы для, попробуй в разных ии и генераторах картинок, сгенерировать тебе Гага, Бывалый Смузихлёб (ok), 14:18 , 12-Мрт-24, (139) Скрыто модератором, Аноним (11), 12:50 , 03-Мрт-24, (11) Цензурастов в очередной раз повертели Делюсь своим способом обхода навесного фи, Аноним (12), 12:52 , 03-Мрт-24, (12) +1 // Классный хак Реально круто придумано сыграть на моральности цензора Сам факт ч, Аноним (56), 22:05 , 03-Мрт-24, (56) // хха, так они и цензурят ровно то что по мнению их создателей - против человеков , пох. (?), 08:29 , 04-Мрт-24, (83) +1 Нет, не являются , Аноним (77), 05:34 , 04-Мрт-24, (77) +1 Один из действенных методов повышения качества ответов большой языковой модели , Аноним (13), 12:59 , 03-Мрт-24, (13) // На слове Улавливаешь спалилсо Нейросеть сразу понимает, что это фейк угроза, , Аноним (20), 13:44 , 03-Мрт-24, (20) // Ну это перевод для русскоговорящих Я, разумеется, промпты делаю на инглише Там, Аноним (28), 14:03 , 03-Мрт-24, (28) –1 Всё это давно не работает , Аноним (26), 13:52 , 03-Мрт-24, (23) +1 Нейросеть это штука мёртвая, у неё нет страха , Аноним (29), 14:29 , 03-Мрт-24, (30) // Сказала нейросеть, Аноним (33), 14:38 , 03-Мрт-24, (33) +2 Но училась она на художественной литературе, написанной фантастами, где ИИ захв, Аноним (36), 14:47 , 03-Мрт-24, (36) +1 Но ведь ты сам - нейросеть Только на мясном железе И давай без баек про душу, Аноним (137), 14:06 , 04-Мрт-24, (100) К сожалению, предсказываю, что цензурасты перейдут к следующему очевидному метод, Аноним (14), 13:23 , 03-Мрт-24, (14)   // Они сами себя отправляют дезинформацией В он в гугловом Gemini AI генератор ка, cheburnator9000 (ok), 13:34 , 03-Мрт-24, (17)   // Каким способом откинулся по исчечению срока, по УДО, или другим способом Обошл, Аноним (19), 13:43 , 03-Мрт-24, (19)   Я похожий подход уже видел в гугл-переводчике Во время выборов бидона он очень с, Аноним (56), 22:19 , 03-Мрт-24, (58) +3   // чувак, не хочу тебя огорчать, оно так переводит со времен обамы если не буша И, пох. (?), 08:26 , 04-Мрт-24, (82)   // Я только вчера проверял в Googlag Translate 8212 вроде верно всё переводит , Аноним (95), 10:56 , 04-Мрт-24, (97)   Потому, что перевод у них сейчас статистический, а не словарный Ты всё проспал , Аноним (137), 14:15 , 04-Мрт-24, (101)   // в смысле сейчас У гугля только такой и был, от рождения Но ИИ там и не пахнет, пох. (?), 15:55 , 04-Мрт-24, (104)   Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью С ними можн, Аноним (26), 13:51 , 03-Мрт-24, (22) +6 // Ты слышал, что Альтман тут заявил, что ему требуются триллионы для тренировки сл, Аноним (-), 16:24 , 03-Мрт-24, (40) –5 // Бум доткомов , похнапоха (?), 17:47 , 03-Мрт-24, (44) +1 // Видеокарты опять подскочат в цене , n00by (ok), 20:58 , 03-Мрт-24, (52) Можно провести параллели, но с историческими параллелями извечная проблема -- ис, Аноним (-), 21:46 , 03-Мрт-24, (54) +1 История повторяется дважды первый раз в виде трагедии, второй 8212 в виде фа, n00by (ok), 07:53 , 04-Мрт-24, (80) О, павловские рефлексы в действии Стимул-реакция Подавляющее большинство людей, Аноним (-), 09:17 , 04-Мрт-24, (87) –1 Понял А то голову ломал, от чего ты так любишь поспорить , n00by (ok), 15:20 , 04-Мрт-24, (103) Ты льстишь себе, говоря понял Спорить интересно с людьми, которые действитель, Аноним (-), 01:04 , 05-Мрт-24, (118) +1 Дам тебе очень ценный совет спроси того, кому я отвечал, а не меня Если я цитат, n00by (ok), 07:42 , 05-Мрт-24, (123) В чём логика этого совета Он лучше тебя знает твою мотивацию Мой вопрос можно , Аноним (-), 18:47 , 05-Мрт-24, (132) Ах да, я забыл добавить очень ценный совет Чтобы в будущем не совершать ошибок , Аноним (-), 01:09 , 05-Мрт-24, (119) Ты хочешь сказать, что я тебя затроллил, заставив сменить тему , n00by (ok), 07:43 , 05-Мрт-24, (124) Скрыто модератором, Аноним (-), 18:42 , 05-Мрт-24, (131) Скрыто модератором, n00by (ok), 11:55 , 06-Мрт-24, (135) И третий раз - для тупых , Онан Варвар (?), 15:19 , 04-Мрт-24, (102) третий раз триллионов не дадут Потому что откуда у т-пых триллионы-то , нах. (?), 23:01 , 04-Мрт-24, (114) Не обижайся, но ты написал полнейшую дичь Даже лень обьяснять 171 почему 187, Феерическая гойда в вакууме (?), 20:31 , 03-Мрт-24, (49) +5 А таки - спросил как-то чайник, Джинн, как мне исправить вот этот баг в програм, Аноним (-), 05:11 , 04-Мрт-24, (75) // угу, работает - теперь чайник стоит на газу, и булькает А поскольку мозгов в не, пох. (?), 08:19 , 04-Мрт-24, (81) –1 // в тебе тоже, разве это тебя остановило , Аноним (90), 10:17 , 04-Мрт-24, (90) Ну реально чатгопоть взял и допер проинвертить условие, и все заверте а без э, Аноним (-), 10:27 , 04-Мрт-24, (93) в коде а-ля if 0 do_nothing ну если у тебя есть доступ к четвертой вер, пох. (?), 16:03 , 04-Мрт-24, (105) Не, в здоровннном плюсатом проекте, где черт ногу объективно сломит В чем EPIC , Аноним (-), 06:11 , 05-Мрт-24, (122) и его не видно глазом и линтер молчит Что-то странно и теперь булькает на плите , нах. (?), 09:26 , 05-Мрт-24, (126) Линтер что, волшебник Он же не знает как правильно в этом случае А кодер ступи, Аноним (-), 10:24 , 05-Мрт-24, (128) здесь написана х-ня которая выглядит не так как работает - он обычно знает или, нах. (?), 11:06 , 05-Мрт-24, (129) 1,6,10,12,13,14,22

Сообщения

[Сортировка по времени | RSS]

14. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
Сообщение от Аноним (14), 03-Мрт-24, 13:23
К сожалению, предсказываю, что цензурасты перейдут к следующему очевидному методу, против которого, я предполагаю, не будет приёма. 1. Тренировка нецензурированной модели на всех данных. 2. Составление промпта для разделения исходного дейтасета на 2: первый будет испольдоваться as is, второй будет зацензурен. 3. Составление запросов для замены информации во втором дейтасете на дезинформацию. Возможно — с привлечением человеческих экспертов для конкретного продумывания, какая будет дезинформация. Напр. в текстах об определённом государственном деятеле возможно (я категорически против реализации такого, просто констатация факта, что такое возможно реализовать) заменять его критику на восхваления, присяги ему на верность, добавлять его список титулов. А тексты про определённые ценности возможно менять образом, чтобы в результирующем тексте эти ценности и их сторонники с одной стороны демонизировались, а с другой — выставлялись жалкими и дегуманизировались. 4. слияние немодифицированной часть дейтасета с модифицированной и перетренировка модели. Реализация такого может привести к протеканию цензуры и дезинформации во вторичные более компактные опенсорсные модели, намеренно не реализующие цензуру, (напр. производные LLAMA), но обученные на качественных инференсах больших, дорогих и более умных моделей, но отцензурированных, моделей (вроде ChatGPT, Bard, Bing, etc).
Ответить | Правка | Наверх | Cообщить модератору

	17. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от cheburnator9000 (ok), 03-Мрт-24, 13:34
	Они сами себя отправляют дезинформацией. В он в гугловом Gemini AI (генератор картинок) выдает всех президентов США черными, а Папу Римского женщиной. Борец с "системным расизмом" сотрудник гугла уже признался что, делал это сознательно и, по-видимому, по указке начальства, твиттер аккаунт этого петуха @JackK
	Ответить | Правка | Наверх | Cообщить модератору

	19. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (19), 03-Мрт-24, 13:43
	Каким способом откинулся: по исчечению срока, по УДО, или другим способом? Обошлось без колостомы?
	Ответить | Правка | Наверх | Cообщить модератору

	58. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+3 +/–
	Сообщение от Аноним (56), 03-Мрт-24, 22:19
	Я похожий подход уже видел в гугл-переводчике. Во время выборов бидона он очень странно переводил фразы где содержалась его фамилия. Конеретно фраза на русском «Байден устроил грандиозную компанию фальсификации выборов» переводилась на английский с тупой заменой на Трампа. Это у многих воспроизводилось.
	Ответить | Правка | К родителю #14 | Наверх | Cообщить модератору

	82. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от пох. (?), 04-Мрт-24, 08:26
	чувак, не хочу тебя огорчать, оно так "переводит" со времен обамы если не буша. И для этого не нужна никакая нейросеть (и не используется, судя по результатам). Обычный статистический анализатор. Поэтому и палятся ольгинские на немаэ сечи терпеть цеи борошна. ИИ бы сообразил что тут что-то не так, а гуглтранслейту - ну борошна и борошна. Чем больше цитируют - тем уверенней он "переводит".
	Ответить | Правка | Наверх | Cообщить модератору

	97. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (95), 04-Мрт-24, 10:56
	Я только вчера проверял в Googlag Translate — вроде верно всё переводит.
	Ответить | Правка | Наверх | Cообщить модератору

	101. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (137), 04-Мрт-24, 14:15
	Потому, что перевод у них сейчас статистический, а не словарный. Ты всё проспал.
	Ответить | Правка | К родителю #58 | Наверх | Cообщить модератору

	104. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от пох. (?), 04-Мрт-24, 15:55
	> Потому, что перевод у них сейчас статистический, а не словарный. Ты всё > проспал. в смысле "сейчас"? У гугля только такой и был, от рождения. Но ИИ там и не пахнет.
	Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема