The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..., opennews (??), 10-Янв-20, (0) [смотреть все] +1

Сообщения [Сортировка по времени | RSS]


64. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +2 +/
Сообщение от Аноним (-), 10-Янв-20, 11:26 
> О, да. Уж лучше использовать btrfs. Настолько глючную, что уничтожает данные.

Да ничего она не уничтожает. Ее фэйсбук на миллиардах хомяков уж лет пять к ряду отладил до блеска. Там багрепорты уже стали хилее чем для ext4 какого-нибудь.

> От неё даже в федоре отказались.

Они и от ext4 отказались. А все потому что разработчики ФС по другим фирмам чего-то разбежались. И своих карманных толком и не осталось. Пришлось прихватизировать что осталось. А остался тормознутый JFS и специфичный XFS. Так что они ничего умнее как за XFS схватиться и не придумали. В результате получилось нечто странное. Не, они даже reflinks там сделали, но XFS и так то с метаданными тупил, а с рефлинками ему стало вообще хорошо.

Ответить | Правка | Наверх | Cообщить модератору

66. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от Аноним (28), 10-Янв-20, 11:37 
От ext4 не отказались. А btrfs при установке выбрать теперь нельзя. И выкинули после жалоб пользователей о потере данных.
Ответить | Правка | Наверх | Cообщить модератору

91. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +1 +/
Сообщение от Аноним (88), 10-Янв-20, 12:51 
Все одмэны ставят дефолтную фс. При установке первое чувство xfs? А потом xfs так xfs.
Ответить | Правка | Наверх | Cообщить модератору

228. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от Аноним (-), 11-Янв-20, 08:30 
> xfs так xfs.

...пока не обнаружишь что с метаданными это нечто тупит даже сильнее btrfs'а, не говоря про ext4 какой, не умея при этом в простой менеджмент девайсов. Ну вот в рефлинки уметь стал недавно, но при такой работе с метаданными - радости то с того?

Ответить | Правка | Наверх | Cообщить модератору

227. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  –1 +/
Сообщение от Аноним (-), 11-Янв-20, 08:29 
> От ext4 не отказались.

Как бы это сказать? RH ее не продвигал в последнее время, а все тематические рожи разбежались по другим фирмам. Соответственно от нее формально как бы не отказались, но если раньше с ней носились колбасой и комитили, то теперь... она скорее в режиме майнтенанса и мелких фиксов, а основное развитие если и случается - то от совсем других @domain.com :)

> А btrfs при установке выбрать теперь нельзя. И выкинули после жалоб пользователей о потере данных.

Ну так правильно, с их 2.6.чототам данные в btrfs конечно будут теряться. Потому что бэкпортировать фиксы с какого-нибудь 4.x на 2.6.чтототам - кто это в редхате вот прям здесь и сейчас вообще сможет, например?!


Ответить | Правка | К родителю #66 | Наверх | Cообщить модератору

89. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  –2 +/
Сообщение от пох. (?), 10-Янв-20, 12:46 
> Да ничего она не уничтожает. Ее фэйсбук на миллиардах хомяков уж лет
> пять к ряду отладил до блеска. Там багрепорты уже стали хилее

пейсбуку данные хомячков совершенно без надобности, не говоря уже о том, что они хранятся в распределенном кластере, который хоть поверх ntfs можно собрать.

А где они данные о самих хомячках хранят и как именно - они особо не распространяются. (впрочем, их тоже незачем особо надежно хранить, пропало - хомяк щас о себе вдесятеро больше сольет, восстанавливая пароли и явки. А данные от дохлого хомячка и хранить незачем.)

"You are not google!" (и не пейсбук тоже ни разу)

Отлаживает он совершенно другое и ради другого. А багрепорты просто некому стало писать - внутрипейсбуковские за его пределы вряд ли выходят, ответственного за пилежку проще по внутренним каналам мативировать, за его пределами - сплошная xfs, времена хайпа btrfs давным-давно прошли.

> В результате получилось нечто странное.

вот это странное - в результате по всему миру и стоит и будет стоять. Потому что что там гугль понапачтил для себя в ext4 - он отдавать не собирается, а больше и выбирать не из чего.

Ответить | Правка | К родителю #64 | Наверх | Cообщить модератору

229. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от Аноним (229), 11-Янв-20, 08:42 
> пейсбуку данные хомячков совершенно без надобности,

Если данные хомячков пролюбливать - репутация портится, однако.

> не говоря уже о том, что они хранятся в распределенном кластере, который хоть
> поверх ntfs можно собрать.

Теоретически - да. Практически btrfs им позволил детектить глюки оборудования. Что при таком парке актуально. Представь себе чего пищат хомяки когда им вместо их фото вываливается шум океанов марса? Какой-нибудь гугл достаточно крут для того чтобы такие вещи покрыть на уровне "оверлейного" алгоритма, но не все же такие алгоритмически навернутые? Фэйсбук насколько я понимаю технологически более классический и не такой радикальный :)

> А где они данные о самих хомячках хранят и как именно - они особо не распространяются.

Да и хрен бы с ними, с технической стороны результат прекрасно виден в git log. Миллиард хомяков просто не может не вытоптать поляну. Поэтому файлуха огребла совершенно адский стресстест, возможно сильнее чем все остальные: миллиард юзеров это много. Поначалу багрепорты ессно скакнули, всякие странные кейсы типа "а вот если файл на 20 терабайтов и сделать что-то странное" - полезли, конечно, потому что до мордокниги у народа таких файлов не очень то и много водилось. Но как полезли так и закончились.

> (впрочем, их тоже незачем особо надежно хранить, пропало - хомяк щас о себе
> вдесятеро больше сольет, восстанавливая пароли и явки.

Ну как бы хомяки недовольны если их фоты и прочие кастомные смайлики пролюбились. Это портит репутацию фирмы.

> "You are not google!" (и не пейсбук тоже ни разу)

Это не мешает получать профит от суровых стресстестов сделаных ими.

> Отлаживает он совершенно другое и ради другого. А багрепорты просто некому стало
> писать - внутрипейсбуковские за его пределы вряд ли выходят,

А какая нафиг разница, коммиты то все-равно в кернель пойдут и там написано что и зачем. Ты ж не думал что я багзилу читал? Я читал git log, иногда с -p даже.

> будет стоять. Потому что что там гугль понапачтил для себя в
> ext4 - он отдавать не собирается, а больше и выбирать не из чего.

Чего он там не собирается? Вроде комиты с них валятся - там пара рож которые раньше в редхате были теперь туда перетекли, если не ошибаюсь. И занимаются тем же чем и раньше, только с @google.com теперь. И напомните, кто там всякое крипто, чексумы и проч запиливал? Я за ext4 не особо слежу - как-то он у меня вышел из активного использования.

Ответить | Правка | Наверх | Cообщить модератору

251. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от пох. (?), 11-Янв-20, 12:18 
>> пейсбуку данные хомячков совершенно без надобности,
> Если данные хомячков пролюбливать - репутация портится, однако.

там портить нечего. Ну вот испортилась репутация у твоей АТС - квартиру будешь менять? Причем сразу на Марс, в случае пейсбука-то.

> Теоретически - да. Практически btrfs им позволил детектить глюки оборудования. Что при

видимо, было что детектить ;-)

> таком парке актуально. Представь себе чего пищат хомяки когда им вместо
> их фото вываливается шум океанов марса? Какой-нибудь гугл достаточно крут для

так было ж уже. Ну попищали. Место освободилось, кстати.

> того чтобы такие вещи покрыть на уровне "оверлейного" алгоритма, но не
> все же такие алгоритмически навернутые? Фэйсбук насколько я понимаю технологически более
> классический и не такой радикальный :)

да нет. все то же самое - кластер распределенный, но не для того, чтобы избыточно хранить хомячковые артефакты, это побочный эффект без гарантий 100% надежности, а для того чтобы размазать нагрузку от них и заодно отнести нужные картинки поближе к нужным товарищмайо...непосредственным потребителям.

> в git log. Миллиард хомяков просто не может не вытоптать поляну.

только это не твоя поляна, это пейсбука поляна. У тебя другой use-pattern, и последствия другие.

> Это не мешает получать профит от суровых стресстестов сделаных ими.

просто не надо на это надеяться как на гарантию надежности (скорее - оценить ненадежность изначального кода).
Гугль вон до 2010го включительно использовал патченную ext2, позади планеты всей. Причем большая часть патчей так и не была обнародована. Обычным людям пользоваться ей было категорически нельзя не только из-за технических ограничений, но и из-за явных багов, исправления которых не переносились/переносились с очень большой задержкой из такого же кода ext4.

> А какая нафиг разница, коммиты то все-равно в кернель пойдут и там

может пойдут, а может и не пойдут, останутся во внутрипейсбуковском клоне.

> Чего он там не собирается? Вроде комиты с них валятся - там

там где им хочется - и не требует больших усилий - валятся, там где не хочется или, как обычно, Линус демонстрирует рожу бульдожию - они не парятся и не настаивают, не хотите чтоб у всех работало - нам и не надо. Что с проектом lustre случилось - напомнить?


Ответить | Правка | Наверх | Cообщить модератору

295. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от Аноним (295), 12-Янв-20, 03:47 
> там портить нечего. Ну вот испортилась репутация у твоей АТС - квартиру
> будешь менять? Причем сразу на Марс, в случае пейсбука-то.

SIP операторов ща выше крыши. А что фэйсбук? Они тоже периодически нервничают по поводу пользователей и изменений их числа. Если фоточки пролюбливать, хомяки найдут куда их загрузить.

> видимо, было что детектить ;-)

В большой инфраструктуре всегда есть что детектить. Теорвер. Даже я у знакомых поотловил глюкавых SATA кабелей. Оказывается, годков через 5 работы параметры китайского пластика малость уплывают - и начинается. Еще сыпучий винт и глюкающий модуль RAM попались. Готов поспорить что у фэйсбука улов с многократным превышением: много железа.

> так было ж уже.

Да что-то особо не слышно в последнее время. И багрепорты какие-то не страшные. Откуда вывод что поляна уже утрамбована.

> Ну попищали. Место освободилось, кстати.

Да как освободилось так и занялось. А багрепорты и фиксы постепенно убавились. Стало больше оптимизаций, новых фич и твиков. Нормальный индикатор what's going up.

> да нет. все то же самое - кластер распределенный, но не для
> того, чтобы избыточно хранить хомячковые артефакты, это побочный эффект без гарантий
> 100% надежности, а для того чтобы размазать нагрузку от них и
> заодно отнести нужные картинки поближе к нужным товарищмайо...непосредственным потребителям.

Если про гугля, твои энтерпрайзные кластеры - керосиновые ракеты. А у гугля уже космические корабли в гиперпространстве. Я так понимаю что они слизали половину с самых крутых и свежих p2p разработок, адаптировав к своим нуждам. С лучшими инженерами планеты оптом еще и не так можно.

У фэйсбука этого вроде нет. Они высоко не летают, как я понимаю они кой-как эмулируют грубое подобие из классических алгоритмов и подходов. Поэтому если ты не заметил - они с гуглом в разных плоскостях живут. Они дежурно пощипывают друг друга, это даже полноценной конкуренцией назвать трудно. Слишком разные.

Фэйсбук вообще очень долго был вебмакаками не понимающими на кой черт все эти пляски с алгоритмами, ведь можно чутка пых оптимизировать, серваков подоткнуть и дело в шляпе?! В последнее время и до них дошло что несколько алгоритмистов может улучшить работу инфраструктуры круче чем все 9000 вебмакак, так что они слегка наверстывают. Но в целом они разные.

> только это не твоя поляна, это пейсбука поляна. У тебя другой use-pattern,
> и последствия другие.

Мои файловые операции принципиально иные чем у фэйсбука? :) Если бы ты сказал это про _гугл_ я бы поверил. Но ты кажется не понял почему я их считаю разными.

Насколько я понимаю:
- Гугл радикально пересмотрел семантику io и алгоритмы, здорово подвинувшись в пользу распределенных штук сделаных не как привыкли, а как лучше работает с учетом современного state of art распределенных алгоритмов. Не пиндя про совместимость а переписав все что не вписывалось в это. Могут себе позволить, в отличие от твоего керосинового энтерпрайза.
- Фэйсбук не летает на таких высотах. Поэтому они делают какие-то эрзацы из обычного софта и технологий смертных. Потому что супертехнологиями гугл с ними не поделился и не поделится. И это вообще не про какие-то там патчи ext2/3/4 ни разу.

> просто не надо на это надеяться как на гарантию надежности (скорее -
> оценить ненадежность изначального кода).

Это был хороший стресс-тест core алгоритмов файлухи и взаимодействия частей. Некоторых частей типа raid56 это не коснулось, конечно.

> Гугль вон до 2010го включительно использовал патченную ext2, позади планеты всей.

А им много от ФС не надо. Они это на других уровнях делают. В их штуке дело ФС быстро пулять блоки в сеть, по большому счету. Можно битые. Можно зафэйлить это. Будет обнаружено другими уровнями и запрос тупо уйдет другим узлам.

Фэйсбук достигает сравнимого более классическими способами. Это грубее и хуже, но какой-то эрзац получается и как-то работает же. Поскольку у них нет волшебного оверлея, который сам на автомате разберется с кривыми узлами на уровне распределенного алгоритма, фэйсбуку актуально замечать отказы серваков хотя-бы на уровне ФС. Иначе их заметят хомяки словившие труху в фото.

> из такого же кода ext4.

У гугла очень специфичные требования к нижнему уровню. Я так понимаю что они просто радикально пересмотрели вообще все. Вплоть до семантики IO. А что не вписывалось - переписали. А теперь попробуй так хотя-бы на своем компе... :)

> может пойдут, а может и не пойдут, останутся во внутрипейсбуковском клоне.

Судя по git log'у - пошли. Было бы странно если бы Мэйсон не внес все минимально релевантное в майнлайн. Зафиг он себе будет объем работ увеличивать? Там наверняка и без этого есть чем заняться, у btrfs задел на уровне структур изрядный.

Да и гугл чего-то накомитил вроде. По крайней мере, из смежного, adiantum encryption - это вроде в основном их хотелка.

> там где им хочется - и не требует больших усилий - валятся,
> там где не хочется или, как обычно, Линус демонстрирует рожу бульдожию

Кому? Мэйсону? Мэйсон как-то и без Торвальдса в своем проекте вроде заинтересован :)

> - они не парятся и не настаивают, не хотите чтоб у
> всех работало - нам и не надо. Что с проектом lustre случилось - напомнить?

Его вроде бы дропнули - потому что на него как-то все забили. Он валялся в staging и никто не комитил. А в случае btrfs - на минутку, архитект, с @fb.com - пуллреквесты на свою часть и присылает. Как-то совсем другие взаимодействия вроде. Ничего общего.

Ответить | Правка | Наверх | Cообщить модератору

276. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от Аноним (273), 11-Янв-20, 17:12 
как бы в ext4 есть лимит 16Т на один файл - причем не блоков - а именно offset.
Да и тупит оно при общем размере более 128Т..
что в современных хранила на 512-1024T - как-то моветон.

Зато Xfs на таком чувствует себя хорошо.

Ответить | Правка | К родителю #64 | Наверх | Cообщить модератору

293. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от пох. (?), 12-Янв-20, 01:26 
> Да и тупит оно при общем размере более 128Т..
> что в современных хранила на 512-1024T - как-то моветон.

и не ссыкотно вам хранить 1024T в виде файлов в одной общей fs?
Или это опять чужие котики которых совершенно не жалко?

> Зато Xfs на таком чувствует себя хорошо.

рад за ее здоровье. Но лучше подальше от моих данных.

Ответить | Правка | Наверх | Cообщить модератору

296. "Линус Торвальдс пояснил, в чём проблемы реализации ZFS для я..."  +/
Сообщение от Аноним (295), 12-Янв-20, 03:56 
> и не ссыкотно вам хранить 1024T в виде файлов в одной общей fs?

Есть два типа людей: одни еще не включают голову, а другие уже проверили что бывает если сесть жо...й на яйца в одной корзине.

> рад за ее здоровье. Но лучше подальше от моих данных.

...особенно в таких объемах. Ибо когда 1024Т данных, без контроля ценности, единственный логичный результат который я буду ожидать - их обладатель однажды заметит что они почему-то подзагадились.

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру