The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Выпуск кластерной ФС Lustre 2.15"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Выпуск кластерной ФС Lustre 2.15"  +/
Сообщение от opennews (??), 17-Июн-22, 14:16 
Опубликован релиз кластерной файловой системы Lustre 2.15, используемой в большей части крупнейших Linux-кластеров, содержащих десятки тысяч узлов.  Ключевыми компонентами Lustre являются серверы обработки и хранения метаданных (MDS), управляющие серверы (MGS), серверы хранения объектов (OSS), хранилище объектов (OST, поддерживается работа поверх ext4 и ZFS) и клиенты.  Код проекта распространяется под лицензией GPLv2...

Подробнее: https://www.opennet.ru/opennews/art.shtml?num=57369

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 17-Июн-22, 14:16   –3 +/
А почему BTRFS не поддерживается? Слишком клёвая/стабильная или забыли в анонсе?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #2, #4, #9, #16, #17, #50, #53

2. Сообщение от Аноним (2), 17-Июн-22, 14:27   –1 +/
Я вот тоже не понял, линукс и зфс и оксюморон.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #6

3. Сообщение от Аноним (4), 17-Июн-22, 14:30   +/
На самом деле вот как надо ключевое слово RAIDIX https://habr.com/ru/company/croc/blog/246155/
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #13

4. Сообщение от Аноним (4), 17-Июн-22, 14:31   +/
Это такой намек что это нестабильное ненужно не нужно.  
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #8

5. Сообщение от Анонимemail (5), 17-Июн-22, 14:47   +/
А есть сравнение с HAMMER2?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #7, #11, #12, #29

6. Сообщение от n00by (ok), 17-Июн-22, 14:49   +3 +/
ZFS же работает в Linux, берите и ставьте. Свободы что ли не хватает? :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #10, #42

7. Сообщение от Аноним (7), 17-Июн-22, 14:50   +/
Сравни и будет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

8. Сообщение от Аноним (2), 17-Июн-22, 15:00   –1 +/
> Это такой намек что это нестабильное ненужно не нужно.

ZoneFS не хватит всем.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

9. Сообщение от Аноним (9), 17-Июн-22, 15:41   +1 +/
>  А почему BTRFS не поддерживается? Слишком клёвая/стабильная или забыли в анонсе?

Есть два варианта: "с тормозами" и "без тормозов".
ZFS тормозит ничуть не хуже btrfs, а большего от неё и не требуется (в данном контексте применения).

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

10. Сообщение от Аноним (10), 17-Июн-22, 16:26   –2 +/
Геморроя по впихиванию стороннего кода в ядро избыточно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #25

11. Сообщение от Аноним (10), 17-Июн-22, 16:29   +/
А толку от сравнения? Где вы найдёте кластер сплошь на Стрекозах?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

12. Сообщение от 1 (??), 17-Июн-22, 16:51   +1 +/
портани молоток под линукс и сравним
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

13. Сообщение от Аноним (53), 17-Июн-22, 17:52   +/
Лучше бы они дальше грибы ели :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #15

14. Сообщение от Аноним (14), 17-Июн-22, 20:44   +2 +/
Lustre — хорошая блэк-метал-группа. Заслушиваюсь.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #47, #54

15. Сообщение от пох. (?), 17-Июн-22, 23:19   +/
Судя по сумбурности текста и отсутствию хоть какого-то технического правдоподобия - они их есть и не переставали никогда.

Т.е. чуваки выпилили на коленке то что делает интеловская isa-l (да, я вижу что они додумались в 2008м когда ее еще не было) плюс какой-то непонятного вида непонятно чего менеджмент дисков на непонятном уровне (сами писали драйверы? Хммм... что-то не очень верится.) и взгромоздили поверх непонятный рейд (видимо, имелось в виду ec(7,3) хотя это несколько странное комбо) на неведомых (!) полиномах.

А потом их купил croc "и вот все об этом человеке".

Полагаю, надо быть очень смелым и отважным чтобы решиться такое поставить. С кроковской поддержкой в том числе (то есть в первую очередь из-за нее, потому что вряд ли люди умеющие в поля Галуа пойдут в Крок техподдержкой).

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13

16. Сообщение от maximnik0 (?), 18-Июн-22, 00:05   +/
>А почему BTRFS не поддерживается?

И будете весь обьем набирать через LVM или OSS/OST ?Не забыли то что raid на BTRFS определенных вариантов только 1,5 года как более менее стабильным стал ? А с стабильностью по прежнему есть проблеммы-к примеру сжатие отвалиться на плохо сжимаемых данных,баг плохо воиспроизводиться и его ловят уже давно.А как же ... (вставить компанию) используют- а так же как Гугл ext4 -горы падчей,не отданных в основную ветку ядра(по слухам в гугловском ext4 даже сжатие есть и упаковка мелких данных в инод.)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #43

17. Сообщение от Аноним (-), 18-Июн-22, 02:21   +/
Надо знать и понимать, что такое BTRFS. Я использую BTRFS на HDD. Из всех функция BTRFS я пользуюсь сжатие, авто дефрагмитацией и проверками файловой системы на ошибки. https://habr.com/ru/post/476414/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #18, #20, #23, #30

18. Сообщение от Аноним (-), 18-Июн-22, 02:22   –1 +/
Из всех функция BTRFS
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #19

19. Сообщение от Аноним (-), 18-Июн-22, 02:23   +/
функциий
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #18

20. Сообщение от Аноним (-), 18-Июн-22, 02:34   +/
И это виртуальный диск 16Гб с опер системой. Я для не виртуального диска с опер ситемой использовал  20Г тоже использовал BTRFS, но для доступа к разделу из Win, на рельном разделе перешол на EXT4. Всё на HDD.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #21, #22, #26, #27

21. Сообщение от Аноним (-), 18-Июн-22, 02:44   +/
К EXT4 у меня доступ из Win без записи, только чтение и копирование (экспорт).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20

22. Сообщение от Аноним (-), 18-Июн-22, 02:47   +/
С записью и чтением у мен EXT2 и NTFS.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20

23. Сообщение от Аноним (-), 18-Июн-22, 02:51   –1 +/
Мой выбор файловых ситем был ограничен тем, что включено в ядро и видят опер системы. Я попробовал и выбрал. ZFS я не пробол в использовании. Сюдя по иписаниям мне ZFS и не нужна.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #24, #44

24. Сообщение от Аноним (-), 18-Июн-22, 02:52   +/
Судя
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

25. Сообщение от Аноним (25), 18-Июн-22, 02:58   +/
Включается одним фагом в конфиге. Ты о чём вообще?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #41

26. Сообщение от Аноним (-), 18-Июн-22, 02:59   –1 +/
20ГиБ это раздел а не диск.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20

27. Сообщение от Аноним (-), 18-Июн-22, 03:09   +/
А для flash USB extfat с пониженым кластером. Размер кластера зависит от задачь.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20 Ответы: #28

28. Сообщение от Аноним (-), 18-Июн-22, 03:10   +/
Или так: с уменьшенным кластером.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27

29. Сообщение от Аноним (-), 18-Июн-22, 03:23   +/
https://www.youtube.com/watch?v=n1BIbSI5vNs
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

30. Сообщение от maximnik0 (?), 18-Июн-22, 04:18   +/
>Надо знать и понимать, что такое BTRFS.

Я только знаю одно- по прежнему хреново чиниться она и где то совместимость с старой версией сломана.Специально проверял 6 летний проблемный диск с архивом,ошибка коннтрольных сумм.Данные целые,диск только чтение,контольные суммы архивов совподают (есть еще 2 этих архива на других дисках с ext4 с контролльной суммой и данными для востановления-par2),не чем не чиниться,даже сбос контрольной суммы не помогает,утилиты тупо падают.Проверил формат на этом диске-нет block groups ,включал все равно не помогает.Похоже бэкап с данными для востановления-единственный способ ченить эту фс без головного секса.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #31, #32, #34

31. Сообщение от maximnik0 (?), 18-Июн-22, 04:50   +/
Ошибся при копирование skinny-metadata вместо block groups
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30

32. Сообщение от Аноним (-), 18-Июн-22, 10:36   +/
В году 17 вроде в 2017 в какой-то части планеты Земля в Google датацентр в один день два раза попала молния. Вроде что-то восстановили, а что-то нет. Компьторные системы работающие постояно с огромным количеством информации это хрупкие ситемы. Например раз, и тока нет, что с кеша успело то и записалось. Два, фины влезли у которых в финляндии находятся датацентр Яндекс, сказали всё электричество мы вам постовлять в ваш датацентр не будем в прошлом месяце было. Ладно, в Яндекс запустили дизель генератор или генераторы. https://habr.com/ru/news/t/668142/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30 Ответы: #33

33. Сообщение от Аноним (-), 18-Июн-22, 10:36   +/
Данные на дисках вроде что-то восстановили, а что-то нет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #32 Ответы: #35

34. Сообщение от Аноним (-), 18-Июн-22, 10:40   +/
Ох и много шума от работающего дизель генератора, а если он не один.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30 Ответы: #51

35. Сообщение от maximnik0 (?), 18-Июн-22, 12:49   +/
> Данные на дисках вроде что-то восстановили, а что-то нет.

Что то странное.По идее катострофоустойчивое хранилище данных должно географически разнесено.Выход 2 из 3 центров не должен приводить к утере информации,и из за этого с востановлением инфы Гугл не заморачиваеться.Как призошел серьезный сбой запускаються резерные стойки и запускаеться процедура автоматического залития с уцелевшей стойки.Как писали специалисты гугла это быстрее чем проверять диски и инфу на ошибки.Видать совсем страшный сбой случился что с этим заморочились.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33 Ответы: #36, #39

36. Сообщение от Аноним (-), 18-Июн-22, 13:21   +/
Подробностей у меня нет я это коротко на радио слышал.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35 Ответы: #37, #38

37. Сообщение от Аноним (-), 18-Июн-22, 13:23   +/
Без подобностей было сказано.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #36

38. Сообщение от Аноним (-), 18-Июн-22, 14:03   +/
Я уже плохо помню, что было с информацией. Логика подсказывает, а смысл это довать в эфир еслибы всё было нормально. Но уже непомню точно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #36

39. Сообщение от Аноним (-), 18-Июн-22, 14:14   +/
Пишут. Не два, а четыре раза подряд и в 2015 году. Часть даных востановили чать потеряли. В Бельги было.

"13 августа во время грозы в Бельгии молния четыре раза ударила в дата-центр Google, поддерживающий работу The Google Computer Engine (GCE) — сервиса, который позволяет пользователям хранить данные и запускать виртуальные машины из «облака». Сразу же после инцидента некоторые клиенты компании потеряли доступ к своим файлам: часть дисков была повреждена. Со временем информация была восстановлена, но не полностью. Как утверждают в Google, в редчайшем инциденте было потеряно около 0,000001% данных"

https://infocity.az/2015/08/%D0%B2-%D0%B.../

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35 Ответы: #40

40. Сообщение от Аноним (-), 18-Июн-22, 14:22   +/
   " Несмотря на то, что автоматические вспомогательные системы восстановили напряжение быстро, и хранилище было создано с возможностью резервного питания от батареи, некоторые свежезаписанные данные находились на восприимчивых к усиленным или многократным перепадам напряжения дисковых системах.
    из официального заявления Google

В Google заверили, что продолжат совершенствовать своё оборудование, чтобы предусмотреть даже такие редкие инциденты. Представитель компании Future-Tech, консультирующей Google в вопросах создания дата-центров отметил, что такая агрессивная «атака» не могла пройти бесследно.

    В дата-центре всё между собой, так или иначе, связано. Если вы получите целых четыре удара молнии, я не удивлюсь, если это каким-то образом повлияет на предприятие.
    представитель Future-Tech

" даже хорошо защищённый дата-центр может попасть под действие молнии, если та ударит в линии электропередач или телекоммуникационные кабели, поэтому крупные компании по-прежнему оставляют возможность для пользователей сохранять данные у себя на компьютере"

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39

41. Сообщение от Аноним (41), 18-Июн-22, 15:17   +/
Вот прям вот можно теми пачами пропатчить совсем-совсем любой версии ядро, даже не LTS?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25 Ответы: #45, #55

42. Сообщение от Аноним (41), 18-Июн-22, 15:21   +/
Хочу Reiser4. Ну а чё? Условия её существования в Linux точно такие же.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #46

43. Сообщение от Аноним (41), 18-Июн-22, 15:28   +/
>сжатие отвалиться на плохо сжимаемых данных

Так, может, это не баг, а фича? Попытка сжатия плохо сжимаемых данных часто приводит к увеличению размера сжатого, по сравнению с исходным.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16 Ответы: #48

44. Сообщение от Аноним (41), 18-Июн-22, 15:32   +/
На локалхосте она 120% ненужна.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

45. Сообщение от n00by (ok), 18-Июн-22, 17:01   +/
Если не видели предмет в глаза, не смогли даже документацию найти, где написано про dkms, то зачем вообще лезете?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41

46. Сообщение от n00by (ok), 18-Июн-22, 17:06   +/
Ну да, "точно" такие же. Я ставил и ZFS, и R4. А кто-то всё хочет. Как в той автономной ОС с вечным "хорошо бы кто-то это сделал за нас".
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

47. Сообщение от ананим.orig (?), 18-Июн-22, 20:02   +1 +/
эта фс.
фолк стрит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

48. Сообщение от maximnik0 (?), 18-Июн-22, 23:07   +/
>Так, может, это не баг, а фича?

Поясню как работает алгоритм на Btrfs.Если включено сжатие то перед записью пытаеться  блок данных сжать выставленным алгоритмом.После обработки сравниваеться размер- если сжалось то на блок выставляеться флаг сжатый и он записываеться.Если размер не изменился или больше (да бывает и такое) записываеться незжатый блок.Баг состоит в том что часть модуля фс  отвечающие за  сжатие отваливаеться что не должно происходить,т.к это часто приводит к ошибке на ФС.Предпологают из за того что данные плохо сжимаються- а)проблемма где то в железе у юзеров что возможно в связи с антиспектровскими мерами б)Дольше происходит обработка и возникает где то рассинхронизация или утечка памяти.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #43

49. Сообщение от InuYasha (??), 18-Июн-22, 23:57   +/
Как ни спрашивал у "крупняков" - всё какой-то долгострой "мы хотим/собираемся/щупаем", и как-то глухо ) Хотя, знал один ДЦ, где был вариант "люстра собирается", причём, на проде и клиенты ждали этого представления ... долго. ) Жду каментов от поха )
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #52

50. Сообщение от username (??), 19-Июн-22, 10:11   +/
А начерта тебе BTRFS? ОС и файловая система выбираются из требований софта, который ты будешь ставить, а не наоборот
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

51. Сообщение от пох. (?), 19-Июн-22, 22:35   +/
Не сцы, из Еревана не слышно!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34

52. Сообщение от пох. (?), 19-Июн-22, 22:37   +/
Э... про что тебе камменты? Ты себе область применения люстры вообще-то представляешь?

Оно надо гуглю, гуглю и гуглю. И больше в общем-то никому.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49 Ответы: #56

53. Сообщение от Аноним (53), 20-Июн-22, 03:13   +/
> А почему BTRFS не поддерживается?

Ругательное слово потому что.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

54. Сообщение от nebularia (ok), 20-Июн-22, 13:06   +/
Таки это один человек, не группа)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

55. Сообщение от anonymous (??), 20-Июн-22, 17:17   +/
Можно модулями собрать. Даже патчить ничего не надо.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41

56. Сообщение от InuYasha (??), 23-Июн-22, 14:51   +/
Шизики со своими Ломоносами кринжуют в сторонке )
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52


Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру