The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Rad Hat развивает новую ФС NVFS для NVM-памяти, opennews (?), 18-Сен-20, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


18. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним Первый (?), 19-Сен-20, 01:04 
А сравнения btrfs где? И с ntfs  
до кучи
Ответить | Правка | Наверх | Cообщить модератору

35. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  –3 +/
Сообщение от Аноним (35), 19-Сен-20, 06:33 
btrfs труп, а ntfs онли винда, какие еще сравнения?
Ответить | Правка | Наверх | Cообщить модератору

48. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  –1 +/
Сообщение от anonymous (??), 19-Сен-20, 09:15 
> btrfs труп

Откуда у вас такая информация?

Ответить | Правка | Наверх | Cообщить модератору

55. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (52), 19-Сен-20, 09:51 
Мое знакомство с ней закончилось после того, когда каждый запуск виндовой виртуалки заканчивалось записью 2гб на ссд. Уж не знаю что с ней не так, но zfs пишет лишь сотню мегабайт при размере записи в 64к. Обе тестировались с компрессией.
Ответить | Правка | Наверх | Cообщить модератору

66. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от пох. (?), 19-Сен-20, 10:28 
Поздравляю со встречей с write amplification.

Хотя и странно, почему с zfs она у тебя настолько мала.

Ответить | Правка | Наверх | Cообщить модератору

80. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (122), 19-Сен-20, 13:36 
Проблема ведь не в том, что WA имеет место быть. Проблем WA в непонятно каком месте и образом. Btrfs с компрессией записывает блоками по 128кб, а следовательно при сравнении с zfs с записью размером в 64кб WA должно быть ровно в 2 раза выше, но по факту - на порядок выше. И это просто запуск виртуалки с виндой и завершение ее работы, и больше ничего.
Ответить | Правка | Наверх | Cообщить модератору

87. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от пох. (?), 19-Сен-20, 16:33 
> Проблема ведь не в том, что WA имеет место быть. Проблем WA в непонятно каком месте и образом.

да в целом-то понятно, непонятно что с этим делать теперь.

> а следовательно при сравнении с zfs с записью размером в 64кб WA

АААА! Вот где тебя кидают, надо было мне сразу сообразить. У тебя ж zfs тоже с компрессией и compressed arc до кучи, ты ж не отключал ничего руками? Ну так вот и поздравляю: при этом используется _переменный_ recordsize, а те твои 64 - это ограничение сверху.

Ответить | Правка | Наверх | Cообщить модератору

97. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (97), 19-Сен-20, 18:34 
Ошибаетесь, хотя при включенной компрессии действительно включается переменный размер записи, но так как образ - это один большой файл, то и пишется от максимальным размером. Файл 256М в уже  упакованном виде при размере записи в 1М будет иметь 256 блока и любое изменение даже одного бай приведет к полной перезаписи этого 1М блока . О переменном размере блока речи уже не идет - файл размером с запись или выше уже записывается блоком максимального размера.
Ответить | Правка | Наверх | Cообщить модератору

101. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от пох. (?), 19-Сен-20, 19:54 
> в уже  упакованном виде при размере записи в 1М будет иметь 256 блока

Там размер записи 64k, во-первых, и нет, там все блоки переменной длины, не только у коротких файлов.
Подумайте что происходит при попытке записи в середину пакованного файла из одних нулей килобайта из /dev/random. И наоборот. Собственно, именно из-за этого и пришлось вводить блоки переменной длинны, а не ради возможности сэкономить три копейки на сверхкоротких файлах.

А вот btrfs, по всей видимости, может в этом случае только из одного блока сделать два, ибо нивлызло. Записали мы килобайт, на диск записалось 2x128, вот это красота, 256x write amplification на ровном месте.
(все, естественно, чисто умозрительно, я не знаю как она на самом деле устроена. Но имеющиеся чудеса объявняет довольно правдоподобно. Кстати, легко проверяемо автором.)

Ответить | Правка | Наверх | Cообщить модератору

108. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (108), 20-Сен-20, 01:17 
Файл с блоками в 1М был лишь примером. Каким будет оптимальным размер блока для одного большого файла? Разумеется максимальный. Вот откуда возникается WA и почему для образов виртуальных машин рек.размер записи как можно ближе к 4К.
Ответить | Правка | Наверх | Cообщить модератору

115. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (115), 20-Сен-20, 11:19 
> Файл с блоками в 1М был лишь примером. Каким будет оптимальным размер блока для одного большого
> файла?

_до_ первой мелкой (!) операции записи в середину этого файла. Что и есть основной процесс, происходящий когда этот файл - виртуальный диск. После чего с переменным размером блока мы перезапишем пострадавший блок и небольшой непоместившийся туда хвост отдельным мелким блоком (для простоты опустим чего и сколько помимо того придется писать), а с постоянным - два блока полного размера 128k, второй из которых при этом будет почти пустым, но еще и при чтении будет нам префетч загаживать ненужными нулями.

> для образов виртуальных машин рек.размер записи как можно ближе к 4К.

видимо, для btrfs это действительно лучший выбор. И еще хорошо бы внутри vm попасть границами разделов на эти 4k, а не мимо. cow, кстати, как какие-то дятлы насоветовали, выключать не надо, совсем.

Ответить | Правка | Наверх | Cообщить модератору

110. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (108), 20-Сен-20, 01:25 
Да что я. Вы можете в этом убедиться с помощью утилиты zdb!
Ответить | Правка | К родителю #101 | Наверх | Cообщить модератору

74. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  –1 +/
Сообщение от Аноним (74), 19-Сен-20, 11:36 
У BTRFS на большие файлы со случайным доступом на запись (базы данных и образы виртуалок) надо ставить атрибут nodatacow, как раз, чтобы твоей проблемы не было. Если бы ты хоть чуть-чуть ознакомился с документацией на ФС, которой пользуешься - у тебя бы не возникло таких вопросов.

BTRFS по дефолту делает copy-on-write, поэтому на мелкие записи он не пишет в тот же блок, а создаёт новый модифицированный и меняет поинтер. Отсюда write amplification. Очевидно, это не желательно на образах ВМок, поэтому можно попросить ФС писать данные in-place. Во всех гайдах по BTRFS есть инфа, что на образы виртуалок надо ставить nodatacow.

Ответить | Правка | К родителю #55 | Наверх | Cообщить модератору

77. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  –1 +/
Сообщение от Аноним (122), 19-Сен-20, 13:08 
Даже не знаю как это комментировать. Прежде чем что-то написать - вы бы потрудились вникнуть в прочитанное. Неловкая ситуация получилась.
Ответить | Правка | Наверх | Cообщить модератору

107. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  –1 +/
Сообщение от Аноним (74), 19-Сен-20, 21:44 
Если человек не хочет, чтобы у него была активная запись на BTRFS по причине copy-on-write может этот самый copy-on-write отключить для файлика, где это вызывает у него проблемы. Если человек не хочет отключать copy-on-write для этого файлика, но при этом ноет, что ФС плохая - то у меня для него плохие новости - это уже забагованность его генетического кода.

БД и виртуальные диски слишком большие и у них слишком случайные паттерны доступа, поэтому они плохо вписываются в механизм работы CoW. И не так сложно сделать `chattr +C` и отключить CoW на пару-тройку файлов, где это реально мешает (а пользы от CoW в целом так-то больше, если, конечно, на томе лежат не только имиджи виртуалок). Это не проблема файловой системы. Просто нужно знать сильные и слабые стороны ФС, с которой работаешь. Тем более, что ФС умеет хорошо работать с нагрузками такого типа, нужно просто дёрнуть за нужную ручку. Если это слишком сложно - то да, таким людям лучше просто не пользоваться BTRFS, т.к. это слишком сложная ФС, которая находится за гранью их интеллектуальных способностей.

Если же у вас только образы виртуалок на BTRFS лежат - то это ещё более странная претензия к ФС. Ибо для вас и микроскоп будет слишком плохим молотком. Каждой задаче - свой инструмент. И либо отводите какой-нибудь ext4/XFS под виртуалки, либо проставляйте правильно атрибуты на BTRFS.

Ответить | Правка | Наверх | Cообщить модератору

109. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  –1 +/
Сообщение от Аноним (108), 20-Сен-20, 01:21 
Вам бы к врачу обратиться.
Ответить | Правка | Наверх | Cообщить модератору

116. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +1 +/
Сообщение от Аноним (74), 20-Сен-20, 11:22 
Не читаете доки вы, а обратиться ко врачу надо мне?
Ответить | Правка | Наверх | Cообщить модератору

123. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (122), 20-Сен-20, 14:16 
У вас проблемы с пониманием прочитанного. Все что могу предложить ещё раз прочитать и попытаться вникнуть в суть или обратиться к врачу.
Ответить | Правка | Наверх | Cообщить модератору

113. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Легивон (?), 20-Сен-20, 09:52 
Вас не смущает что самый распространенный формат дисков виртуалок qCOW2? И он сделает то же самое, только уровнем выше. Его тоже отключать?
Имхо главное чтобы COW не работал дважды, а где его отключать не так важно.
Но я бы конечно на уровне настройки приложения отключал (и отключаю), тоесть у qcow2.
Ответить | Правка | К родителю #107 | Наверх | Cообщить модератору

114. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (74), 20-Сен-20, 10:57 
Нет, не смущает. В QCOW2 CoW используется только при наличии снапшотов образов. Если вы не пользуетесь снапшотами ВМок - то у вас и так нет copy-on-write в образах ВМки. Запись в QCOW2 идёт in-place, а CoW происходит исключительно если у вас есть read-only снапшот и гипервизор пытается записать в read-only блок. При этом исходный блок копируется и копия становится read/write. Если вы "отключаете" CoW в QCOW2 - значит вы снапшотами не пользуетесь и всё равно у вас бы не было CoW на уровне приложения.

В случае с BTRFS по умолчанию всегда происходит copy-on-write блока, вне зависимости от того, есть ли снапшоты у данного файла или нет. Это by-design заложено в архитектуре ФС. Я не предлагаю отключать глобально на всей ФС CoW, это действительно плохо (хотя и можно), но вполне можно помочь файловой системе и себе и поставить атрибут +C на имиджи виртуалок.

Ответить | Правка | Наверх | Cообщить модератору

117. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  –1 +/
Сообщение от Аноним (115), 20-Сен-20, 11:28 
> Если человек не хочет, чтобы у него была активная запись на BTRFS по причине copy-on-write

то ему надо наконец перестать в голову есть и включить мозг - как именно copy-on-write может вызвать 256x write amplification. И быстренько сообразить, что он тут не то что не причем, а еще и вполне может улучшить жизнь если на fs включена компрессия. "На старое место" у вас _все_равно_ не влезет.

> Каждой задаче - свой инструмент.

а btrfs инструмент ни для какой задачи, так и запишем.

> И либо отводите какой-нибудь ext4/XFS под виртуалки, либо

просто не пользуйтесь недоделком.

У человека с zfs нет никакой проблемы, при том что там, о ужас, ужас - страшный _неотключаемый_ CoW.
А если еще он и zvol осилит, вместо бессмысленных для этой цели файлов...

Ответить | Правка | К родителю #107 | Наверх | Cообщить модератору

120. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (122), 20-Сен-20, 13:12 
Dataset вместо zvol был выбран вполне сознательно. Разумеется были проведены все необходимые тесты и dataset победил с завидным отрывом.
Ответить | Правка | Наверх | Cообщить модератору

130. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от пох. (?), 20-Сен-20, 19:31 
А в чем именно заключались тесты и в чем 'отрыв'-то?

И что лежит на fs - qemu'овский qcow2 ?

Ответить | Правка | Наверх | Cообщить модератору

121. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (121), 20-Сен-20, 13:27 
Вполне может быть. Как раз если очередь записи неглубокая - страницы в page cache не задерживаются, и на каждые пару байт записи коммитится целый блок, который сразу же пишется на диск. И в итоге, вместо одной записи блока будут десятки CoW записей. Тут, конечно, проблема комплексная, надо разбираться, явно где-то кэширование неправильно работает. В госте, в гипервизоре или на хосте.

Я не говорил, что CoW тут единственная проблема, но отключение его для образов виртуалки должно было существенно уменьшить write amplification. А дальше нужно уже искать, где у вас корявые кэши.

Ответить | Правка | К родителю #117 | Наверх | Cообщить модератору

50. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +/
Сообщение от Аноним (50), 19-Сен-20, 09:21 
А пацаны из пейсбука и не знали.
Ответить | Правка | К родителю #35 | Наверх | Cообщить модератору

56. "Red Hat развивает новую ФС NVFS, эффективную для NVM-памяти"  +2 +/
Сообщение от Аноним (52), 19-Сен-20, 09:52 
Юзкейс пацанов из Фейсбука навряд ли совпадает с типовым.
Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру