Профиль: Аноним (вход | регистрация) неRU opennet.me  
OpenNET

[ новости /+++ | форум | теги |    ]

Представлен XRAID с реализацией RAID для XFS

15.11.2026 10:24 (MSK)

Кристоф Хелвиг (Christoph Hellwig), мэйнтейнер подсистем DMA, KVM, Slab Allocator и архитектуры PowerPC в ядре Linux, представил первый публичный выпуск XRAID, реализации декластеризованного RAID с контролем чётности, интегрированной в файловую систему XFS. Проект создан с целью добавления возможности использования RAID на зонированных устройствах хранения, таких как диски SMR (Shingled Magnetic Recording), и предоставления высокопроизводительной реализации RAID для поддержания целостности данных. Помимо зонированных устройств, XRAID также поддерживает работу на обычных жёстких дисках и SSD-накопителях, демонстрируя на последних существенный прирост производительности по сравнению с mdraid (до 20 раз при записи).

Для распределения информации по накопителям в XRAID применяется декластеризованный контроль чётности, напоминающий dRAID в OpenZFS, при котором для горячего восстановления (hot spare) не выделяются отдельные накопители, а данные, информация контроля чётности и свободное резервное пространство (spare space) равномерно распределяются по всем накопителям. Процесс чтения, записи и восстановления в случае аварий, охватывает все имеющиеся накопители, что повышает пропускную способность, снижает нагрузку на отдельные диски, позволяет избежать заметного проседания производительности при авариях и существенно ускоряет процесс перестроения массива после добавления или замены накопителей.

Декластеризованные RAID также упрощают создание отказоустойчивых массивов с очень большим числом дисков. В процессе восстановления после аварий XRAID динамически определяет порядок перестроения накопителей, в первую очередь обрабатывая зоны с большей потерей избыточной информации и перестраивая зоны с данными перед зонами с информацией контроля чётности.

XRAID изначально развивается с оглядкой на возможность использования с зонированными накопителями, пространство для хранения в которых разбивается на зоны, составляющие группы блоков или секторов. В подобных устройствах допускается только последовательное добавление данных с обновлением целиком всей группы блоков. Например, зонирование записи применяется в дисках SMR (Shingled Magnetic Recording), в которых ширина дорожки меньше ширины магнитной головки, и запись производится с частичным перекрытием соседней дорожки, т.е. любая перезапись приводит к необходимости перезаписи всей группы дорожек.

Для поддержки зонированных устройств в XRAID задействован реализованный в XFS и ядре Linux распределитель блоков для зонированных устройств (zoned allocator), использующий RT-подраздел (RealTime subvolume) для организации раздельного хранения данных и метаданных (в зонах c последовательной записью хранится только содержимое файлов, а метаданные ФС размещаются в обычных зонах или на дополнительных SSD-накопителях).

В XRAID механизмы контроля чётности RAID применяются только для содержимого файлов, а избыточность для метаданных реализуется через задействование уже имеющихся в ядре Linux драйверов, например, через зеркалирование при помощи MD RAID, что более эффективно для мелких объектов, обновляемых по месту. Реализация RAID встраивается в XFS до обработчиков зонированного ввода/вывода, представляющих физические зоны нижележащих накопителей в форме логических зон, подобно многослойному блочному устройству.

Работа над XRAID ведётся уже полтора года, и хотя реализация пока не готова для интеграции в основной состав ядра, она уже пригодна для тестирования широкой аудиторией. В предложенной реализации поддерживается от 0 до 2 уровней чётности (в разработке код для поддержки 3 и более уровней). Для управления XRAID в инструментарий xfsprogs добавлена новая утилита "xraid" и реализована поддержка XRAID в mkfs. Помимо этого в утилиту для инспектирования зонированных накопителей Zonar добавлены возможности для визуализации маппинга логических зон на физические зоны.

Опубликованы результаты тестирования производительности XRAID в сравнении с mdraid и btrfs, проведённые для XRAID-массива в конфигурации из двух SSD-накопителей WD DC-SN650 для метаданных (зеркало на базе mdraid), шести обычных SATA-дисков WD DC-HC590 26 TB и 6-21 зонированных дисков WD DC-HC690 30 TB (SMR).









Также проведено тестирования XRAID на обычных незонированных SSD-накопителях в конфигурации с одним 4 TiB Samsung PM9D3a для метаданных и пятью 4 Tib Samsung PM9D3a для RAID (4 + 1).









  1. Главная ссылка к новости (https://lore.kernel.org/lkml/2...)
  2. OpenNews: Кристоф Хелвиг ушёл с поста мэйнтейнера DMA Mapping и ConfigFS после форсирования Rust
  3. OpenNews: Предложение по блокировке драйверов-прослоек, предоставляющих доступ к GPL-вызовам ядра Linux
  4. OpenNews: Апелляционный суд встал на сторону VMware в деле о нарушении GPL
  5. OpenNews: Релиз OpenZFS 2.1 с поддержкой dRAID
  6. OpenNews: Уязвимость в XFS, позволяющая читать сырые данные блочного устройства
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/66692-xraid
Ключевые слова: xraid, xfs, raid



Обсуждение (26) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Tron is Whistling (?), 10:30, 15/11/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/–
    Смотрю я на графики применительно к mdraid vs это, и понимаю, что где-то у них есть фатальный косяк, который просто ещё не нашли. Сама механика работы не предполагает такой разницы.
     
     
  • 2.3, Аноним (3), 11:09, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • –2 +/–
    никогда такого не было, чтобы интеграрованная реализация фич в рамках одной ФС была бы быстрее, чем полностью изолированные друг от друга системы ядра.

    и, да, пчел, почиатй про dRAID в ZFS

     
     
  • 3.5, Tron is Whistling (?), 11:35, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • –2 +/–
    ZFS - это вообще унылый тормозной и жрущий память костыль сам по себе
     
  • 3.6, Tron is Whistling (?), 11:36, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Понимаешь в чём дело, почти любой отказоустойчивый RAID на запись упирается в синхронизацию записи и write barrier. И там по фигу, где у него реализация. Тут разница уже предполагает, что где-то накосячили именно в этом месте.
     
  • 2.7, нах.. (?), 11:43, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/–
    в данном случае это скорее у mdraid фатальный косяк - by design.

    Напоминаю что они - единственные в мире, кому удалось создать рэйд 1, в котором был performance hit вместо повышения производительности. Возможно он пишет на ssd блоками по 4k, вызывая x32 write amplification?

    Другое дело что ЭТО - вообще какой-то невероятный концентрат костылей и подпорок (еще и мертвенький без собственно mdraid под ним, причем как обычно, взаимодействуя снова через костыли и подпорки стройным рядом)

    ну, собственно, тебе ж написали - это не для вас, это для smr дисков нужных ровно никому.

    Люди которые доверяют ценные данные smr-дискам, заслуживают именно такой "raid".

    (и расскажите еще им кто-нибудь, что "Процесс чтения, записи и восстановления в случае аварий, охватывает все имеющиеся накопители" - это п-ц, от которого нормальные-то люди пытаются, наоборот, уйти. И ОСОБЕННЫЙ - для smr, которые даже писать в произвольных местах нельзя.)

    В общем, чудо-рейд для write-only ненужноданных.

     
     
  • 3.10, IdeaFix (ok), 12:02, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • –1 +/–
    У HM-SMR дисков нет проблем. Они классные, но тебе их просто не дадут.. ни купить ни ФС не дадут под них универсальную. А HA-SMR - это как раз для тебя сделано. Ну вернее как для тебя, это потому что лучшим из лучших (гиперскейлам и пр) нужно именно HM-SMR а тебе и объедки сгодятся в виде HA-SMR. У - унификация.

    Не обижайся, это не попытка оскорбить лично... просто ты - отличное олицетворение пользователя, который не понимает что такое SMR и бомбит. Ты в большинстве.

     
     
  • 4.12, Tron is Whistling (?), 12:03, 15/11/2026 Скрыто ботом-модератором     [к модератору]
  • +/–
     
  • 4.14, Tron is Whistling (?), 12:04, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    HM-SMR - это самый тихий ужасный ужас, который я видел. Максимальная бюджетка, для тех, кому всерьёз заняться нечем. Ну и для "гиперскейлов", угу, которым пофиг на что писать - там всё равно 100500 шардов, и данные однотипные.

    А вообще ни дома, ни в проде не осталось уже ни одного HDD. Вот так внезапно.

     
     
  • 5.19, IdeaFix (ok), 12:12, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Под линукс HM-SMR (ну или перенос логики с диска в ядро) всегда лучше чем HA-SMR.

    На HWRAID не работают оба, а во всех остальных сценариях HA-SMR хуже.

     
  • 3.11, Tron is Whistling (?), 12:02, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Чисто спортивно интересно, как эта засада поведёт себя на тройке SMR с разной конфигурацией зонирования :D
     
     
  • 4.16, IdeaFix (ok), 12:08, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Да скорее всего нарежет кусками по 256 всё, край по 512. И будет оперировать массивом зон и раскладывать данные и паритет с привязкой к физическим дивайсам. Там ведь реально не сложно.

    Посмотрите как программно-определяемый TLC от микрон на SM226x можно зашить как в MLC так и в TLC и всё будет работать. Тут то же самое. Никакого рокетсайнса.

    Вон пох (или то был нах?) считал что понимает как работают хдд, а тут вдруг перестал понимать. Агрится. А как работает nand (ну или 3dxpoint) он не понимает, от того спокоен.

     
  • 3.18, maximnik0 (?), 12:12, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    >Процесс чтения, записи и восстановления в случае аварий, охватывает все имеющиеся накопители"

    На Хабре была статья как "разработчики ели грибы и разрабатывали новый рэйд" если  с названием не напутал.Там за счёт блочной разметки и записи данные целые при выходе 3 дисков из 9.И там как раз предусмотрен механизм -востановления охватывающий все целые накопители.Но у этих ребят свои проблемы _ реалтейм, в случае 5 секунд отвала диск сразу помечается как проблемный и в лучшем случае переходит только в чтение на момент переноса данных.

     
     
  • 4.20, Tron is Whistling (?), 12:15, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Да хосспаде, хоть 3 из 9, хоть 10 из 16 - код Рида-Соломона, он более-менее универсальный, так-то. Если правильно интерлив добавить - можно ещё и проблемные группы блоков корректировать.
     

  • 1.8, IdeaFix (ok), 11:58, 15/11/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/–
    Чо как там по поводу HM-SMR? Или как всегде это пилит другая команда и оно будет не совместимо с сабжем?
     
     
  • 2.9, Tron is Whistling (?), 12:01, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Хосспаде, вот зачем это вам? Ну реально?
     
     
  • 3.13, IdeaFix (ok), 12:04, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Да просто есть очень много бесплатных дисков :) На десятки терабайт. Пока использую с F2FS без RAID (резервирование другими способами) и это просто отлично. BTRFS не стабилна не смотря ни на что, XFS умеет в менеджмент зон на уровне пруф оф концепт реализации, ZFS как всегда умеет ничего.
     
     
  • 4.15, Tron is Whistling (?), 12:06, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Ну понятно, просто от халявы либо нищеты короче.
    Это не наезд, это просто момент, который сразу следует учитывать.
    Редкий случай, за пределами которых все эти HM-SMR...
     
     
  • 5.17, IdeaFix (ok), 12:11, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Для меня было удивительно на сколько хорошо работает даже HA-SMR под правильной ФС в отличии от HA-SMR под обычной OS. А учитывая что выбора даже с деньгами порой нет, дисков с нужными характеристиками просто может не быть доступно для покупки, это вполне себе вариант.

    Уходит главная проблема SMR под NTFS :) А то что диск для этого в три раза чаще рампой махнёт или искричества сожжет чуть больше - да вот не пофиг. QLC SSD же нас подготовили к тому что мощный контроллер заставит работать эту дрянную память на все бабки. Ценой ресурса, но на все бабки :)

     
     
  • 6.21, Tron is Whistling (?), 12:17, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Ну кстати где сейчас QLC? Прочили-то да, особенно с host-based. А на деле - ни зашло ни гиперскейтерам, ни в быту, ни кровавому энтерпрайзу, и в итоге их производство почти свёрнуто.
     
     
  • 7.23, IdeaFix (ok), 12:24, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    QLC это как пример того что если очень весело - то не очень то и стыдно :) TLC же зашел.

    А SMR (в контексте зон) это следующий наг вслед за 4Kn. Гиперскейлам это сильно удобнее чтобы на "обычном" железе стораджи городить.

    Просто с 512 до 4096 был мааленький шажок, а с 4096 до 2,56e+8 - это уже внушительно. Инвесторам график понравится :)

     
     
  • 8.24, Tron is Whistling (?), 12:26, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    TLC зашёл Потому что не требуется ни слишком большого блока, ни слишком сложной... текст свёрнут, показать
     
  • 8.26, Tron is Whistling (?), 12:30, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Гиперскейлов можно всерьёз не рассматривать, это нетиповое применение Там часто... текст свёрнут, показать
     
  • 6.22, Tron is Whistling (?), 12:22, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Ну и да, магии не бывает.

    Все эти зонирования работают только при блоке записи > размера зоны. Если у тебя блок меньше, то остаётся только корова, а корова на хдд - это безумная фрагментация и поиски даже при типа линейном типа чтении. Т.е. применимость уже сомнительная.

    Ну или в крайнем случае при read-mostly.

     
     
  • 7.25, IdeaFix (ok), 12:28, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    > Ну и да, магии не бывает.
    > Все эти зонирования работают только при блоке записи > размера зоны. Если
    > у тебя блок меньше, то остаётся только корова, а корова на
    > хдд - это безумная фрагментация и поиски даже при типа линейном
    > типа чтении. Т.е. применимость уже сомнительная.
    > Ну или в крайнем случае при read-mostly.

    Оно как на ссд (блоками) читает и пишет зонами. Т.е. менее чем кусок на 256 на диск не пишется. Какая такая фрагментация? Расскажите про фрагментацию например VMFS? Всё уже придумано. Всё работает отлично, а что пох (или это был нах) агрится - это только лишнее тому подтверждение.

    Ребята научились запихивать 133% данных в тот же объём ЦОДа, да еще и "фргаментация" ушла. Сигейт сделал две рампы, WD уже бросил жечь ресурсы на прошивки HA-SMR... будущее наступило, но у них. А мы быть может и вовсе пропустим это светлое будущее, т.к. большинству пользователей ничего кроме системного TLC SSD на немножко гигабайт и не нужно. Даже в местном сильно не среднепаршивом комьюнити большой личный сторадж есть у единиц.

     
     
  • 8.27, Tron is Whistling (?), 12:31, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Да понятно, что не пишется Но это уже write amplification ... текст свёрнут, показать
     
  • 8.28, Tron is Whistling (?), 12:34, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    WD бросил жечь ресурсы на HA-SMR ровно потому, что кровавый энтерпрайз сделал вы... текст свёрнут, показать
     
  • 8.29, Tron is Whistling (?), 12:35, 15/11/2026 [^] [^^] [^^^] [ответить]  
  • +/–
    Read-mostly данных с большим размером блока ... текст свёрнут, показать
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    XSQUARE
    Inferno Solutions
    Hosting by Hoster.ru
    Хоcтинг: