The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Для Ext4 представлена поддержка контрольных сумм для проверк..., opennews (??), 02-Июн-12, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


24. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +1 +/
Сообщение от dalco (ok), 02-Июн-12, 15:39 
Да, посмотрели разработчики на ZFS/BTRFS и закричали "мы тоже такое себе хотим" :)

P.S. Если бы этот патч еще и контрольные суммы данных проверял - вообще бы красота была.

Ответить | Правка | Наверх | Cообщить модератору

26. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 02-Июн-12, 15:46 
> Да, посмотрели разработчики на ZFS/BTRFS и закричали "мы тоже такое себе хотим"
> :)
> P.S. Если бы этот патч еще и контрольные суммы данных проверял -
> вообще бы красота была.

Зачем это надо не расшифруете?

Ответить | Правка | Наверх | Cообщить модератору

34. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от Аноним (-), 02-Июн-12, 17:31 
> Зачем это надо не расшифруете?

Чтобы обнаруживать сбои накопителей или линков к ним, например. В момент их появления, а не когда половина файловой системы превратится в какие-то макароны.

Ответить | Правка | Наверх | Cообщить модератору

44. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 02-Июн-12, 18:00 
>> Зачем это надо не расшифруете?
> Чтобы обнаруживать сбои накопителей или линков к ним, например. В момент их
> появления, а не когда половина файловой системы превратится в какие-то макароны.

Во первых, на сколько мне известно, хранимая на винте информация п.у. имеет избыточность в виде хранения ее CRC, которая отслеживается самим винтом. Сам винт определяет (диагностирует) испорченные данные о чем непременно сообщит о сбое контроллеру.
Во вторых, что мешает самому вычислить CRC для требуемых данных? Возможно есть какие-либо "подводные камни" о которых я не знаю.

То, что может с бОльшей эффективностью (из-за наличия дополнительной информации) управляться на других уровнях системы хранения данных должно управляться на них, иначе будет иметь место избыточность в виде выполнения одного и того же действия (трата ресурсов) или неоправданное возрастание сложности системы (читать как наличие потенциально большего количества ошибок) в результате создания дополнительного связывания ее элементов, работающих на разных уровнях (в перспективе, из-за этого уменьшается также и ее гибкость).

В данном случае, возможно Вам не нужно отслеживать все данные или, при постоянном их изменении как в случае с БД, просчитать CRC вообще будет невозможно, либо возможно, но с большими потерями ресурсов системы.

Ответить | Правка | Наверх | Cообщить модератору

51. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +2 +/
Сообщение от dalco (ok), 02-Июн-12, 18:43 
К сожалению, нет гарантии, что на винте записаны те самые данные, что мы хотели записать. В реальной жизни то шлейф к винту барахлит, то питание моргает, то память сбоит, то ОС вразнос пошла. А на винте его внутренние CRC при таких неисправностях вполне правильные - он же не в курсе, что ему мусор для записи передали :) Вот для подобных случаев дополнительная CRC на уровне файловой системы и выше становится полезна.

Кстати, там еще и некоторый бонус всплывает - после сбоя проще повреждения искать. Где CRC нарушено - там точно усиленные раскопки нужны.

P.S. А если еще и данные в файловой системе CRC прикрыты, то вообще красота. При периодической фоновой проверке я не только узнаю о наличии проблем, но я еще и буду точно знать - какие конкретно файлы накрылись медным тазом, что, зачастую, крайне полезно при реанимации зомби-компа.

Ответить | Правка | Наверх | Cообщить модератору

53. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  –1 +/
Сообщение от анон (?), 02-Июн-12, 19:12 
> К сожалению, нет гарантии, что на винте записаны те самые данные, что
> мы хотели записать. В реальной жизни то шлейф к винту барахлит,
> то питание моргает, то память сбоит, то ОС вразнос пошла. А
> на винте его внутренние CRC при таких неисправностях вполне правильные -
> он же не в курсе, что ему мусор для записи передали
> :) Вот для подобных случаев дополнительная CRC на уровне файловой системы
> и выше становится полезна.

Ошибки интерфейса отлавливаются точно (см. SMART). Буферная память ЖД также может быть проверена (MHDD, Victoria). Питание, уж извините, ИБП решает. Память тоже с избыточностью бывает, вплоть до восстановления информации "на лету". ОС оно конечно серьезно, но такого уровня компоненты, работающие внутри ядра, должны и скорее всего усиленно тестируются. Не надо также забывать и о проверке "временем", т.е. пользоваться не самым новым, а зарекомендовавшим себя ядром/софтом/железом там , где нужна повышенная надежность. Делайте копии, профилактику и будет счастье.

> Кстати, там еще и некоторый бонус всплывает - после сбоя проще повреждения
> искать. Где CRC нарушено - там точно усиленные раскопки нужны.

Никак не проще. Постройте себе дерево из CRC для интересующей части ФС и сверяйте ее с текущим. Вот и все.

> P.S. А если еще и данные в файловой системе CRC прикрыты, то
> вообще красота. При периодической фоновой проверке я не только узнаю о
> наличии проблем, но я еще и буду точно знать - какие
> конкретно файлы накрылись медным тазом, что, зачастую, крайне полезно при реанимации
> зомби-компа.

Если "зачастую крайне полезно", то у Вас уже есть примеры реализации подобных возможностей. Если не сложно поделиться инфой, поделитесь.
Делая своевременные копии информации мне все равно что случится с компом и я всегда уверен, что если выяснится факт некорректности файла - я смогу взять его из проверенной копии.

Все проблемы решаемы, и не надо придумывать себе задачи, которые кроме как к новым проблемам ни к чему не приведут, и их решать.

Ответить | Правка | Наверх | Cообщить модератору

62. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +4 +/
Сообщение от dalco (ok), 02-Июн-12, 20:19 
>Ошибки интерфейса отлавливаются точно (см. SMART). Буферная память ЖД также может быть проверена (MHDD, Victoria). Питание, уж извините, ИБП решает. Память тоже с избыточностью бывает, вплоть до восстановления информации "на лету". ОС оно конечно серьезно, но такого уровня компоненты, работающие внутри ядра, должны и скорее всего усиленно тестируются. Не надо также забывать и о проверке "временем", т.е. пользоваться не самым новым, а зарекомендовавшим себя ядром/софтом/железом там , где нужна повышенная надежность. Делайте копии, профилактику и будет счастье.

В идеальном мире из идеальных программ и идеальной аппаратуры вообще ни журналов, ни fsck не нужно. Одна беда - живем-то мы в реальном :) И смарт не всегда отслеживается, и рейд-контроллер глючит, и банальная несовместимость железа при конкретной версии прошивки винта.

Особенно весело, когда винт не один, а сотня-другая, и тестить их все через MHDD, мягко говоря, некогда.

>Если "зачастую крайне полезно", то у Вас уже есть примеры реализации подобных >возможностей. Если не сложно поделиться инфой, поделитесь.
>   Делая своевременные копии информации мне все равно что случится с компом и я всегда >уверен, что если выяснится факт некорректности файла - я смогу взять его из проверенной >копии.
>
>   Все проблемы решаемы, и не надо придумывать себе задачи, которые кроме как к новым >проблемам ни к чему не приведут, и их решать.

Ок, пример из реальной жизни. Глючит рейд-контролер. Не так, чтобы вообще сплошной мусор пишет, но иногда с ним такое случается. И до вас это дошло только сейчас.
В разделе несколько десятков терабайт информации, сервак работает и останавливать его крайне не желательно. Восстановление информации из бэкапа - гарантированные пол-суток простоя. Самое обидное, что непонятно - нужно ли вообще делать эти действия, быть может, вся инфа на разделе вполне валидная.

И я попадал в эту ситуацию. Единственный плюс - начальство знало, что сервак глючит, и было морально готово к его остановке, благо, его близнец на другом краю России работал без сбоев.

В случае того же ZFS/BTRFS раз в сколько-то времени в фоновом режиме по всему диску проходит демон, проверяя файловые CRC. Если что, он просто кидает мне письмо, что файлы такие-то и такие-то накрылись и резервной копии у системы нет (а бывает, что есть, и демон сам все восстановит). И, зная конкретный убитый файл, я уже буду распаковывать не весь бэкап, а только его малую часть, сэкономив кучу времени. Заодно я буду в курсе, что с файловой системой что-то не так, хотя вся аппаратура мониторинга молчит, как партизан.

P.S. Если какая-то фича для вас не очевидна и не особо нужна, то это еще не значит, что она не нужна другим.

Ответить | Правка | Наверх | Cообщить модератору

65. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 02-Июн-12, 20:35 
> В идеальном мире из идеальных программ и идеальной аппаратуры вообще ни журналов,
> ни fsck не нужно. Одна беда - живем-то мы в реальном
> :) И смарт не всегда отслеживается, и рейд-контроллер глючит, и банальная
> несовместимость железа при конкретной версии прошивки винта.

Я говорил о реально отслеживаемых ошибках, а не о способах их диагностирования. Все что Вы перечислили к ФС не имеет никакого отношения. Согласен, что она должна по возможности сопротивляться реалиям, но требовать от нее полного обеспечения безопасности хранения как минимум недальновидно по причине неминуемого падения других характеристик (скорость, простота использования, падение эффективности использования ресурсов системы) и как максимум невозможно т.к. она полностью зависит от системы, где она работает, на которую она не в силах никак повлиять.

> Ок, пример из реальной жизни. Глючит рейд-контролер. Не так, чтобы вообще сплошной
> мусор пишет, но иногда с ним такое случается. И до вас
> это дошло только сейчас...
> В случае того же ZFS/BTRFS раз в сколько-то времени в фоновом режиме
> по всему диску проходит демон, проверяя файловые CRC. ...

Что мешает сделать это без поддержки со стороны ФС? Существуют системы безопасности, отслеживающие целостность и неизменность данных как раз по CRC. Это практически тоже самое.

> P.S. Если какая-то фича для вас не очевидна и не особо нужна,
> то это еще не значит, что она не нужна другим.

Я где-то написал что это не нужно? Странно что нормальные вопросы и попытки добраться до истины вещей у вас вызывают такие чувства.

Ответить | Правка | Наверх | Cообщить модератору

67. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от Аноним (-), 02-Июн-12, 20:47 
> Что мешает сделать это без поддержки со стороны ФС? Существуют системы безопасности, отслеживающие целостность и неизменность данных как раз по CRC. Это практически тоже самое.

кто будет восстанавливать запорченные реплики нормальными? Что вы тут вещаете это костыль для ФС которые не умеют этого делать.

У систем безопасности юз-кейсы совсем другие и их использование мягко говоря, геморное. Как собираешься отслеживать изменение данных без поддрежки ФС? Придётся вещать кучу костылей в ОС и городить прочие подпорки.

Ответить | Правка | Наверх | Cообщить модератору

70. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  –2 +/
Сообщение от анон (?), 02-Июн-12, 20:57 
>> Что мешает сделать это без поддержки со стороны ФС? Существуют системы безопасности, отслеживающие целостность и неизменность данных как раз по CRC. Это практически тоже самое.
> кто будет восстанавливать запорченные реплики нормальными? Что вы тут вещаете это костыль
> для ФС которые не умеют этого делать.

То, что я "вещаю" есть способ решения задачи. То, что Вы говорите (заметьте отсутствие хамского тона), что это костыль, еще не значит, что встроенная поддержка в ФС решает эти задачи лучше. По вашей логике, все программы надо объединить с ядром ОС и запускать всю систему как единый исполняемый файл иначе все будет в виде костылей к ядру.

> У систем безопасности юз-кейсы совсем другие и их использование мягко говоря, геморное.
> Как собираешься отслеживать изменение данных без поддрежки ФС? Придётся вещать кучу
> костылей в ОС и городить прочие подпорки.

И какие данные на сервере изменяются? БД? И как их поможет отслеживать хваленые ZFS/BTRFS?

Ответить | Правка | Наверх | Cообщить модератору

69. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от dalco (ok), 02-Июн-12, 20:56 
>Я говорил о реально отслеживаемых ошибках, а не о способах их диагностирования. Все что Вы перечислили к ФС не имеет никакого отношения.

Имеет, к сожалению. Целостность FS от всего вышеперечисленного нехило зависит. И если FS не знает о наличии проблем в аппаратуре, то это еще не значит, что этих проблем нет.

>Согласен, что она должна по возможности сопротивляться реалиям, но требовать от нее полного обеспечения безопасности хранения как минимум недальновидно по причине неминуемого падения других характеристик (скорость, простота использования, падение эффективности использования ресурсов системы) и как максимум невозможно т.к. она полностью зависит от системы, где она работает, на которую она не в силах никак повлиять.

А никто и не требует от FS невозможного. Просто добавили ей еще один шанс, который иногда помогает.

>Что мешает сделать это без поддержки со стороны ФС? Существуют системы безопасности, отслеживающие целостность и неизменность данных как раз по CRC. Это практически тоже самое.

А зачем мне изобретать велосипед, городить скрипты, когда со всем этим легко и не напряжно справится утилита из состава этой самой FS.

Почему мне не нравится отдельная прога? Элементарно - FS лучше знает - где и как ей лучше себя проверять, не мешая другим, и как лучше восстановиться, не прерывая рабочего процесса (если таковая возможность есть).

К тому же, подобная проверка вполне может идти на уровне ядра - т.е. быстро и без заморочек с правами.

Ответить | Правка | К родителю #65 | Наверх | Cообщить модератору

72. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 02-Июн-12, 21:10 
>>Я говорил о реально отслеживаемых ошибках, а не о способах их диагностирования. Все что Вы перечислили к ФС не имеет никакого отношения.
> Имеет, к сожалению. Целостность FS от всего вышеперечисленного нехило зависит. И если
> FS не знает о наличии проблем в аппаратуре, то это еще
> не значит, что этих проблем нет.

А то, что все это зависит от прямости рук админа? От этого она не должна защищать? Может и руки продублировать? Есть же предел издевательствам! Или нет?

> А никто и не требует от FS невозможного. Просто добавили ей еще
> один шанс, который иногда помогает.

Просто не надо на этом концентрировать внимание. Добавили - хорошо. Кстати я в обсуждении имел ввиду проверку именно данных, а не внутренних данных ФС. Если вы имеете ввиду второе и спорите на счет первого, то мы не договоримся.

>>Что мешает сделать это без поддержки со стороны ФС? Существуют системы безопасности, отслеживающие целостность и неизменность данных как раз по CRC. Это практически тоже самое.
> А зачем мне изобретать велосипед, городить скрипты, когда со всем этим легко
> и не напряжно справится утилита из состава этой самой FS.

Т.е. у вас нет проблемы стабильности т.к. вы не решали ее скриптом, но задарма получая возможность это делать, вы готовы "сровнять с землей" другие решения лишь бы оправдать свое неосиляторство. Или я не прав и есть реальные доводы в пользу ФС?

> Почему мне не нравится отдельная прога? Элементарно - FS лучше знает -
> где и как ей лучше себя проверять, не мешая другим, и
> как лучше восстановиться, не прерывая рабочего процесса (если таковая возможность есть).
> К тому же, подобная проверка вполне может идти на уровне ядра -
> т.е. быстро и без заморочек с правами.

Лучше всего знает админ когда ему требуется проверка данных, каких конкретно данных, и насколько ему это надо (в ущерб производительности или во время простоя). Этого ФС знать не может.

В ином случае это объединение решения различных задач в одном месте - комбайн. Еще раз, ИМХО CRC метаданных - хоошо, CRC данных пользователя - отчасти невозможно и полностью не нужно.

Ответить | Правка | Наверх | Cообщить модератору

75. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +1 +/
Сообщение от dalco (ok), 02-Июн-12, 21:39 
Хм, попробую объяснить последний раз...

Есть железо, НЕидеальное железо. Есть FS, которая живет на этом НЕидеальном железе. Все, что мне от этой FS нужно - чтобы она надежно хранила данные или хотя бы сообщала, где она лажанулась. Т.е. я либо получаю от нее данные, которым я верю без дополнительных проверок с моей стороны, либо 100% же уверенность, что такой-то файл в такой-то ноде потерян. Для этого и нужно полное CRC (не только метаданные, но и сами данные).

Для меня, как конечного пользователя, FS - "черный ящик". Что и как она там делает - не моя забота, главное, чтобы данные были целы. И я не должен бегать за FS и подтирать ей сопли каждый раз, когда она споткнется. Пусть выживает сама по мере сил.

В случае одного-двух серверов я могу потратить время на тонкий тюнинг FS, доскональное тестирование железа и навешивание third party костылей. Когда серверов сотни, мне заниматься этим некогда.

Вот отсюда и растут ноги у ZFS/BTRFS - они выживать в реальном мире научились (по крайней мере, на бумаге).

P.S. Усе, иду баиньки, буду сверять CRC нейронов :)))

Ответить | Правка | Наверх | Cообщить модератору

78. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 02-Июн-12, 21:54 
Все, что я узнал из вашего поста - не хочу знать где как и что работает, хочу всех проверок на всех уровнях и много денег на железо, которое все это потянет. Это похоже на паранойю. Когда в меру, то все нормально ибо некоторый запас всегда должен быть, но тут уже тяжелый случай.

Объяснять начиная каждую фразу "Все, что мне нужно", "Для меня", "И я не должен" и т.д. как-то странно. Не много ли зависит от Вашей личности? Вы или идеальный и безгранично опытный админ и ваша речь что-то значит, либо админ не знающий своего железа и Ваша речь не более чем болтовня и сказки.

ЗЫ Спокойной ночи.

Ответить | Правка | Наверх | Cообщить модератору

95. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от mixemail (??), 02-Июн-12, 23:47 
страшно похоже на знакомую на шкуре  полемику
ленивого(по определению) админа и манагера )
типа - а сделайте мне красиво и бесплатно.
Ответить | Правка | Наверх | Cообщить модератору

119. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от Аноним (-), 03-Июн-12, 15:49 
тут всё прозаичнее, полемика условного технаря с ламерьём (это анон). Только ламерьё какое-то усердно-упороте попалось
Ответить | Правка | К родителю #95 | Наверх | Cообщить модератору

121. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 03-Июн-12, 16:28 
Прозаичнее, это да. Думаю что проблема в том, что моя точка зрения "не модная" и требует некоторых знаний, а тут попался практик (я серьезно), который не привык думать как и что работает, а привык получать результат. Это в общем-то нормально - каждому свое. Отсюда и безосновательные высказывания и призывы к тому, что он считает верным. Одно "но", его мнение и реальное положение дел - это разные вещи, что из-за "скромности" понять ему не дано. Я вполне допускаю, что я также могу ошибаться, но соглашаться со мнениями других без каких либо реальных доводов...
Ответить | Правка | К родителю #119 | Наверх | Cообщить модератору

128. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +1 +/
Сообщение от dalco (ok), 03-Июн-12, 19:11 
Господа, все довольно просто.
Были времена, когда мне действительно было интересно устройство каждой железки и каждой софтины в компе. Мне не влом было сотворить собственными руками какой-нибудь аппаратный или програмный прибамбас для компа. Очередной велосипед изобретался ради самого процесса изобретения. Генерилась куча кода на асме и Си ради повышения ЧСВ и просто ради фана.

Но время шло, я все дальше уходил в глубины энтерпрайза... И обнаружил пренеприятнейшие вещи. Оказалось, что велосипеды не столько повышают ЧСВ, сколько приносят попоболи. Каждый велосипед надо подробно документировать, за его поведение материальную ответственность несешь именно ты, а вот бонусов никаких, кроме устного поощрения от начальства (очень изредка). К тому же, в энтерпрайзе ценятся не те решения, которые красивые, а те, что надежные, документированные,требующие минимальной поддержки и, в случае чего, легко починяемые/заменяемые не очень квалифицированным персоналом типа приходящего админа-студента.

Так что теперь я копаю документацию ровно настолько, сколько необходимо и достаточно для запуска очередного "черного ящика". В случае проблем оказывается гораздо быстрее и дешевле взять аналогичную деталь со склада или типовую виртуалку из бэкапа, чем рыться во внутренностях железки с паяльником или искать в каком конфиге что слетело.

Да, теперь я почти не думаю, ибо для 99% ситуаций уже готовы типовые решения. И я не бегаю со взмыленной задницей, лихорадочно вспоминая где и за какую хрень у компа XYZ надо дернуть, чтобы оно опять полетело в правильном направлении. И, самое странное, меня это вполне устраивает :)

Ответить | Правка | К родителю #121 | Наверх | Cообщить модератору

133. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 03-Июн-12, 22:29 
Так с этого и надо было начинать. ИМХО все хорошее начинается с велосипедов и нестандартных решений иначе было бы все одинаковое. Просто есть гарантированные общеизвестные вещи, о которых если знаешь, то становится жить легче, а то можно дойти что все проги в отладочном режиме запускать что бы ни одна ошибка не прошла мимо. А так полностью согласен, кому-то нужен результат, а кому-то процесс и/или перспектива.
Ответить | Правка | К родителю #128 | Наверх | Cообщить модератору

163. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от Аноним (-), 04-Июн-12, 02:05 
> Так что теперь я копаю документацию ровно настолько, сколько необходимо и достаточно
> для запуска очередного "черного ящика".

Поздравляю, ваш мозг заржавел. Правда с этим обычно не поздравляют...

> И, самое страшное, меня это вполне устраивает :)

Небольшой фикс. Ибо когда мозг заржавел - это страшно. По сути это уже отработанный материал.
  

Ответить | Правка | К родителю #128 | Наверх | Cообщить модератору

136. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +2 +/
Сообщение от Аноним (-), 03-Июн-12, 22:51 
Ваша точка зрения не требует знаний, она ровно такая же модная как и все здесь остальные. Да, были времена, лет эдак 15-20 назад, когда на любую проблему был подход подобный вашему и тогда это был модно. Подобный это найти близкую по звучанию технологию для проблемы X и пихать её куда попало, мол 'зачем решать эту проблему, мы же можем прикостылять сюда X или Y'. У некоторых даже поворачивался язык называть этот бред юникс веем.

К счастью, эти времена ушли, многие успели набить на этом ишики и стали ценить технологичность решений. А о тех временах сейчас напоминает некоторое легаси  и немногочисленные  личности вроде вас, которые остались в своём понимании и видении развития технологий в 8х-9х годах.

>  который не привык думать как и что работает, а привык получать результат.

а кто тут привык думать, вы чтоли? Не очень это заметно, по крайней мере, совсем не похоже что область ваших дум как-то пересекается с айти.

Ответить | Правка | К родителю #121 | Наверх | Cообщить модератору

138. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 03-Июн-12, 22:56 
Ваше мнение очень важно для нас. Ждите, мы сами Вам позвоним.

ЗЫ Еще один аноним не умеющий читать от начала до конца.

Ответить | Правка | К родителю #136 | Наверх | Cообщить модератору

116. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  –1 +/
Сообщение от kurokaze (ok), 03-Июн-12, 13:56 
>Когда серверов сотни, мне заниматься этим некогда.

Что, в две смены бедняга поди ишачишь? Завтра серверов старент сотни тысяч и тебе прийдется в третью смену выходить, бггг

Ответить | Правка | К родителю #75 | Наверх | Cообщить модератору

155. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от Аноним (-), 04-Июн-12, 01:49 
> Во первых, на сколько мне известно, хранимая на винте информация п.у. имеет
> избыточность в виде хранения ее CRC, которая отслеживается самим винтом.

Даже круче: ECC, которая при сбое чтения пытается скорректироваться самим винтом, прозрачно для вас. В идеале фирмваре еще и проблемный сектор на резервный ремапнуть должно бы (правда у некоторых дисков оно столь тупое что убедить его увидеть сбойный сектор можно только спецпинком по болючему месту).

> Сам винт определяет (диагностирует) испорченные данные о чем непременно сообщит о сбое
> контроллеру.

Нифига он не сообщит - если удалось починить то вы получаете данные. Если не удалось - read error. Статистика полетов - в SMART.

> Во вторых, что мешает самому вычислить CRC для требуемых данных? Возможно есть
> какие-либо "подводные камни" о которых я не знаю.

Ничто не мешает, кроме того что ФС это может делать прозрачно и для всего, а в остальных случаях - надо явно позаботиться.

> постоянном их изменении как в случае с БД, просчитать CRC вообще
> будет невозможно, либо возможно, но с большими потерями ресурсов системы.

Что за идиотека? Кто запретил считать CRC поблочно?

Ответить | Правка | К родителю #44 | Наверх | Cообщить модератору

193. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 04-Июн-12, 22:13 
> Нифига он не сообщит - если удалось починить то вы получаете данные. Если не удалось - read error. Статистика полетов - в SMART.

И что вам не понравилось, будет ошибка - сообщит, будет исправимая ошибка - не сообщит. В чем проблема? Или Вам надо по каждой проблеме свой лог вести, даже если проблема и не проблема вовсе?

На счет работы ЖД я в курсе. Ремап можно запустить многократной записью в сектор с большим временем доступа. Предполагаю, что с некоторыми конкретными моделями есть нюансы, но это не суть важно.

> Ничто не мешает, кроме того что ФС это может делать прозрачно и для всего,
> а в остальных случаях - надо явно позаботиться.

dalco уже говорил, что в случае ZFS/BTRFS по диску проходит демон и проверяет CRC. Точно такого же демона (по сути, это та же программа или, с определенной натяжкой в деталях реализации, скрипт) можно сделать универсальным для всех ФС. Так зачем делать из кода поддержки ФС кухонный комбайн и жить в ожидании что какая-нибудь из тех встроенных хреновин, без которых "нельзя" прожить, не "накроет" всю информацию на винте? Из практических соображений критические области, коей по факту важности и является ФС, необходимо уменьшать и упрощать, а тут предлагают сделать разжиревшее и потенциально небезопасное с точки зрения хранения информации, мягко говоря, уродство.

Ошибки надо исправлять на том уровне, на котором их возможно в наиболее полной мере исправить. Это возможно при обладании максимально полной информацией о том, чего Вы хотите. ФС этого знать не может. Можно конечно сделать механизм, позволяющей сделать это, но надо ли это все, если вполне реально обеспечить ту же функциональность другими, более универсальными, а скорее всего и не мене (если не более) эффективными средствами, в наибольшей степени отвечающим вашим потребностям. Именно по этому CRC метаданных - есть правильное решение т.к. кроме ФС, владеющей ими, о них толком ни кто не знает (и не должен) и решения должны приниматься именно на этом уровне. В случае же с данными пользователя, они принадлежат именно ему, а не ФС, именно по этому решения по их обслуживанию и само обслуживание должно приниматься и производиться им, конечно при условии, что его интересы не настолько жестко завязаны на конкретную ФС и не требуют проведения специфичных операций. В случае CRC данных пользователя никаких специфичных операций производиться не должно.

> постоянном их изменении как в случае с БД, просчитать CRC вообще
> будет невозможно, либо возможно, но с большими потерями ресурсов системы.
> Что за идиотека? Кто запретил считать CRC поблочно?

И как посчитать CRC БД так, чтобы им можно было воспользоваться, при условии, что БД все же используется, а не просто хранится? Подсказка: конечная цель всей этой "камасутры" не посчитать CRC, а установить корректность и неизменность данных, что без привлечения самой СУБД с этой БД невозможно в принципе. Даже если ФС позволяет "заморозить" данные для расчета CRC, то установить момент для "заморозки", когда дынные в БД будут в валидном состоянии, без самой СУБД невозможно. Связь же между СУБД и ФС, которая могла бы включать такую возможность, вообще маразм высшей степени.

Ответить | Правка | Наверх | Cообщить модератору

197. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от all_glory_to_the_hypnotoad (ok), 04-Июн-12, 23:53 
> Сам винт определяет (диагностирует) испорченные данные о чем непременно сообщит о сбое контроллеру.

ему аналог CRC нужен совсем по другой причине. Чтение с физического носителя идёт с ошибками и сумму контроллер диска использует для N-кратного перечтения сектора. Только если после M попыток так и не удалось считать блок, то получается ошибка IO. Это рядовое событие для диска (в смысле, перечтение сектора) и здесь нет наложения "уровней", сумма на диске служит совсем иным целям.

Ответить | Правка | К родителю #44 | Наверх | Cообщить модератору

198. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 05-Июн-12, 00:45 
Во-первых, спасибо за детали работы, не знал, хоть к делу это и не имеет отношения.

Во-вторых, процетирую dalco:
> Чтобы обнаруживать сбои накопителей или линков к ним, например. В момент
> их появления, а не когда половина файловой системы превратится в какие-то макароны.

и после моего коммента (он же):
> К сожалению, нет гарантии, что на винте записаны те самые данные, что мы хотели записать.

Так что то, что я имел ввиду я ввиду и имел, что подтверждаете и Вы
> Только если после M попыток так и не удалось считать блок, то получается ошибка IO.

т.к. потеря доли информации из-за неудачного чтения эквивалентно ее испорченному состоянию.

> сумма на диске служит совсем иным целям.

Это да, но также она гарантирует и то, что данные считанные с диска - это те же данные, что на него и записывались.

Тут же, усиленно предлагают, и за это неистово "плюсуют", ввести второй уровень проверки корректности данных на диске исходя из того, что эта гарантия не работает, причем встроить эту проверку в код работы ФС.

Единственное, для чего это может пригодиться, так это для аудита системы и проверки того, что никто не изменил данные извне. Но это вообще к ФС отношения не имеет и в код включаться не должно. Также тут упоминается про ZFS и BTRFS, в которых, со слов того же dalco, имеется встроенная возможность проверки контрольных сумм файлов в ФС. Правда он заметил, что она реализована через демон и работает на уровне ядра (тут у меня есть некоторые сомнения, но разбираться не хочу за ненадобностью).

Мной предлагался способ считать контрольные суммы без участия ФС, что я считаю как минимум более логичным.

Ответить | Правка | Наверх | Cообщить модератору

200. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от all_glory_to_the_hypnotoad (ok), 05-Июн-12, 10:50 

> Это да, но также она гарантирует и то, что данные считанные с диска - это те же данные, что на него и записывались.

Не гарантирует. Кроме чтения с физического носителя есть ещё firmware котроллера самого диска, а там внутри кэш который навряд ли в лоу энде чем-то вообще защищён. И само firmware тоже нередко бывает с ошибками. HDD это уже давно не просто набор блинов. Ещё раз попробую донести смысл суммы на диске - это часть механизма общения между физ. носителем и firmware диска, и всё.

> Тут же, усиленно предлагают, и за это неистово "плюсуют", ввести второй уровень проверки корректности данных

нет тут второго уровня, это ваша фантазия и какое-то непонимание что, как и где нужно.

> Единственное, для чего это может пригодиться, так это для аудита системы и проверки того, что никто не изменил данные извне.

Аудит это совсем другая область и она не имеет отношения к суммам на уровне ФС. Суммы для аудита реализуются совсем другими методами с точки зрения реализации, у них разные временные характеристики и т.п.

> Мной предлагался способ считать контрольные суммы без участия ФС, что я считаю как минимум более логичным.

если вам нужно просто считать суммы непонятно для какой цели и для чего, то да, их можно считать без ФС и даже без участия каких-либо полезных данных. Тупо можно взять /dev/urandom, посчитать сумму и считать это более логичным чем суммы в ФС

Ответить | Правка | Наверх | Cообщить модератору

204. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 05-Июн-12, 13:54 
Приведу ссылку
http://rlab.ru/doc/s.m.a.r.t..html#1511
и цитату:
> UltraDMA CRC Error Count
> Общее количество ошибок CRC в режиме UltraDMA.
> Поле raw value содержит количество ошибок, возникших в режиме передачи
> данных UltraDMA в контрольной сумме (ICRC - Interface CRC).
> Примечание автора. Практика, собранная статистика и изучение журналов ошибок SMART
> показывают: в большинстве случаев ошибки CRC возникают при сильном завышении частоты PCI
>(больше номинальных 33.6 MHz), сильно перекрученом кабеле, а также - по вине драйверов ОС,
> которые не соблюдают требований к передачи/приему данных в режимах UltraDMA.

Это лишь пример ошибок касаемо интерфейса (и вашего буфера, как его части, тоже). Если посмотрите более внимательно то заметите, что HDD отлавливает массу ошибок как аппаратного происхождения, так и программного и, по моему мнению, данным с него можно доверять практически не проверяя (абсолютно конечно, в силу вероятностной природы самого CRC, ничто не может гарантировать, тут я согласен). Можете спорить дальше на этот счет и цепляться к тому, что не ATA единым и что SMART не связана с контроллером и чем либо еще, кроме HDD, но мне все равно, т.к. ваши оправдания в своем же лице подведомственны только специалисту (психиатру).

> Ещё раз попробую донести смысл суммы на диске - это часть механизма общения между физ. носителем и firmware диска, и всё.

Надо смотреть шире на вещи. Если "внутренние" гарантии (считывание с блинов и передача по интерфейсу) обеспечивают также и "внешние" (гарантия соответствия считанных данных записанным), то это так и есть. А Ваша логика - если проверяется в HDD, то кроме как в HDD это не имеет смысла. В этом плане вы не менее упоротый теоретик, на сколько упорот и практик выше по ветке, но если его можно понять, то Вас я понимать решительно отказываюсь за отсутствие желания заниматься мозговым онанизмом.

> нет тут второго уровня, это ваша фантазия и какое-то непонимание что, как и где нужно.

На счет своего непонимания слышу от "профессионалов" в каждом посте этой ветки, только вот беда, все доводы они основывают на личных убеждениях и уничижении других.

> если вам нужно просто считать суммы непонятно для какой цели...

Я даже отвечать на эти "обрубки" моего поста не буду. Если бы Вы умели читать, то поняли, что мне эти CRC никуда не вперлись и ради интереса в мотивации неприменул спросить у "виновника" этого обсуждения. Далее понеслась вся эта тупость, которую Вы безаппиляционно продолжаете.

Ответить | Правка | Наверх | Cообщить модератору

209. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от all_glory_to_the_hypnotoad (ok), 05-Июн-12, 22:06 
> Это лишь пример ошибок касаемо интерфейса (и вашего буфера, как его части, тоже).

это пример медийных ошибок, а не буфера.  Точно такие же ошибки как при чтении с носителя, но вдругом месте. Откуда у вас эта трафа на счёт 'вашего буфера'? Достаточно уже кидать ссылки содержимое кторых вам не понятно.

> и уничижении других.

что же поделать, таков закон джунглей.

Ответить | Правка | Наверх | Cообщить модератору

210. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 05-Июн-12, 23:43 
Вы либо студент-идиот, либо умело здесь им прикидываетесь.
Я разговариваю с вами только из-за того, что мне это по приколу. Не злоупотребляйте.

Если решите оправдать себя, то пожалуйста приведите ссылки из сторонних, относительно вашего ума, источников (сразу уточняю, что соц. сети и ваша личная страница не покатят) по поводу:
1. "медийная ошибка" (и какие еще в этой классификации присутствуют)
2. "трафа" (цитата "Откуда у вас эта трафа на счёт 'вашего буфера'")
3. "аналог CRC" (сумма на диске; уточните чем фактически отличается если аналог)

Как Вы понимаете суть проблемы в данной ветке т.к. мне кажется, что вы ее не понимаете?

ЗЫ При условии продолжения безосновательной глупости с Вашей стороны буду считать полный Ваш слив по всем вопросам.

Ответить | Правка | Наверх | Cообщить модератору

199. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от анон (?), 05-Июн-12, 00:47 
Да, во избежание недопонимания из-за многабуков, обсуждаемые контрольные суммы относятся к данным пользователя ФС, а не к ее метаданным.
Ответить | Правка | К родителю #197 | Наверх | Cообщить модератору

59. "Для Ext4 представлена поддержка контрольных сумм для проверк..."  +/
Сообщение от Аноним (-), 02-Июн-12, 20:02 
> P.S. Если бы этот патч еще и контрольные суммы данных проверял - вообще бы красота была.

ты же сам сбежишь от такой ФС первым.

Ответить | Правка | К родителю #24 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру