The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Началась разработка ФС Zero, вытесняющей неиспользуемые данн..., opennews (?), 10-Сен-18, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


13. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от Аноним (13), 10-Сен-18, 12:16 
Интересно, но для использования нужно еще encfs навесить: пишут, что backblaze поддерживает шифрование, но данные расшифровываются на стороне сервера, т. е. оно там бесполезное, для галочки (https://en.wikipedia.org/wiki/Backblaze).
Ответить | Правка | Наверх | Cообщить модератору

79. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от KonstantinB (ok), 10-Сен-18, 18:42 
У backblaze такие низкие цены как раз за счет механизма дедупликации: вычисляются контрольные суммы а-ля rsync, и одинаковый блок хранится только один раз (ну, ок, три раза), а при запросе на получение бэкапа файлы реконструируются из набора контрольных сумм блоков.

Так что шифрование там по определению невозможно.

Ответить | Правка | Наверх | Cообщить модератору

116. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  –1 +/
Сообщение от h31 (ok), 11-Сен-18, 00:24 
borgbackup умеет одновременно и шифровать, и сжимать, и дедуплицировать.
Ответить | Правка | Наверх | Cообщить модератору

118. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от Аноним (118), 11-Сен-18, 02:31 
Предлагаете для всех пользователей backblaze шифровать одним и тем же ключом? Ооок:)
Ответить | Правка | Наверх | Cообщить модератору

146. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  –2 +/
Сообщение от h31 (ok), 11-Сен-18, 20:13 
> Предлагаете для всех пользователей backblaze шифровать одним и тем же ключом? Ооок:)

Почему? Шифруем данные на клиенте, у каждого клиента свой ключ. На сервер загружаем зашифрованные данные + хэш незашифрованных (с солью, общей для всех клиентов). На основе хэша вычисляем дубликаты.

Ответить | Правка | Наверх | Cообщить модератору

155. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от Ракоман (?), 12-Сен-18, 08:37 
Да? А что делать при коллизии хэшей? Приехали?
Ответить | Правка | Наверх | Cообщить модератору

160. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от h31 (ok), 13-Сен-18, 02:55 
> Да? А что делать при коллизии хэшей? Приехали?

Я не знаю, как эту проблему решили в borgbackup. Найдёшь - отпишись.

Ответить | Правка | Наверх | Cообщить модератору

162. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от нах (?), 13-Сен-18, 14:35 
никак. авторы всех технологий дедапа верят, что коллизия хэшей невозможна.
Мысль о том, что по сути они заменяют блоки данных, предположим, в 128k, строкой в 256 бит - причем ВСЕ блоки неизвестного содержимого - ограниченным количеством строк (в зависимости от типа хэша может оказаться, что далеко не каждая строка - валидный хэщ чего бы то ни было) им, по-моему, в головы вообще не приходит, там некуда, там карри. Единственное исключение - zfs, там сановские инженеры еще головами думали, а не только ели - там есть verify, если не хочется проверять свое везение (разумеется, снижает скорость, но часто этим можно пожертвовать)

то есть по сути, да, на наших глазах переизобретается архиватор del, только уже в глобальном масштабе.

оно бы и работало, даже, в масштабах локалхостов, даже достаточно больших - но в масштабах амазона или бэкблейза вопрос коллизии - только вопрос времени.

Ответить | Правка | Наверх | Cообщить модератору

163. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от KonstantinB (ok), 15-Сен-18, 05:46 
Окей, мы знаем, что у пользователей U1 и U2 зашифрованные блоки B1 и B2 имеют одинаковый sha512. Как теперь хранить только один из этих блоков?
Ответить | Правка | К родителю #146 | Наверх | Cообщить модератору

165. "Началась разработка ФС Zero, вытесняющей неиспользуемые данн..."  +/
Сообщение от нах (?), 17-Сен-18, 10:49 
> Окей, мы знаем, что у пользователей U1 и U2 зашифрованные блоки B1
> и B2 имеют одинаковый sha512. Как теперь хранить только один из
> этих блоков?

зачем?
Если ты каким-то чудом (например, нанятый вменяемый разработчик понимал, для чего на самом деле существуют криптографические хэши - чудо!) вовремя об этом узнал - просто сохраняешь второй блок отдельно от первого. Ровно так же, как в случае, если бы эти sha оказались разными (точнее "поиск хэша B2 ничего не нашел").

На момент, когда ты считал его хэш, он у тебя еще был, есть что сохранять.

внутри файла-то они не по хэшам ищутся, а банально по ссылке.

zfs dedup+verify примерно так и работает

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру