The OpenNET Project / Index page

[ новости/++ | форум | wiki | теги | ]

19.06.2012 10:13  В реализации программного RAID для Linux обнаружена ошибка, которая может привести к повреждению мета-данных

Нейл Браун (Neil Brown), основной разработчик пакета mdadm и подсистемы для обеспечения работы программных RAID-массивов в Linux, опубликовал предупреждение о выявлении серьёзной ошибки в md/raid, которая может привести к обнулению важных мета-данных на дисках, входящих в программный RAID. Например, может быть очищена информация о массиве, о смещениях данных, размерах блоков и роли каждого диска в массиве. Всем пользователям рекомендуется первым делом сохранить на внешнем носителе вывод команды "mdadm -Evvvvs", для обеспечения возможности восстановления в случае проявления ошибки (для восстановления достаточно пересоздать массив через "mdadm --create" с теми же параметрами).

Проблема присутствует в ядрах Linux с 3.4-rc1 по 3.4-rc4, с 3.3.1 по 3.3.3 и с 3.2.14 по 3.2.16. В ядра некоторых дистрибутивов также был портирован код, приводящий к ошибке: в SLES11-SP2 проблеме подвержены ядра 3.0.26-0.7 и 3.0.26-0.8, в Ubuntu - с 3.2.0-22.35 по 3.2.0-24.37. Ошибка проявляется только при перезагрузке, выключении или аварийном завершении работы. В процессе штатного функционирования проблема не всплывает. Ошибка возникает в ситуации, когда в процессе завершения работы массив находится в частично собранном и остановленном состоянии, что может возникнуть, например, при использовании команд "mdadm --incremental" или "mdadm -A". В частности, опасное стечение обстоятельств может наблюдаться в Ubuntu, когда в процессе завершения работы скрипт остановки RAID массива пересечётся с работой udev-скрипта, выполняющего "mdadm --incremental".

Для исключения проявления ошибки в процессе обновления подверженного проблеме ядра рекомендуется перед перезагрузкой убедиться в отсутствии частично собранных RAID-разделов. Например, рекомендуется перед перезапуском выполнить команды "mv /sbin/mdadm /sbin/mdadm.moved; /sbin/mdadm.moved --stop --scan", после чего загрузиться с новым ядром в одиночный режим и восстановить переименованный файл "mv /sbin/mdadm.moved /sbin/mdadm".

  1. Главная ссылка к новости (http://neil.brown.name/blog/20...)
  2. OpenNews: Доступна реализация программного RAID для Linux - mdadm 3.0
Лицензия: CC-BY
Тип: К сведению
Ключевые слова: linux, raid, mdadm, bug
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение Ajax/Линейный | Раскрыть все сообщения | RSS
 
  • 1.1, Аноним (-), 10:51, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]
  • +3 +/
    Афигеть мой конфиг, бегу...
     
     
  • 2.93, Anonim (??), 23:35, 19/06/2012 [^] [ответить]    [к модератору]
  • +/
    Дебиана 6 с ядром из 3,2 бэкпортов (конкретно версия непонятно какая, Apt скрывает) касается?
     
  • 2.5, ааноним (?), 11:32, 19/06/2012 [^] [ответить]     [к модератору]
  • –3 +/
    correctmode И как всегда ошибку нашёл сам разработчик, а не некий аноним, чита... весь текст скрыт [показать]
     
     
  • 3.26, AZ_from_Belarus (ok), 12:47, 19/06/2012 [^] [ответить]    [к модератору]  
  • +10 +/
    Аноним читающий по ночам исходники - это миф выдуманный ниспровергателями мифа и не имеющий отношения к действительности.
    Ошибки отлавливаются чаще всего разработчиками. Существенно то, что возможность стать разработчиком открыта для любого. И код читают не анонимы, а те, кто предполагает модифицировать код для некоторых своих потребностей либо для того, чтобы уяснить для себя особенности работы системы для всяческих отстраивания под те или иные нужды.
    Далее - вероятности обнаружения. У изначального разработчика не забрасывающего поддержку написанного кода вероятность обнаружения ошибки выше. Особенно если ошибка проявляется в довольно редких условиях. Но это же не делает невероятным выявление ляпов кем-то другим.
     
     
  • 4.99, Аноним (-), 01:08, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    > читающий по ночам исходники

    читающий исходники после того как его софтрейд внезапно помер

    FIXED

     
  • 4.115, Michael Shigorin (ok), 13:46, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Не обращайте вминания, это было выступление пользователя Apple, который даже не ... весь текст скрыт [показать]
     
  • 2.13, Аноним (-), 11:57, 19/06/2012 [^] [ответить]    [к модератору]  
  • +6 +/
    > В очередной раз миф ... развалился на глазах

    Хорошая оговорка. Миф может развалиться только один раз, а если он разваливается "в очередной раз", то, видимо, у разваливателей "мифа" кишка тонка

     
  • 2.43, Аноним (-), 13:37, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Почему "как всегда" и что за аноним?
     
  • 2.75, ytrrt (?), 15:18, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    О, ты много знаешь людей способных понять код драйверов для RAID?
     
     
  • 3.94, Аноним (-), 00:23, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Да в общем похрену какой код разбирать Если задаться целью, то желаемое станови... весь текст скрыт [показать]
     
     
  • 4.107, www2 (??), 06:05, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    "Простой и обычный код" звучит как "обычный стиральный порошок". Не бывает такого кода, разве что в лабораторных работах у студентов.
     
     
  • 5.121, Аноним (-), 14:42, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Это и должно так звучать. Код есть код и нечего его делить на код RAID, VM или еще какой.
     
     
  • 6.124, Michael Shigorin (ok), 15:34, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Что, серьёзно А вот для народа в lkml, помнится, страшнее VM бывал разве что t... весь текст скрыт [показать]
     
  • 5.132, fhunter (?), 16:20, 21/06/2012 [^] [ответить]     [к модератору]  
  • +1 +/
    Вот не видели вы работ студентов Там как раз код необычный уж проще разбирать ... весь текст скрыт [показать]
     
  • 3.116, Michael Shigorin (ok), 13:48, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    > О, ты много знаешь людей способных понять код драйверов для RAID?

    С учётом того, что начинал его Мигель -- думаю, достаточно много.  Это всё-таки не VM...

     
  • 2.84, Аноним (-), 16:54, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Откуда вы такой отборный маркетинговый буллшит берете От того что сорц посмотри... весь текст скрыт [показать]
     
     
  • 3.106, Аноним (-), 05:51, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Да, только баги не от чтения исходников там, а от ой, мой рейд рассыпался при перезагрузке!
     
     
  • 4.117, Michael Shigorin (ok), 13:49, 20/06/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    > Да, только баги не от чтения исходников там, а от ой, мой
    > рейд рассыпался при перезагрузке!

    Баги багам рознь.  Бывают и [PATCH] с хорошим внятным разбором полётов впридачу.

     
  • 2.110, askh (ok), 13:18, 20/06/2012 [^] [ответить]     [к модератору]  
  • +3 +/
    Разработчик нашёл ошибку Вы из этого сделали вывод о том, что сообщество не мож... весь текст скрыт [показать]
     
     ....нить скрыта, показать (18)

  • 1.4, Аноним (-), 11:30, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +4 +/
    Во время чтения новости стало очень очень страшно!!!
     
  • 1.7, ааноним (?), 11:36, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    я правильно понял, что если стоит gentoo-source-3.4.2-r1 то можно расслабиться?
     
     
  • 2.19, Анонище (?), 12:12, 19/06/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    Можно. Расслабляйся.
     
  • 2.134, Aleks Revo (ok), 17:37, 21/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Unstable система? "Расслабься и получай удовольствие" ))
     
  • 1.8, Guest (??), 11:41, 19/06/2012 [ответить] [показать ветку] [···]     [к модератору]  
  • –3 +/
    Если мое предположение верно, что аппаратный RAID является на самом деле прогр... весь текст скрыт [показать]
     
     
  • 2.11, Аноним (-), 11:50, 19/06/2012 [^] [ответить]     [к модератору]  
  • +1 +/
    Аппаратный рейд - это вообще несколько большее Это самостоятельный контроллер, ... весь текст скрыт [показать]
     
     
  • 3.88, Dimez (ok), 17:02, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Можно пример такого контроллера Потому-что обычно батарейка для сохранности дан... весь текст скрыт [показать]
     
     
  • 4.108, ACCA (ok), 07:50, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    EMC CLARiiON. В SPE там обычно пара таких.
     
  • 3.97, Аноним (-), 00:29, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    По сути обычный программно-аппаратный комплекс от производителя с соответствую... весь текст скрыт [показать]
     
     
  • 4.102, mavriq (ok), 02:34, 20/06/2012 [^] [ответить]     [к модератору]  
  • +1 +/
    примерно аналогичным образом - http forum ixbt com topic cgi id 11 38813 приче... весь текст скрыт [показать]
     
  • 2.24, ReWire (??), 12:40, 19/06/2012 [^] [ответить]     [к модератору]  
  • –12 +/
    Конечно в аппаратных RAID массивах есть софт, а как же иначе Другое дело что со... весь текст скрыт [показать]
     
     
  • 3.27, Аноним (-), 12:48, 19/06/2012 [^] [ответить]     [к модератору]  
  • +2 +/
    Вы не поверите, но в линуксе рейд тоже пишут группы людей, и отлаживают много ле... весь текст скрыт [показать]
     
     
  • 4.98, Аноним (-), 00:33, 20/06/2012 [^] [ответить]     [к модератору]  
  • –1 +/
    Зачем контроллеру RAID куча всякой х ни, поддерживаемой линуксом и абсолютно бе... весь текст скрыт [показать]
     
     
  • 5.125, Crazy Alex (ok), 17:57, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Потому что дешевле вкрутить линукс чем разрабатывать свою фирмварь - по крайней мере до определённых масштабов производства.
     
  • 5.133, Maniaq (ok), 16:42, 21/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Ну например для реализации графической управлялки контроллером, с шахматами и по... весь текст скрыт [показать]
     
  • 3.105, mavriq (ok), 02:41, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    то-то я смотрю - в оффтопОС все так прям и используют программный рейд все пото... весь текст скрыт [показать]
     
  • 3.118, Michael Shigorin (ok), 14:06, 20/06/2012 [^] [ответить]     [к модератору]  
  • +1 +/
    формат данных на дисках пока не стандартизирован между различными поставщикам... весь текст скрыт [показать]
     
     
  • 4.122, rt (??), 14:43, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Миша, ты мой герой! )
     
     ....нить скрыта, показать (13)

  • 1.9, Аноним (-), 11:41, 19/06/2012 [ответить] [показать ветку] [···]     [к модератору]  
  • +3 +/
    Редко пользуемся убунтой на серверах выбираем Debian и CentOS во имя стабильнос... весь текст скрыт [показать]
     
  • 1.10, Аноним (-), 11:50, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    ну зашибись блин, токо сделал файл-сервер на убунте с RAID-1, даже запустить не успел, а тут такие печеньки... Правильно я понял, что достаточно будет откатиться на ядро 3.0 ?
     
     
  • 2.28, AZ_from_Belarus (ok), 12:50, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    В процессе штатного функционирования проблема не всплывает ... весь текст скрыт [показать]
     
     
  • 3.30, Аноним (-), 12:51, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    > В процессе штатного функционирования проблема не всплывает.

    Только при выключении и перезагрузке, ага.

     
     
     
     
    Часть нити удалена модератором

  • 6.46, AZ_from_Belarus (ok), 13:51, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Читать надобно внимательней в частично собранном и остановленном состоянии В ... весь текст скрыт [показать]
     
     
  • 7.71, Аноним (-), 14:47, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Из того же второго абзаца В частности, опасное стечение обстоятельств может н... весь текст скрыт [показать]
     
     
  • 8.77, AZ_from_Belarus (ok), 15:33, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Ну, конечно Такое тоже может быть Админ не дождавшись загрузки сервера резко ... весь текст скрыт [показать]
     
  • 2.38, Аноним (-), 13:14, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    ...короче, обновил ядро до 3.4, автор пишет, что оно не подвержено багу. Да и вообще, т.к. сервак еще не запущен, то и терять было пока нечего. Но новость, конечно, не из приятных.
     
  • 1.15, rain87 (?), 12:00, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    мда. жесть конечно. хорошо что я не стал обновлять домашнюю файлопомойку до новой убунты, на моём 2.6.38 как я понял бага нет
     
     
  • 2.56, Lain_13 (?), 14:09, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Там уже пофикшеное ядро в новой Убунте, да и ещё постараться нужно, чтоб сломать.
     
  • 2.112, ананим (?), 13:27, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Уверены что у вас вообще рэйд есть?
     
     
  • 3.135, rain87 (?), 14:12, 25/06/2012 [^] [ответить]     [к модератору]  
  • +/
    root rain87gw cat proc mdstat Personalities linear multipath raid0 ... весь текст скрыт [показать]
     
  • 1.23, Аноним (-), 12:35, 19/06/2012 [ответить] [показать ветку] [···]     [к модератору]  
  • +/
    Судя по всему, проблема специфична только для систем на базе upstart, т е Ubunt... весь текст скрыт [показать]
     
     
  • 2.29, Аноним (-), 12:50, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Хотя нет, для RHEL тоже не специфична они не стали бэкпортировать этот патч в с... весь текст скрыт [показать]
     
     
  • 3.39, Аноним (-), 13:16, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    а в ней обновление до 3 2 0-25 в репах Остается SLES ... весь текст скрыт [показать]
     
     
  • 4.120, Аноним (-), 14:21, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    > ...а в ней обновление до 3.2.0-25 в репах. Остается SLES?

    SLES уже перевели на upstart?

     
  • 1.31, Егор (??), 12:59, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    часом не та ошибка, которая селектеловское облако клала?
     
     
  • 2.34, Ваня (??), 13:02, 19/06/2012 [^] [ответить]    [к модератору]  
  • –1 +/
    Нет. Ту ещё не исправили.
     
     
  • 3.35, Егор (??), 13:07, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    печально
     
     
  • 4.85, Аноним (-), 16:57, 19/06/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    > печально

    Это Ваня. Рассматривайте его как генератор случайных чисел скрещенный с миллионом обезьян пишущий войну и мир (примерная схема-эквивалент, продуцирующая такой же бред на выходе).

     
  • 2.52, Аноним (-), 14:02, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    >часом не та ошибка, которая селектеловское облако клала?

    Опередил :)

     
  • 1.36, Аноним (-), 13:09, 19/06/2012 [ответить] [показать ветку] [···]     [к модератору]  
  • –8 +/
    В очередной раз стало ясно, что использовать дистрибутивы с красноглазыми ядрами... весь текст скрыт [показать]
     
     
  • 2.41, AZ_from_Belarus (ok), 13:30, 19/06/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    > Стремно на сервер ставить даже Debian/Ubuntu, но нет же, находятся "самородки", которые
    > водружают туда Арч или даже Генту!

    Вы полагаете, что разницы между дебиан и убунту нет? Ну-ну...

     
  • 2.42, Crazy Alex (ok), 13:34, 19/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Дебиан-то чем не угодил в данном случае?
     
  • 2.92, RG (?), 22:51, 19/06/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    :D

    Стрёмно на сервер ставить то, чем не умеешь управлять.

    Вот почему у меня под арчем отваливаются только бинарный видеодрайвер NVIDIA и медиаплеер, да и то иногда и на десктопе, а? :)

     
  • 1.45, AZ_from_Belarus (ok), 13:42, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +1 +/
    > Ошибка
    > проявляется только при перезагрузке, выключении или аварийном завершении работы. В процессе
    > штатного функционирования проблема не всплывает. Ошибка возникает в ситуации, когда в
    > процессе завершения работы массив находится в частично собранном и остановленном состоянии,

    И не ясно - ЧТО за народ поднял панику в комментах?
    Дисковый массив все же более характерен для сервака.
    Сервак предполагает все же что даже перезагрузку на нем выполняет не "марьиванна", а более-меннее админ. У более-менее админа, как бы предполагается, что сервак с серьезным содержимым сидит на бесперебойнике способном поддержать хотя бы корректное завершение работы.
    Админ у которого сервак при недособранном массиве может экстренно вылететь - мудак, а не админ. Если не мудак, то такое может произойти при диковинном стечении обстоятельств - например, именно в описанной ситуации накрылся бесперебойник + сбойнуло питание.

     
     
     
     
    Часть нити удалена модератором

  • 4.72, Аноним (-), 14:57, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Да прочти ты уже наконец В частности, опасное стечение обстоятельств может наб... весь текст скрыт [показать]
     
     
  • 5.73, Аноним (-), 15:04, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    не дописал, вдогонку - ведь при обычной физической перезагрузке, которую ты толь... весь текст скрыт [показать]
     
  • 3.57, AZ_from_Belarus (ok), 14:10, 19/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Для повышения надежности хранения данных предпринимается КОМПЛЕКС мероприятий од... весь текст скрыт [показать]
     
  • 2.50, Аноним (-), 14:00, 19/06/2012 [^] [ответить]    [к модератору]  
  • –1 +/
    Вы не совсем поняли. В оригинале говорится, что даже при корректном завершении работы может возникнуть описанное автором состояние, при котором и проявляется баг.
     
     
  • 3.69, Frank (ok), 14:38, 19/06/2012 [^] [ответить]     [к модератору]  
  • +1 +/
    Это Вы не совсем поняли В оригинале говорится, что баг словили только убунтушни... весь текст скрыт [показать]
     
     
  • 4.74, AZ_from_Belarus (ok), 15:12, 19/06/2012 [^] [ответить]     [к модератору]  
  • +1 +/
    Да, в целом так Кстати русский сабж довольно корректно и по существу описал сит... весь текст скрыт [показать]
     
  • 4.95, Аноним (-), 00:26, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    А где Вы в моем посте углядели отрицание того, что баг словили только убунтушни... весь текст скрыт [показать]
     
     
  • 5.109, Frank (ok), 08:08, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Так будьте бобры в следующий раз не говорить с недоговорками Есть чёткое опреде... весь текст скрыт [показать]
     
     ....нить скрыта, показать (8)

  • 1.51, Аноним (-), 14:01, 19/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    Не на эту ли ошибку напоролся в свое время Selectel?
     
  • 1.83, Аноним (-), 16:44, 19/06/2012 [ответить] [показать ветку] [···]     [к модератору]  
  • +/
    У меня стоял kernel 3 3 3 на slackware 13 37 x86_64 и программный RAID0 Множеств... весь текст скрыт [показать]
     
     
  • 2.119, Michael Shigorin (ok), 14:13, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Так если RAID0, целостность данных всё равно имеет весьма условное значение -- с... весь текст скрыт [показать]
     
     
  • 3.126, Crazy Alex (ok), 18:04, 20/06/2012 [^] [ответить]     [к модератору]  
  • +/
    Ну Они, конечно, пытаются, но не то чтобы очень успешно Во всяком случае я н... весь текст скрыт [показать]
     
  • 1.100, iZEN (ok), 01:16, 20/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • –3 +/
    Да уж! Как вам только живётся в прошлом веке с деревянными игрушками, линуксоиды... ZFS так не тупит./thread
     
     
  • 2.113, ананим (?), 13:30, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    А как она тупит?
    6мв/с?
    Да уж лучше сабж с багом.
     
     
  • 3.114, ыгчч (?), 13:41, 20/06/2012 [^] [ответить]    [к модератору]  
  • +2 +/
    > А как она тупит?

    Бывает что и сильно. Но не так сильно как iZen :)

     
     
  • 4.123, ананим (?), 14:55, 20/06/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    ну... любая технология работает в связке технология-человек.
    но кто-то упорно утверждает, что:
    — "этавон_панацея" в человеке не нуждается. тут так удобно, сухо и тепло.
     
  • 2.130, AlexAT (ok), 20:26, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Танцы на 20см гвоздях, стоя на голове, тоже могут приводить к повреждению мозга.
     
  • 1.127, Аноним (-), 18:30, 20/06/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    Что за opennet, если не дают слово без регистрации.
     
     
  • 2.128, Michael Shigorin (ok), 18:47, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    > Что за opennet, если не дают слово без регистрации.

    Надеюсь, Вы гостеприимны, но при этом не позволите у себя дома бесчинствовать.  Насколько понимаю здешние правила -- примерно так же.

     
     
  • 3.129, Аноним (-), 19:19, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    Теперь все стало понятно.
     
  • 3.131, ананим (?), 21:10, 20/06/2012 [^] [ответить]    [к модератору]  
  • +/
    а с другой стороны, если знакомый достаточны близкий (зарегистрированный), то можно? :D
     

     Добавить комментарий
    Имя:
    E-Mail:
    Заголовок:
    Текст:


      Закладки на сайте
      Проследить за страницей
    Created 1996-2018 by Maxim Chirkov  
    ДобавитьПоддержатьВебмастеруГИД  
    Hosting by Ihor