Твоим порокам нынче жить!

навигация по блогу (поиск, теги, категории, календарь)

Архив:



Метка: raid

  • для бесперебойной работы

    Мне все говорят что рейд нужен для без остановочной работы, а вот фигушки, в рабочей станции raid 6 на аdaptec 5805, в Хренолоджи софтверный raid SHR (raid 5) и вот если начинает один диск глючить, адаптек завешивает машину др тех пор пока не поймет что один из дисков отвалился и массив надо объявить деградировавшим… иногда это очень неприятно. Хренолоджи, когда его собирал один из массивов был собран из старых дисков один из которых сыпался и в момент когда DSM обнаруживала сбойный кластер она как-то контактно подвешивалась… то есть я понимаю что как-то так и должно быть, но о какой бесперебойной работе может быть речь.

    Ещё интересный момент, raid SHR из 5ти дисков, в Хренолоджи, теоретически должен быть уже довольно быстрым, понятно что снаружи ограничено гигабитным соединением, но внутри себя копирование происходит со скоростью, в лучшем случае, 120-130MB/c… хотя по идее должна быть скорость что-то типа 200MB/c

    А если я включаю дедубликацию и сжатие (btrfs) — то скорость падает, хотя процессор 4x3GGz загружен только на 1/5-1/4… и вот зачем мне мощный процессор? на самом деле процессор какой был… если он не используется на цело когда нужен?

    понятно что все сделано так чтобы не завешивалось на цело, что бы можно было запустить кучу фоновых процессов но… Кстати в адаптеке приоритет фоновых дисковой операции, например восстановления или проверки, довольно высокий, и довольно стабильный по скорости, прикинув пройденные проценты можно предположить сколько ещё операция займет времени. В хренолоджи, пусть даже с довольно мощным процессором, фоновые дисковые операции проседают если запустить какое-нибудь пользовательское копирование с/на сервер… ну прямо как в моем стареньком Synology 209… хотя возможно это где-то настраивается.

  • Хренолоджи

    Занимаюсь последние дни XPEnology (системa от Synology установленная на левом железе) буду делиться впечатлениями по мере того как буду впечататься… собираю сервер не то чтобы из смолы и палок, но…
    1. корзина на 5 дисков от procase которую я выкупил как-то за очень дешево и ждал когда-же соберу с ней сервер, оказалась не жизнеспособна, или гудит как настоящий сервер, или температура поднимается до 45-50-54С
    2. добавление дисков в 5ятый рейд происходит со скоростью 3% в час… те-же диски на адаптековском контроллере в 5/6 рейд добавляются в течение 42 часов… однофигственно… и кстати непонятно что будет если игрушку перегрузить, продолжится процесс или все надо запускать по новой.
    3. диск вынутый из одного Synology читается в другом, и это прекрасно не надо переписывать файлики по сети.. но файлики я переписал ;)
    4. Мой старенький Synology 209 (файло/музыкальная помойка) такой миленький… вместе с роутером и двумя 7400 дисками потребляет всего 30 ватт, наверное он так и останется музыкальной помойкой…
    5. Вообще у Synology 209, по современным меркам, очень грустно со скоростью… максимум 30-35МБ/с, если на нем ничего не запущено в параллель, если запускать какие-то процессы то скорость падает до 12-8-5МБ/с… торренты качает со скоростью 4-6МБ/с (при канале 100 мегабит) … и вот сейчас переписывая с Synology на XPEnology в первый раз увидел стабильную скорость 50-60МБ/с … то есть возможно надо было бы пошаманить с настройками сети у винды… но не шаман я, не шаман.

    добавление про сборку райда на XPEnology/Synology:
    3 Tb (с данными) + 2 x 3 Tb — должно получится 6 Tb raid SHR
    raid SHR — это фича synology в простейшем виде подобно raid 5, но можно добавлять диски большей длинны чем те что были.
    так вот тайминги:
    первый прогресс про который писал 3%/час это «checking consistency» занял 17 часов
    после хренолоджи запустил «проверку соответствия четности» — со скорость примерно 1,79% / 1 час (55 часов) … ну может ещё разгонится

    и пока пересобирается этот массив ничего другого сделать с дисками нельзя, я хотел инициализировать другой диск, который не будет в этом массиве, так вот он висит в ожидании все эти 17 + часов.

    добавление II проверка четности шла честно со скоростью ~1,79% / 1 час, через 24 часа было проверено ~44-45% а потом процесс как-то быстро закончился проработав 44 часа (опять вспоминается адаптековский контороллер) несмотря на то что у сервара дофига ресурсов в плане дисковых операций все сильно однозадачное (может быть это где-то можно разблокировать) перенос папок общего доступа на собранный диск возможен только поштучно, пока одна папка не копировалась другую не скопировать… и даже в очередь не поставить.

    так, же мне хотелось проверить производительность полученного массива, но поскольку через сетевой 1гигабит реальной скорости не увидишь, думал воспользоваться внутренней системой тестирования а она только для отдешльных дисков… в принципе можно было бы поставить какую-нибудь програмку для работы с дисками из репрезтория но … перебьюсь, мне просто было интересно будет ли этот raid 5 3×3 быстрее или медлен ее того который получался на адаптеке.

  • восстановление потерянных разделов жёсткого диска

    Или: RAID 6 — как я по опять граблям ходил. Решил добавь в raid 6 (6×3Тб) ещё один диск, потому что место кончается, как прошлый диск добавлял писал вот здесь

    феноменология: я был морально готов к ~40 часам перестроения массива, без перезагрузки машины.
    через ~28 часов процесс дошел до 80% и массив перестал мигать лампочками, ещё через какое-то время (у меня было открыто управление дисками) выскочило сообщение что, диск нашелся, скажи это gpt или mbr?.. и я сугубо рефлекторно нажал на GPT, при этом диски, три раздела на массиве, отвалились

    полез гуглить как восстанавливают разделы на жестком диске, решил воспользоваться Hetman Partition Recovery, запустил, программа довольно быстро нашла первый, короткий 512 Гб раздел и зависла, ну да, рейд работает, посмотрел на ресурс-метр программка общалась с диском на скорости 4Mb/с. выключил, оставил рейд работать.

    через 39:40 (в этот раз я таймер поставил) массив собрался, я перегрузился на всякий случай, диски не нашлись, в системе единый и не делимый, не размеченный 13Гб диск.

    Второй раз запустил Hetman Partition Recovery, на этот раз она с диском общалась на скорости 64Mb/c — весь диск, а точнее его прошлый размер пересканирует за ~50 часов… ну да ~30минут 1%… программа нашла первый 520гб раздел, и я решил посмотрть что с ним можно сделать… ага можно просмотреть и тем или иным способом восстановить файлики, в лучшем случае можно сделать образ… поскольку у меня данные не повреждены то и переписывать их куда-то я не хочу только восстановить разделы. Выключил… кстати приятная программка для восстановления файлов, и ещё ее можно выключить записав на диск текущие состояние.

    TestDisk — бесплатная программка консольного вида, хотя и с менюшками в консоли. Программа работает с диском на скорости 125 Mb/c (~25 часов) — то есть в два раза быстрее предидущей, то что она выводит на экран и в лог в процессе работы мне не очень понятно… прогресс работы не очень понятен, потому что после 12% опять появилась надпись 7% — процентов чего диска, партиции? Программка проработала ночь я ну вот в упор не понял что она сделала, и сколько и чего нашла.

    Полез читать интернет…

    DMDE скачал с официального сайта, программка нашла 2 большие партиции за приблизительно 1 минуту (!!!) и восстановила их, чтобы изменения стали видны пришлось перегрузится. Первая (быстрая) партиция которая подключалась как директория не нашлась, и я зупустил ее поиск… поиск опять на низкой скорости.

    решил что не хочу ждать пока программа найдет диск и воспользуюсь Hetman Partition Recovery — просто перепишу содержимое, но увы копировать диск целиком программа отказалась — нужна регистрация… деньги (4500р) платить я не собирался, а связываться с пиратами не хотел скорее из гигиенических нежели морально этических соображений.

    первое что я сделал когда потерял партиции, попытался их найти Акронисом, безуспешно, теперь же запустив на удачу поиск птеряных партиций я нашел первый маленький раздел, и восстановил его за считанные минуты. и поставил расширять партиции.

    Мораль: думай, когда нажимаешь кнопки, оставайся в сознании.

    все программы для восстановления данных с дисков разные, и то что не умеет или не хочет делать одна делает другая, и да все эти программы восстанавливают отдельные убитые файлы с носителей, форматированные флешки и прочее, я описал свою сугубо личную проблему, которая упиралась в то что 11(13)Тб диск очень долго сканировать… причем сканировать не на полной скорости диска… в крайнем случае можно было бы восстановить данные из бекппов, но это затянулось бы на несколько суток. Да кстати это не все возможные программы, есть ещё r-studio и прочее, к счастью до них руки не дошли.

    по поводу первого, быстрого раздела жесткого диска, не знаю насколько он нужен, при том что по линейной скорости чтения-записи он превосходит SATA SSD, мне некуда эту скорость применить, при работе с фотошопом и сканировании… у меня ничего не упирается в диск, при работе с видео тоже. Разбирать большие съемки в лайтруме с картинками и базой лежащими на этом диске я не получаю существенного прироста скорости, как и при работе на SSD… при этом обращение к любому другому файлу на другом разделе теоретически диск должен терять свои скоростные показатели. Наверное надо добавить в систему ещё один SSD, а раздел присоединить к основному.

  • как я raid 5/6 строил

    Заметки о измерении производительности raid5 который собрал

    Долго писал развернутый тест о том как прекрасен аппаратный raid 5 (4×3 tb на adaptec 5805) да как-то и бросил, то что у меня получилось не обладало какой-то сверх скоростью, хотя и не залипало на многопоточных операциях. По факту скорость в файловых операциях была до 90-110 мб/с, а чередую большие и маленькие файлы (raw + xmp) проседала до 60-80… — как на одиночном диске, наверное это определяется контролером. Но как выяснялось в процессе третирования скорость не является тонким местом для photoshop и lightroom (в моих задачах), то есть работа на SSD не давала какого-то особого прироста производительности. Реально lightroom начилал (или не начинал в зависимости от диска) упирался в диск при генерации ~96 мегапиксельных 16 битных tiff’ов создавая поток 111.7 Mb/c (для тестирования брал реальную съемку разобранную и обработанную)… пока у меня нет задачи генерировать их на потоке проблем с производительности нет… фотошоп же при сохранении огромных файлов так-же не загружал диск (судя по ресурс монитору) вероятнее всего упираясь в память, шину, архитектуру… по крайней мере не моем железе (intel i5 (2500) 3.3гГц разогнанный до ~4)

    На момент покупки, в мои планы входило через полгода/год перевести raid 5 в raid 6 (два диска четности вместо одного) контроллер позволяет это делать. Но через 5 месяцев эксплуатации массива один из дисков начал отваливаться, и я решил его заменить, мигрировать на raid 6 и добавить ещё одни диск, потому что за это время я пару раз подходил к 10% свободного места и занимался «творческой утруской и присушкой»

    В одну операцию мигрировать на raid 6 и добавить диск не получается, но миграция на raid 6 вполе нормально идет в фоновом режиме приблизительно поторасуток. Я так и не удосужился проверить производительность raid 6 5×3тб и сразу запустил расширение массива. В расширением массива есть одна «лингвистическая» проблема не позволяющая с помощью Adaptec Storage Manager увеличивать размер массива больше 10тб, я превел windows на американский английский и расширение массива запустилось в фоновом режиме, позволяя работать с диском на скорости приблизительно 10-12 мб/с.

    через ~10 часов процесс показывал 36% и…
    я выключил машину приученный к тому что все процессы идут как-то сами по себе с защитой от дурака… компьютер не захотел грузится дальше биоса если был подкоючен raid контроллер (или диски к контроллеру), но если открыть bios adaptec’a процесс расширения продолжал идти … в течении 32 часов, Ели миграция начиналась с 4%/час, то под конец скорость упала до 1%/час… Все бы ничего но надо мной висела не разобранная и необработанная съемка :)

    Собирая райд на адаптеке я надеялся что буду его расширять по мере надобности но 42 часа на добавление диска выглядит несколько пугающе, и непонятно следующий диск будет добавятся быстрее или медленее.

    изначально у меня диск был разбит на разделы:
    [0,5тб быстрая часть][основная часть][2тб архив, медленная часть] = 2.7×3=8.1 гб
    после добавления диска пространство появилось в конце массива
    [0,5тб быстрая часть][…][2тб архив, медленная часть][2.7Гб пусто] = 2.7×4 = 10.8 гб
    это логично, но не совсем очевидно покрайней мере вот так с ходу.
    Acronis’ом с «флешки доктора» распорядился пустым пространством
    [0,5тб быстрая часть][основная часть][2.7Гб архив, медленная часть] поскольку основную массу данных не трогал операция заняла только 2 часа… если бы хотел увеличить быструю часть то опять выпал бы на долго.


    это «на тестировал» на первом быстром разделе raid 5 4×3тб, сразу после создания


    А вот что получилось там-же но на raid 6 6×3тб, циферки конечно красивые… В реальных файловых операциях быстрее чем то что было, но не драматично быстрее, если смотреть по системному монитору копирование с массива на массив около 200МБ/с то есть не скорость копирования, а сумма чтени+запись. Тестировал в один поток потому что в 90% случаев у меня один поток и будет… ну и потому что лень ;)


    скорость медленной части дска

    да… я знаю что программка не самая лучшая для тестирования, но у меня и не тест… а так феноменология

  • как я raid 5 строил

    Здесь должна быть тематическая картинка для привлечения внимания…
    дальнейший текст следует воспринимать как лабораторный журнал… или заметки о… поехали

    У меня 3 x 3tb диска под данные, raid не использовал но делаю внутреннее «ручное зеркалирование» + внешние бекапы. Когда в прошлый раз полетел диск я ничего важного не потерял кроме нервов и времени :) ну вот этих 8тб (3 х 3 = 8 если кто не знает) мне стало не хватать, при том что свободного места около 1тб оно раскидано по разным дискам.

    И вот я, как не замутненное существо, решил сделать raid 5 (4х3тб=8тб) на чипсетном контроллере. Аргументы за были: выше скорость записи и чтения, объединение свободного места… аргументы против… ну за последний год у троих моих знакомых слуичилось перестроение raid 5 и занимало это как правило неделю + вероятность того что все накроется совсем.

    Забекапился, докупил ещё один диск и… (далее…)

Твоим порокам нынче жить!