Raid 1 замена диска на больший размер

Обновлено: 07.07.2024

Иногда возникает ситуация, когда места на сервере начинает не хватать. Хорошо, когда есть дополнительные слоты под диски и можно просто добавить несколько винчестеров и расширить существующий рейд либо создать еще один. Но в случае если свободных слотов нет, ситуация становится проблемной, поскольку нужно копировать данные, ставить новые диски с большим объемом, создавать новый рейд и восстанавливать данные из бекапа.
Довольно часто, у компаний нету столько свободного места для проведения всех этих манипуляций, не говоря уже о том, что нету столько времени, чтобы полностью останавливать работу и проделывать все эти операции. К счастью у HP есть способ как это сделать не останавливая работу предприятия на длительное время и без промежуточного хранилища данных.

Как это сделать?

Увеличивать объем логических дисков будем на примере сервера HP DL360e G8, контроллера HP Smart Array P420, операционной системы Windows Server 2012 R2, встроенного приложения Smart Storage Administrator (далее SSA) и двумя жесткими дисками объемом 300GB подключенными в RAID1. Будем производить замену на 2 диска объемом 600GB чтобы удвоить рабочее пространство в рейде.

Изначально размер нашего системного диска составляет 300GB.

Выключаем сервер. Меняем один жесткий диск с 300GB на 600GB и включаем сервер. Во время загрузки контроллера нажимаем “F1” чтобы начался процесс ребилдинга РЕЙДа. Ребилдинг - это копирование резервной информации с рабочего диска на новый диск. Операция сильно нагружает рабочий диск, поэтому лучше запланировать этот процесс на нерабочее время. При сильной необходимости, работать можно, но лучше перестраховаться.

Ждем когда восстановится первый диск. Это можно увидеть по индикации дисков в сервере, в ILO и приложении SSA.

Индикация на диске

На винчестере который мы поставили, по центру круга индикации должен за мигать значок жесткого диска зеленым цветом. Когда он перестанет мигать, и начнет светится зеленым цветом, ребилдинг закончится.

В ILO этот процесс можно увидеть в пункте “System information” раздел “Storage”

С помощью SSA можно увидеть в процентах сколько осталось до конца восстановления

Когда логический диск восстановится статус поменяется на “OK”

Теперь опять отключаем сервер и меняем уже второй диск на 600GB. Так же как и с первым диском ожидаем его восстановление.

После ребилдинга, заходим в SSA, выбираем рейд который хотим расширить и нажимаем “Extend Logical Drive”

Выбираем “Maximum Size”

Логический диск трансформирован. Выходим из SSA, запускаем операционную систему и переходим в “Disk management”

Нажимаем правой клавишей мыши на локальный диск С: и выбираем “Extend Volume”

Есть сервер на котором работают 2 диска HDD по 1 Тб в raid1, (контроллер Intel). Один из дисков скоро выйдет из строя, интересует вопрос, можно вместо 1 Тб поставить 4 Тб? сольется на него копия? а затем когда данные синхронизируются, и первый диск заменить на 4 Тб.

0. В любом случае сначала сделайте бекап - существует не 0-евая верятность что что-то пойдёт не так.

Я бы сделал так:

1. Я бы вставил новый 4-х ТБ диск на котором размечен под ФС только 1-ТБ

2. Синхронизация рейда

3. Вставляем вместо оставшегося старого второй новый 4-х ТБ диск на котором размечен под ФС только 1-ТБ

4. Синхронизация рейда

5. Увеличиваем место на обоих дисках до 4 ТБ

Идея плохая, лишние телодвижения = лишняя немалая вероятность все уничтожить. Все равно надо будет сначала делать бекап. Потому лучше вставить 2 новых диска по 4тб, запилить на них реид, потом со старого сразу туда все скопировать.

foxi:
Все равно надо будет сначала делать бекап.

Это у меня пуктом 0 идёт :)

Win33:

Сейчас на дисках разметка MBR? Для 4 Тб потребуется GPT, так что, скорее, не прокатит такой вариант. Нужно сохранять бэкап и ставить все заново.

MPZ:
Сейчас на дисках разметка MBR? Для 4 Тб потребуется GPT, так что, скорее, не прокатит такой вариант. Нужно сохранять бэкап и ставить все заново.

Разметка стоит GPT.

Какая операционная система на сервере?

И сразу модель материнской платы. Если у вас диск 4Tb будет с физическим сектором 4K, на старых чипсетах Intel raid может его не определить нормально.

Win33, В случае с интелом, расширить раздел не получится. А вот копия сольется, но при условии, что размер физического сектора на дисках одинаковый. В общем случае единственный вариант, который не ведёт к потере данных - это пересоздание массива.

Хочу рассказать поучительную историю, которая случилась со мной на днях. На одном из серверов в ЦОД вышел из строя диск в составе рейда mdadm. Ситуация типовая, с которой регулярно сталкиваюсь. Оставил заявку в техподдержку на замену диска с указанием диска, который надо поменять. В цоде заменили рабочий диск и оставили сбойный. Дальше история, как я решал возникшую проблему.

Научиться настраивать MikroTik с нуля или систематизировать уже имеющиеся знания можно на . Автор курса, сертифицированный тренер MikroTik Дмитрий Скоромнов, лично проверяет лабораторные работы и контролирует прогресс каждого своего студента. В три раза больше информации, чем в вендорской программе MTCNA, более 20 часов практики и доступ навсегда.

Цели статьи

Рассказать поучительную историю о том, какие могут быть проблемы при аренде серверов в ЦОД.
Показать на примере, как надо действовать при выходе из строя диска в рейде mdadm.
Простыми словами объяснить, в чем разница между программным и аппаратным рейдом.

Введение

Когда первый раз сталкиваешься с рукожопством сотрудников техподдержки дата центра, впадаешь в ступор и думаешь, ну как так то? Сейчас я спокойно отношусь к таким ситуациям и действую исходя из самых худших ожиданий. На днях я столкнулся с ситуацией, когда мне заменили не тот диск в сервере с RAID1. Вместо сбойного диска вынули рабочий и заменили чистым. К счастью все закончилось хорошо, но обо всем по порядку.

Не скажу, что у меня прям большой опыт аренды серверов, но он есть. Я регулярно обслуживаю 10-15 серверов, расположенных в разных дата центрах, как российских, так и европейских. Первый негативный опыт я получил именно в Европе и был очень сильно удивлен и озадачен. Я, как и многие, был под влиянием либеральной пропаганды на тему того, что у нас все плохо, а вот Европа образец надежности, стабильности и сервиса. Как же я ошибался. Сейчас отдам предпочтение нашим дата центрам. По моему мнению и опыту, у нас тех поддержка и сервис в целом лучше, чем там, без привязки к стоимости. В Европе дешевле схожие услуги, так как там масштабы сервисов в разы больше.

Приведу несколько примеров косяков саппорта, с которыми сталкивался.

Было много всяких инцидентов помельче, нет смысла описывать. Хотя нет, один все же опишу. Устанавливал свой сервер в ЦОД. Решил пойти в маш зал и проконтролировать монтаж. Если есть такая возможность, крайне рекомендую ей воспользоваться. Местный рукожоп неправильно прикрепил салазки и сервер во время монтажа стал падать. Я его поймал, тем спас его и сервера других клиентов. В итоге помог с монтажом. Сам бы он просто не справился. Я не представляю, что было, если бы я не пошел в машзал. К чести руководства, я написал претензию, где подробно описал данный случай и попросил бесплатно месячную аренду. Мне ее предоставили. Советую всем так поступать. Зачастую, руководство может быть не в курсе того, что происходит в реальности. Надо давать обратную связь.

Уровень моего доверия к тех поддержке дата центров и хостингов вы примерно представляете :) Ну и вот случилось очередное ЧП. Подробнее остановлюсь на этой ситуации, так как она случилась вчера, свежи воспоминания.

Замена диска в рейде mdadm

Речь пойдет о дешевых дедиках от selectel. Я их много где использую и в целом готов рекомендовать. Это обычные десктопные системники за скромные деньги. Свое мнение об этих серверах, а так же сравнение с полноценными серверами сделаю в конце, в отдельном разделе.

На сервере была установлена система Debian из стандартного шаблона Selectel. Вот особенности дисковой подсистемы этих серверов и шаблона.

2 ssd диска, объединенные в mdadm
/boot раздел на /dev/md0 размером 1G
корень / на /dev/md1 и поверх lvm на весь массив

В целом, хорошая и надежная разбивка, чему будет подтверждение дальше. На сервере был установлен proxmox, настроен мониторинг mdadm. Мониторинг дисков не сделал. В какой-то момент получил уведомление в zabbix, что mdadm развалился. Сервер при этом продолжал работать. Ситуация штатная. Пошел в консоль сервера, чтобы все проверить. Посмотрел состояние рейда.

Убедился, что один диск выпал из массива. В системном логе увидел следующее.

Попробовал посмотреть информацию о выпавшем диске.

Информации не было, утилита показывала ошибку обращения к диску. Получилось посмотреть модель и серийный номер только работающего диска.

Я не стал разбираться, что там к чему с диском. Если вижу проблемы, сразу меняю. Предупредил заказчика, что с диском проблемы, нужно планировать замену. Так как железо десктопное, "сервер" надо выключать. Согласовали время после 22 часов. Я в это время уже сплю, поэтому написал тикет в тех поддержку, где указал время и серийный номер диска, который нужно было оставить. Я сделал на этом акцент, объяснил, что сбойный диск не отвечает, поэтому его серийник посмотреть не могу. Расписал все очень подробно, чтобы не оставить почвы для недопонимания или двойного толкования. Я в этом уже спец, но все равно не помогло.

Я спокойно согласился на эту операцию, потому что часто делаются бэкапы и они гарантированно рабочие. Настроен мониторинг бэкапов и делается регулярное полуручное восстановление из них. Договоренность была такая, что хостер после замены дожидается появления окна логина, а заказчик проверяет, что сайт работает. Все так и получилось - сервер загрузился, виртуалки поднялись, сайт заработал. На том завершили работы.

Утром я встал и увидел, что весь системный лог в ошибках диска, рабочего диска в системе нет, а есть один глючный и один новый. Сразу же запустил на всякий случай ребилд массива и он вроде как даже прошел без ошибок. Перезагрузка временно оживила сбойный диск. В принципе, на этом можно было бы остановиться, заменить таки сбойный диск и успокоиться. Но смысл в том, что этот сбойный диск почти сутки не был в работе и данные на нем старые. Это не устраивало. Потом пришлось бы как-то склеивать эти данные с данными из бэкапов. В случае с базой данных это не тривиальная процедура. Созвонился с заказчиком и решили откатываться на рабочий диск, который вытащили накануне ночью.

Я создал тикет и попросил вернуть рабочий диск на место. К счастью, он сохранился. К нему добавить еще один полностью чистый. Хостер оперативно все сделал и извинился. В завершении прислал скриншот экрана сервера.

И самоустранился. Дальше решать проблему загрузки он предложил загрузившись в режиме rescue. Этот режим доступен через панель управления сервером в админке, даже если сервер не имеет ipmi консоли. Как я понял, по сети загружается какой-то live cd для восстановления. Я в нем загрузился, убедился, что данные на месте, но понять причину ошибки не смог. Может быть и смог бы, если бы дольше покопался, но это очень неудобно делать, не видя реальной консоли сервера. Я попросил подключить к серверу kvm over ip, чтобы я мог подключиться к консоли. Тех поддержка без лишних вопросов оперативно это сделала.

К слову, мне известны случаи, когда техподдержка selectel потом сама чинила загрузку и возвращала mdadm в рабочее состояние. Видел такие переписки в тикетах у своих клиентов до того, как они обращались ко мне. Но я не стал настаивать на таком решении проблемы, так как боялся, что будет хуже. К тому же это было утро воскресенья и специалистов, способных это сделать, могло просто не быть. Плюс, я не думаю, что они обладали бы большими компетенциями, чем я. Я бы за их зарплату не пошел работать в ЦОД.

После того, как я подключился к консоли сервера, восстановление загрузки было делом техники.

You are in emergency mode

У меня много примеров того, как я восстанавливал загрузку сломавшихся linux дистрибутивов.

В данной ситуации с mdadm я был уверен, что все получится, так как сам массив с системой жив, данные доступны. Надо только разобраться, почему система не загружается. Напомню, что ошибка загрузки была следующая.

Дальше нужно ввести пароль root и вы окажетесь в системной консоли. Первым делом я проверил состояние массива mdadm.

Состояние массива md0, на котором располагается раздел /boot - inactive. Вот, собственно, и причина того, почему сервер не загружается. Судя по всему, когда был подключен сбойный диск, mdadm отключил массив, чтобы предотвратить повреждение данных. Не понятно, почему именно на разделе /boot, но по факту было именно это. Из-за того, что массив остановлен, загрузиться с него не получалось. Я остановил массив и запустил снова.

После этого массив вышел из режима inactive и стал доступен для дальнейшей работы с ним. Я перезагрузил сервер и убедился, что он нормально загружается. Сервер фактически был в рабочем состоянии, просто с развалившимся массивом mdadm, без одного диска.

Если вам это не поможет, предлагаю еще несколько советов, что можно предпринять, чтобы починить загрузку. Первым делом проверьте файл /etc/fstab и посмотрите, какие разделы и как там монтируются. Вот мой пример этого файла.

Вам нужно убедиться, что указанные lvm разделы /dev/mapper/vg0-root и /dev/mapper/vg0-swap_1 действительно существуют. Для этого используйте команду:

Подробно об этой команде, о работе с lvm и вообще с дисками я рассказываю в отдельной статье - настройка диска в debian. Если с lvm разделами все нормально, проверьте /boot. У меня он монтируется по uuid. Посмотреть список uuid всех разделов можно командой.

Как вы видите, у меня uuid раздела для загрузки полностью совпадает с тем, что указано в fstab. Если по какой-то причине uuid изменился (разобрали и собрали новый массив), отредактируйте fstab.

Все дальнейшие действия я делал уже по ssh. Скопировал таблицу разделов с рабочего диска sda на чистый sdb.

Проверил таблицы разделов и убедился, что они идентичные.

Скопировал раздел BIOS boot partition с рабочего диска на новый.

Потом добавил разделы диска sdb2 и sdb3 в рейд массив.

Дождался окончания ребилда и убедился, что он прошел. Проверил состояние массива.

В завершении устанавливаем загрузчик на оба диска.

После этого я перезагрузился и убедился, что все работает нормально. По хорошему, теперь надо было бы поменять загрузочный диск с первого на второй и убедиться, что со второго тоже нормально грузится. Я не стал этого делать, и так простой и так был велик. Главное, чтобы массив был на месте, а починить загрузку, если что, дело техники.

Вот и все по замене диска в массиве mdadm. После доступа к консоли сервера, мне потребовалось минут 10, чтобы вернуть сервер в рабочее состояние.

В чем отличия программного и аппаратного рейда

Сейчас расскажу, чем принципиально отличается программный рейд контроллер (mdadm) от аппаратного, для тех, кто этого до конца не понимает. Если бы у меня вышел из строя диск на аппаратном рейд контроллере, установленном в полноценный сервер, проблема по замене сбойного диска в RAID решалась бы в следующей последовательности:

Рейд контроллер оповещает о том, что с диском проблемы и выводит его из работы. В случае с софтовым рейдом система может зависнуть в случае проблем с диском, прежде чем пометит его как проблемный и перестанет к нему обращаться.
Я оставляю тикет в тех поддержку, где прошу заменить сбойный диск. Информацию о нем я посмотрю в панели управления рейд контроллером.
Сотрудник тех поддержки видит сбойный диск, так как индикация на нем, скорее всего, будет мигать красной лампочкой. Это не гарантия того, что рукожоп все сделает правильно, но тем не менее, шансов, что он ошибется, меньше. Я сталкивался с ситуацией, когда и в этом случае диск меняли не тот.
При появлении нового диска raid контроллер автоматически начинает ребил массива.

Если же у вас в сервере уже установлен запасной диск на случай выхода из строя диска в составе raid массива, то все еще проще:

При выходе из строя диска, контроллер помечает его как сбойный, вводит в работу запасной диск и начинает ребилд.
Вы получаете оповещение о том, что вышел из строя диск и оставляете тикет в тех поддержку на замену запасного диска.

И это все. В обоих случаях у вас вообще нет простоя. Вот принципиальная разница между mdadm и железным raid контроллером. Стоимость полноценного сервера с контроллером и постоянным ipmi доступом к консоли в среднем в 3 раза выше, чем у сервера на десткопном железе с софтовым рейдом при схожей производительности. Это все при условии, что вам достаточно одного процессора и 64G памяти. Это потолок для десктопных конфигураций. Дальше считайте сами, что вам выгоднее. Если возможен простой в несколько часов на замену диска или других комплектующих, то смело можно использовать десктопное железо. Mdadm обеспечивает сопоставимую гарантию сохранности данных в сравнении с железным контроллером. Вопрос лишь в простое и производительности. Ну и своевременные бэкапы добавляют уверенности в том, что вы переживете неполадки с железом.

При использовании железного рейда на hdd дисках, есть возможно получить очень значительный прирост скорости за счет кэша контроллера. Для ssd дисков я особо не замечал разницы. Но это все на глазок, никаких замеров и сравнений я не делал. Нужно еще понимать, что десктопное железо в целом менее надежное. К примеру, в том же селектеле на дешевых серверах я ловил перегрев или очень высокую температуру дисков. Прыгала в районе 55-65 градусов. Все, что ниже 60-ти, тех поддержка футболила, говоря, что это допустимая температура, судя по документации к дискам. Это так и есть, но мы же понимаем, что диск, постоянно работающий на 59 градусах с бОльшей долей вероятности выйдет из строя.

Вот еще пример разницы в железе. Если у вас в нормальном сервере выйдет из строя планка памяти, сервер просто пометит ее как сбойную и выведет из работы. Информацию об этом вы увидите в консоли управления - ilo, idrac и т.д. В десктопном железе у вас просто будет постоянно виснуть сервер и вам придется долго выяснять, в чем же проблема, так как доступа к железу у вас нет, чтобы проще было запланировать тестирование сервера. А если вы закажете это у тех поддержки, то есть ненулевая вероятность, что станет хуже - сервер уронят, перепутают провода подключения дисков и т.д. В общем, это всегда риск. Проще сразу съезжать с такой железки на другую.

Заключение

Надеюсь, моя статья была интересной. Для тех, кто никогда не работал с ЦОДами будет полезно узнать, чего можно от них ожидать. Я скучаю по временам, когда все сервера, которые я администрировал, были в серверной, куда никому не было доступа и куда я мог в любой момент попасть и проверить их. Сейчас все стало не так. И твои сервера уже не твои. Их может сломать, уронить, что-то перепутать сотрудник тех поддержки дата центра.

Сейчас большой тренд на переход в облака. Я смотрю на эти облака и не понимаю, как с ними можно нормально взаимодействовать. Заявленная производительность не гарантированная, нагрузка плавает в течении суток. Упасть может в любой момент и ты не будешь понимать вообще в чем проблема. Твои виртуалки могут быть по ошибке удалены и кроме извинений и компенсации в 3 копейки ты ничего не получить. Каждое обращение в ТП как лотерея. Думаешь, что сломают в этот раз. Если сервера железные, то когда пишу тикет на доступ к железу, я морально и технически всегда готов к тому, что этот сервер сейчас отключится и я больше не смогу к нему подключиться.

В целом, опыт работы с облаками у меня негативный. Несколько раз пробовал для сайтов и все время съезжал. Нет гарантированного времени отклика. А это сейчас фактор ранжирования. Для очень быстрого сайта остается только один вариант - свое железо, а дальше уже кому какое по карману. Зависит от надежности и допустимого времени простоя.

Я про облака заговорил, потому что тенденции к тому, что от железных серверов надо отказываться и все переносить в облака. С одной стороны удобно должно быть. Как минимум, не будет указанных выше в статье проблем. А с другой стороны добавляется куча других проблем. Я пока сижу на железяках разного качества и стоимости. А у вас как?

Авторизуясь в LiveJournal с помощью стороннего сервиса вы принимаете условия Пользовательского соглашения LiveJournal

Задача: заменить массив RAID1 на больший. Т.е. есть сервер. В сервере - fasttrack tx2000, на котором 2 диска. Есть другие два диска большего размера и желание расширить существующий массив путём замены меньших дисков на большие. С сохранением естественно данных.

Задача осложняется тем, что раздел на этом массиве один, забит под завязку почти и при том он же системный.

Вопрос собственно в том, какая может быть последовательность действий для решения вышеописанной задачи. И вообще, а есть ли у этой задачи решение?

Здравый смысл говорит, что надо заменить в массиве сначала один диск, отребилдить (или синхронизировать - не помню как там это называется) массив, потом заменить второй и снова отребилдить.

Но! Не очевидно, что массив после второго ребилда распространится на весь объём дисков. И не вполне понятно в каком прядке заменять диски, чтобы данные синхронизировались с заполненного диска на пустой, а не наоборот, блин!? ;)

Или может есть другие пути решения?

Массив у тебя будет на всем объеме дисков

массив на всем объеме не будет
каждый день делаю такие процедуры и на более серьезных контроллерах, и на такой дряни Массив, как правильно заметили внизу, будет не на всём объёме, через РАМ надо будет его увеличить и только потом увеличивать размеры тома/создавать новый том. Но так как это promise. Бэкапьте, вобщем, перед выполнением операции.

самый лучший (рекомендуемый, и вообще единственный) способ - бекап (+ тестовый рестор), снос всего, замена дисков, рестор

способ логичный, но шансы 50/50:
1. заменить один диск, сделать ребилд
2. заменить второй, сделать ребилд
3. reconfigure на массив, если контроллер это умеет

как вариант - создать на свободном месте второй массив, и растянуть софтовый рейд0 на него. через GPT пашет неплохо, но все равно это костыли.

пошел, глянул что за контроллер. вариант только первый. делаешь образ системы приведением или акронисом, снимаешь винты.
ставишь новые винты, делаешь из них рейд, затем заливаешь образы, с изменением размера диска.
делал так на пятом рейде на пролианте дл 380. ) в любом случае ничего не теряешь

Осталось только понять, куда слить эти самые образы.

PS. А чем именно, кстати? Какой акронис рейды поддерживает?

Можно и последовательной заменой дисков и ребилдом. Правда раздел после этого не расширится автоматически. Раздел после этого можно увеличить акрониксовскими ил поверквестовскими тулзами. Ессено есть опасность, что при изменении размера раздела все накроется. Но ведь на старых дисках все в рабоем состоянии! Т.е. нафига делать бэкап, когда итак бэкап имеется аж на двух дисках.

А бэкап-рестор это долго и муторно. хотя вообще отработка восстановления из бэкапа полезно.

Какой акронис поддерживает рейды? true image - точно нет. Серверный какой-то видимо? Какой?

А сам RAID ARRAY после второго ребилда на весь объём дисков распространится, так?

по хорошему - вынуть один диск, вставить больший, сделать 2 райд-раздела 1 под систему и 1 под данные, перетащить все и поменяв второй диск, синхронизировать. bazanovv on June 27th, 2008 05:40 am (UTC)
А если так?

1) бэкап
2) цепляем новые винты как slave на 1 и 2 каналы, делаем на них зеркало, сразу нужного размера
3) клонируем акронисом (гхостом. по вкусу), загрузившись с boot-cd (livecd), содержимое 1 логического диска рэйда на второй
4) отцепляем старые винты, новые ставим как master, каждый на свой канал.

Если на шаге (3) акронис(. ) не видит диски, как рэйдовские (а видит, как 4 отдельных тома) - несем всю конструкцию, контроллер и 4 винта, на другой системник с виндой, куда ставим драйвера промиса, ставим виндовый акронис(гхост. ) и клонируем уже им.

Шаг 1 обязателен, и нии. Иначе потом будет мучительно больно. Как КРАЙНЕ урезанный вариант - снять 1 диск из зеркала, массив продолжит работу в состоянии degraded, и ЗАПЕРЕТЬ его в сейф, а ключ отдать людям, которые гарантированно не вернут его до окончания миграции. В рабочую конфигурацию снятый винт НЕ возвращать без полного стирания данных. Я бы не надеялся на то, что промис корректно отработает ребилд в этом случае, т.к. уже пару раз натыкался на неприятные глюки, сошедшиеся именно на рассинхронизации дешевых рэйдов :(

Читайте также: