Несколько вопросов по IBM DS3512.

Конфигурирование, планирование RAID систем, возможности, технологии, теория. Qlogic, LSI Logic, Adaptec ...

Модераторы: Trinity admin`s, Free-lance moderator`s

Alexanderrr
Junior member
Сообщения: 4
Зарегистрирован: 31 мар 2016, 09:42
Откуда: Благовещенск-на-Амуре

Несколько вопросов по IBM DS3512.

Сообщение Alexanderrr » 31 мар 2016, 11:00

Здравствуйте. Настало время разгрести авгиевы конюшни одного предприятия.

Конфигурация следующая: СХД IBM DS3512, три полки расширения IBM EXP3512 и 46 жёстких дисков. Из этих дисков собраны несколько RAID10-массивов (из 12-14 жёстких дисков)

Проблема первая. Вижу, что пары дисков зачастую назначены в пределах одной полки, а хотелось бы реализовать стратегию enclosure loss protection. Достаточно ли выключить массив переставить диски, так как я хочу? А хочу - пары массива в одноименные слоты соседних полок, например диск слота 5 "головы" СХД зазеркален на слот 5 полки 1, диск слота 9 полки 2 на диск слота 9 полки 3 и т.д. Также здравый смысл подсказывает, что массив выгодно растянуть по всем полкам СХД. Тема "Реконфигурирование массива в DS3400"(http://3nity.ru/viewtopic.php?f=5&t=14488) глаголит, что так делать (диски тасовать) можно и данные потеряться не должны.

Проблема вторая. Полки скоммутированы FC-кабелями с ошибкой. В пределах контроллера А - всё верно: out-port "головы" к in-port 1-ой полки расширения, out-port этой полки к in-port следующей, а от неё от out-port к in-port последней полки. А вот для контроллера Б коммутация сделана, так же как и для контроллера А, что неверно, так как согласно красной книги должно быть: out-port "головы" к in-port последней полки, out-port к in-port соседней, а её out-port к in-port первой полки расширения и на этом всё. Естественно, из-за кривой коммутации на последней полке горит статус "Enclosure path redundancy". Вопрос: на работающей системе перекабелировать порты можно? Или лучше глушить СХД, а потом тасовать кабели.

Проблема третья. СХД НЕзапаролена и DS Storage Manager Client "ругается" на это, каждый раз при запуске предлагая в целях секретности ввести пароль (который, конечно же, не стоит забывать). Стоит ли паролить СХД?

Проблема четвертая. СХД "безымянная". Насколько критично оставается ей unnamed, если на предприятии она (СХД) одна такая?

Спасибо.

Аватара пользователя
Tert
Advanced member
Сообщения: 4233
Зарегистрирован: 19 янв 2003, 08:09
Откуда: Москва
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Tert » 31 мар 2016, 14:17

Alexanderrr
1. Должно заработать. Но вначале обязательно проверьте целостность массивов.
2. Лучше выключить систему и перекоммутировать все на выключенной системе.
3. С точки зрения безопастности пароль надо задать. Главное, не забыть его потом.
4. Если глаз не режет, то и не стоит заморачиваться.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Stranger03 » 01 апр 2016, 08:08

Alexanderrr писал(а):Проблема третья. СХД НЕзапаролена и DS Storage Manager Client "ругается" на это, каждый раз при запуске предлагая в целях секретности ввести пароль (который, конечно же, не стоит забывать). Стоит ли паролить СХД?
Приклейте пароль на саму СХД, а то если забудете, то вам никто не поможет, :). Ну или что-то простое типа passw0rd, :)
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Alexanderrr
Junior member
Сообщения: 4
Зарегистрирован: 31 мар 2016, 09:42
Откуда: Благовещенск-на-Амуре

Re: Несколько вопросов по IBM DS3512.

Сообщение Alexanderrr » 22 июн 2016, 08:13

Ещё раз спасибо всем ответившим и...

День добрый, уважаемые участники форума.
Новые вопросы по системе DS3512.

0. Если сама "голова" СХД и полка к ней приобретались в 2011-ом году, а ещё 2 полки в декабре 2013-го, то бесплатная тех.поддержка IBM уже закончилась?

1. Итак, суть проблемы. "22 июня, ровно в 4 часа..." и 36 минут случилась неприятность.
В СХД есть массив RAID5 из 10 дисков объёмом по 2ТБ. Изначально массив был настроен так, что 8 дисков являлись "боевыми", а 2 диска по 2 ТБ были назначены "горячим резервом" для этого массива. Также в СХД, пока ещё, есть 2 диска 4ТБ назначенными глобальным горячим резервом для всех массивов СХД и 1 незначенный 4ТБ. С течением времени (год-два назад) произошли два отказа (в разное время) боевых дисков в RAID5 и они были "подхвачены" дисками горячего резерва. Как минимум, для одного отказавшего диска был выполнен "prepare for removal", а для второго он не выполнялся. Сами отказавшие диски физически до сегодняшнего дня не извлекались из слотов-корзин, т.к. на стр.274 "Красной книги" указано, что физически извлекать - чревато, да и заменить эти двухтерабайтники было не чем, новых пустых дисков не было. Сегодня, в связи с пропажей шаренных папок на сервере, обнаружилось, что логический диск созданный на этом RAID5-массиве имеет статус failed, это что касается логического представления. А физически - два жёстких диска из этого массива получили статус drive missing с характерным чёрно-желтым ромбиком на значке диска. Что было сделано. Каждый из этих дисков был извлечён из корзины и помещён обратно. После этого на физическом уровне чёрно-желтые ромбики пропали и диски получили статус optimal. Ну а с логической точки зрения, массив, естественно, остался failed. Также, из корзины извлекал один из давноотказавших 2ТБ дисков, который успешно подменяла hotspare, но и он был возвращён на место. Вопрос, восстановить это массив ещё реально? И ещё, логика работы hotspare какая? Можно ли указать СХД считать её теперь обычным диском для этого массива? Или она так и останется hotspare и лишь когда в слот с давноумершим диском будет вставлен новый чистый диск, то hotspare восстановит данные на него? Диски большего размера можно использовать?

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Stranger03 » 22 июн 2016, 08:43

Alexanderrr писал(а):0. Если сама "голова" СХД и полка к ней приобретались в 2011-ом году, а ещё 2 полки в декабре 2013-го, то бесплатная тех.поддержка IBM уже закончилась?
Если не приобретались сервис-паки, а если мне не изменяет память, то сервиспаки на голову и на экспаншены отдельные, но на голову что называется must have, то техподдержки у вас нет. Высылать серийник головы бесполезно, а по серийнику експаншена вам скорей всего откажут. Да и еще момент, описываемый вами случай не подпадает под сервисный случай, если это только не физическая замена диска. Ни один вендор не отвечает за целостность данных внутри железки.

Теперь по сути.

С вероятностью 90% вынув и вставив два сбойных диска, вы нарушили целостность рейд группы. Есть небольшой шанс, но совсем невелик. Попробуйте один из этих дисков убрать из корзины и в SM попытайтесь поднять рейд-группу в онлайн. Вот только за давностью лет я не помню, есть ли там такая опция. Если это не поможет, то остается один шанс:

- хотите получить доступ к данным - обращайтесь к дата-рекаверам. Контакты есть на нашем форуме.

П.С. укажите город в профиле.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Alexanderrr
Junior member
Сообщения: 4
Зарегистрирован: 31 мар 2016, 09:42
Откуда: Благовещенск-на-Амуре

Re: Несколько вопросов по IBM DS3512.

Сообщение Alexanderrr » 22 июн 2016, 09:05

Спасибо за оперативный ответ.

Вы полагаете, что целостность RAID-группы нарушилась именно в момент поочерёдного извлечения свежеотказавших дисков? "Ромбики" на них выскочили, вероятно, единовременно. Отказ логического диска, судя по логу событий, произошёл в 4 утра местного времени. До моего вмешательства. А одновременный отказ двух физических дисков для RAID5, очевидно, плачевен. Ваш совет принят к сведению.

Сразу уточню для московских датарестореров, город, в котором я нахожусь - это 8 часов лёту и, конечно же, немалые транспортные и прочие расходы, помимо интеллектуальных. Конечечно, есть волшебный "бакуп", его актуальность и целостность сейчас проверяются, всё-таки 14 миллионов файлов - это не фунт изюму. Ещё раз, спасибо.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Stranger03 » 22 июн 2016, 10:00

Alexanderrr писал(а):Вы полагаете, что целостность RAID-группы нарушилась именно в момент поочерёдного извлечения свежеотказавших дисков?
Я практически уверен. Надо было их ставить поочереди, пытаться перевести группу в онлайн. Тогда шанс спасти был. Сейчас попробуйте, вдруг получится.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение gs » 22 июн 2016, 13:20

В логах есть точное время отвала дисков? Если да, то отлетевший первым лучше убрать.

Аватара пользователя
Fader
Data Recovery Expert
Сообщения: 115
Зарегистрирован: 21 мар 2005, 02:13
Откуда: Москва
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Fader » 22 июн 2016, 13:29

Alexanderrr писал(а):Спасибо за оперативный ответ.

Вы полагаете, что целостность RAID-группы нарушилась именно в момент поочерёдного извлечения свежеотказавших дисков? "Ромбики" на них выскочили, вероятно, единовременно. Отказ логического диска, судя по логу событий, произошёл в 4 утра местного времени. До моего вмешательства. А одновременный отказ двух физических дисков для RAID5, очевидно, плачевен. Ваш совет принят к сведению.

Сразу уточню для московских датарестореров, город, в котором я нахожусь - это 8 часов лёту и, конечно же, немалые транспортные и прочие расходы, помимо интеллектуальных. Конечечно, есть волшебный "бакуп", его актуальность и целостность сейчас проверяются, всё-таки 14 миллионов файлов - это не фунт изюму. Ещё раз, спасибо.
Добрый день. Московские "датарестореры" на столько суровы, что без проблем могут работать удаленно.
Вопрос только в том, что винты нужно будет повесить на любой не RAID-контроллер, а на HBA-контроллер или канал на матери, который позволит увидеть каждый винчестер по отдельности.
Нужна будет помощь - обращайтесь, контакты в подписи.


_______________
С уважением, Валерий Пьянков.
+7 495 514-88-85
http://rlab.ru
v@rlab.ru
skype: valer.lab

Alexanderrr
Junior member
Сообщения: 4
Зарегистрирован: 31 мар 2016, 09:42
Откуда: Благовещенск-на-Амуре

Re: Несколько вопросов по IBM DS3512.

Сообщение Alexanderrr » 22 июн 2016, 15:47

gs писал(а):В логах есть точное время отвала дисков? Если да, то отлетевший первым лучше убрать.
Да. Время есть. Могу процитировать события попавшие в лог касающиеся этого проблемного массива:
4:35:35 / Enclosure 0, Slot 4 / Drive failed - no response at start of day (это ругательства на давно отказавший диск массива, который давно успешно подхватился диском горячего резерва находящимся в Enclosure 0, Slot 7)
4:35:40 / Enclosure 0, Slot 1 / Drive path redundancy lost (что интересно, на значке этого диска никаких алармов не было и нет)
4:35:40 / Enclosure 0, Slot 3 / Drive by-passed
4:35:40 / Enclosure 0, Slot 7 / Drive by-passed
4:36:40 / Logical Drive RAID5 / Logical Drive failure
4:36:40 / Logical Drive RAID5 / Logical Drive failure
4:36:40 / Logical Drive RAID5 / Logical Drive failure
Вероятно, уже в это время массив перестал быть доступным в хостовой ОС, а диски в слотах 3 и 7 получили злополучные ромбики на своих иконках
10:02:05 Enclosure 0, Slot 3 / Drive in array or hot spare in use removed (диск через несколько секунд был возвращён в слот и даже получил статус optimal на закладке физических компонентов, а страшный ромб исчез)
10:03:36 Enclosure 0, Slot 7 / Drive in array or hot spare in use removed (аналогично)
fader писал(а):Добрый день. Московские "датарестореры" на столько суровы, что без проблем могут работать удаленно..
Вопрос о предоставлении доступа упрётся даже не в каналы в связи, а в регламент доступа к СХД. Но предложение доведу до руководства. А там как уж решат. Спасибо.
Stranger03 писал(а):Я практически уверен. Надо было их ставить поочереди, пытаться перевести группу в онлайн.
А с какого лучше начать? С того, что в слоте 3 или 7? Это делается через графический интерфейс или консоль? В "графике" строка меню неактивна.

Аватара пользователя
Fader
Data Recovery Expert
Сообщения: 115
Зарегистрирован: 21 мар 2005, 02:13
Откуда: Москва
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Fader » 22 июн 2016, 20:34

Alexanderrr писал(а):
fader писал(а):Добрый день. Московские "датарестореры" на столько суровы, что без проблем могут работать удаленно..
Вопрос о предоставлении доступа упрётся даже не в каналы в связи, а в регламент доступа к СХД. Но предложение доведу до руководства. А там как уж решат. Спасибо.

Это можно решить на уровне подписания NDA.
_______________
С уважением, Валерий Пьянков.
+7 495 514-88-85
http://rlab.ru
v@rlab.ru
skype: valer.lab

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Stranger03 » 23 июн 2016, 09:02

"Fader"
Валерий, только это не обычный контроллер, а дисковый массив. Тут немного своя специфика. Впрочем, вы лучше меня знаете, как вытаскивать данные с СХД.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение gs » 23 июн 2016, 12:21

Ген, рэйд5 на энженио принципиально не отличается от мегарэйда. Это ж не DDP. Рекаверам на два пальца - просто джибод к ХБАшке подключить и доступ по RDP дать...

Насчет восстановления вручную... у многих контроллеров есть функция принудительного "оживления" массива невзирая на повреждения (адаптек force online, LSI make online etc). На ДСках я не могу точно сказать. Коллеги сказали команду renew...

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Stranger03 » 23 июн 2016, 12:31

gs писал(а):Ген, рэйд5 на энженио принципиально не отличается от мегарэйда.
Не знал, ясно, :)
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
Fader
Data Recovery Expert
Сообщения: 115
Зарегистрирован: 21 мар 2005, 02:13
Откуда: Москва
Контактная информация:

Re: Несколько вопросов по IBM DS3512.

Сообщение Fader » 23 июн 2016, 13:50

Stranger03 писал(а):
gs писал(а):Ген, рэйд5 на энженио принципиально не отличается от мегарэйда.
Не знал, ясно, :)

Да, Игорь абсолютно прав.

_______________
С уважением, Валерий Пьянков.
+7 495 514-88-85
http://rlab.ru
v@rlab.ru
skype: valer.lab

Ответить

Вернуться в «Массивы - RAID технологии.»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 16 гостей