Производительность DS3524

Поломалось, посыпалось, не работает...

Модераторы: Trinity admin`s, Free-lance moderator`s

tranced1
Junior member
Сообщения: 8
Зарегистрирован: 30 июл 2013, 14:13
Откуда: Москва

Производительность DS3524

Сообщение tranced1 » 30 июл 2013, 14:43

Добрый день!

Есть следующая конфигурация DS3524 Dual 1Gb + EXP3524
В EXP 24 диска 300Gb SAS 15K, на которых создан массив RAID10.
Все это подключено через 2 FC 8Gb свитча IBM SAN24-B к двум Vmware ESXI машинам в кластере.

На массиве создан отдельный датастор, на котором размещается одна виртуальная машина (Win 2008R2)

При тестировании линейной записи/чтения средствами SQLIO получается следующая картина:

Изображение

Вопрос вот в чем: это предел для DS3524? В IBM что-то мямлят про то, что это самая младшая модель и надо купить V7000 (при этом про примерные цифры ни слова).

Тот же тест на IBM x3650M3 8x600Gb SAS 10K RAID10 (M1015):

Изображение

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Производительность DS3524

Сообщение Stranger03 » 30 июл 2013, 15:01

tranced1 писал(а):Есть следующая конфигурация DS3524 Dual 1Gb + EXP3524
В EXP 24 диска 300Gb SAS 15K, на которых создан массив RAID10.
Зависит от того, что вы в итоге хотите получить. Хотите быстро читать - надо создавать РАИД5 с большими блоками. Хотите читать и писать - надо создавать РАИД10 мелкими блоками. Производительность любой системы зависит в первую очередь от того, под какую задачу вы строите систему.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

tranced1
Junior member
Сообщения: 8
Зарегистрирован: 30 июл 2013, 14:13
Откуда: Москва

Re: Производительность DS3524

Сообщение tranced1 » 30 июл 2013, 15:29

Я хочу читать и писать, stripe 128kb на данном RAID10.

Смущает именно скорость записи, которая в 3 раза меньше скорости чтения.

Вопрос даже не в этом, а в том можно ли добиться большей скорости записи на данной полке?

Аватара пользователя
diz
Advanced member
Сообщения: 1189
Зарегистрирован: 12 янв 2009, 12:09
Откуда: Пермь

Re: Производительность DS3524

Сообщение diz » 30 июл 2013, 15:56

Если нужна хорошая линейная производительность - используйте r5, включите кэш префетч, создавайте не более одного тома на массив, увеличьте размер кэш-блока до 32к и размер страйпа 256k.

Если мне не изменяет память, то ds3500 дает порядка 2 Гб/с без турбо и 4 Гб/с с турбо опцией в вакууме. Вот результат SPC-2 бенчмарка с полным описанием конфигурации системы в разделе C: http://www.storageperformance.org/bench ... losure.pdf
Я хочу читать и писать, stripe 128kb на данном RAID10.
А что за приложение пишет блоком 128к? Какое соотношение чтение\запись? Запись и чтение последовательные или случайные?
Вопрос даже не в этом, а в том можно ли добиться большей скорости записи на данной полке?
Да, можно.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Производительность DS3524

Сообщение Stranger03 » 30 июл 2013, 16:07

diz писал(а):Если мне не изменяет память, то ds3500 дает порядка 2 Гб/с без турбо и 4 Гб/с с турбо опцией в вакууме.
Только она, как показала практика, дает бенефит при очень большом кол-ве дисков, :)
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
diz
Advanced member
Сообщения: 1189
Зарегистрирован: 12 янв 2009, 12:09
Откуда: Пермь

Re: Производительность DS3524

Сообщение diz » 30 июл 2013, 17:06

Stranger03 писал(а):
diz писал(а):Если мне не изменяет память, то ds3500 дает порядка 2 Гб/с без турбо и 4 Гб/с с турбо опцией в вакууме.
Только она, как показала практика, дает бенефит при очень большом кол-ве дисков, :)
"Она" - турбо опция? По этому поводу есть такая маркетинговая картинка.
На самом деле, полезность ее зависит от типа используемых дисков и рабочей нагрузки. Например, чтобы заколотить не-турбо считалку потребуется всего несколько штучек SSD`шек. Если нагрузка - рандом, то понадобится пол сотни SAS`ов, а то и ближе к сотне. Если же нагрузка линейная, то уже на паре десятков SATA`шек будет упор.
Вложения
Capture.PNG
Capture.PNG (5.95 КБ) 9977 просмотров

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Производительность DS3524

Сообщение Stranger03 » 30 июл 2013, 17:26

diz писал(а):На самом деле, полезность ее зависит от типа используемых дисков и рабочей нагрузки.
Ну вообщем-то да. Но ты ж знаешь, я никогда не верю в маркетинговую чушь, ну или почти никогда, :)
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

tranced1
Junior member
Сообщения: 8
Зарегистрирован: 30 июл 2013, 14:13
Откуда: Москва

Re: Производительность DS3524

Сообщение tranced1 » 30 июл 2013, 18:08

Идея была использовать эти диски для виртуализации SQL сервера,
но так как по тестам их скорость сильно ниже дисков в текущем сервере (его результаты я приводил) мои коллеги не хотят переходить на виртуальный сервер.
Все остальное уже виртуализовано (а может даже виртуализировано) и этот сервер у меня как кость в горле.

Сейчас провожу сравнительное тестирование со следующими паттернами: http://blogs.vmware.com/apps/2012/03/yo ... art-1.html
Результаты выложу чуть позже.

Почему тестировал линейную запись? Потому что основной аргумент против виртуализации это то что на железном сервере backup базы проходит за 8 минут, а на виртуальном за 40.

Да забыл сказать, что Turbo Performance включен.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Производительность DS3524

Сообщение Stranger03 » 30 июл 2013, 18:24

tranced1 писал(а):Идея была использовать эти диски для виртуализации SQL сервера,

..............

Почему тестировал линейную запись? Потому что основной аргумент против виртуализации это то что на железном сервере backup базы проходит за 8 минут, а на виртуальном за 40.
Это АБСОЛЮТНО разные задачи. Скуль сервер читает и пишет небольшими блоками много, а бекап льет линейно. Причем производительность ОЧЕНЬ сильно зависит от того, с какими параметрами созданы тома. Для примера картинка с Дотхилла на линейную запись
Вложения
экрана 2013-07-30 в 16.21.32.png
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
diz
Advanced member
Сообщения: 1189
Зарегистрирован: 12 янв 2009, 12:09
Откуда: Пермь

Re: Производительность DS3524

Сообщение diz » 30 июл 2013, 18:34

Под SQL надо, конечно же, r10. Пересмотрел первую картинку еще раз :) А какой тип диска использовали в VMWare? Такое торможение по первой записи может быть из-за тонкого диска. Под SQL рекомендуется использовать eagerzeroedthick. Очень странно, что бэкап тормозит так сильно, тут скорей-всего проблема в том, как вы организовали бэкап.

tranced1
Junior member
Сообщения: 8
Зарегистрирован: 30 июл 2013, 14:13
Откуда: Москва

Re: Производительность DS3524

Сообщение tranced1 » 30 июл 2013, 19:10

Диски делал в соответствии с http://blogs.vmware.com/apps/2012/03/yo ... art-1.html

Бекап просто командой SQL, одинаковой на обоих серверах.

Я не особо упираю на линейную запись, это все понимают, что на бекапе свет клином не сошелся.
Но если бы виртуальный сервер показал хоть где-то большую производительность чем железный...

Вот еще две картинки:

Виртуальный

Изображение

Железный

Изображение

Аватара пользователя
diz
Advanced member
Сообщения: 1189
Зарегистрирован: 12 янв 2009, 12:09
Откуда: Пермь

Re: Производительность DS3524

Сообщение diz » 31 июл 2013, 02:00

Фигня какая-то. Приложите саппорт лог с СХД. Не может M1015 на 8и дисках дать больше, чем ds`ка на 24х. Версия vSphere? Какие FC HBA (P\N)?

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Производительность DS3524

Сообщение Stranger03 » 31 июл 2013, 12:09

diz писал(а):Не может M1015 на 8и дисках дать больше, чем ds`ка на 24х. Версия vSphere? Какие FC HBA (P\N)?
Вот я также думаю. Было бы одинаковое кол-во дисков, а так разница в кол-ве дисков в 3-и раза. Даже если грешить на размеры блоков, на уровни рейда, на синхронизацию контроллеров в ДС-ке, по любому при таком кол-ке дисков должно быть больше или хотя бы столько же.
tranced1
А рейд-группа в ДС-ке полностью инициализирована? Может там в фоновом режиме еще идет инициализация?
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

tranced1
Junior member
Сообщения: 8
Зарегистрирован: 30 июл 2013, 14:13
Откуда: Москва

Re: Производительность DS3524

Сообщение tranced1 » 31 июл 2013, 13:41

Прошу прощения, в "железном" сервере конечно не M1015 а M5015.

Vsphere версии 5.1 Update 1, HBA IBM Qlogic p/n: 49Y3761

Суппорт лог во вложении, скрины с конфигами RAID прилагаю.

Изображение

Изображение
EnclosureComponentsStateCapture_support_data_ds3524.zip
(101.7 КБ) 373 скачивания
support_data_ds3524.zip
(2.93 МБ) 390 скачиваний

Аватара пользователя
diz
Advanced member
Сообщения: 1189
Зарегистрирован: 12 янв 2009, 12:09
Откуда: Пермь

Re: Производительность DS3524

Сообщение diz » 31 июл 2013, 17:49

Не могу разробраться. На вид нормально все, разве-что прошивка не самая последняя. Обновитесь (в пределах 7.84. 7.86 пока не поддерживается для вашей конфигурации), проверьте прошивки дисков и ESM, чтобы были актуальными. У вас в хостах на СХД значится один виндовый хост и 3 хоста VMWare. На одном из VMWare (ESXI01) не правильно указан тип хоста. Какой mpio алгоритм выбран в самой VMWare, VMW_SATP_ALUA?

Попробуйте изолировать проблему: для начала пробросьте RDM`ом том с СХД, повторите тест. Если результат не изменится - попробуйте вместо VMware подключить винду и повторить.

Тип контроллера виртуалки - pvscsi?

Ответить

Вернуться в «Массивы - Технические вопросы, решение проблем.»

Кто сейчас на конференции

Сейчас этот форум просматривают: Google [Bot] и 30 гостей