MSA P2000 - низкая скорость записи (20-40мб)

Поломалось, посыпалось, не работает...

Модераторы: Trinity admin`s, Free-lance moderator`s

Ответить
STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 22 июл 2014, 09:10

Доброго дня, Коллеги!

Есть НР MSA P2000 G3, iSCSI, 2 контроллера. Пока тестирую, рабочей нагрузки нет - диски пустые.
Создан массив RAID5 из 8х2Tb SATA дисков.
Прошивка на массиве установлена последняя из доступных.

Массив подключается по iSCSI 8 Гигабитных интерфейсов, по 4 на контроллер.

К массиву подключается VMWare 5.1u1 с использованием software iscsi adapter (штатный)
Все настройки VMWare идут по умолчанию.

Для теста создал на Volume на 150Гб и LUN 50Гб для теста, подключил к виртуальной машине.
Диск для ВМ создаю eager zero и в последствии провожу полное форматирование под ВМ
ВМ - 2012 R2 с последними обновлениями, сет. адаптер vmxnet3, на ее локакльном диске скорость записи 150-200мб/сек.

Проблема - скорость записи на iSCSI диск, копирую 10Гб файл, составляет 20-40мб в секунду.
Что даже для SATA дисков очень мало.

Вопрос - что следует проверить в первую очередь?

Что любопытно:
Есть у нас и MSA 2040, тоже iscsi & vmware, там проблем нет, сетевые настройки едины.

Если смотреть ч/з CLI, то в процессе создания eager zero диска на VMWare, скорость записи достигает порядка 500Мб/сек,
смотрю командой show vdisk-statistics <Disk Name>

Пробовал перезапускать контроллер, отключать часть портов iscsi, менять настройки кэширвоания - не помогает, скорость запси максимум 40мб/сек.

maverlife
Advanced member
Сообщения: 186
Зарегистрирован: 28 янв 2014, 08:31
Откуда: Иркутск

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение maverlife » 22 июл 2014, 10:21

а интерфейс виртуальной машины в одной подсети с интерфейсами системы хранения?

STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 22 июл 2014, 11:13

maverlife писал(а):а интерфейс виртуальной машины в одной подсети с интерфейсами системы хранения?
Нет, подсети разные. Но 2040 в той-же подсети, что и Р2000. Проблем с 2040 нет.

STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 22 июл 2014, 11:38

Собрал статистику по массиву, при копировании на него 3х файлов по 10Гб.
Как видно из картинки, используется лишь порт В4 на 40мб, на каждый диск пишется по 6мб/сек.
Явно где-то стоит ограничение, вот только где?
Вложения
P2000_stat.JPG

maverlife
Advanced member
Сообщения: 186
Зарегистрирован: 28 янв 2014, 08:31
Откуда: Иркутск

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение maverlife » 22 июл 2014, 14:11

может по этим ссылкам будет полезная информация - http://technet.microsoft.com/ru-ru/libr ... 10%29.aspx и http://technet.microsoft.com/ru-ru/libr ... 10%29.aspx. мне буквально недавно советы из второй помогли.
и я не стал бы пускать трафик хранения через маршрутизатор, завел бы все в одну подсеть.

STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 23 июл 2014, 09:02

maverlife писал(а):а интерфейс виртуальной машины в одной подсети с интерфейсами системы хранения?
Поправка, адреса в одной подсети находятся.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение Stranger03 » 23 июл 2014, 11:51

STB02 писал(а):Проблема - скорость записи на iSCSI диск, копирую 10Гб файл, составляет 20-40мб в секунду.
Что даже для SATA дисков очень мало.
20-40МБАЙТ? 40 - вполне нормальная скорость для этой железки.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 24 июл 2014, 07:13

Подведу итог 3х дневных изысканий.

MSA P2000G3, 2 контроллера по 4х Гбит Ethernet порта.

Максимальная скорость записи на данный массив, раздел R10 из 4х600SAS 15k дисков, составила 140Мб.
При этом массив был полностью пуст и стоял только под эту задачу.
При параллельном копировании нескольких файлов, скорость также держалась в пределах 100Мб.

Для тестов подключил массив напрямую, минуя vmware, по iscsi и даже при включенном Multipath_I/O и 4х маршрутах
скорость все равно не была выше 140мб.

Мне думается, что 4х Гбит порта не означают скорость 4Гбит :P , а максимум 1Гбит, остальные пути для резерва.
(вот это меня и смутило сильно по началу, ведь 4 порта параллельно работают = 4Гбит)

Что может быть полезно:
http://forum.synology.com/wiki/index.ph ... tipath_I/O
http://blogs.technet.com/b/vm/archive/2 ... 08-r2.aspx

Также в VmWare при настройке пути выбирайте режим RoundRobin:
В свойствах iscsi диска выбираем Path Policy - Round Robin.
И еще, но это не особо поможет - http://www.jpaul.me/?p=2492

Во вложении итоговая картинка производительности (HP MSA Performance Tool, только для Р2000)

Вообщем, несколько огорчен тем, что диски простаивают, по идее 4 порта можно загрузить на 4Гбит все и сразу, но видно в НР по другому думают )
Вложения
P2000_stat.JPG

maverlife
Advanced member
Сообщения: 186
Зарегистрирован: 28 янв 2014, 08:31
Откуда: Иркутск

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение maverlife » 24 июл 2014, 09:27

а сервер каким количеством сетевых интерфейсов к системе хранения подключали?

STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 24 июл 2014, 11:58

maverlife писал(а):а сервер каким количеством сетевых интерфейсов к системе хранения подключали?
Виртуальный сервер с 10Гб интерфейсом, он был 1 на блейд сервере, также с 10Гб интерфейсом.

maverlife
Advanced member
Сообщения: 186
Зарегистрирован: 28 янв 2014, 08:31
Откуда: Иркутск

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение maverlife » 24 июл 2014, 13:44

в данном случае "Для тестов подключил массив напрямую, минуя vmware" тоже через один интерфейс? физический интерфейс на хосте vmware 1Гбит?

STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 25 июл 2014, 06:33

maverlife писал(а):в данном случае "Для тестов подключил массив напрямую, минуя vmware" тоже через один интерфейс? физический интерфейс на хосте vmware 1Гбит?
Тест проводил следующим образом:
Виртуальная машина на vmware с интерфейсом 10Гбит, к ней средствами vmware подключается iscsi диск c Р2000.
Также, минуя средства vmware, подключил 2й диск Р2000 используя windows iscsi Initiator.
Далее выполнял копирование файла 10Гб на эти диски и сравнивал скорость записи.

Также взял физический сервер, но с 1Гб адаптером, и к нему используя windows iscsi Initiator тоже подключил диск с Р2000.
Но ограничение в 1Гб, сетевого адаптера, не позволило полностью протестировать Р2000.

Тесты iometer, шаблон БД, покзали следующее:
RAID10 4x600GB SAS 15k = 1600 iops
RAID5 8x2Tb SATA 7k = 900 iops

Дополнил скриншотом с максимальной скоростью записи на R5 массив.
Вложения
P2000_stat.JPG

maverlife
Advanced member
Сообщения: 186
Зарегистрирован: 28 янв 2014, 08:31
Откуда: Иркутск

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение maverlife » 25 июл 2014, 11:33

извините, но мне так и не понятно, какой интерфейс на физическом сервере с vmware - 1 или 10, и сколько их там. для своих виртуальных машин ставлю адаптер vmxnet3, который по умолчанию 10Гбит, но на реальном сервере все равно 1Гбит.

STB02
member
Сообщения: 27
Зарегистрирован: 05 июн 2014, 08:29
Откуда: Ufa

Re: MSA P2000 - низкая скорость записи (20-40мб)

Сообщение STB02 » 25 июл 2014, 12:34

maverlife писал(а):извините, но мне так и не понятно, какой интерфейс на физическом сервере с vmware - 1 или 10, и сколько их там. для своих виртуальных машин ставлю адаптер vmxnet3, который по умолчанию 10Гбит, но на реальном сервере все равно 1Гбит.
На физическом сервере с vmware - 10Гбит, 2 шт, 1 под данные, другой под vmotion
На вирутальной машине vmxnet3 10Гбит

Виртуальная машина была одна на физическом сервере vmware, т.е. интерфейс 10Гб был полностью под нее

Ответить

Вернуться в «Массивы - Технические вопросы, решение проблем.»

Кто сейчас на конференции

Сейчас этот форум просматривают: Google [Bot] и 26 гостей