Производительность DS3524

Поломалось, посыпалось, не работает...

Модераторы: Trinity admin`s, Free-lance moderator`s

Ответить
ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Производительность DS3524

Сообщение ITER » 04 июл 2012, 08:07

Добрый день. Имеется DS3524, одна полка 24 hdd (ST9900805SS) в 10-м рейде. На нем нарезано 4 луна по 2TB и выведено на хост (настроен multipath, все как полагается). Есть вопрос по производительности. При рендомном паттерне (8КБ блок, 128 потоков) имеем ~4500iops, что в принципе вполне нормально. А вот при sequential I/O имеем странные результаты. Независимо от кол-ва потоков общая скорость ~120MBps, чтобы как бы не очень радостно. Это некая "фишка" или мы делаем чтото не так?

Аватара пользователя
exLH
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 5061
Зарегистрирован: 11 фев 2004, 15:49
Откуда: Москва
Контактная информация:

Re: Производительность DS3524

Сообщение exLH » 04 июл 2012, 08:20

ITER писал(а):А вот при sequential I/O имеем странные результаты. Независимо от кол-ва потоков общая скорость ~120MBps, чтобы как бы не очень радостно.
Тестирование на реальном ПО или чем?
Почтовый адрес для связи: a.ivanov@trinitygroup.ru | ICQ: 112586598

ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Re: Производительность DS3524

Сообщение ITER » 04 июл 2012, 08:23

Синтетика пока.

Аватара пользователя
exLH
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 5061
Зарегистрирован: 11 фев 2004, 15:49
Откуда: Москва
Контактная информация:

Re: Производительность DS3524

Сообщение exLH » 04 июл 2012, 08:34

И какие настройки?
Почтовый адрес для связи: a.ivanov@trinitygroup.ru | ICQ: 112586598

ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Re: Производительность DS3524

Сообщение ITER » 04 июл 2012, 08:40

Настройки чего? СХД или теста? На СХД вроде все по мануалу, Segment size:128 KB на рейде (дефолт), 4-е пути на каждый лун (крест на крест через два FC свитча). HBA в сервере правда старенькие (2Gbps), свитчи-СХД 8Gbps. Ось RHEL 6.3.

Аватара пользователя
exLH
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 5061
Зарегистрирован: 11 фев 2004, 15:49
Откуда: Москва
Контактная информация:

Re: Производительность DS3524

Сообщение exLH » 04 июл 2012, 09:08

ITER писал(а):Настройки чего?
Теста, очевидно.
Почтовый адрес для связи: a.ivanov@trinitygroup.ru | ICQ: 112586598

ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Re: Производительность DS3524

Сообщение ITER » 04 июл 2012, 09:22

Так я же описал. Чистое чтение большими блоками (1MB) в несколько потоков, распределяется по всем 4-м лунам даже если задать один поток (страйпинг). Собственно ровно туже самую картину я вижу если сделать банальный
dd if=/dev/mapper/mpath0 of=/dev/null bs=1M запущеный в нескольких окнах. Ровно тоже самое один поток 120MBps, два потока каждый по 60 и так далее.

Аватара пользователя
exLH
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 5061
Зарегистрирован: 11 фев 2004, 15:49
Откуда: Москва
Контактная информация:

Re: Производительность DS3524

Сообщение exLH » 04 июл 2012, 09:32

ITER писал(а):Чистое чтение большими блоками (1MB)
Где же это было написано ранее?
Смотрите на проблемы на стороне HBA, попробуйте переключиться напрямую к СХД и заодно Linux заменить на Windows (не политически, а в целях поиска проблемы).
Почтовый адрес для связи: a.ivanov@trinitygroup.ru | ICQ: 112586598

ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Re: Производительность DS3524

Сообщение ITER » 05 июл 2012, 02:48

Вывел на вендовый хост лун, оттуда нормальная скорость на линейных нагрузках. Чудеса прям.

sivanov
Advanced member
Сообщения: 127
Зарегистрирован: 25 апр 2008, 11:20
Откуда: Свердлоская обл.

Re: Производительность DS3524

Сообщение sivanov » 10 июл 2012, 18:45

настройки readahead в центоси подкрутите.

ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Re: Производительность DS3524

Сообщение ITER » 10 июл 2012, 19:13

Причем тут это вообще? Тесты на блочных устройствах делались, никаких файловых систем.

sivanov
Advanced member
Сообщения: 127
Зарегистрирован: 25 апр 2008, 11:20
Откуда: Свердлоская обл.

Re: Производительность DS3524

Сообщение sivanov » 10 июл 2012, 20:39

А Вы попробуйте blockdev --setra 4096 /dev/mapper/mpath0
У меня у RHEL5 (Vmware Data Recovery) при readahead 128kb (default) dd дает 79MB/s с iscsi lun, с другого линукса, два пути. А с 2048kb дает 135MB/s

ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Re: Производительность DS3524

Сообщение ITER » 11 июл 2012, 07:07

Покрутил, ничего не изменилось. Проблема не в том, что один поток работает медленно. Проблема в том, что как только добавляется еще один поток (и последующие) полоса как бы делится между ними! Такое ощущение, как будто queue_depth для луна равен 1. Хотя по данным /sys это не так.

Ответить

Вернуться в «Массивы - Технические вопросы, решение проблем.»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 52 гостя