падение скорости на Infortrend при работе с большими файлами

Поломалось, посыпалось, не работает...

Модераторы: Trinity admin`s, Free-lance moderator`s

Ответить
Just-a-man
Junior member
Сообщения: 7
Зарегистрирован: 25 окт 2006, 15:38
Откуда: Шатура
Контактная информация:

падение скорости на Infortrend при работе с большими файлами

Сообщение Just-a-man » 25 окт 2006, 16:43

Здравствуйте!
Имеем дисковый массив Infortrend A24F-R2224-1. Иногда при работе с большими файлами происходит резкое падение скорости работы системы ввода-вывода. Скорость падает до нескольких десятков килобайт в секунду или даже ниже. В первый раз я столкнулся с этим явлением, создавая большие (около 40 Гб) табличные пространства в Oracle. Тогда я подумал, что это - глюк Oracle. Потом я столкнулся с эти при копировании больших объемов по ssh или rsync. Там это было особенно хорошо видно, копирование начиналось на скорости 10-15 MB/sec, но через 10-30 минут падала до 10-100 кб/sec. Но и тогда я подумал, что виновата сеть. Теперь же я копирую большие файлы напрямую с внутренних дисков сервера на внешнюю дисковую систему и вижу то же самое явление! Во всех случаях мне помогала перезагрузка сервера, иногда неоднократная.

Компьютеры - HP DL 380 G3 и HP DL 580 G2. Сейчас дисковая система подсоединена к 2 компьютерам, но проблема существовала и при работе с одним компьютером. Все прошивки самые свежие.
На компьютерах стоит Red Hat Enterprise Linux AS release 4 (Nahant Update 2). FC карточка опознается системой как QLogic PCI to Fibre Channel Host Adapter for QLA2340:
       Firmware version 3.03.18 IPX, Driver version 8.01.03-p5-fo

Драйвер стоит от HP, сконфигурированный как бы для работы с EVA. В таком режиме он работает с failover.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 25 окт 2006, 18:52

В винде такое часто наблюдается по причине приколов с кэшированием в операционке. Может быть и тут такое? Тем более, что ребут сервера помогает.
Драйвер контроллера кстати родной что говорит?

Just-a-man
Junior member
Сообщения: 7
Зарегистрирован: 25 окт 2006, 15:38
Откуда: Шатура
Контактная информация:

Сообщение Just-a-man » 26 окт 2006, 08:43

gs писал(а): Драйвер контроллера кстати родной что говорит?
Где это можно посмотреть?

Svi
member
Сообщения: 30
Зарегистрирован: 19 окт 2006, 13:08
Откуда: MOSCOW

Сообщение Svi » 26 окт 2006, 10:00

что-то мне кажется нехорошо, что "Драйвер стоит от HP, сконфигурированный как бы для работы с EVA"...
всётаки EVA это ЕVA..

Just-a-man
Junior member
Сообщения: 7
Зарегистрирован: 25 окт 2006, 15:38
Откуда: Шатура
Контактная информация:

Сообщение Just-a-man » 26 окт 2006, 10:10

Когда я сказал "как EVA" то имел в вдиу, что после установки драйвера и fibrutils я сделал следующее:
cd /opt/hp/src/hp_qla2x00src
./set_parm
--- тут мне открылось меню:
  Driver Parameters
-----------------------

1) XP/MSA/EVA Failover
2) Secure Path
3) Single Path
4) Set Paramters Manually
5) Quit

Я выбрал пункт 1
Потом сделал
./master.sh

и перезагрузился.

Какое то время всё работает замечательно. Но через несколько дней случается описанная выше проблема.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 26 окт 2006, 12:58

А зачем Вам файловер, если только один адаптер?

Just-a-man
Junior member
Сообщения: 7
Зарегистрирован: 25 окт 2006, 15:38
Откуда: Шатура
Контактная информация:

Сообщение Just-a-man » 26 окт 2006, 13:42

Сначала у меня был один компьютер (DL 380) с двумя адаптерами. Тогда я failover и конфигурировал. Потом я один адаптер вытащил и воткнул у другой компьютер.
Кроме того, у меня на дисковом массиве создано 2 LD, которые замэплены на оба канала. Если подключаться, используя драйвер без failover, например драйвер, поставляемый с операционной системой, то каждое устройство удваивается и я вижу их уже в количестве 4-х штук, что создает некоторую путаницу и чревато ошибками.

Svi
member
Сообщения: 30
Зарегистрирован: 19 окт 2006, 13:08
Откуда: MOSCOW

Сообщение Svi » 26 окт 2006, 14:38

что б устройст было не 4 ,а 2 нужен multipath driver

Just-a-man
Junior member
Сообщения: 7
Зарегистрирован: 25 окт 2006, 15:38
Откуда: Шатура
Контактная информация:

Сообщение Just-a-man » 26 окт 2006, 14:39

Вот драйвер от hp сейчас и работает и как multipath, и как failover.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 26 окт 2006, 14:40

А родной инфортрендовский пробовали?

Svi
member
Сообщения: 30
Зарегистрирован: 19 окт 2006, 13:08
Откуда: MOSCOW

Сообщение Svi » 26 окт 2006, 14:41

или QLogic  QLDirect   ?

Just-a-man
Junior member
Сообщения: 7
Зарегистрирован: 25 окт 2006, 15:38
Откуда: Шатура
Контактная информация:

Сообщение Just-a-man » 26 окт 2006, 14:50

По весне я скачивал какие то драйвера с Qlogic  и игрался с ними. Но что-то мне там не понравилось и впервые у меня всё хорошо заработало только с драйверами, скаченными с HP. В это же время я общался со специалистом HP, который советовал мне устанавливать драйвер именно таким способом. Впрочем, насколько я понимаю, они тоже в QLogic сделаны.

На диске от Infortrend никаких драйверов не было. Продавец нашей железки драйверов мне тоже не давал, даже после того, как я сообщил ему о проблеме. Хотя недавно прислал новую прошивку. Ее я уже установил.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 26 окт 2006, 14:58

КЛдирект не надо - исключительно геморная штука. Да еще в кластере не работает.
А у инфортренда МПИО дрова есть - не там покупаете :)

Just-a-man
Junior member
Сообщения: 7
Зарегистрирован: 25 окт 2006, 15:38
Откуда: Шатура
Контактная информация:

Сообщение Just-a-man » 25 дек 2006, 15:24

Боюсь сглазить, но, кажется, мои проблемы решились после того, как я перешел с ext3 на ext2. Конечно, может быть, что копирование просто выполняется быстрее (в 2,5 раза!) и то, что раньше ломалось, просто не успевает теперь сломаться.

Ответить

Вернуться в «Массивы - Технические вопросы, решение проблем.»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 16 гостей