Непонятное снижение скорости на дисках Seagate (ST3500320AS)

Поломалось, посыпалось, не работает...

Модераторы: Trinity admin`s, Free-lance moderator`s

Ответить
Anros
Junior member
Сообщения: 4
Зарегистрирован: 25 ноя 2008, 18:51
Откуда: Санкт-Петербург

Непонятное снижение скорости на дисках Seagate (ST3500320AS)

Сообщение Anros » 25 ноя 2008, 19:53

Столкнулся со следующим эффектом: на некоторых дисках Seagate на 500 Gb (ST3500320AS) в какой-то момент снижается скорость работы дисков. Для измерения используется dbench с одним клиентом на чистом разделе, диски проверяются по-очереди, сервера новые, ничего не делают. Обычно на всех дисках скорость одна и та же, 141-143 MB/s, однако в какой-то момент на отдельных дисках начинает показывать стабильно от 65 до 68 MB/s. Проблема массовая, наблюдалась на двух десятках серверов, чаще на первых двух дисках:

Код: Выделить всё

disks:       sda   sdb   sdc   sdd
server36:	141	143	142	142	-	500	ST3500320AS SD15
server37:	65	66	142	143	-	500	ST3500320AS SD15
server38:	67	66	142	142	-	500	ST3500320AS SD15
server39:	66	68	143	141	-	500	ST3500320AS SD15
server40:	141	68	142	143	-	500	ST3500320AS SD15
server41:	68	141	143	141	-	500	ST3500320AS SD15
server42:	66	141	142	141	-	500	ST3500320AS SD15
server43:	141	141	142	141	-	500	ST3500320AS SD15
server44:	141	141	142	142	-	500	ST3500320AS SD15
server45:	65	142	143	142	-	500	ST3500320AS SD15
По всей видимости, включается какой-то режим пониженной производительности/энергосбережения. Гонял тест полчаса - скорость не менялась. Есть предположение, что пока сервера не используются, они меньше греются, снижают скорость вращения вентиляторов, в итоге из-за недостаточного обдува может происходить перегрев дисков с переходом в данный режим. По словам техподдержки датацентра, стойки с этими серверами чуть ли не самые холодные.

Конфигурация всех серверов одинаковая: Supermicro 1U, 2 процессора Xeon L5410@2.33GHz, 16 Gb RAM, 4 диска Seagate ST3500320AS, SATA controller: Intel Corporation 631xESB/632xESB SATA Storage Controller AHCI (rev 09), ОС Linux.

В гугле и на сайте Seagate'а никакой информации об этом режиме не нашёл. Не сталиквался ли кто-нибудь с подобным? Хотелось бы разобраться, что это вообще такое, или хотя бы как заставить диски работать в нормальном режиме, т.к. переход в него рабочего сервера явно резко снизит производительность.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 25 ноя 2008, 19:58

Почему? Да например какая-то фоновая задача зашуршала. Или пошло обращение к файлам в конце диска, где трансфер меньше.

У Вас сервер занимается отдачей видеопотока?
К чему такой интерес к линейной скорости?

Anros
Junior member
Сообщения: 4
Зарегистрирован: 25 ноя 2008, 18:51
Откуда: Санкт-Петербург

Сообщение Anros » 25 ноя 2008, 20:33

Эти сервера установлены, но пока толком не настроены и вообще ничего не делают. Файлов на 2, 3 и 4 дисках нет, они монтируются перед измерением скорости. Дело не в фоновых задачах, по sar -d к дискам вообще практически нет обращений, а этого эффекта либо нет, либо он есть стабильно в течение нескольких часов.

dbench используется традиционно, как простое средство проверки большого количества серверов - iometer, как я понимаю, не может работать локально.

На практике на этих серверах гораздо дольше создаются файлы базы данных/создаются дампы. Один раз на рабочем сервере база данных резко перестала справляться с запросами, по всей видимости из-за перехода дисков в этот режим - соседние сервера с аналогичной нагрузкой справлялись.

В любом случае, скачок в линейной скорости должен иметь под собой какие-то основания, так что хочется разобраться в причинах.

Anros
Junior member
Сообщения: 4
Зарегистрирован: 25 ноя 2008, 18:51
Откуда: Санкт-Петербург

Сообщение Anros » 25 ноя 2008, 21:10

Только что прогнал на одном из серверов тесты с разным числом клиентов (1, 8 и 20; данные по четырём дискам):

Код: Выделить всё

Throughput 135.227 MB/sec 1 procs
Throughput 63.5066 MB/sec 1 procs
Throughput 62.951 MB/sec 1 procs
Throughput 136.195 MB/sec 1 procs

Код: Выделить всё

Throughput 100.597 MB/sec 8 procs
Throughput 49.0268 MB/sec 8 procs
Throughput 44.0785 MB/sec 8 procs
Throughput 109.832 MB/sec 8 procs

Код: Выделить всё

Throughput 96.9559 MB/sec 20 procs
Throughput 50.5694 MB/sec 20 procs
Throughput 48.1749 MB/sec 20 procs
Throughput 96.5529 MB/sec 20 procs
Видно, что во всех случаях второй и третий диски примерно в два раза медленнее, а эти режимы примерно соответствуют работе базы данных (thread_concurrency = 8, по числу ядер).

Кроме того, интересен следующий момент - удаление временных файлов на быстрых дисках занимает в два с половиной раза меньше времени:

Код: Выделить всё

  20     34215   106.00 MB/sec  execute  27 sec
  20     34352   102.86 MB/sec  execute  28 sec
  20     34473    99.75 MB/sec  execute  29 sec
  20     34619    96.96 MB/sec  cleanup  30 sec
  20     34619    93.83 MB/sec  cleanup  31 sec
  20     34619    90.90 MB/sec  cleanup  32 sec
  20     34619    88.14 MB/sec  cleanup  33 sec
  20     34619    86.41 MB/sec  cleanup  34 sec

Throughput 96.9559 MB/sec 20 procs

Код: Выделить всё

  20     18036    55.37 MB/sec  execute  27 sec
  20     18132    53.71 MB/sec  execute  28 sec
  20     18207    52.19 MB/sec  execute  29 sec
  20     18264    50.57 MB/sec  cleanup  30 sec
  20     18264    48.94 MB/sec  cleanup  31 sec
  20     18264    47.41 MB/sec  cleanup  32 sec
  20     18264    45.97 MB/sec  cleanup  33 sec
  20     18264    44.62 MB/sec  cleanup  34 sec
  20     18264    43.35 MB/sec  cleanup  35 sec
  20     18264    42.14 MB/sec  cleanup  36 sec
  20     18264    41.00 MB/sec  cleanup  37 sec
  20     18264    39.92 MB/sec  cleanup  38 sec
  20     18264    38.90 MB/sec  cleanup  39 sec
  20     18264    38.02 MB/sec  cleanup  40 sec

Throughput 50.5694 MB/sec 20 procs

and3008
Заслуженный сетевик
Сообщения: 1109
Зарегистрирован: 03 янв 2004, 23:30
Откуда: Н.Новгород

Сообщение and3008 » 27 ноя 2008, 23:05

Прогой hdparm -v /dev/sda | b | c и т.д. погляди чего там.

Ну в биосе я бы глянул чего там на дисках стоит. Например на Акустик-Менеджмент я бы глянул...

Anros
Junior member
Сообщения: 4
Зарегистрирован: 25 ноя 2008, 18:51
Откуда: Санкт-Петербург

Сообщение Anros » 27 ноя 2008, 23:26

Там везде одно и то же:

Код: Выделить всё

server36:~# hdparm -v /dev/sda

/dev/sda:
 IO_support   =  0 (default 16-bit)
 readonly     =  0 (off)
 readahead    = 256 (on)
 geometry     = 60801/255/63, sectors = 976773168, start = 0
server36:~# sdparm -v /dev/sda
    /dev/sda: ATA       ST3500320AS       SD15
    Request Sense cmd: 03 00 00 00 40 00
request sense:  Fixed format, current;  Sense key: Illegal Request
 Additional sense: Invalid command operation code
REQUEST SENSE failed
server36:~# 
bios попробую посмотреть, спасибо, но для этого надо ещё попасть в датацентр. Хотя с другими дисками таких проблем не было.

and3008
Заслуженный сетевик
Сообщения: 1109
Зарегистрирован: 03 янв 2004, 23:30
Откуда: Н.Новгород

Сообщение and3008 » 28 ноя 2008, 01:11

А еще шлейфы. У САТА это ахилесова пята.

Ответить

Вернуться в «Массивы - Технические вопросы, решение проблем.»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 27 гостей