NAS решение

Технологии постороения кластеров (вычислительных и отказоустойчивых), настройка терминал серверов,
SAN , NAS, FibreChannel, Infiniband

Модераторы: Trinity admin`s, Free-lance moderator`s

netmechanic
Junior member
Сообщения: 8
Зарегистрирован: 25 июл 2012, 17:47
Откуда: Москва

NAS решение

Сообщение netmechanic » 25 июл 2012, 18:35

Дожили до решения внедрить NAS в компании.
Условия: Бюджет около 250тр или чуть больше

Комплектация:
1. Корпус должен быть с 12 (3 горизонтальных ряда по 4 диска) или 16 (4 горизонтальных ряда по 4 диска) отсеками для 3,5" дисков
2. Материнка + пара процессоров Xeon e5506 + 16Гиг памяти для каждого проца
3. 2 контроллера с BBU (так как рассматривал продукцию SuperMicro то остановился на AOC-USAS2LP-H8iR основанный на LSI 2108), 8 портов (достаточно и 4х) по 6Гиг
4. Два 6Гбит експандера в корпусе (правильнее двойной экспандер)
5. 8 или 12 SAS дисков по 600-1000Гиг, корпоративного уровня, обязательно прошедших тестирование в связке "экспандер-диск" или "контроллер-диск"

Вопрос к разбирающимся в теме: Правильно ли планирую подключить в одном NAS два контроллера, каждый из которых подключить к обоим экспандерам, а в свою очередь каждый из экспандеров подключается к каждому диску? То есть каждый диск подключается к двум экспандерам, каждый из которых подключен к двум контроллерам... (вот на эту картиночку смотрел: http://lh5.ggpht.com/_kuYp6WGYL7s/Swuz- ... 5B4%5D.png)

Вопрос к поставщикам оборудования: Сколько это стоит? Можно ли заказать? Сроки? Что нужно поменять в комплектации что бы не ждать месяц доставки из-за морей?

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Re: NAS решение

Сообщение gs » 25 июл 2012, 18:37

Я не понял смысла двух контроллеров. Резервирования все равно не будет.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Re: NAS решение

Сообщение gs » 25 июл 2012, 18:38

И зачем два проца?

netmechanic
Junior member
Сообщения: 8
Зарегистрирован: 25 июл 2012, 17:47
Откуда: Москва

Re: NAS решение

Сообщение netmechanic » 25 июл 2012, 19:20

То есть резирвирование возможно только экспандера и подключений его к дискам (каждый диск подключен к двум экспандерам)?

В описании к SC836 Chassis Manual на странице 6-3 описано паралельное подключение двух экспандеров к одному контроллеру, а на 6-4 к двум... Из этого и исходил что можно, правда не понимаю как в системе должны работать два контроллера.

Два процессора нужны что бы NAS можно было использовать не только как просто хранилище... Но это не принципиальный вопрос, для текущей задачи можно считать что процессор один с достаточным количеством памяти (16 как минимум).

netmechanic
Junior member
Сообщения: 8
Зарегистрирован: 25 июл 2012, 17:47
Откуда: Москва

Re: NAS решение

Сообщение netmechanic » 25 июл 2012, 19:25

http://blog.trinitygroup.ru/2009/11/blog-post_24.html
На рисунке – возможная схема подключения с двумя RAID контроллерами для отказоустойчивости к дискам через экспандер. Правда, надо сказать что это довольно специфичная конфигурация, которую мы обычно наблюдаем во внешних дисковых системах, в серверах же используется более простая схема, в которой нет ни второго контроллера, ни второго экспандера.
правильно понимаю что два контроллера можно использовать?

Bormoto
Advanced member
Сообщения: 253
Зарегистрирован: 06 июл 2007, 22:20
Откуда: спб

Re: NAS решение

Сообщение Bormoto » 26 июл 2012, 00:01

netmechanic писал(а):http://blog.trinitygroup.ru/2009/11/blog-post_24.html
На рисунке – возможная схема подключения с двумя RAID контроллерами для отказоустойчивости к дискам через экспандер. Правда, надо сказать что это довольно специфичная конфигурация, которую мы обычно наблюдаем во внешних дисковых системах, в серверах же используется более простая схема, в которой нет ни второго контроллера, ни второго экспандера.
правильно понимаю что два контроллера можно использовать?
Ответ саппорта Supermicro в похожей ситуации какому-то другому "технопанку" может Вас разочаровать: http://www.supermicro.com/support/faqs/ ... ?faq=13479

netmechanic
Junior member
Сообщения: 8
Зарегистрирован: 25 июл 2012, 17:47
Откуда: Москва

Re: NAS решение

Сообщение netmechanic » 26 июл 2012, 00:45

О, спасибо!
Я тоже про синхронизацию кешей думал... Даже пытался найти в описаниях к разным контроллером что-то про это. Не нашел.

netmechanic
Junior member
Сообщения: 8
Зарегистрирован: 25 июл 2012, 17:47
Откуда: Москва

Re: NAS решение

Сообщение netmechanic » 26 июл 2012, 01:05

тогда получается вариант №1 Комплектация:
1. Корпус должен быть с 12 (3 горизонтальных ряда по 4 диска) отсеками для 3,5" дисков
2. Материнка + процессор Xeon e5506 + 16Гиг памяти
3. 1 контроллер с BBU (так как рассматривал продукцию SuperMicro то остановился на AOC-USAS2LP-H8iR основанный на LSI 2108), 8 портов (достаточно и 4х) по 6Гиг
4. Два 6Гбит експандера в корпусе (правильнее двойной экспандер)
5. 8 SAS дисков по 600-1000Гиг, корпоративного уровня, обязательно прошедших тестирование в связке "экспандер-диск" или "контроллер-диск"

а вариант №2 Комплектация:
1. Корпус должен быть с 16 (4 горизонтальных ряда по 4 диска) отсеками для 3,5" дисков
2. Материнка + пара процессоров Xeon e5506 + 16Гиг памяти для каждого проца
3. 1 контроллер с BBU (так как рассматривал продукцию SuperMicro то остановился на AOC-USAS2LP-H8iR основанный на LSI 2108), 8 портов (достаточно и 4х) по 6Гиг
4. Два 6Гбит експандера в корпусе (правильнее двойной экспандер)
5. 12 SAS дисков по 600-1000Гиг, корпоративного уровня, обязательно прошедших тестирование в связке "экспандер-диск" или "контроллер-диск"

Вопрос к поставщикам оборудования: Сколько это стоит? Можно ли заказать? Сроки? Что нужно поменять в комплектации что бы не ждать месяц доставки из-за морей?


To Bormoto: написал им вопрос по поводу сроков на их взгляд к которому появятся контроллеры с возможностями синхронизации кешей, например ))

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Re: NAS решение

Сообщение gs » 26 июл 2012, 10:58

Почему Вы так цепляетесь за заранее выдуманную конфигурацию?
Лучше опишите подробнее задачи - больше толку будет.
Например я не вижу никакого смысла в двухэкспандерном ящике.
Если хотите запускать софт - скажите какой и на какой ОС.
Какого рода данные и с какой нагрузкой будут лежать на машине?
Сколько будет клиентов?
Хватит ли двух гигабиток наружу?
Какой смысл в сас винтах с саташной механикой в такой системе? Или нужны таки быстрые винты 15к?
Почему в списке нет BBU?
Нужна ли возможность подключения дополнительного джибода?
И т.п.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Re: NAS решение

Сообщение gs » 26 июл 2012, 11:01

Каков объем "горячих" данных (на предмет SSD кэширования)?

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Re: NAS решение

Сообщение gs » 26 июл 2012, 11:02

Ну и еще - насколько необходимо на сервере запускать софт? А то можно посмотреть младший NetApp. Может быть подороже, но куча плюшек.

LCF_R
Advanced member
Сообщения: 702
Зарегистрирован: 27 сен 2011, 18:12
Откуда: Москва

Re: NAS решение

Сообщение LCF_R » 26 июл 2012, 11:15

До кучи - процессоры 5506 давно сняты с производства. Да и 56хх не так уж долго осталось. Если задача чисто под NAS - достаточно будет решения на базе Xeon E3-1220 (только однопроцессорный вариант) - он гораздо производительнее младших 56хх. Как раз получите 16Gb RAM + возможность апгрейда до 32Gb (заменой планок памяти). Если планируется запускать еще какие-то сервисы на машинке - огласите весь список, чтобы можно было прикинуть нагрузку. Если нужна именно двухпроцессорная машинка - лучше смотреть на Xeon E5 - стоят они примерно одинаково с линейкой 56хх, а производительность выше.
Далее, с двухэкспандерным корпусом лучше не морочиться - можете поиметь много глюков и проблем. Тем более, что использовать его возможности Вы не будете.
По поводу двухпортового контроллера - лучше использовать однопортовый контроллер, если не планируется подключить JBOD.
1Тб SAS 15K нет. Есть 900Gb SAS 15K (стоящие как самолет) и 1Тб NL-SASm которые с механикой SATA. Ни тот, ни другой вариант Вам не нужен: установка этих комплектующих приведет только к удорожанию сервера БЕЗ получения каких-либо преимуществ при эксплуатации. Если уж так нужны плюшки и есть хороший бюджет - посмотрите на младшие модели NetApp.
С уважением, Александр.

netmechanic
Junior member
Сообщения: 8
Зарегистрирован: 25 июл 2012, 17:47
Откуда: Москва

Re: NAS решение

Сообщение netmechanic » 26 июл 2012, 15:19

gs писал(а):Почему Вы так цепляетесь за заранее выдуманную конфигурацию?
Лучше опишите подробнее задачи - больше толку будет.
Например я не вижу никакого смысла в двухэкспандерном ящике.
LCF_R писал(а):Далее, с двухэкспандерным корпусом лучше не морочиться - можете поиметь много глюков и проблем. Тем более, что использовать его возможности Вы не будете.
Смысл 1: дублирование экспандеров и соединение с дисками
Смысл 2: при относительно небольшой разнице в цене в перспективе сможем дублировать контроллеры

Из-за чего много глюков и проблем?
gs писал(а):Если хотите запускать софт - скажите какой и на какой ОС.
Какого рода данные и с какой нагрузкой будут лежать на машине?
Сколько будет клиентов?
Хватит ли двух гигабиток наружу?
Почему в списке нет BBU?
Нужна ли возможность подключения дополнительного джибода?
Софт: 3 из 4х системных администраторов в компании практикуют Microsoft, потому будет 2008R2
Данные - корпоративная файловая помойка (15% презентации от 100 до 500, 35% документы от 1 до 25, остальное мелочь... есть ещё несколько старых базеек от семерки, но ими практически не пользуются уже) + базы mssql
Клиентов - чуть за сотню
Двух гигабиток хватит
BBU в списке есть (там где нет опечатка)
Возможность подключения доп джибода - нужна
gs писал(а):Ну и еще - насколько необходимо на сервере запускать софт? А то можно посмотреть младший NetApp. Может быть подороже, но куча плюшек.
LCF_R писал(а):До кучи - процессоры 5506 давно сняты с производства. Да и 56хх не так уж долго осталось. Если задача чисто под NAS - достаточно будет решения на базе Xeon E3-1220 (только однопроцессорный вариант) - он гораздо производительнее младших 56хх. Как раз получите 16Gb RAM + возможность апгрейда до 32Gb (заменой планок памяти). ...
Запускать софт: вообще в концепции развития ИТ в компании нет особых планов на NAS с точки зрения запуска какого-то там ещё софта, "два процессора и побольше памяти" это скорее рефлекторное желание, так что можно и до варианта однопроцессорного Xeon E3-1220 с 16Г памяти легко...
gs писал(а):Какой смысл в сас винтах с саташной механикой в такой системе? Или нужны таки быстрые винты 15к?
нужны именно быстрые, как определить какая механика? смотреть если такая же модель но SATA?
gs писал(а):Каков объем "горячих" данных (на предмет SSD кэширования)?
с этим буду разбираться сегодня, а то "звон слышал"...
LCF_R писал(а):1Тб SAS 15K нет. Есть 900Gb SAS 15K (стоящие как самолет) и 1Тб NL-SASm которые с механикой SATA. Ни тот, ни другой вариант Вам не нужен: установка этих комплектующих приведет только к удорожанию сервера БЕЗ получения каких-либо преимуществ при эксплуатации. Если уж так нужны плюшки и есть хороший бюджет - посмотрите на младшие модели NetApp.

LCF_R
Advanced member
Сообщения: 702
Зарегистрирован: 27 сен 2011, 18:12
Откуда: Москва

Re: NAS решение

Сообщение LCF_R » 27 июл 2012, 11:15

Смысл 1: дублирование экспандеров и соединение с дисками
Смысл 2: при относительно небольшой разнице в цене в перспективе сможем дублировать контроллеры
Какой смысл в дублировании экспандеров, если бэкплэйн - всё равно единая точка отказа? Проще в ЗИП положить второй бэкплэйн, если Вы так за него переживаете. И геморроя меньше.
Этой перспективы может и не настать.
Много проблем и глюков из-за нестандартных конфигураций, особенностей железа и т.д. Если хотите, чтобы было стабильно - не стоит с этим заморачиваться. Как вариант - можете получить просто груду железа, которая не будет работать (или будет рабоать нестабильно).
как определить какая механика?
Очень просто: если 15К - это SAS, если 7.2К - это SATA с интерфейсом SAS. Быстрые диски - только 15К.
С уважением, Александр.

netmechanic
Junior member
Сообщения: 8
Зарегистрирован: 25 июл 2012, 17:47
Откуда: Москва

Re: NAS решение

Сообщение netmechanic » 06 авг 2012, 21:38

В итоге вот такой комплект получился:

корпус Supermicro (1шт) из списка, в порядке увеличения привлекательности:
SC836BE26-R920B
SC836BE26-R1K28B
материнская плата Supermicro (1шт) из списка, в порядке увеличения привлекательности:
X9DRH-iTF
X9DRH-7TF
процессоры Intel (2шт), в порядке увеличения привлекательности
E5-2620
E5-2630L
E5-2658
память Hynix на каждый процессор по две планки по 16G (всего 4 по 16 шт):
HMT42GR7MFR4C-PB
контроллеры Supermicro (2 шт, второй в резерв):
AOC-USAS2LP-H8iR + 2 шт BTR-0018L-0000-LSI
диски (16шт), в порядке увеличения привлекательности:
Hitachi HUS156060VLS600
Seagate ST3600057SS

Всего на 282т.руб насчитали

Ответить

Вернуться в «Кластеры, Аппаратная часть»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 10 гостей