Мини ЦОД под WMWare VSphere

Технологии постороения кластеров (вычислительных и отказоустойчивых), настройка терминал серверов,
SAN , NAS, FibreChannel, Infiniband

Модераторы: Trinity admin`s, Free-lance moderator`s

Ответить
dimaf
Junior member
Сообщения: 6
Зарегистрирован: 21 сен 2009, 10:12
Откуда: Москва

Мини ЦОД под WMWare VSphere

Сообщение dimaf » 21 сен 2009, 10:55

Здравствуйте!

Есть задача организовать небольшой ЦОД и перенести на него выполнение очень критичных задач.
По железу хотим реализовать на блейдах от HP, либо IBM с вариантом виртуализации всех ОС на платформе VMware VShere v4.0. Если вариант с виртуализацией нам не подойдёт остановимся на «классическом» варианте 1 сервер – 1 ОС.
Сейчас всё крутится на железе от HP. Серверы в основном Proliant DL140g2 (около 10-12) и около 4ёх Proliant DL380g4. Один Proliant DL580G5. Всего с округлением в большую сторону около 40ка процессорных ядер, 24GB ОЗУ. + Небольшие хранилища 1-2ТБ.

Соответственно, в новом ЦОД хочется поставить шасси HP BladeSystem cClass c7000 Sin-Ph 10U Encl (up to 16 c-class Blades) (incl 2 RPS(up to 6), 4 Fans(up to 10) + необходимое дополнительное кол-во RPS и FAN исходя из нашей загрузки по серверам, либо аналог от IBM.

По блейд серверам есть такие варианты от HP, либо аналоги от IBM:
1. Вариант. HP ProLiant BL460c G6 (507778-B21) + 1 доп. процессор. + 8ГБ ОЗУ http://h10010.www1.hp.com/wwpc/ru/ru/sm ... 19841.html - 12-16шт.
2. Вариант. HP ProLiant BL680c G5 (517409-B21) - http://h10010.www1.hp.com/wwpc/ru/ru/sm ... 19675.html - 2шт. HP ProLiant BL460c G6 (507778-B21) + 1 доп. процессор. http://h10010.www1.hp.com/wwpc/ru/ru/sm ... 19841.html - 4шт. HP ProLiant BL460c G6 (507784-B21) - http://h10010.www1.hp.com/wwpc/ru/ru/sm ... 19854.html 8шт.

СХД хочется на FC, объём - 4-9 ТБ, с возможностью дальнейшего апгрейда.
Отказоустойчивость - первое для нас требование. Все компоненты (сервера, коммутаторы, линки, адаптеры, блоки питания) должны продублированы, как минимум по схеме N+1.
Отказоустойчивость на уровне ОС и приложений в зависимости от конечного варианта будет осуществлться либо средствами шасси, либо VMware, либо стандартными средствами ОС и приложений (классический вариант).

Бюджет на серверное оборудование + СХД ~3.5-4млн.р.

До этого работал только с HP, но на нём мы возможно не уложимся в бюджет, поэтому стал смотреть в сторону IBM. У IBM как мне показалось более богатые базовые конфигурации + несколько ниже цены и более оптимальные варианты построения СХД.

Заранее спасибо за возможные рекомендации в выборе оборудования и вендора.

Аватара пользователя
Tert
Advanced member
Сообщения: 4233
Зарегистрирован: 19 янв 2003, 08:09
Откуда: Москва
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Tert » 21 сен 2009, 12:11

dimaf
Отказоустойчивость - первое для нас требование. Все компоненты (сервера, коммутаторы, линки, адаптеры, блоки питания) должны продублированы, как минимум по схеме N+1.
А СХД будет одна (правда в указанный бюджет две СХД могут не влезть)?
Отказоустойчивость на уровне ОС и приложений в зависимости от конечного варианта будет осуществлться либо средствами шасси, либо VMware, либо стандартными средствами ОС и приложений (классический вариант).
Вот с эти мжелательно вначале определится, т.к. от метода отказоустойчивости зависит и цена оборудования.
Что за приложения будут работать в вашем ЦОДе?

dimaf
Junior member
Сообщения: 6
Зарегистрирован: 21 сен 2009, 10:12
Откуда: Москва

Re: Мини ЦОД под WMWare VSphere

Сообщение dimaf » 21 сен 2009, 12:32

СХД пока одна, но ест-но полностью задублированная на уровне компонентов и соединений.
По приложениям - это БД (MS SQL Server), Web (IIS), контролеры домены, в дальнейшем возможно почта и прочий софт.

По поводу обеспечения отказоустойчивости ОС пока не определился, т.к. не имею опыта работы с блейд системами и не представляю их возможности по виртуализации. В идеале хотелось бы создать что то вроде RAID массива из однотипных серверов и обеспечить отказоустойчивость серверов по схеме N+1. Поверх установить VMSphere, который возможно будет видеть эти сервера как один.
Второй вариант - это поставить на каждом сервере VMSPhere и обеспечить отказоустойчивость средствами VMWare, т.е. сделать кластер на уровне ESX.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Stranger03 » 21 сен 2009, 12:49

dimaf писал(а):По приложениям - это БД (MS SQL Server), Web (IIS), контролеры домены, в дальнейшем возможно почта и прочий софт
- сколько всего этих виртуальных сервисов будет?
- можно их перечислить с кратким описанием? (АД 50 клиентов; Скуль 50 клиентов база 100ГБ; етс...)
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
Tert
Advanced member
Сообщения: 4233
Зарегистрирован: 19 янв 2003, 08:09
Откуда: Москва
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Tert » 21 сен 2009, 12:49

dimaf
Я бы предложил остановится на втором варианте.
Он как то попроще в реализации.

А какая предполагается нагрузка на СХД?
Сколько пользователей SQL (и объем баз)?
Сколько пользователей IIS?
Какая предполагается нагрузка на почту (количество и объем почтовых ящиков)?

dimaf
Junior member
Сообщения: 6
Зарегистрирован: 21 сен 2009, 10:12
Откуда: Москва

Re: Мини ЦОД под WMWare VSphere

Сообщение dimaf » 21 сен 2009, 13:11

Stranger03 писал(а):- сколько всего этих виртуальных сервисов будет?
- можно их перечислить с кратким описанием? (АД 50 клиентов; Скуль 50 клиентов база 100ГБ; етс...)
Виртуализировать будем то, что сейчас крутится на 17 серверах. см. мой первый пост.
AD небольшая, до 10 клиентов. В дальнейшем возможен переезд второго домена - до 100 клиентов.
Скуль. Первый скуль - это порядка 10 клиентов. Объём базы 300-500GB. Второй скуль это базы до 100ГБ.
IIS - около 1500-2000 подключений одновременно с хорошей нагрузкой.
Остальные сервисы спецефичные, но не ресурсоёмкие.
Tert писал(а):А какая предполагается нагрузка на СХД?
Сколько пользователей SQL (и объем баз)?
Сколько пользователей IIS?
Какая предполагается нагрузка на почту (количество и объем почтовых ящиков)?
Сейчас со всей нагрузкой справляется HP MSA1000 (объём полок не более 1TB), но хотелось бы заложиться на большее.
Нагрузку почтой можно сейчас в расчёт не принимать, если только заложить соответствующий фундамент под будущее расширение. Это около 100 клиентов. Почтовое хранилище - максимум 500ГБ.
Tert писал(а):Я бы предложил остановится на втором варианте.
Он как то попроще в реализации.
Я не уверен, что он ресурсоэкономичнее.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Stranger03 » 21 сен 2009, 13:13

"dimaf"
Так по ходу видится как Bladecenter E с некоторым количеством лезвий (3-4 под виртуализацию ваших 12-ти старых ХП серверов, пару под базы данных + один резервный), к нему нечто вроде DS5020 (надо определятся с нагрузкой и количеством винтов исходя из задач) + софт. Неплохо было бы сразу подумать о бекапе на ленточку. Вы лучше Илье (Илья Хомяков) позвоните, поговорите с ним, наверное так будет быстрее, чем переписываться здесь.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Stranger03 » 21 сен 2009, 13:15

dimaf писал(а):Скуль. Первый скуль - это порядка 10 клиентов. Объём базы 300-500GB. Второй скуль это базы до 100ГБ.
IIS - около 1500-2000 подключений одновременно с хорошей нагрузкой.
Можно ли с этих серверов получить счетчики по нагрузке?
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
Tert
Advanced member
Сообщения: 4233
Зарегистрирован: 19 янв 2003, 08:09
Откуда: Москва
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Tert » 21 сен 2009, 13:26

dimaf
Я не уверен, что он ресурсоэкономичнее.
В обоих случаях нужно будет по крайней мере одно резервное лезвие и общая дисковая система.

dimaf
Junior member
Сообщения: 6
Зарегистрирован: 21 сен 2009, 10:12
Откуда: Москва

Re: Мини ЦОД под WMWare VSphere

Сообщение dimaf » 21 сен 2009, 13:38

Stranger
А какие лезвия посоветуете? Как насчет HS22? Уточнение - серверы БД скорее всего то же будут виртуализированы.
О бекапе конечно думаю. Бекап будет производится, либо на существующие и освобождающиеся "мощности", либо докупим что то позднее.
Илье Хомякову позвоню обязательно.
DS5020 - думаю хватит, но вот влезем ли в бюджет.
По нагрузке на IIS - счётчики снять конечно можно, но может лучше ориентироваться на то железо которое обеспечивает этот сервис сейчас + заложиться на прослойку виртуализации? Сейчас это кластер на двух HP Proliant DL380G4. На каждом по 1GB ОЗУ. Процы по 3.2ГГц. На каждом сервере 4 ядра. Все загружены примерно на 30%.

Аватара пользователя
Tert
Advanced member
Сообщения: 4233
Зарегистрирован: 19 янв 2003, 08:09
Откуда: Москва
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Tert » 21 сен 2009, 14:52

dimaf
Вообщем то HS22 - это наилучший вариант в блейдах IBM.
Только учтите, что для обеспечения VMotion все лезвия должны быть одинаковыми.
Иначе будут проблемы с переездом виртуальных машин.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Stranger03 » 21 сен 2009, 15:50

dimaf писал(а):Stranger
А какие лезвия посоветуете? Как насчет HS22? Уточнение - серверы БД скорее всего то же будут виртуализированы.
Одинаковые HS22. По количеству без точных данных оценить трудно. Если представите данные, то будет точная спека. Нет, тогда можем отталкиваться от бюджета
DS5020 - думаю хватит, но вот влезем ли в бюджет.
Надо считать, созванивайтесь с Ильей, он прикинет что к чему.
По нагрузке на IIS - счётчики снять конечно можно, но может лучше ориентироваться на то железо которое обеспечивает этот сервис сейчас + заложиться на прослойку виртуализации? Сейчас это кластер на двух HP Proliant DL380G4. На каждом по 1GB ОЗУ. Процы по 3.2ГГц. На каждом сервере 4 ядра. Все загружены примерно на 30%.
Ну один проц 5504 уделает в хлам ваши старые ХП сервера. Это уже к Илье.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

dimaf
Junior member
Сообщения: 6
Зарегистрирован: 21 сен 2009, 10:12
Откуда: Москва

Re: Мини ЦОД под WMWare VSphere

Сообщение dimaf » 21 сен 2009, 16:30

Tert писал(а):Только учтите, что для обеспечения VMotion все лезвия должны быть одинаковыми.
Конечно. Про это я помню.
Хватит ли с точки зрения отказоустойчивости и возможно производительности по два след. девайса в шасси? -
QLogic 20 Port 8Gb или 4Gb в зависимости от хранилища.
Cisco 3012.
Есть ли Cisco коммутатор с 2мя оптическими аплинками?
Что ещё нужно добавить в шасси для отказоустойчивости?
Как активировать возможность HS22 работать с FC? Это программная опция? Либо как в HP нужно докупать железяку для каждого сервера?

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Мини ЦОД под WMWare VSphere

Сообщение Stranger03 » 21 сен 2009, 17:20

dimaf писал(а):Хватит ли с точки зрения отказоустойчивости и возможно производительности по два след. девайса в шасси? -
QLogic 20 Port 8Gb или 4Gb в зависимости от хранилища.
10-ти портового коммутатора хватит для 7-ми лезвий (3-и наружу, 7-мь внутрь), 20-ть портов надо при более чем 7-мь лезвий. Апгрейд с 10-ти до 20-ти портов - чисто электронная лицензия.
Чтобы загрузить 4Гбит файберный порт, надо винтов FC или SAS 15K штук 50-ть минимум. И то, надо еще постараться загрузить этот канал. Так что здесь выбирать по задаче
Cisco 3012.
Это что? Вопрос или утверждение?
Есть ли Cisco коммутатор с 2мя оптическими аплинками?
Это зачем? Про что идет речь (изернет, файбер)?
Что ещё нужно добавить в шасси для отказоустойчивости?
2-а изернет, 2-а файбер, 4-е БП
Как активировать возможность HS22 работать с FC? Это программная опция? Либо как в HP нужно докупать железяку для каждого сервера?
Файбер SFF адаптер в лезвие.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

dimaf
Junior member
Сообщения: 6
Зарегистрирован: 21 сен 2009, 10:12
Откуда: Москва

Re: Мини ЦОД под WMWare VSphere

Сообщение dimaf » 21 сен 2009, 17:22

Stranger03

Большое спасибо за ответы. Пообщался с Ильёй по телефону, пока всё понятно, составляем спеку.
Ещё раз спасибо.

Ответить

Вернуться в «Кластеры, Аппаратная часть»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 6 гостей