Решение под виртуализацию серверов.

Как создать сервер оптимальной конфигурации.

Модераторы: Trinity admin`s, Free-lance moderator`s

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Решение под виртуализацию серверов.

Сообщение Stranger03 » 22 апр 2010, 14:21

Sergey_________ писал(а):А можно более по-русски. Еще учесть что система распределенная серверные в разных местах. И довольно нагружена будет.
По русски этот как? С матом, водкой и куском селедки? Могу, запросто, :)
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
Tert
Advanced member
Сообщения: 4233
Зарегистрирован: 19 янв 2003, 08:09
Откуда: Москва
Контактная информация:

Re: Решение под виртуализацию серверов.

Сообщение Tert » 22 апр 2010, 14:47

Sergey_________
А можно более по-русски. Еще учесть что система распределенная серверные в разных местах. И довольно нагружена будет.
Предполагается, что серверы стоят в нужных вам помещениях. От них тянется оптика к FC свитчам (свитчей все же надо два брать) в одном из помещений. И к этим же свитчам подключена система F5412.
Только надо учесть, что, хотя F5412 и поддерживает до 60 дисков, но в реальности этот сторадж при интенсивной нагрузке хорошо тянет 35-40 дисков SAS.

Такой вариант, конечно, даст намного большую отказоустойчивость (с возможностями миграции виртуальных машин), чем отдельные серверы.

Аватара пользователя
diz
Advanced member
Сообщения: 1189
Зарегистрирован: 12 янв 2009, 12:09
Откуда: Пермь

Re: Решение под виртуализацию серверов.

Сообщение diz » 22 апр 2010, 15:05

Мне кажется, нет смысла размещать сервера на нескольких площадках при наличии хороших каналов и всего одной СХД.

Аватара пользователя
Tert
Advanced member
Сообщения: 4233
Зарегистрирован: 19 янв 2003, 08:09
Откуда: Москва
Контактная информация:

Re: Решение под виртуализацию серверов.

Сообщение Tert » 22 апр 2010, 15:41

diz
Тоже верно.

Sergey_________
Power member
Сообщения: 37
Зарегистрирован: 20 окт 2009, 14:03
Откуда: Москва

Re: Решение под виртуализацию серверов.

Сообщение Sergey_________ » 24 апр 2010, 12:31

diz писал(а):Мне кажется, нет смысла размещать сервера на нескольких площадках при наличии хороших каналов и всего одной СХД.
Это требование боссов. Две площадки. его не обсуждаем.

На первый шаг выделили:

Бюджет 2,5м руб.
Из них пока очень приблизительно посчитано
1) СКС и активку 1,1м (входит монтаж оптики)
2) ИБП 220 000р 4 штуки powerware 9125 3000ва для двух серверов . и 4 powerware 9125 1000ва для сетевой активки
софт вирутализ 240 000р.
серверы и полки и все про все 1,0-1,2м

между серверными будет линк не мение 6 гбит. т.е. планируется все изернет интерфейсы серверов подключать напрямую к ядру оптикой или медь 1гбит.
на первой площадке .
первый сервер виртуализации
бекапы1 (из старого сервера)
остальные можно потрошить как угодно. после миграции на новые.
Из старых планируем делать сторадж для бекапов, в корзины влазит до 4-6 дисков не больше. контроллеры 3ware AMCC 9650SE. Если хватит денег заменить корпуса, диски, контроллеры на старых
и почту в ДМЗ

На второй площадке
второй сервер виртуализации.
Бекапы2 (старый сервер, возможно модернизированный)
Сервер Intel S5000PSL 2х Xeon Е5410_2.33 в запас под выделенную задачу
Intel S5000PSL 1хXeon Е5310_1.60 3200 2 3ware AMCC 9650SE в запас под выделенную задачу

Я не опытный железячник, но все таки склоняюсь к варианту двух серверов с корпусом на 24 диска 3,5. и покупки сначала 12 дисков, потом по мере роста нагрузки докупать остальные(если не хватит денег купить сразу). А бекапы хранить на 2х старых серверах разнесенных на двух площадках + выносить на съемных esata винтах (вместо ленточек)

В этом есть логика? если учесть, что нагрузка на сервера может быть неслабой. и особо денег в модернизацию после этой в течении 2-3 лет выделять не будет. Только на поддержку и если возникнут новые задачи.

П.С. Написал рекомендацию брать супермикро у тринити. Ответили что отвезут в одну "спец контору" для сравнения цен. после этого примут решение окончательно.
Ко вторнику нужна спецификация для проездки в "спец контору" и защиты этого варианта.



п.п.с.
Насколько я понял уXyratex 5412 2 порта SFP FC 4Gb = 8 гбит в сек для дисковой обоих серверов + нужно покупать оптические спец. коммутаторы и полок нужно две не меньше, если две площадки.

а сколько даст adaptec RAID 10 c 24 винтами сигейт 15к7 ? иопсов и рамдомного чтения ? и если вместо оптических коммутаторов поставить еще один адаптек?

Будут пиковые нагрузки в отчетный период бухгалтерии (1c 7.7 и 8.1)
Последний раз редактировалось Sergey_________ 24 апр 2010, 12:36, всего редактировалось 1 раз.

Bormoto
Advanced member
Сообщения: 253
Зарегистрирован: 06 июл 2007, 22:20
Откуда: спб

Re: Решение под виртуализацию серверов.

Сообщение Bormoto » 24 апр 2010, 17:02

diz писал(а):Мне кажется, нет смысла размещать сервера на нескольких площадках при наличии хороших каналов и всего одной СХД.
ИМХО, здесь, на выбор, несколько возможных причин:
1. Начальство прочитало о понятии "катастрофоустойчивость" и как-то это восприняло.
2. Начальство полагает, что второе, третье т.д. серверные помещения тупые госслужащие почему-то не найдут.
3. Ограничения по обеспечивающей инфраструктуре (питание, теплоотведение, площадь).

В причину № 3 для случая не датацентра не сильно верится, в частности по закупкам новых UPS в дополнение к существующим.
Про приближение ресурсов к пользователям не пишу, т.к. про них вообще не упоминалось.
Скорее всего, причина № 2 в моем списке. Уж больно ТС загадочно излагает.

Sergey_________
Power member
Сообщения: 37
Зарегистрирован: 20 окт 2009, 14:03
Откуда: Москва

Re: Решение под виртуализацию серверов.

Сообщение Sergey_________ » 24 апр 2010, 17:17

Спец задача это просто то, что Не ставят на вирт сервер, так как не влезет по производительности, а модернизируем старый xeon 54xx.Не более. redhat + oracle Ничего супер секретного нету.

Два помещения будет.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Решение под виртуализацию серверов.

Сообщение Stranger03 » 25 апр 2010, 11:15

"Sergey_________"
Ну вот вы тут пишите про бюджет в 2.5 млн. Ну давайте считать на оба помещения (допустим оба):
1. два шкафа APC AR3100 = 6000$
2. два SURT6000 = 8000$
3. два коммутатора 3com по 48 портов = 5000$
4. на всякие управлялки, кабеля допустим 5000$
Итог на простую инфраструктуру на оба помещения получаем сумму порядка 25000$ = в рублях 800000 с запасом. Если же взять Кнурр, то обойдется подешевле. Сколько то уйдет на оптику, в основном на прокладку, монтаж, сварку. Конверторы можно взять попроще. Сама оптика дешовая. Правда в переписке я не вижу расстояния между площадками. На 2-4 км затрат не много, на 50 км у вас сильно маленький бюджет. Таким образом на сервера можно спокойно пустить 1.5 млн.руб. (примерно). В баксах допустим 48-49 т.$. На нормальное решение SAN денег явно маловато. При ваших базах заратекс 5412 слабоват будет. А на ЕМС СХ4 денег нет. Но на 3-и хороших супермикры вполне.
Но даже при таком раскладе я бы на вашем месте и на месте вашего руководства очень серьезно прислушался к советам здешних гуру. Строить такую инфраструктуру из двух разнесенных шкафов, с 3-мя серверами и при полном отсутствии планов на развитие мягко говоря не правильно и не дальновидно. Если честно я не понимаю вашего ИТ директора.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Sergey_________
Power member
Сообщения: 37
Зарегистрирован: 20 окт 2009, 14:03
Откуда: Москва

Re: Решение под виртуализацию серверов.

Сообщение Sergey_________ » 25 апр 2010, 12:47

1) Скс включая абонентов : витая пара 5 или 6 категория, патч-панели, 4 ящика с вентиляторами для коммутаторов , 2 серверных шкафа , коммутаторы 21 штуку 24 порта или 9 - 48 портов + 3=24порта, стойка открытая и так далее. оптическая пасивка. в ядре 48 портов, примерно пополам оптика\медь + работа по оптике входит около 1млн . Все взял гиперлайн, даже шкафы. точно бюджет по сети сказать не могу, так как не знаю цену работ по оптике.

Пассивку медную будут делать сами. Брать скорее всего в АБН хиперлайн и варку , монтаж и протяжку оптики тоже у них.

2) ипб для серверов 4 шт . + 4 штуки ибп для коммутаторов абонентов
= 0,22 - 0,25 м рублей

3) На три площадки не остается, 2 еще можно . Расстояние между площадками 2-4 км укладываемся. Между двумя площадками по 2 кабеля 12 волокон. и еще одна площадка(коммутаторы) в здании на расстоянии 120 метров. 2 кабеля по 12 волокон.
возможно больше волокон если хватит денег.

4) Софт виртуалицации
VMware Essentials Plus
Veeam Essentials( Veeam Backup & Replication, Veeam Monitor, Veeam Reporter Enterprise, Veeam Business View)
Starwind Enterprise HA

= 0,24млн

Весь софт на 3 сервера виртуализации до 6 сокетов. + iSCSI на два хранилища. Если отказоустойчивая сеть то и хранилища(на базе win2003 сервера ) будут тоже "отказоустойчивые" Я понимаю что тупо городить хранилище на серверах с виндой и несерверными рейдами.

Но им не нужно реально такая отказоустойчивость, говорят у нас не банк и ничего страшного не будет если в неотчетный период отключиться все на день.
Предлагал отказоустойчивую сеть и т.д. сказали не нужно.
В итоге дошли что будет хорошо, если в случае поломки бизнес критичного сервиса( а сейчас это только 1с. И штрафы если не работает в нужный момент такском и клиентбанк) смогут восстановить за 1 час по состоянию на вчера вечером. Больше не нужно.

остается 0,8-1,2м руб на серверы. 2 или 3 пока неясно. Судя из Вашего прайса:

supermicro X8DTi-F, 2xNehalem-EP,Westmere/ 12xDDR3 Reg, 3xPCI-Ex8, 1xPCI-Ex4, 2xPCI32, 2xGbit eth, 6xSATA
Intel Xeon X5650 (2.66GHz // QPI 6.4 GT/s // DDR3 1333MHz, cache 12MB, Six, TB, HT, 95W)
Cooler for Socket LGA1366 Active (2U+)
4GB, ECC Reg, DDR3-1333, Dual Rank, x4 = 48 гб ОЗУ
Intel Gigabit ET Dual Port Server Adapter (E1G42ET)
Adaptec ASR-5445, 512MB, 4int/4ext SAS/SATA, PCI-E x8
Adaptec ABM-800 Kit
Seagate Cheetah 15K7, ST3450857SS, SAS 6 Gbit, 450GB, 15K rpm, 16MB cache 12 штук
supermicro CSE-846E1-R1200B, Black, 19", 24xSAS/SATA HS Bays, 2x1200W, 4U, E-ATX
CBL-0108, Ipass - Ipass SAS Cable, 18"
= 0,5млн рублей

Выходит таки два сервера. Или можно три но попроще? меньше ОЗУ и винтов можно, но на ксеонах X5650 однозначно и с большими корпусами.

Например Xeon X5650, 24 - 48 озу,Adaptec ASR-5445, Seagate Cheetah 15K7 хх штук. + 2 гбит изернетов .корпус на 24 винта 3,5"


ИТ директора НЕТУ! По-этому такая Ж и сложилась. Есть один админ + хелпдеск , который зашивался в рутине, подчинялся генеральному. Сетка на старых неуправляемых коммутаторах. Уже глючит.
Финансирования тоже не было, по-этому и серверы его на материнках АСУС. Сейчас хотят исправить ситуацию за такие деньги. Скорее всего я и буду "ИТ директором" :)))

Приходил "интеграторы" читал их предложения там даже о вируталицации ничего не вспоминают.
Предлагают купить разной мощности HP сколько то штук. Перенести с старых серверов на новые и все. А еще купить кучу софта, который не понятно нужен или нет конторе. Было предложение от другого интегратора "виртуальный ЦОД из коробки" но оно не влазит в деньги и сомнительно по производительности под наши задачи.Причем этот интегратор нормальный. Просят в 2-10 раза больше денег. По-этому веры им нету, интеграторам. Меня пригласили оценить их предложения. (где развод, а где правда и что вообще нужно) А потом попросили всунуть в бюджет 2,5 на первый этап . Второй этап и когда он будет неизвестно.
Правда ТЗ им еще не дали, так как местный админ никак не соберет данные.

П.С. Да и такое бывает :) Не все такие правильные и могут себе это позволить :)

П.П.С.
У ВАС supermicro X8DTi-F, 2xNehalem-EP,Westmere/ 12xDDR3 Reg, 3xPCI-Ex8, 1xPCI-Ex4, 2xPCI32, 2xGbit eth, 6xSATA
На сайте супермикро X8DTi-F
PCI-Express

* 1 (x16) PCI-E 2.0 slot
* 2 (x8) PCI-E 2.0 slots
* 1 (x4) PCI-E slot
Последний раз редактировалось Sergey_________ 25 апр 2010, 13:19, всего редактировалось 4 раза.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Решение под виртуализацию серверов.

Сообщение Stranger03 » 25 апр 2010, 13:06

Sergey_________ писал(а):2) ипб для серверов 4 шт . + 4 штуки ибп для коммутаторов абонентов
А чего мелочится то, может по одному ИБП на каждый блок питания?
Выходит таки два сервера. Или можно три но попроще? меньше ОЗУ и винтов можно, но на ксеонах X5650 однозначно.
.............................
ИТ директора НЕТУ! По-этому такая Ж и сложилась. Есть один админ + хелпдеск , который зашивался в рутине, подчинялся генеральному. Сетка на старых неуправляемых коммутаторах. Уже глючит.
Финансирования тоже не было, по-этому и серверы его на материнках АСУС. Сейчас хотят исправить ситуацию за такие деньги. Скорее всего я и и буду "ИТ директором" :)))
Во обьясните мне, будущий ИТ директор, нахрена 2-а сервера разносить по 2-м серверным помещениям то? Для того, чтобы было? Перед советом директоров гордо докладывать, что мол построили супермегакатастрофоустойчивое георгафически распределенное решение? Убейте меня, но я никак не могу понять этого тайного смысла.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Sergey_________
Power member
Сообщения: 37
Зарегистрирован: 20 окт 2009, 14:03
Откуда: Москва

Re: Решение под виртуализацию серверов.

Сообщение Sergey_________ » 25 апр 2010, 13:09

Два потому что так захотел директор. Тут я его убедить не могу и не буду пытаться.
Даже если поставить два сервера виртуализации в одном месте при это бюджете что то измениться ? с учетом того что вторую площадку однозначно будут строить.

Я бы поставил в одном месте. вынес только бекапы. это не так дорого выходит.
Чем плохо на двух площадках иметь по 2 нормальных ИБП? если в серверах 2БП ? очень удобно обслуживать ИБП и БП без остановки работы днем. И нажедней для конторы.

ITER
Advanced member
Сообщения: 306
Зарегистрирован: 13 июл 2003, 10:01
Откуда: Хабаровский край

Re: Решение под виртуализацию серверов.

Сообщение ITER » 25 апр 2010, 14:27

Sergey_________ писал(а): Чем плохо на двух площадках иметь по 2 нормальных ИБП? если в серверах 2БП ? очень удобно обслуживать ИБП и БП без остановки работы днем. И нажедней для конторы.
Лучше иметь один мощный ИБП, они полностью дублированы внутри, фактически это два ИБП в одном.

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Решение под виртуализацию серверов.

Сообщение Stranger03 » 25 апр 2010, 14:28

Sergey_________ писал(а):Два потому что так захотел директор. Тут я его убедить не могу и не буду пытаться.
ну и зря.
Даже если поставить два сервера виртуализации в одном месте при это бюджете что то измениться ? с учетом того что вторую площадку однозначно будут строить.

не надо тратить деньгм на инфраструктуру на второй площадке. и можно бОльще денег вложить в сервера. может даже хватить денег на нормальный кластер.
Чем плохо на двух площадках иметь по 2 нормальных ИБП? если в серверах 2БП ? очень удобно обслуживать ИБП и БП без остановки работы днем. И нажедней для конторы.
ну надобность двух серверных помещений вы нам так и не объяснили.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Аватара пользователя
Stranger03
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 12979
Зарегистрирован: 14 ноя 2003, 16:25
Откуда: СПб, Екатеринбург
Контактная информация:

Re: Решение под виртуализацию серверов.

Сообщение Stranger03 » 25 апр 2010, 14:29

ITER писал(а):они полностью дублированы внутри, фактически это два ИБП в одном.
не совсем так. дублированы симметры, и то только тогда, когда правильно их конфигуришь. но денег на них у автора нет.
С уважением Геннадий
ICQ 116164373
eburg@trinitygroup.ru

Sergey_________
Power member
Сообщения: 37
Зарегистрирован: 20 окт 2009, 14:03
Откуда: Москва

Re: Решение под виртуализацию серверов.

Сообщение Sergey_________ » 25 апр 2010, 15:52

ну надобность двух серверных помещений вы нам так и не объяснили.
Начальник прочитал о катастрофоустойчиовсти
возможно там будет филиал офиса

Значит все таки мой вариант на такие деньги самый нормальный?

Ответить

Вернуться в «Серверы - Конфигурирование»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 56 гостей