По русски этот как? С матом, водкой и куском селедки? Могу, запросто,Sergey_________ писал(а):А можно более по-русски. Еще учесть что система распределенная серверные в разных местах. И довольно нагружена будет.
Решение под виртуализацию серверов.
Модераторы: Trinity admin`s, Free-lance moderator`s
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Решение под виртуализацию серверов.
- Tert
- Advanced member
- Сообщения: 4233
- Зарегистрирован: 19 янв 2003, 08:09
- Откуда: Москва
- Контактная информация:
Re: Решение под виртуализацию серверов.
Sergey_________
Только надо учесть, что, хотя F5412 и поддерживает до 60 дисков, но в реальности этот сторадж при интенсивной нагрузке хорошо тянет 35-40 дисков SAS.
Такой вариант, конечно, даст намного большую отказоустойчивость (с возможностями миграции виртуальных машин), чем отдельные серверы.
Предполагается, что серверы стоят в нужных вам помещениях. От них тянется оптика к FC свитчам (свитчей все же надо два брать) в одном из помещений. И к этим же свитчам подключена система F5412.А можно более по-русски. Еще учесть что система распределенная серверные в разных местах. И довольно нагружена будет.
Только надо учесть, что, хотя F5412 и поддерживает до 60 дисков, но в реальности этот сторадж при интенсивной нагрузке хорошо тянет 35-40 дисков SAS.
Такой вариант, конечно, даст намного большую отказоустойчивость (с возможностями миграции виртуальных машин), чем отдельные серверы.
Re: Решение под виртуализацию серверов.
Мне кажется, нет смысла размещать сервера на нескольких площадках при наличии хороших каналов и всего одной СХД.
- Tert
- Advanced member
- Сообщения: 4233
- Зарегистрирован: 19 янв 2003, 08:09
- Откуда: Москва
- Контактная информация:
Re: Решение под виртуализацию серверов.
diz
Тоже верно.
Тоже верно.
-
- Power member
- Сообщения: 37
- Зарегистрирован: 20 окт 2009, 14:03
- Откуда: Москва
Re: Решение под виртуализацию серверов.
Это требование боссов. Две площадки. его не обсуждаем.diz писал(а):Мне кажется, нет смысла размещать сервера на нескольких площадках при наличии хороших каналов и всего одной СХД.
На первый шаг выделили:
Бюджет 2,5м руб.
Из них пока очень приблизительно посчитано
1) СКС и активку 1,1м (входит монтаж оптики)
2) ИБП 220 000р 4 штуки powerware 9125 3000ва для двух серверов . и 4 powerware 9125 1000ва для сетевой активки
софт вирутализ 240 000р.
серверы и полки и все про все 1,0-1,2м
между серверными будет линк не мение 6 гбит. т.е. планируется все изернет интерфейсы серверов подключать напрямую к ядру оптикой или медь 1гбит.
на первой площадке .
первый сервер виртуализации
бекапы1 (из старого сервера)
остальные можно потрошить как угодно. после миграции на новые.
Из старых планируем делать сторадж для бекапов, в корзины влазит до 4-6 дисков не больше. контроллеры 3ware AMCC 9650SE. Если хватит денег заменить корпуса, диски, контроллеры на старых
и почту в ДМЗ
На второй площадке
второй сервер виртуализации.
Бекапы2 (старый сервер, возможно модернизированный)
Сервер Intel S5000PSL 2х Xeon Е5410_2.33 в запас под выделенную задачу
Intel S5000PSL 1хXeon Е5310_1.60 3200 2 3ware AMCC 9650SE в запас под выделенную задачу
Я не опытный железячник, но все таки склоняюсь к варианту двух серверов с корпусом на 24 диска 3,5. и покупки сначала 12 дисков, потом по мере роста нагрузки докупать остальные(если не хватит денег купить сразу). А бекапы хранить на 2х старых серверах разнесенных на двух площадках + выносить на съемных esata винтах (вместо ленточек)
В этом есть логика? если учесть, что нагрузка на сервера может быть неслабой. и особо денег в модернизацию после этой в течении 2-3 лет выделять не будет. Только на поддержку и если возникнут новые задачи.
П.С. Написал рекомендацию брать супермикро у тринити. Ответили что отвезут в одну "спец контору" для сравнения цен. после этого примут решение окончательно.
Ко вторнику нужна спецификация для проездки в "спец контору" и защиты этого варианта.
п.п.с.
Насколько я понял уXyratex 5412 2 порта SFP FC 4Gb = 8 гбит в сек для дисковой обоих серверов + нужно покупать оптические спец. коммутаторы и полок нужно две не меньше, если две площадки.
а сколько даст adaptec RAID 10 c 24 винтами сигейт 15к7 ? иопсов и рамдомного чтения ? и если вместо оптических коммутаторов поставить еще один адаптек?
Будут пиковые нагрузки в отчетный период бухгалтерии (1c 7.7 и 8.1)
Последний раз редактировалось Sergey_________ 24 апр 2010, 12:36, всего редактировалось 1 раз.
Re: Решение под виртуализацию серверов.
ИМХО, здесь, на выбор, несколько возможных причин:diz писал(а):Мне кажется, нет смысла размещать сервера на нескольких площадках при наличии хороших каналов и всего одной СХД.
1. Начальство прочитало о понятии "катастрофоустойчивость" и как-то это восприняло.
2. Начальство полагает, что второе, третье т.д. серверные помещения тупые госслужащие почему-то не найдут.
3. Ограничения по обеспечивающей инфраструктуре (питание, теплоотведение, площадь).
В причину № 3 для случая не датацентра не сильно верится, в частности по закупкам новых UPS в дополнение к существующим.
Про приближение ресурсов к пользователям не пишу, т.к. про них вообще не упоминалось.
Скорее всего, причина № 2 в моем списке. Уж больно ТС загадочно излагает.
-
- Power member
- Сообщения: 37
- Зарегистрирован: 20 окт 2009, 14:03
- Откуда: Москва
Re: Решение под виртуализацию серверов.
Спец задача это просто то, что Не ставят на вирт сервер, так как не влезет по производительности, а модернизируем старый xeon 54xx.Не более. redhat + oracle Ничего супер секретного нету.
Два помещения будет.
Два помещения будет.
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Решение под виртуализацию серверов.
"Sergey_________"
Ну вот вы тут пишите про бюджет в 2.5 млн. Ну давайте считать на оба помещения (допустим оба):
1. два шкафа APC AR3100 = 6000$
2. два SURT6000 = 8000$
3. два коммутатора 3com по 48 портов = 5000$
4. на всякие управлялки, кабеля допустим 5000$
Итог на простую инфраструктуру на оба помещения получаем сумму порядка 25000$ = в рублях 800000 с запасом. Если же взять Кнурр, то обойдется подешевле. Сколько то уйдет на оптику, в основном на прокладку, монтаж, сварку. Конверторы можно взять попроще. Сама оптика дешовая. Правда в переписке я не вижу расстояния между площадками. На 2-4 км затрат не много, на 50 км у вас сильно маленький бюджет. Таким образом на сервера можно спокойно пустить 1.5 млн.руб. (примерно). В баксах допустим 48-49 т.$. На нормальное решение SAN денег явно маловато. При ваших базах заратекс 5412 слабоват будет. А на ЕМС СХ4 денег нет. Но на 3-и хороших супермикры вполне.
Но даже при таком раскладе я бы на вашем месте и на месте вашего руководства очень серьезно прислушался к советам здешних гуру. Строить такую инфраструктуру из двух разнесенных шкафов, с 3-мя серверами и при полном отсутствии планов на развитие мягко говоря не правильно и не дальновидно. Если честно я не понимаю вашего ИТ директора.
Ну вот вы тут пишите про бюджет в 2.5 млн. Ну давайте считать на оба помещения (допустим оба):
1. два шкафа APC AR3100 = 6000$
2. два SURT6000 = 8000$
3. два коммутатора 3com по 48 портов = 5000$
4. на всякие управлялки, кабеля допустим 5000$
Итог на простую инфраструктуру на оба помещения получаем сумму порядка 25000$ = в рублях 800000 с запасом. Если же взять Кнурр, то обойдется подешевле. Сколько то уйдет на оптику, в основном на прокладку, монтаж, сварку. Конверторы можно взять попроще. Сама оптика дешовая. Правда в переписке я не вижу расстояния между площадками. На 2-4 км затрат не много, на 50 км у вас сильно маленький бюджет. Таким образом на сервера можно спокойно пустить 1.5 млн.руб. (примерно). В баксах допустим 48-49 т.$. На нормальное решение SAN денег явно маловато. При ваших базах заратекс 5412 слабоват будет. А на ЕМС СХ4 денег нет. Но на 3-и хороших супермикры вполне.
Но даже при таком раскладе я бы на вашем месте и на месте вашего руководства очень серьезно прислушался к советам здешних гуру. Строить такую инфраструктуру из двух разнесенных шкафов, с 3-мя серверами и при полном отсутствии планов на развитие мягко говоря не правильно и не дальновидно. Если честно я не понимаю вашего ИТ директора.
-
- Power member
- Сообщения: 37
- Зарегистрирован: 20 окт 2009, 14:03
- Откуда: Москва
Re: Решение под виртуализацию серверов.
1) Скс включая абонентов : витая пара 5 или 6 категория, патч-панели, 4 ящика с вентиляторами для коммутаторов , 2 серверных шкафа , коммутаторы 21 штуку 24 порта или 9 - 48 портов + 3=24порта, стойка открытая и так далее. оптическая пасивка. в ядре 48 портов, примерно пополам оптика\медь + работа по оптике входит около 1млн . Все взял гиперлайн, даже шкафы. точно бюджет по сети сказать не могу, так как не знаю цену работ по оптике.
Пассивку медную будут делать сами. Брать скорее всего в АБН хиперлайн и варку , монтаж и протяжку оптики тоже у них.
2) ипб для серверов 4 шт . + 4 штуки ибп для коммутаторов абонентов
= 0,22 - 0,25 м рублей
3) На три площадки не остается, 2 еще можно . Расстояние между площадками 2-4 км укладываемся. Между двумя площадками по 2 кабеля 12 волокон. и еще одна площадка(коммутаторы) в здании на расстоянии 120 метров. 2 кабеля по 12 волокон.
возможно больше волокон если хватит денег.
4) Софт виртуалицации
VMware Essentials Plus
Veeam Essentials( Veeam Backup & Replication, Veeam Monitor, Veeam Reporter Enterprise, Veeam Business View)
Starwind Enterprise HA
= 0,24млн
Весь софт на 3 сервера виртуализации до 6 сокетов. + iSCSI на два хранилища. Если отказоустойчивая сеть то и хранилища(на базе win2003 сервера ) будут тоже "отказоустойчивые" Я понимаю что тупо городить хранилище на серверах с виндой и несерверными рейдами.
Но им не нужно реально такая отказоустойчивость, говорят у нас не банк и ничего страшного не будет если в неотчетный период отключиться все на день.
Предлагал отказоустойчивую сеть и т.д. сказали не нужно.
В итоге дошли что будет хорошо, если в случае поломки бизнес критичного сервиса( а сейчас это только 1с. И штрафы если не работает в нужный момент такском и клиентбанк) смогут восстановить за 1 час по состоянию на вчера вечером. Больше не нужно.
остается 0,8-1,2м руб на серверы. 2 или 3 пока неясно. Судя из Вашего прайса:
supermicro X8DTi-F, 2xNehalem-EP,Westmere/ 12xDDR3 Reg, 3xPCI-Ex8, 1xPCI-Ex4, 2xPCI32, 2xGbit eth, 6xSATA
Intel Xeon X5650 (2.66GHz // QPI 6.4 GT/s // DDR3 1333MHz, cache 12MB, Six, TB, HT, 95W)
Cooler for Socket LGA1366 Active (2U+)
4GB, ECC Reg, DDR3-1333, Dual Rank, x4 = 48 гб ОЗУ
Intel Gigabit ET Dual Port Server Adapter (E1G42ET)
Adaptec ASR-5445, 512MB, 4int/4ext SAS/SATA, PCI-E x8
Adaptec ABM-800 Kit
Seagate Cheetah 15K7, ST3450857SS, SAS 6 Gbit, 450GB, 15K rpm, 16MB cache 12 штук
supermicro CSE-846E1-R1200B, Black, 19", 24xSAS/SATA HS Bays, 2x1200W, 4U, E-ATX
CBL-0108, Ipass - Ipass SAS Cable, 18"
= 0,5млн рублей
Выходит таки два сервера. Или можно три но попроще? меньше ОЗУ и винтов можно, но на ксеонах X5650 однозначно и с большими корпусами.
Например Xeon X5650, 24 - 48 озу,Adaptec ASR-5445, Seagate Cheetah 15K7 хх штук. + 2 гбит изернетов .корпус на 24 винта 3,5"
ИТ директора НЕТУ! По-этому такая Ж и сложилась. Есть один админ + хелпдеск , который зашивался в рутине, подчинялся генеральному. Сетка на старых неуправляемых коммутаторах. Уже глючит.
Финансирования тоже не было, по-этому и серверы его на материнках АСУС. Сейчас хотят исправить ситуацию за такие деньги. Скорее всего я и буду "ИТ директором" ))
Приходил "интеграторы" читал их предложения там даже о вируталицации ничего не вспоминают.
Предлагают купить разной мощности HP сколько то штук. Перенести с старых серверов на новые и все. А еще купить кучу софта, который не понятно нужен или нет конторе. Было предложение от другого интегратора "виртуальный ЦОД из коробки" но оно не влазит в деньги и сомнительно по производительности под наши задачи.Причем этот интегратор нормальный. Просят в 2-10 раза больше денег. По-этому веры им нету, интеграторам. Меня пригласили оценить их предложения. (где развод, а где правда и что вообще нужно) А потом попросили всунуть в бюджет 2,5 на первый этап . Второй этап и когда он будет неизвестно.
Правда ТЗ им еще не дали, так как местный админ никак не соберет данные.
П.С. Да и такое бывает Не все такие правильные и могут себе это позволить
П.П.С.
У ВАС supermicro X8DTi-F, 2xNehalem-EP,Westmere/ 12xDDR3 Reg, 3xPCI-Ex8, 1xPCI-Ex4, 2xPCI32, 2xGbit eth, 6xSATA
На сайте супермикро X8DTi-F
PCI-Express
* 1 (x16) PCI-E 2.0 slot
* 2 (x8) PCI-E 2.0 slots
* 1 (x4) PCI-E slot
Пассивку медную будут делать сами. Брать скорее всего в АБН хиперлайн и варку , монтаж и протяжку оптики тоже у них.
2) ипб для серверов 4 шт . + 4 штуки ибп для коммутаторов абонентов
= 0,22 - 0,25 м рублей
3) На три площадки не остается, 2 еще можно . Расстояние между площадками 2-4 км укладываемся. Между двумя площадками по 2 кабеля 12 волокон. и еще одна площадка(коммутаторы) в здании на расстоянии 120 метров. 2 кабеля по 12 волокон.
возможно больше волокон если хватит денег.
4) Софт виртуалицации
VMware Essentials Plus
Veeam Essentials( Veeam Backup & Replication, Veeam Monitor, Veeam Reporter Enterprise, Veeam Business View)
Starwind Enterprise HA
= 0,24млн
Весь софт на 3 сервера виртуализации до 6 сокетов. + iSCSI на два хранилища. Если отказоустойчивая сеть то и хранилища(на базе win2003 сервера ) будут тоже "отказоустойчивые" Я понимаю что тупо городить хранилище на серверах с виндой и несерверными рейдами.
Но им не нужно реально такая отказоустойчивость, говорят у нас не банк и ничего страшного не будет если в неотчетный период отключиться все на день.
Предлагал отказоустойчивую сеть и т.д. сказали не нужно.
В итоге дошли что будет хорошо, если в случае поломки бизнес критичного сервиса( а сейчас это только 1с. И штрафы если не работает в нужный момент такском и клиентбанк) смогут восстановить за 1 час по состоянию на вчера вечером. Больше не нужно.
остается 0,8-1,2м руб на серверы. 2 или 3 пока неясно. Судя из Вашего прайса:
supermicro X8DTi-F, 2xNehalem-EP,Westmere/ 12xDDR3 Reg, 3xPCI-Ex8, 1xPCI-Ex4, 2xPCI32, 2xGbit eth, 6xSATA
Intel Xeon X5650 (2.66GHz // QPI 6.4 GT/s // DDR3 1333MHz, cache 12MB, Six, TB, HT, 95W)
Cooler for Socket LGA1366 Active (2U+)
4GB, ECC Reg, DDR3-1333, Dual Rank, x4 = 48 гб ОЗУ
Intel Gigabit ET Dual Port Server Adapter (E1G42ET)
Adaptec ASR-5445, 512MB, 4int/4ext SAS/SATA, PCI-E x8
Adaptec ABM-800 Kit
Seagate Cheetah 15K7, ST3450857SS, SAS 6 Gbit, 450GB, 15K rpm, 16MB cache 12 штук
supermicro CSE-846E1-R1200B, Black, 19", 24xSAS/SATA HS Bays, 2x1200W, 4U, E-ATX
CBL-0108, Ipass - Ipass SAS Cable, 18"
= 0,5млн рублей
Выходит таки два сервера. Или можно три но попроще? меньше ОЗУ и винтов можно, но на ксеонах X5650 однозначно и с большими корпусами.
Например Xeon X5650, 24 - 48 озу,Adaptec ASR-5445, Seagate Cheetah 15K7 хх штук. + 2 гбит изернетов .корпус на 24 винта 3,5"
ИТ директора НЕТУ! По-этому такая Ж и сложилась. Есть один админ + хелпдеск , который зашивался в рутине, подчинялся генеральному. Сетка на старых неуправляемых коммутаторах. Уже глючит.
Финансирования тоже не было, по-этому и серверы его на материнках АСУС. Сейчас хотят исправить ситуацию за такие деньги. Скорее всего я и буду "ИТ директором" ))
Приходил "интеграторы" читал их предложения там даже о вируталицации ничего не вспоминают.
Предлагают купить разной мощности HP сколько то штук. Перенести с старых серверов на новые и все. А еще купить кучу софта, который не понятно нужен или нет конторе. Было предложение от другого интегратора "виртуальный ЦОД из коробки" но оно не влазит в деньги и сомнительно по производительности под наши задачи.Причем этот интегратор нормальный. Просят в 2-10 раза больше денег. По-этому веры им нету, интеграторам. Меня пригласили оценить их предложения. (где развод, а где правда и что вообще нужно) А потом попросили всунуть в бюджет 2,5 на первый этап . Второй этап и когда он будет неизвестно.
Правда ТЗ им еще не дали, так как местный админ никак не соберет данные.
П.С. Да и такое бывает Не все такие правильные и могут себе это позволить
П.П.С.
У ВАС supermicro X8DTi-F, 2xNehalem-EP,Westmere/ 12xDDR3 Reg, 3xPCI-Ex8, 1xPCI-Ex4, 2xPCI32, 2xGbit eth, 6xSATA
На сайте супермикро X8DTi-F
PCI-Express
* 1 (x16) PCI-E 2.0 slot
* 2 (x8) PCI-E 2.0 slots
* 1 (x4) PCI-E slot
Последний раз редактировалось Sergey_________ 25 апр 2010, 13:19, всего редактировалось 4 раза.
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Решение под виртуализацию серверов.
А чего мелочится то, может по одному ИБП на каждый блок питания?Sergey_________ писал(а):2) ипб для серверов 4 шт . + 4 штуки ибп для коммутаторов абонентов
Во обьясните мне, будущий ИТ директор, нахрена 2-а сервера разносить по 2-м серверным помещениям то? Для того, чтобы было? Перед советом директоров гордо докладывать, что мол построили супермегакатастрофоустойчивое георгафически распределенное решение? Убейте меня, но я никак не могу понять этого тайного смысла.Выходит таки два сервера. Или можно три но попроще? меньше ОЗУ и винтов можно, но на ксеонах X5650 однозначно.
.............................
ИТ директора НЕТУ! По-этому такая Ж и сложилась. Есть один админ + хелпдеск , который зашивался в рутине, подчинялся генеральному. Сетка на старых неуправляемых коммутаторах. Уже глючит.
Финансирования тоже не было, по-этому и серверы его на материнках АСУС. Сейчас хотят исправить ситуацию за такие деньги. Скорее всего я и и буду "ИТ директором" ))
-
- Power member
- Сообщения: 37
- Зарегистрирован: 20 окт 2009, 14:03
- Откуда: Москва
Re: Решение под виртуализацию серверов.
Два потому что так захотел директор. Тут я его убедить не могу и не буду пытаться.
Даже если поставить два сервера виртуализации в одном месте при это бюджете что то измениться ? с учетом того что вторую площадку однозначно будут строить.
Я бы поставил в одном месте. вынес только бекапы. это не так дорого выходит.
Чем плохо на двух площадках иметь по 2 нормальных ИБП? если в серверах 2БП ? очень удобно обслуживать ИБП и БП без остановки работы днем. И нажедней для конторы.
Даже если поставить два сервера виртуализации в одном месте при это бюджете что то измениться ? с учетом того что вторую площадку однозначно будут строить.
Я бы поставил в одном месте. вынес только бекапы. это не так дорого выходит.
Чем плохо на двух площадках иметь по 2 нормальных ИБП? если в серверах 2БП ? очень удобно обслуживать ИБП и БП без остановки работы днем. И нажедней для конторы.
Re: Решение под виртуализацию серверов.
Лучше иметь один мощный ИБП, они полностью дублированы внутри, фактически это два ИБП в одном.Sergey_________ писал(а): Чем плохо на двух площадках иметь по 2 нормальных ИБП? если в серверах 2БП ? очень удобно обслуживать ИБП и БП без остановки работы днем. И нажедней для конторы.
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Решение под виртуализацию серверов.
ну и зря.Sergey_________ писал(а):Два потому что так захотел директор. Тут я его убедить не могу и не буду пытаться.
Даже если поставить два сервера виртуализации в одном месте при это бюджете что то измениться ? с учетом того что вторую площадку однозначно будут строить.
не надо тратить деньгм на инфраструктуру на второй площадке. и можно бОльще денег вложить в сервера. может даже хватить денег на нормальный кластер.
ну надобность двух серверных помещений вы нам так и не объяснили.Чем плохо на двух площадках иметь по 2 нормальных ИБП? если в серверах 2БП ? очень удобно обслуживать ИБП и БП без остановки работы днем. И нажедней для конторы.
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Решение под виртуализацию серверов.
не совсем так. дублированы симметры, и то только тогда, когда правильно их конфигуришь. но денег на них у автора нет.ITER писал(а):они полностью дублированы внутри, фактически это два ИБП в одном.
-
- Power member
- Сообщения: 37
- Зарегистрирован: 20 окт 2009, 14:03
- Откуда: Москва
Re: Решение под виртуализацию серверов.
Начальник прочитал о катастрофоустойчиовстину надобность двух серверных помещений вы нам так и не объяснили.
возможно там будет филиал офиса
Значит все таки мой вариант на такие деньги самый нормальный?
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 56 гостей