Сервер и RAID для отдачи 200 потоков 4-5мб.с. каждый

Как создать сервер оптимальной конфигурации.

Модераторы: Trinity admin`s, Free-lance moderator`s

Возможно ли?

Опрос закончился 21 авг 2006, 15:01

Да!
2
40%
Нет!
1
20%
на этой конфигурации нет, нужна более мощная дисковая, внешний NAS\SAN
2
40%
 
Всего голосов: 5

Аватара пользователя
MrCloud
Advanced member
Сообщения: 99
Зарегистрирован: 22 июн 2006, 12:05
Откуда: Москва
Контактная информация:

Сообщение MrCloud » 23 июн 2006, 15:24

gs писал(а):Сорри, Вы бы создали тут же еще одну тему. А то каша получится - нопонятно кому посты :)
Ща всем отвечу - тока мозги охладю :)
МНЕ! МНЕ!  :lol: Я тут первый стоял  :oops:

А я сел с ноутом в серверную, тут хорошооооо  :P
Второй день тут уже живу...

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 15:31

Вы МОЖЕТЕ читать с дисков 200 потоков одновременно. Для этого нужен аппарат типа Xyratex 5402 с одной полкой SAS дисков или двумя полками SATA. А т.к. это вообще один из самых дешевых внешних массивов, обеспечивающих приличную надежность и емкость, то собственно зачем запариваться? Я же не Hitachi WMS100 предлагаю (хотя это тоже было бы недурно).

Что касается идеи кэшировать потоки в оперативке и гнать с винтов малое число потоков - каким образом Вы себе это представляете?
Если Вы будете отдавать клиентам потоки в заданное время (типа виртуальный кинотеатр по расписанию - с небольшим количеством фильмов, которые влезут в оперативку), то с винтов читаться вообще практически ничего не будет - только закэшировать в память и привет.
Если же клиенты будут выбирать из большой библиотеки что им вздумается, то кэшированию такая задача практически не поддается. Единственное, что Вы можете сделать софтом - это сделать побольше размер читаемого с винтов блока - так им будет легче. Но количество потоков с винтов изменить не представляется возможным. Но этот массив собственно и так позволяет настраивать размер префетча при чтении - надо будет просто поиграться параметрами, чтобы его кэша хватило на предвыборку на нужном числе потоков.

В общем, я рекомендую не париться, а просто взять такой массивчик с парой "стримеров" в кластере. Дешевле дисковую систему, чтобы она была большой и надежной, все равно вряд ли можно сделать (о китайском хламе я говорить не буду). Так о чем речь собственно?

З.Ы. Все уже придумано до нас (С)

Аватара пользователя
MrCloud
Advanced member
Сообщения: 99
Зарегистрирован: 22 июн 2006, 12:05
Откуда: Москва
Контактная информация:

Сообщение MrCloud » 23 июн 2006, 16:20

А может продолжим немножко?  :roll:
gs писал(а):Вы МОЖЕТЕ читать с дисков 200 потоков одновременно. Для этого нужен аппарат типа Xyratex 5402 с одной полкой SAS дисков или двумя полками SATA.
Он отдаст мне 200 сессий по 5мб. каждая? А 400 или больше?
Что касается идеи кэшировать потоки в оперативке и гнать с винтов малое число потоков - каким образом Вы себе это представляете?
Если Вы будете отдавать клиентам потоки в заданное время (типа виртуальный кинотеатр по расписанию - с небольшим количеством фильмов, которые влезут в оперативку), то с винтов читаться вообще практически ничего не будет - только закэшировать в память и привет.
Если же клиенты будут выбирать из большой библиотеки что им вздумается, то кэшированию такая задача практически не поддается. Единственное, что Вы можете сделать софтом - это сделать побольше размер читаемого с винтов блока - так им будет легче. Но количество потоков с винтов изменить не представляется возможным. Но этот массив собственно и так позволяет настраивать размер префетча при чтении - надо будет просто поиграться параметрами, чтобы его кэша хватило на предвыборку на нужном числе потоков.
Ну почему, я софтом могу это сделать, при условии что практически все 200 юзеров смотрят каждый свой видео файл, берем в 1-2 потока на максимальной скорости отдачи дисков 1-2 БОЛЬШИХ куска 1-2 видеофайлов, ложим их в буфер, из буфера эти 1-2 файла потихонечку отждаются клиентам по 5мб, с диска 1-2 следующих файла на полной скорости берутся в буфер... и так по кругу... если упрощенно.
Я так понимаю тогда ресурсов дисковой системы будет тратится намного меньше!? Может и не врут буржуи? Просто у них этот буфер хорошо реализован?  :idea:  :roll:
Последний раз редактировалось MrCloud 23 июн 2006, 16:22, всего редактировалось 1 раз.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 16:21

GreeNGO

Во первых - откуда Вы взяли результаты этих тестов? Они мягко говоря очень подозрительны. Что за массивы Вы иметете в виду? Не путаете ли мегабайты с мегабитами? Например "SAN 12xSATA-2xU320SCSI
обеспечивает 220-225 Мбит\с" - я из совсем дешевого Инфортренда получал на чтении 10 потоков цифры, близкие к 300МБ/с. Мегабайт (МБ), а не мегабит (Мб)!!! Для современного ящика выдавать на линейных потоках 225Мб/8=28МБ/с - как-то странно.
Во вторых - Вы уверены, что при потоке 2Мб/с MPEG2 можно говорить о КАЧЕСТВЕ? По моему опыту на МПЕГ2 ниже, чем 3-4Мб/с, смотреть без содрогания невозможно.
А в третьих - Вам подойдет то же решение, что и автору темы :). Даже проще - суммарный поток меньше. Но вот число винтов все равно нужно немаленькое.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 16:26

Тот Комкоровский тест, о котором я говорил, делался на очень даже серьезном софте (Kasenna - но могу ошибаться в написании, давно было, но стоила софтина - не в тоннах измерялось). И оперативки там было вполне достаточно - именно этот вопрос оговаривался в требованиях софта кстати. Но результат налицо. Может быть там что-то недовинтили, но вообще-то спецы были вполне серьезные. Все же сотни потоков - это очень даже не игрушки.
О каком софте Вы кстати говорите? Можно спеки глянуть?

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 16:30

Я кстати попросил помощи одного спеца - профи в этом вопросе (один из тех как раз, кто делал тот тест и позже Стрим-ТВ). Но он будет только в понедельник.

Аватара пользователя
MrCloud
Advanced member
Сообщения: 99
Зарегистрирован: 22 июн 2006, 12:05
Откуда: Москва
Контактная информация:

Сообщение MrCloud » 23 июн 2006, 16:34

Очень интересно будет мнение специалиста. Greengo имел в виду MPEG4 кодек, я пока больше на мпег2 рассчитываю.

Мы с ним примерно об одном и том же, если поток нужен будет уже, то можно будет увеличить их кол-во. Софта как такового еще нет, видимо писать будем с Greengo.  :)
Последний раз редактировалось MrCloud 23 июн 2006, 16:45, всего редактировалось 1 раз.

Аватара пользователя
GreeNGO
Junior member
Сообщения: 4
Зарегистрирован: 23 июн 2006, 13:07

Сообщение GreeNGO » 23 июн 2006, 16:37

gs писал(а):GreeNGO
Во первых - откуда Вы взяли результаты этих тестов? Они мягко говоря очень подозрительны. Что за массивы Вы иметете в виду? Не путаете ли мегабайты с мегабитами?
Взял с сайта www.ixbt.com С мегабитами попутал, это верно.
gs писал(а): Во вторых - Вы уверены, что при потоке 2Мб/с MPEG2 можно говорить о КАЧЕСТВЕ? По моему опыту на МПЕГ2 ниже, чем 3-4Мб/с, смотреть без содрогания невозможно.
Уверен, так как мы как раз занимаемся такими потоками.. только в MPEG2 TS лежит файл в другом кодеке, не MPEG2. Например VC-1
В 1,8-2 Мбит подготовленный файл по качеству не уступает DVB VOB
gs писал(а): А в третьих - Вам подойдет то же решение, что и автору темы :). Даже проще - суммарный поток меньше. Но вот число винтов все равно нужно немаленькое.
Примерную стоимость озвучить можно ? И еще, если два сервера я так понимаю включатся, в каждый из них нужно по FC контроллеру ?

Заранее спасибо за ответ.

Аватара пользователя
GreeNGO
Junior member
Сообщения: 4
Зарегистрирован: 23 июн 2006, 13:07

Сообщение GreeNGO » 23 июн 2006, 16:39

gs писал(а):Тот Комкоровский тест, о котором я говорил, делался на очень даже серьезном софте (Kasenna - но могу ошибаться в написании, давно было, но стоила софтина - не в тоннах измерялось). И оперативки там было вполне достаточно - именно этот вопрос оговаривался в требованиях софта кстати. Но результат налицо. Может быть там что-то недовинтили, но вообще-то спецы были вполне серьезные. Все же сотни потоков - это очень даже не игрушки.
О каком софте Вы кстати говорите? Можно спеки глянуть?
Сказать не могу, но софт не хуже Казенны, это уж точно ;). Может мегатоны баксов не стоит, но по многим вещам уже сейчас более функциональнее.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 16:48

Н264 конечно резко меняет дело, но я своими глазами вижу "MPEG2 Transport Stream" :). Вообще Н264 - вещь клевая, правда довольно тяжелая.

По поводу написания софта - вот тут как раз я Вас предостерегаю. Вы лучше займитесь собственно реализацией функционала, а оптимизацию потоков возложите на железо. По опыту поколений, вылизывание и оптимизация - как раз то, что сьедает массу времени и еще неизвестно как потом работает.

Теперь про аппаратную оптимизацию предвыборки. Как я уже говорил, контроллер умеет делать это САМ. Вопрос только в грамотной настройке.
В каждом контроллере массива стоит по гигу кэша. Предположим худший вариант, что контроллер один (сдох, незадействован и т.п.). Имеем гиг памяти. На каждый из 200 потоков приходится по 5МБ мозгов. Т.е. мы можем выставить до 5МБ на предвыборку (тут надо только не переборщить, а то кэша не хватит). Пусть хост читает даже по 64к - все равно контроллер при первом обращении прочитает 5МБ и дальше будет лупить из кэша, пока не придет время следующего префетча. А при размере блока грубо говоря более мегабайта дисковые системы начинают воспринимать рандомную нагрузку практически как линейную (т.е. просто головки дисков уже большую часть времени не шевелятся). Что собственно Вы и хотите сделать софтом. Ну и на кой, спрашивается?

К тому же хератекс поставляет массивы очень немаленьким видюшным компаниям как ОЕМ. Вы возможно как спецы в своей области даже их видели - просто под другими именами. У них даже есть отдельные партнумберы дисков с некоей "видеопрошивкой" (правда я не знаю чем она отличается). Так что Вы не первые :)

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 16:52

По поводу цены - объем массива какой надо?

Аватара пользователя
MrCloud
Advanced member
Сообщения: 99
Зарегистрирован: 22 июн 2006, 12:05
Откуда: Москва
Контактная информация:

Сообщение MrCloud » 23 июн 2006, 17:00

А таки сколько сессий оно потянет? Серверов сколь можно будет подключить? Кэш увеличить можно?
Объем желательно от 2 до 10ТБ, если возможно.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 17:13

Количество сессий сильно зависит от числа шпинделей - т.е. денег :)
200-300МБ/с при большом числе винтов он потянет практически наверняка - в потоки сами можете пересчитать (какой битрейт выберете).
Кэш не увеличивается, но можно задейтвовать кэш обоих контроллеров сделав несколько массивов, разложив по ним данные (или объединив в софтовый страйп) и подключившись через разные контроллеры.
Количество серверов - напрямую можно воткнуть четыре. Через свич - много.

Аватара пользователя
gs
Сотрудник Тринити
Сотрудник Тринити
Сообщения: 16650
Зарегистрирован: 23 авг 2002, 17:34
Откуда: Москва
Контактная информация:

Сообщение gs » 23 июн 2006, 17:33

Спеки сейчас Смагин отправит.
По поводу цен могу сказать сразу - это самый дешевый из подходящих вариантов. Дешевле - только сервер в ящике типа супермикро SC933T и с контроллером 3ware9550SX-16. Но с потерей скорострельности. Немного дешевле можно сделать, если набрать пачку SCSI-SATA аппаратов Inbfortrend, но тут сильной экономии не будет.

Аватара пользователя
GreeNGO
Junior member
Сообщения: 4
Зарегистрирован: 23 июн 2006, 13:07

Сообщение GreeNGO » 23 июн 2006, 17:40

gs писал(а):Н264 конечно резко меняет дело, но я своими глазами вижу "MPEG2 Transport Stream" :). Вообще Н264 - вещь клевая, правда довольно тяжелая.


MPEG2 TS формат видеопотока, внутри него может передаваться как кодек MPEG2, так и H.264 AVC причем хоть HD качества

В случает с HD H.264 AVC битрейт потока при вещании из файла будет 11-15 Мбит.с

Судя по обсуждению, я понял что Xuratex потянет 200 сессий по 5 Мбит..
при битрейте в 1,8-2 Мбит\с сколько примерно он потоков сможет обработать без провалов и падения производительности ?

Тестировать, я так понимаю, не пробовали ;)

Ответить

Вернуться в «Серверы - Конфигурирование»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 23 гостя