Сервер под прокси - общие вопросы конфигурации
Модераторы: Trinity admin`s, Free-lance moderator`s
-
- member
- Сообщения: 28
- Зарегистрирован: 27 авг 2002, 16:51
- Откуда: Москва
- Контактная информация:
Сервер под прокси - общие вопросы конфигурации
Привет!
Есть несколько теоретический вопрос об оптимальной конфигурации сервера под сабж. Имеем много юзеров и корпоративный прокси/кэш сервер. Трафик очень большой. Мать на базе SuperMicro ServerSet III с двумя шинами PCI64-33 и PCI32-33. В ней два камня 933, 1 Гиг оперативки и встроенный сетевой адаптер 10/100 на матери, на шине 32/33 (для внешней сети). Имеем также Гигабитный адаптер на PCI64 (для внутренней сети) и рэйд на ту же шину. На рэйде 6 дисков по 18 Гиг.
Вопрос 1: как правильнее раскидать карты (Гиг и рэйд), если учесть, что рэйд пользуется активно (там кэш и том под логи)? Верно ли предположение, что кого-то из них надо повесить особняком на 64/33? Кого? Или не стоит совать 64-карту в 32-слот и повесить их оба на 64/33?
Вопрос 2: как правильнее сделать рэйд? 5? Или 1+0?
Заранее спасибо...
Есть несколько теоретический вопрос об оптимальной конфигурации сервера под сабж. Имеем много юзеров и корпоративный прокси/кэш сервер. Трафик очень большой. Мать на базе SuperMicro ServerSet III с двумя шинами PCI64-33 и PCI32-33. В ней два камня 933, 1 Гиг оперативки и встроенный сетевой адаптер 10/100 на матери, на шине 32/33 (для внешней сети). Имеем также Гигабитный адаптер на PCI64 (для внутренней сети) и рэйд на ту же шину. На рэйде 6 дисков по 18 Гиг.
Вопрос 1: как правильнее раскидать карты (Гиг и рэйд), если учесть, что рэйд пользуется активно (там кэш и том под логи)? Верно ли предположение, что кого-то из них надо повесить особняком на 64/33? Кого? Или не стоит совать 64-карту в 32-слот и повесить их оба на 64/33?
Вопрос 2: как правильнее сделать рэйд? 5? Или 1+0?
Заранее спасибо...
- a_shats
- Advanced member
- Сообщения: 5010
- Зарегистрирован: 27 авг 2002, 10:55
- Откуда: Москва
- Контактная информация:
Попытаюсь
1. Какой конкретно RAID-контроллер ?
Вообще-то, если я все правильно понял, там (на маме) шин PCI несколько (ну, на Интеловских мамах, по крайней мере, так ).
На одной - PCI64 разъемы и SCSI адаптер(и RAID, по идее, идет в один из этих разъемов).
На второй - PCI32 встроенный сетевой адаптер, граф. адаптер, разъем(ы) PCI32.
По идее, имхо, пропускной PCI64 хватит за глаза и на RAID, и на сетевушку.
И не стоит вообще, имхо, совать PCI64 карту в PCI32 (нет, я конечно видел работающий таким макаром адаптековский SCSI-контроллер), только если совсем нет другой возможности (все слоты заняты или их вообще нет).
2. Там ведь и чтение, и - особенно - запись нехилые будут... Имхо, лучше 0+1 (тем более, винтов хватает). Хотя - имея 6 винтов - под кэш прокси в дополнение к основному массиву(0+1 или 5 на 3 винтах и 1 в hot-spare) можно навесить RAID 0.
Вот...
1. Какой конкретно RAID-контроллер ?
Вообще-то, если я все правильно понял, там (на маме) шин PCI несколько (ну, на Интеловских мамах, по крайней мере, так ).
На одной - PCI64 разъемы и SCSI адаптер(и RAID, по идее, идет в один из этих разъемов).
На второй - PCI32 встроенный сетевой адаптер, граф. адаптер, разъем(ы) PCI32.
По идее, имхо, пропускной PCI64 хватит за глаза и на RAID, и на сетевушку.
И не стоит вообще, имхо, совать PCI64 карту в PCI32 (нет, я конечно видел работающий таким макаром адаптековский SCSI-контроллер), только если совсем нет другой возможности (все слоты заняты или их вообще нет).
2. Там ведь и чтение, и - особенно - запись нехилые будут... Имхо, лучше 0+1 (тем более, винтов хватает). Хотя - имея 6 винтов - под кэш прокси в дополнение к основному массиву(0+1 или 5 на 3 винтах и 1 в hot-spare) можно навесить RAID 0.
Вот...
-
- member
- Сообщения: 28
- Зарегистрирован: 27 авг 2002, 16:51
- Откуда: Москва
- Контактная информация:
Конкретно? Будет оффтопик... Сервер Compaq ProLiant ML370, контроллер, соответственно Compaq SmartArray 5302. Гигабитка - Compaq NC6136SX.
По идее, имхо, пропускной PCI64 хватит за глаза и на RAID, и на сетевушку. - А хватит ли? Там веть не 64/66, а 64/33. Считай сам - сеть примерно 120 МБ (в пике) + диски 160 МБ (в пике) = 280 (64/33 - 260). Ну, пусть реально меньше, но всё равно - лимит.
Может лучше рэйд - на 64, а гиг на 32, вместе с 100-кой? Или наоборот, гиг - на 64, а рэйд на 32? Там дисковая активность нехилая - на кажый акт доступа идёт несколько дисковых операций: поиск в кэше и выдача юзеру (если кэш-хит), запись с ориг. сайта (если кэш-мисс), запись в лог.
2. То есть, скажем, 4 диска - Р-5 со стендбаем (или Р1+0) под систему и лог + 2 диска в Р-0 под кэш? А если диск в кэше вылетит (Р0 слетит) - всё ведь встанет. Или поставить на всё 1+0? Он быстрее 5-го или нет?
Или докупить вторую корзину, повесить на второй канал и вынести туда кэш? Или вообще - вынести кэш на простую сказю (будет просто 2 кэш-диска)?
По идее, имхо, пропускной PCI64 хватит за глаза и на RAID, и на сетевушку. - А хватит ли? Там веть не 64/66, а 64/33. Считай сам - сеть примерно 120 МБ (в пике) + диски 160 МБ (в пике) = 280 (64/33 - 260). Ну, пусть реально меньше, но всё равно - лимит.
Может лучше рэйд - на 64, а гиг на 32, вместе с 100-кой? Или наоборот, гиг - на 64, а рэйд на 32? Там дисковая активность нехилая - на кажый акт доступа идёт несколько дисковых операций: поиск в кэше и выдача юзеру (если кэш-хит), запись с ориг. сайта (если кэш-мисс), запись в лог.
2. То есть, скажем, 4 диска - Р-5 со стендбаем (или Р1+0) под систему и лог + 2 диска в Р-0 под кэш? А если диск в кэше вылетит (Р0 слетит) - всё ведь встанет. Или поставить на всё 1+0? Он быстрее 5-го или нет?
Или докупить вторую корзину, повесить на второй канал и вынести туда кэш? Или вообще - вынести кэш на простую сказю (будет просто 2 кэш-диска)?
- a_shats
- Advanced member
- Сообщения: 5010
- Зарегистрирован: 27 авг 2002, 10:55
- Откуда: Москва
- Контактная информация:
Нет, наверноеAlex-M писал(а):Конкретно? Будет оффтопик...
На практике загрузка сети вряд ли превысит 30%, имхо.А хватит ли?
2. Опять имхо: RAID 0+1 будет быстрее на запись, чем RAID5. Ну и конечно же, надежнее, чем RAID0. Спору нет. Другое дело, что если к 5-минутному простою сервер не критичен, то перебросить куда-нибудь кэш - без проблем, да и данные в нем, имхо, не критичны (их не нужно гарантированно хранить). Если же критичен - то да, лучше все на RAID 0+1 (ну или 10 - смотря как он конкретно на данном контроллере реализован, суть - лучше и надежнее страйп зеркал, нежели зеркало страйпов).
Имхо - не даст ничего. Чтение/запись в/из кэша идет не потоком, а "вразброс", хаотично. Здесь именно, имхо, и нужны преимущества WB-кэша RAID. Второй канал - дык, контроллер-то все равно один .Или докупить вторую корзину, повесить на второй канал и вынести туда кэш? Или вообще - вынести кэш на простую сказю (будет просто 2 кэш-диска)?
-
- member
- Сообщения: 28
- Зарегистрирован: 27 авг 2002, 16:51
- Откуда: Москва
- Контактная информация:
1. Даже, если я начну с этого сервера тягать суточные логи, метров по 200-300 каждый? Всего гигов по 6 в месяц?
2. Не совсем. Он будет быстрее только, если зеркала будут на разных каналах контроллера. Ведь, если нужно переслать в массив скажем Х байт, то для Р-1 (или 1+0 - неважно) реально будет передано 2*Х байт. А для Р-5 - только Х+к, где к - парити и она с ростом числа дисков в массиве Р-5 будет падать. Например, для 4-х дисков в Р-5 к=25%, т.е. будет 1.25*Х байт. А для 6-ти дисков к=17%, т.е. меньше.
Простои очень критичны!
А почему ничего не даст вынесение кэша на отд. сказю? ИМХО: а) отдельный контроллер = меньше нагрузка на рэйд, лучше балансировка потоков; б) вылетел отдельный диск = работаем на оставшемся, а так - весь Р-0 коту под хвост. А кэш - так сам же сказал, что данные идут вразброс - будет масса кэш-миссов...
Сорри, но очень хочется "щательнее" разобраться...
2. Не совсем. Он будет быстрее только, если зеркала будут на разных каналах контроллера. Ведь, если нужно переслать в массив скажем Х байт, то для Р-1 (или 1+0 - неважно) реально будет передано 2*Х байт. А для Р-5 - только Х+к, где к - парити и она с ростом числа дисков в массиве Р-5 будет падать. Например, для 4-х дисков в Р-5 к=25%, т.е. будет 1.25*Х байт. А для 6-ти дисков к=17%, т.е. меньше.
Простои очень критичны!
А почему ничего не даст вынесение кэша на отд. сказю? ИМХО: а) отдельный контроллер = меньше нагрузка на рэйд, лучше балансировка потоков; б) вылетел отдельный диск = работаем на оставшемся, а так - весь Р-0 коту под хвост. А кэш - так сам же сказал, что данные идут вразброс - будет масса кэш-миссов...
Сорри, но очень хочется "щательнее" разобраться...
- a_shats
- Advanced member
- Сообщения: 5010
- Зарегистрирован: 27 авг 2002, 10:55
- Откуда: Москва
- Контактная информация:
А это - проблема ? Я со своего прокси(с 1 IDE) тягаю по 30 Мб логов вдень.метров по 200-300 каждый?
Всего гигов по 6 в месяц?
Хм. Имхо, производительность собственно контроллера(чистая) ниже пропускной даже одного канала. Или я не прав ?Не совсем.
Насчет Р0 - если простои критичны, то да, не стоит. Лучше обойтись RAID 0+1.
Запись мелкими порциями "вразброс". Чтение - тоже, причем чаще всего-одних и тех же данных. Кэш RAID'а в режиме WB, по идее, должен дать хороший прирост производительности по сравнению с "просто" SCSI. SCSI-контроллер имеет преимущество перед RAID-контроллером лишь на массированных чтении/записи данных с объемами, значительно превосходящими объем кэша RAID. Т.е. даже лог на отдельном SCSI размещать нет смысла. Все имхо, конечно же.А почему ничего не даст вынесение кэша на отд. сказю?
-
- member
- Сообщения: 28
- Зарегистрирован: 27 авг 2002, 16:51
- Откуда: Москва
- Контактная информация:
Имхо, производительность собственно контроллера(чистая) ниже пропускной даже одного канала. Или я не прав ? А как же тогда многоканальники? ИМХО, производительность если и ниже - то не намного, процентов на 10-20. Или тогда скажем SA-5304 нафих не нужен? 4 канала, U160. Несмотря на PCI64/66...
Запись мелкими порциями "вразброс". Чтение - тоже, причем чаще всего-одних и тех же данных. Кэш RAID'а в режиме WB, по идее, должен дать хороший прирост производительности по сравнению с "просто" SCSI. SCSI-контроллер имеет преимущество перед RAID-контроллером лишь на массированных чтении/записи данных с объемами, значительно превосходящими объем кэша RAID. Тогда нужен нехилый кэш. Метров 128 минимум, лучше 256... Ибо юзеров очень много и вероятность долговременного кэш-хита для одного и того-же блока довольно низка, "я так дюмаю..."
Запись мелкими порциями "вразброс". Чтение - тоже, причем чаще всего-одних и тех же данных. Кэш RAID'а в режиме WB, по идее, должен дать хороший прирост производительности по сравнению с "просто" SCSI. SCSI-контроллер имеет преимущество перед RAID-контроллером лишь на массированных чтении/записи данных с объемами, значительно превосходящими объем кэша RAID. Тогда нужен нехилый кэш. Метров 128 минимум, лучше 256... Ибо юзеров очень много и вероятность долговременного кэш-хита для одного и того-же блока довольно низка, "я так дюмаю..."
- a_shats
- Advanced member
- Сообщения: 5010
- Зарегистрирован: 27 авг 2002, 10:55
- Откуда: Москва
- Контактная информация:
Просто. Все, что делает контроллер - считает CRC и выполняет XOR.А как же тогда многоканальники?
При разносе одного массива на два канала - пропускная от винтов до контроллера выше. Имхо.
Только желательно - с BBU (с батарейкой, в смысле). А так - в те же А170/А352 можно теоретически запихать 128 Мб (предел для i960RN). Intel SRCU32 - до 256 Мб(где-то видел - до 512). Не вопрос.Тогда нужен нехилый кэш.
Что касательно кэш-хитов... Просто посмотрите, что реже всего убивается пуржером Вашего кэша. У меня - практически одни и те же сайты/линки висят. Что касается динамического контента (типа linkexchange, сайтов с кучами флэша (iХBT ) ... Головная боль. На них никогда и никакого кэша не хватит. Один выход - рубить .
А долговременный хит... Вы много видели пользователей (помимо чата - еще одна головная боль админов), постоянно давящих "Обновить" ? Я - нет. Хотя и в этом случае будет кэш-мисс - прокся полезет обновлять контент на страницу...
Кроме записи существует ещё и чтение, вот там может пригодиться. К тому же надо же куда-то 56 дисков повеситьAlex-M писал(а):Или тогда скажем SA-5304 нафих не нужен? 4 канала, U160.
Речь не о кеше прокси, а о кешировании данных на запись, примерно по паре наборов страйпов на каждый поток записи. Это при условии, что прокси скидывает данные сразу, а не ждёт полной закачки.Alex-M писал(а): Тогда нужен нехилый кэш. Метров 128 минимум, лучше 256... Ибо юзеров очень много и вероятность долговременного кэш-хита для одного и того-же блока довольно низка, "я так дюмаю..."
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 8 гостей