Как работает балансировка нагрузки в роутерах
Обновлено: 02.07.2024
У меня есть два BGP-маршрутизатора для DIA с проблемой с одним провайдером, поскольку две ссылки на этого провайдера находятся на одном и том же SP-маршрутизаторе. Передача моего Ethernet через две отдельные линии MetroE от другого провайдера от имени моего основного провайдера, так как у одного провайдера уже было оптоволокно к зданию. Если бы кто-то также мог прояснить терминологию интернет-провайдера, когда один провайдер передает услуги другому, я был бы признателен. Два канала завершают L3 одним и тем же маршрутизатором SP, поэтому каждый из двух маршрутизаторов одноранговый с одним и тем же маршрутизатором поставщика. Я назначен PA пространство от этого SP.
У меня нет проблем с исходящей балансировкой нагрузки (или с распределением нагрузки, так как, я думаю, это будет технически более точным). Исходя, я делаю ECLB на брандмауэре, который выбирает один из двух пограничных маршрутизаторов на основе хэша srcip / dstip .
Этот конкретный оператор - забудьте о поставщике, который просто предоставляет транспорт - не балансирует нагрузку входящего трафика от их одного маршрутизатора через два канала к двум моим маршрутизаторам, и это направление, в котором мы могли бы использовать объединенную 5x50Mb BW, которую мы имеем по контракту. SP видит для нас равные пути для одной и той же рекламируемой сети, и, по сути, только первый путь, который они изучают, становится тем, что становится лучшим путем.
Я перечислил то, что я рассматриваю в качестве своих вариантов ниже, чтобы получить трафик по обоим каналам, и хотел бы знать, что эксперты здесь считают лучшим, особенно если вы знакомы с типичными SP SOP . Поскольку у меня есть контракт, изменение контракта в настоящее время не позволяет перестроить его каким-либо другим способом.
Разрешение maximum-paths 2 в сети SP исправляет это, но это относится ко всем их клиентам BGP на том же маршрутизаторе, который я не думаю, что они позволят. По крайней мере, один вариант, который будет работать, связан со статическими маршрутами, но это не то, что я бы предпочел.
Ниже приведены варианты, которые я рассмотрел в своем порядке предпочтений.
Разрешить BGP maximum-paths 2 на маршрутизаторе SP (влияет на всех клиентов BGP, размещенных там), поэтому / 24 используется при объявлении на обоих каналах
Разделите мои / 24 пополам и разместите рекламу / 25 по каждой ссылке вместе с / 24. SP недавно заявил, что недокументированное сообщество может использоваться для принятия префиксов> / 24. Это требует манипулирования NAT на моем брандмауэре для использования глобальных адресов в обоих / 25, так как большая часть трафика теперь направляется нам только по нескольким адресам в нижнем / 25.
Статические маршруты SP к / 24 для принудительного распределения нагрузки с BGP / 24 (плавающий маршрут).
Статические SP-маршруты направляются в / 25 с для принудительного использования префикса ECLB с BGP / 24 (в RIB, но не используются, если не произошел сбой / 25 с).
Я думаю, что реклама / 25s в BGP - лучший вариант, который я только недавно обнаружил, возможен с недокументированным сообществом SP, но есть ли другие варианты, которые я не рассматривал, или опасения по поводу неупорядоченных пакетов с некоторыми из этих вариантов выбора ?
Это своего рода проблема обратной балансировки нагрузки, которую большинство людей задают с BGP.
Всякий раз, когда мы хотим подключиться к Интернету, нам нужно, чтобы веб-сайты были доступны как можно быстрее, чтобы обеспечить максимальное удобство для пользователей. Однако мы должны помнить, что эти веб-сайты размещены на веб-серверах, и они, в свою очередь, имеют ограничение по емкости. Сайт с высоким спросом не может выжить без балансировщик нагрузки , Этот инструмент позволяет веб-сайту, который мы администрируем, быть всегда доступным и иметь возможность обслуживать все запросы с максимально возможной скоростью. Этот учебник объяснит, как балансировщик нагрузки, или также известный как Балансировщик нагрузки , может улучшить производительность вашего сайта.
Веб-сайты, предлагающие такие услуги, как онлайн-покупки, онлайн-пресса или мультимедийные услуги, имеют высокий спрос на трафик почти непрерывно, особенно в вечернее время, то есть, когда интернет-трафик является наиболее интенсивным, поскольку все находятся в своих домах, отдыхая от тяжелый день на работе. Веб-серверы несут основную ответственность за тот факт, что при посещении определенного веб-сайта загрузка страницы происходит очень быстро, чтобы обеспечить максимально возможный пользовательский опыт.
Каждый из онлайн бизнес (электронная коммерция) Нужно иметь в виду, что это обязательно иметь высокую производительность и доступность веб-серверов. Лишь несколько кратких событий, связанных с медленным доступом к сайтам покупок или его отсутствием, и даже проблемами с оплатой, могут повлиять на решение клиента повторно совершать покупки на таких сайтах.
Как может помочь балансировщик нагрузки?
Если вы несете ответственность за инфраструктуру, которая дает жизнь веб-сайтам с высоким спросом, таким как электронная коммерция, и вы хотите, чтобы веб-серверы поддерживали высокий уровень обслуживания, вам следует принять во внимание установку инфраструктуры с балансировкой нагрузки или также известную так как Балансировка нагрузки .
Для чего они? Это гарантирует, что веб-трафик не будет сосредоточен на одном сервере, который в конечном итоге насыщается из-за тысяч запросов в секунду, которые он получает от разных клиентов. В свою очередь, эта насыщенность приводит к крайне медленной работе сайтов или просто к тому, что она недоступна и возвращает ошибку. Фактически «роль» балансировщика нагрузки может выполняться самим веб-сервером. Вместо того, чтобы постоянно вкладывать средства в приобретение одного сервера с возрастающей емкостью, вы можете выбрать два или более сервера с идентичные черты для того, чтобы сбалансировать трафик на каждом.
Чтобы применить это Балансировка процесс, обычно выбирают DNS Циклическая функциональность равномерно распределять клиентские запросы по веб-серверам. Результатом является постоянная доступность и производительность сервера. Недостатком этого процесса является то, что он не применим в сценарии, где серверы имеют различные функции и возможности , Round-Robin обрабатывает все доступные серверы одинаково и не проверяет, работают они или нет.
В результате различные поставщики применили улучшения. Они сделали это, создав инструменты, обеспечивающие отказоустойчивость серверов: балансировщики нагрузки , Это путем перенаправления трафика и клиентов с одного неисправного сервера на другой доступный. Таким образом, пользователи будут ощущать очень мало неудобств и ноль сбоев. Эти инструменты могут использоваться как в среде с несколькими веб-сайтами, так и в среде с одним.
Схема работы
Как мы уже упоминали, балансировщик нагрузки - это инструмент, который направляет клиента на веб-сервер, который наиболее доступен среди тех, у кого одинаковое содержимое. Этот процесс полностью прозрачен для тех, кто получает доступ к определенному сайту, поэтому на первый взгляд мы не можем его обнаружить. Мы можем использовать эту схему, чтобы лучше понять, как она работает:
Типы балансировщиков нагрузки
- Тип оборудования: Он состоит из выделенного сервера с определенной операционной системой и программного обеспечения для балансировки нагрузки. Этот сервер объединяет веб-серверы с использованием решений Plug and Play, что означает, что, как только они подключаются, они работают практически без предварительной настройки.
- Тип переключателя: Балансировщику нагрузки этого типа необходим переключатель уровня 2 или уровня 3 для интеграции процесса балансировки. Между коммутатором и веб-сервером не требуется никакого промежуточного устройства.
- Программный: в В этом случае нет необходимости изменять какие-либо функции подключения к сети. Вы можете установить программное обеспечение для этой цели на самих веб-серверах. Однако вы можете выбрать выделенный сервер для выполнения роли балансировщика нагрузки.
В любом случае основная цель достигается: мониторинг производительности веб-серверов, выбор подходящего сервера для запросов каждого клиента и перенаправление трафика между клиентом и сервером.
Как трафик перенаправляется
Как мы уже знаем, одной из основных целей балансировщика нагрузки является перенаправление трафика с клиента на соответствующий сервер. Далее мы поделимся, как они это делают:
Эти аббревиатуры соответствуют M Edia Access Control A дрес T ranslation. Этот метод требует, чтобы каждый веб-сервер использовал IP-адрес балансировщика нагрузки в качестве адреса интерфейса обратной связи, в дополнение к своему собственному IP-адресу. Когда балансировщик нагрузки получает запрос от клиента, он начинает выбирать соответствующий веб-сервер. Тогда меняет MAC-адрес назначения в пакете данных, который составляет запрос клиента к запросу выбранного веб-сервера. Позднее этот запрос отправляется на сервер, который содержит IP-адрес клиента в качестве данных. Таким образом, это гарантирует прямой ответ на это.
Следует учитывать, что всякий раз, когда «выбранный» веб-сервер отвечает на запрос клиента, он маскирует свой исходный IP-адрес с IP-адресом, соответствующим его балансировщику нагрузки. Как будто клиент сделал запрос к нему изначально.
Метод заключается в изменить IP-адрес назначения запроса клиента. Первоначально последняя направлена на IP балансировщика нагрузки. Однако популярный процесс «nateo» меняет этот IP и назначает тот, который соответствует «выбранному» серверу. Этот процесс выполняется самим балансировщиком нагрузки через назначенный ему IP-адрес. Кроме того, в разгар этого процесса, IP-адрес источника является адресом балансировщика нагрузки вместо IP-адреса клиента. Как только балансировщик нагрузки перенаправляет ответ клиенту, он меняет целевой IP-адрес на тот, который соответствует клиенту. Следовательно, IP-адрес, указанный в качестве источника, является адресом балансировщика нагрузки.
Достигается скрытие исходного IP-адреса веб-сервера, чтобы он не был виден клиентам. Таким образом, веб-серверы могут использовать любой IP, даже если он частный. Эти серверы не нужно подключаться напрямую к балансировщику нагрузки в смысле принадлежности к одному и тому же сегменту локальной сети. Пока веб-серверы и балансировщики нагрузки могут обмениваться данными с использованием статических маршрутов или протоколов сетевой маршрутизации, в этом нет необходимости.
TCP-шлюз
В этом методе балансировщики нагрузки должны перенаправлять трафик на уровне TCP и выше. И это, и клиент, делающий запрос на соединение установить TCP-соединение , Таким образом, балансировщик нагрузки получает данные запроса уже перед поиском наиболее подходящего сервера. Затем балансировщик нагрузки устанавливает TCP-соединение с уже назначенным сервером для передачи клиентского запроса. Этот балансировщик нагрузки также передает ответ от сервера клиенту через TCP-соединение. Таким образом, мы видим, что протокол TCP действует как промежуточное звено между потенциальными серверами назначения, балансировщиком нагрузки и клиентом.
Как мы видим, функция балансировщика нагрузки становится все более важной. Главным образом, потому что веб-сайты получают все больше запросов клиентов, то есть все больше пользователей, которые хотят получить доступ к различным страницам. Не только электронная коммерция является одним из секторов, которые должен использовать этот тип инструмента, но также и любой другой, имеющий высокий ежедневный пользовательский трафик.
Ответ на вопрос
В статье рассмотрены функции балансировки нагрузки WAN между интерфейсами на EdgeRouter на основе версии EdgeOS v1.4.0 и более поздних версий. Версии EdgeOS до v1.8.0 поддерживали только два интерфейса WAN, в версии 1.8.0 - до 8.
Какие функции нужны для такой конфигурации:
1) Раздел баланса нагрузки, который определяет интерфейсы, и, возможно, адреса для пинга, интервалы таймера, тест маршрута и т.д.
2) Набор правил брандмауэра, определяющий критерии соответствия.
3) По крайней мере, один интерфейс LAN, на котором применяется набор правил брандмауэра.
Примечание. Прежде чем настраивать балансировку нагрузки, рекомендуется проверить, что оба интерфейса WAN правильно настроены с помощью nat/firewall/etc. Подключите один интерфейс WAN, убедитесь, что клиенты локальной сети могут получить доступ к Интернету. Затем сделайте то же самое со вторым WAN.
Минимальная конфигурация
Ниже приведен пример конфигурации, который использует в основном значения по умолчанию (используя команду «show» в режиме конфигурации):
Команда «show»
Во первая команда «show» отображает «статус» интерфейсов, связанных с группой балансировки нагрузки WAN.
$ show load-balance status
Group WLB
interface : eth7
carrier : up
status : active
gateway : 22.0.0.1
weight : 50
flows
WAN Out : 7451
WAN In : 0
Local Out : 8854
interface : pppoe0
carrier : up
status : active
gateway : pppoe0
weight : 50
flows
WAN Out : 7566
WAN In : 0
Local Out : 3904
configure
set interfaces ethernet eth1 pppoe 0 default-route none
set protocols static interface-route 0.0.0.0/0 next-hop-interface pppoe0
commit
save
exit
Параметры конфигурации
Для тех, кто хочет изменить значения по умолчанию, существует несколько параметров конфигурации:
load-balance group <name> interface <name> route default
table <name>
>
weight <number>
failover-only
route-test type default
ping target <host>
>
script <name>
>
initial-delay <number>
interval <number>
count success <number>
failure <number>
>
>
>
>
>
Раздел маршрутизации
В разделе «route» EdgeOS по умолчанию пытается определить используемый шлюз для интерфейса. Выбранный шлюз будет отображаться в «show watch-balance watchdog». Если он найдет шлюз по умолчанию или если Вы хотите управлять шлюзом, вы можете использовать PBR для определения вашей собственной таблицы маршрутизации, например:
configure set protocols static table <num> route 0.0.0.0/0 next-hop <gateway IP>
set load-balance group <name> interface <name> route table <num>
commit
save
exit
Раздел «Route-test»
В разделе «Route-test» Вы можете изменить поведение по умолчанию сторожевого потока «watchdog route-test» в соответствии с приведенными ниже параметрами: - Опция «ping target» позволяет установить хост для пингования.
- Опция «script» позволяет вам полностью решить, следует ли считать интерфейс WAN активным или неактивным. Сценарий будет вызываться с тремя параметрами (имя группы, имя интерфейса и текущий статус - «ОК» или «DOWN»). Если сценарий завершен с 0, то тест маршрута считается хорошим, а любое другое значение считается неудачным.
Примечание. Несмотря на то, что таймеры сторожевого потока являются многопоточными, было бы неплохо, если бы скрипт работал в течение длительного периода времени.
Если Вы получаете свой адрес WAN через dhcp или pppoe, ваш провайдер, скорее всего, даёт Вам адрес DNS-сервера, который будет работать только с этим интерфейсом WAN. Балансировщик нагрузки требует, чтобы все DNS-серверы в /etc/resolv.conf могли использоваться обеими WAN. И dhcp, и pppoe имеют возможность игнорировать DNS-сервер провайдера:
configureКонечно, Вам требуется добавить глобальный DNS-сервер для системного использования.
set interfaces ethernet ethX dhcp-options name-server no-update
commit
save
exit
configure
set interfaces ethernet ethX pppoe <num> name-server none
commit
save
exit
configure
set system name-server 8.8.8.8
commit
save
exit
Тест работоспособности
configure
set load-balance group <name> interface <name> route-test type ping target 8.8.8.8
commit
save
exit
Исключение LAN-to-LAN
Способ работы с балансировкой нагрузки - создание новых таблиц маршрутизации для использования интерфейсов WAN. Это отлично работает для трафика LAN для WAN, но мы же не хотим его балансировать, когда он идет от локальной сети в локальную сеть. Самый простой способ избежать этого - создать группу в брандмауэре с сетями LAN и добавить правило в набор «modify», чтобы использовать основную таблицу маршрутизации для пунктов назначения.
Примечание. Это правило необходимо выполнить перед правилом баланса нагрузки.
Port Forwarding
Мы также не хотим балансировать трафик с port-forwarding. Поэтому добавьте другое правило, чтобы исключить общий адрес маршрутизатора.
Поскольку общий адрес может быть динамическим, используйте псевдоним адреса. В этом примере правила переадресации идут на pppoe0:
firewall modify WAN_WLB rule 10 action modify
description "do NOT load balance lan to lan"
destination group network-group LAN_NETS
>
modify table main
>
>
rule 20 action modify
description "do NOT load balance destination public address"
destination group address-group ADDRv4_pppoe0
>
>
modify table main
>
>
rule 30 action modify
modify lb-group WLB
>
>
>
Создание стабильных сессий при нескольких WAN
Некоторые веб-сайты, например, банковские, выходят из сессии, когда видят другой IP-адрес. В версии v1.7.0 к функции баланса нагрузки добавлена «липкая» функция, так что пользователь может определить, какие поля в пакетах используются для хэша данного WAN. Например:
Когда мощности сервера уже не хватает, встает вопрос, каким путем идти дальше. Апгрейд часто не дает пропорционального прироста и к тому же не обеспечивает требуемой отказоустойчивости. Поэтому самым верным шагом будет установка второго сервера, который возьмет на себя часть нагрузки. Остается выбрать приложение, которое будет обеспечивать балансировку.
Также в системах можно встретить разные методы балансировки. Разберемся с назначением некоторых из них. В настройках продуктов они могут иметь отличные названия или свои особенности в реализации, но часто их суть одна.
Самый простой — Round Robin DNS, это специальный DNS-сервер, содержащий несколько А-записей и их вес (опционально) и выдающий при запросе клиентов различные IP-адреса. Минусы очевидны. Он абсолютно не владеет информацией о текущей загрузке и состоянии бэкендов, не учитывает предыдущие подключения клиентов (немного сглаживает ситуацию DNS-кеш).
Hash sticky client — клиент привязывается к одному серверу, для этого в специальную таблицу помещается хеш-строка, указывающая на его IP. Возможны варианты. Клиент всегда идет к одному серверу, а в случае его выхода подключение невозможно. Или, когда не отвечает «родной», он соединяется с другими системами.
Доступность бэкендов определяется двумя: активный (keepalives, балансировщик сам опрашивает серверы) и пассивный (In-Band, контролируются текущие соединения, ответы сервиса).
В продукте использован оригинальный движок, работающий на Layer 2 (Ethernet), балансировка ведется на основе IP-адреса клиента, без привязки к портам работать может с любым сервисом. Поддерживает DNS GSLB (Global Server Load-Balancing) и конфигурацию сервера с прямым возвратом Direct Server Return (DSR), когда ответ от сервера идет к клиенту напрямую, а не через устройство балансировки. Содержит настраиваемый агент проверки UDP, поддерживает VRRP для установки высокодоступных конфигураций на многих узлах. Встроенные механизмы позволяют произвести захват и сохранение пакетов при помощи pcap для дальнейшего исследования. Предусмотрено несколько вариантов проверки работоспособности конечных систем: агент, ping, TCP Open, скрипт и другие инструменты вроде wget.
Возможно резервирование балансировщика с репликацией NAT-состояний между основным и резервным узлами, клиент при переподключении подсоединяется к тому же серверу. Для сохранения сессии используется IP-адрес клиента и порт назначения. Поддерживается Linux bonding. Все таблицы хранятся в ОЗУ, но требования невелики, для 4 миллионов сессий достаточно 512 Мб памяти.
Может работать в Linux (с использованием сокета API PF_PACKET) и SPARC/Intel Solaris (Streams/DLPI API). Для установки предлагаются rpm (Red Hat RHEL 6 / CentOS) и deb (Debian/Ubuntu) пакеты и тарбал для остальных дистрибутивов. Также доступен готовый образ для виртуальной машины (на базе Ubuntu 8.04), что позволяет быстро развернуть нужную функциональность. Во время закачки будут показаны все пароли для входа. Агент (bngagent) поставляется с открытым исходным кодом и поддерживает Linux, Solaris, OS X, HP-UX и другие.
Какой-либо интерфейс для настройки не предусмотрен, все установки производятся при помощи конфигурационного файла /etc/bng.conf. В принципе, сложным его назвать нельзя, особенно учитывая, что на сайте проекта доступно более десятка готовых примеров, часто нужно лишь выбрать наиболее подходящий и отредактировать под себя.
Конфигурационный файл BalanceNG
Реверс малвари
Веб-интерфейс Snapt для настройки HAProxy
HAProxy в качестве балансировщика используется в нескольких компаниях из списка Fortune 500: Amazon RDS, GitHub, Stack Overflow, Server Fault, Twitter…
Возможности расширяются при помощи аддонов, их полный список есть на сайте. Все настройки производятся при помощи конфигурационного файла (на сайте есть примеры). Кроме того, известны два интерфейса сторонних разработчиков: коммерческий веб Snapt и свободный HATop.
Работает на нескольких архитектурах x86, x86_64, Alpha, SPARC, MIPS, PARISC. Официально поддерживает Linux 2.6.32+ (рекомендуется для максимальной производительности) и 2.4, Solaris 8–10, FreeBSD, OpenBSD. Установка и настройка тривиальны, хотя пакет в репозиториях не присутствует. Проект предлагает исходный код под лицензией GPL v2 и готовые бинарники под Linux/x86 Glibc 2.2 и Solaris8/Sparc.
Статистика HAProxy
Поддерживает IPv6, может перебрасывать IPv6 клиентов к серверам IPv4. Информация о сеансе сохраняется, и клиент в последующем подключается к своему серверу.
Из специфики — возможна не только отправка соединения к бэкенду, но и редирект на другой URL.
Установка и настройка не представляют больших сложностей, хотя и производятся при помощи конфигурационных файлов (документация очень подробная). Официально был протестирован на Linux, Solaris и OpenBSD. Проект предлагает только исходные тексты, в репозиториях SUSE, Debian и Ubuntu можно найти готовые пакеты, кроме этого, на сайте есть ссылки для Red Hat и готового дистрибутива, собранного на базе FreeBSD.
В конфигурационном файле Pound разобраться легко
По умолчанию клиент перенаправляется на сервер, принимающий меньше подключений, но при необходимости алгоритм легко изменить на Round Robin, Least-Connections и First Available или определяться внешней программой или скриптом. Клиентов можно закреплять за определенным сервером (Hash sticky client), жестко или с возможностью подключения к другому серверу, если «свой» не отвечает. При возобновлении работы бэкенда он автоматически включается в работу. Возможно управление доступом к Crossroads на основе IP-адреса (allow и deny).
В версии 2.х все подключения обслуживает один процесс, работающий в пространстве пользователя, это положительно сказалось на скорости работы и на управлении. Может работать как stand-alone демон или запускаться через inetd. Удобно, что все настройки и команды можно отдавать на лету (при помощи утилиты xr), изменение параметров не требует перезапуска Crossroads. Например, настроим балансировку для двух веб-сайтов и серверов MySQL.
Статистика выводится при помощи веб-интерфейса, порт которого задается вместе с ключом -W (–web-interface). Также с его помощью можно изменить три параметра: максимальное количество соединений для Crossroads и для бэкендов, вес бэкендов.
Для удобства все их записывают в отдельный файл, который и указывают при загрузке, или используют специальный конфигурационный файл в формате XML (/etc/xrctl.xml, в поставке несколько готовых примеров).
Может быть запущен на любой POSIX-системе — Linux, OS X, Solaris. Проект предлагает исходные тексты (сборка проблем не вызывает), готовые пакеты доступны в репозиториях основных дистрибутивов.
В поставке Crossroads несколько готовых конфигурационных файлов
Технология FarmGuardian позволяет определять доступность сервисов при помощи специального скрипта и распределять по ним подключения. Zen может выполнять функцию SSL-прокси, шифруя поток к клиенту, на участке Zen — бэкенд данные идут в открытом виде. Поддерживается VLAN.
Из других особенностей можно назвать простую систему резервирования и восстановления конфигурации, работу нескольких балансировщиков в кластере, систему мониторинга и вывода различной статистики, в том числе и в виде наглядных графиков.
Все настройки Zen Load Balancer производятся через веб-интерфейс
Облачные сервисы для балансировки нагрузки
С ростом популярности облачных сервисов все больше систем размещаются на внешних площадках, образуя гибридные облака. Большинство разработчиков предлагает ко всему прочему и возможность балансировки нагрузки, это очень удобно, так как не требует от клиента установки дополнительного оборудования и готово к применению почти сразу. Хотя возможностей по управлению такой способ дает, как правило, меньше. Все основные игроки уже предложили свои решения. Например, Amazon Route 53, являющийся частью Amazon Web Services и предоставляющий балансировку при помощи Round Robin DNS. Стоимость услуги небольшая и составляет один доллар в месяц, плюс 0,50 доллара за первый миллион запросов и 0,25 за каждый следующий. Предусмотрен удобный API для редактирования, добавления и удаления записей.
Также нужная функциональность доступна в специализированных облачных продуктах — WAF или решениях для защиты от DDoS. Например, сервис Akamai Global Traffic Management Akamai.
Читайте также: