Почему возникают очереди в маршрутизаторах
Обновлено: 06.07.2024
Качество обслуживания в его узком смысле фокусирует внимание на характеристиках и методах передачи трафика через очереди коммуникационных устройств. Методы обеспечения качества обслуживания занимают сегодня важное место в семействе технологий сетей с коммутацией пакетов, так как без их применения сложно обеспечить качественную работу современных мультимедийных приложений, таких как IP-телефония, видео- и радиовещание, интерактивное дистанционное обучение И Т. П.
Характеристики QoS отражают отрицательные последствия пребывания пакетов в очередях, которые проявляются в снижении скорости передачи, задержках пакетов и их потерях.
Существуют различные типы трафика, отличающиеся чувствительностью к задержкам и потерям пакетов. Наиболее грубая классификация трафика разделяет его на два класса: трафик реального времени (чувствительный к задержкам) и эластичный трафик (нечувствительный к задержкам в широких пределах).
Методы QoS основаны на перераспределении имеющейся пропускной способности линий связи между трафиком различного типа в соответствии с требованиями приложений.
Приоритетные и взвешенные очереди являются основным инструментом выделения пропускной способности определенным потокам пакетов.
Механизм профилирования позволяет контролировать скорость потока пакетов и ограничивать ее в соответствии с заранее заданным уровнем.
Обратная связь является бдним из механизмов QoS; она позволяет временно снизить скорость поступления пакетов в сеть для ликвидации перегрузки в узле сети.
Резервирование пропускной способности «из конца в конец» позволяет добиться гарантированного качества обслуживания для потока пакетов. Резервирование основано на процедуре контроля допуска потока в сеть, в ходе которой проверяется наличие доступной пропускной способности для обслуживания потока вдоль маршрута его следования.
Методы инжиниринга трафика состоят в выборе рациональных маршрутов прохождения потоков через сеть. Выбор маршрутов обеспечивает максимизацию загрузки ресурсов сети при одновременном соблюдении необходимых гарантий в отношении параметров качества обслуживания трафика.
Недогруженная сеть (она же сеть с избыточной пропускной способностью) может обеспечить качественное обслуживание трафика всех типов без применения методов QoS; однако для того чтобы убедиться, что сеть действительно недогружена, требуется постоянно проводить мониторинг уровней загрузки линий связи сети, выполняя измерения с достаточно высокой частотой.
1. В чем причина возникновения очередей в сетях с коммутацией пакетов? Возникают ли очереди в сетях с коммутацией каналов?
2. Какой параметр в наибольшей степени влияет на размер очереди?
3. К каким нежелательным последствиям может привести приоритетное обслуживание?
4. На какие два класса можно разделить приложения в отношении предсказуемости скорости передачи данных?
5. При увеличении пульсации некоторого потока увеличатся или уменьшатся задержки, связанные с пребыванием пакетов этого потока в очереди (при сохранении всех других параметров потока и условий его обслуживания)?
6. Какому элементу коммутатора или маршрутизатора чаще всего соответствует обслуживающий прибор модели М/М/1?
7. Объясните причину возможного возникновения очередей даже при невысокой средней загрузке коммутаторов или маршрутизаторов сети с коммутацией пакетов?
а) трафика видеоконференций;
б) трафика загрузки больших файлов данных;
в) трафика 1Р-телефонии.
А приоритетное обслуживание?
9. Можно ли комбинировать приоритетное и взвешенное обслуживание?
10. Какой из трех потоков будет меньше в среднем задерживаться в очереди к выходному интерфейсу 100 Мбит/с, если потоки обслуживаются взвешенными очередями, при этом потокам отведено 60,30 и 10 % пропускной способности интерфейса соответственно? Потоки имеют средние скорости: 50,15 и 7 Мбит/с соответственно. Коэффициент вариации интервалов следования пакетов одинаков у всех потоков.
Наиболее часто перегрузка сети возникает в местах соединения коммутаторами сетей с разной полосой пропускания. В случае возникновения перегрузки сети пакеты данных начинают буферизироваться и распределяться по очередям. Порядок передачи через выходной интерфейс поставленных в очередь пакетов на основе их приоритетов определяется механизмом обслуживания очередей (Queueing mechanism), который позволяет управлять пропускной способностью сети при возникновении перегрузок.
Механизм управления перегрузками (Congestion management) включает следующие механизмы обслуживания очередей:
- механизм FIFO (First-In, First-Out);
- очереди приоритетов ( Priority Queueing );
- взвешенный алгоритм кругового обслуживания (Weighted Round Robin , WRR);
- настраиваемые очереди (Custom Queueing ).
В коммутаторах D-Link для обслуживания очередей используются взвешенный алгоритм кругового обслуживания, очереди приоритетов и комбинации этих методов.
Механизм обслуживания очередей FIFO ("первым пришел, первым ушел") передает пакеты, поставленные в очередь в том порядке, в котором они поступили в нее. Этот механизм не обеспечивает классификации пакетов и рассматривает их как принадлежащие одному классу.
Очереди приоритетов со строгим режимом (Strict Priority Queue) предполагают передачу трафика строго в соответствии с приоритетом выходных очередей. В этом механизме предусмотрено наличие 4-х очередей — с высоким, средним, обычным и низким приоритетами обслуживания . Пакеты, находящиеся в очереди с высоким приоритетом, обрабатываются первыми. Пакеты из следующей по приоритету обслуживания очереди начнут передаваться только после того, как опустеет высокоприоритетная очередь . Например, пакеты из средней по приоритету очереди не будут передаваться до тех пор, пока не будут обслужены пакеты из высокоприоритетной очереди. Пакеты из очереди с нормальным приоритетом не начнут передаваться до тех пор, пока не опустеет очередь со средним приоритетом и т.д.
Следует отметить, что пакеты очереди с высоким приоритетом всегда получают предпочтение при обслуживании независимо от количества пакетов в других очередях и времени, прошедшего с момента передачи последнего пакета из очереди с низким приоритетом. В некоторых случаях это может привести к "зависанию" обслуживания низкоприоритетного трафика, т.е. пакеты из очередей с низким приоритетом долго не будут обрабатываться.
По умолчанию на коммутаторах D-Link настроены очереди приоритетов со строгим режимом.
Рис. 15.6. Очереди приоритетов со строгим режимом
Еще одним механизмом обслуживания очередей является взвешенный алгоритм кругового обслуживания (Weighted Round Robin , WRR). Этот механизм исключает главный недостаток очередей приоритетов, обеспечивая обработку очередей в соответствии с назначенным им весом и предоставляя полосу пропускания для пакетов из низкоприоритетных очередей.
Рис. 15.7. Обслуживание очередей с использованием алгоритма WRR
Процесс обработки очередей осуществляется по круговому принципу, начиная с самой приоритетной очереди. Из каждой непустой очереди передается некоторый объем трафика, пропорциональный назначенному ей весу, после чего выполняется переход к следующей по убыванию приоритета очереди и т.д. по кругу.
Механизм предотвращения перегрузок
Механизм предотвращения перегрузок (Congestion avoidance) — это процесс выборочного отбрасывания пакетов во избежание перегрузок в сети в случае достижения выходными очередями своей максимальной длины (в пакетах).
Традиционной политикой обработки пакетов коммутаторами в случае переполнения всех выходных очередей является их отбрасывание, которое продолжается до тех пор, пока длина очередей не уменьшится за счет передачи находящихся в них пакетов. Такой алгоритм управления длиной выходных очередей получил название "отбрасывание хвоста" (Tail-Drop). Отбрасывание пакета будет служить сигналом о перегрузке сети источнику ТСР-соединения, т.к. он не получит подтверждения о доставке пакета от приемника ТСР-соединения. В этом случае он уменьшит скорость передачи путем уменьшения размера окна перегрузки до одного сегмента и перезапустит алгоритм медленного старта (slow start).
Поскольку коммутатор обрабатывает множество ТСР-потоков в один момент времени, отбрасывание пакетов послужит сигналом о перегрузке тысячам источникам ТСР-соединений, которые снизят скорость передачи . При этом почти все источники ТСР-соединений будут использовать одинаковое время таймеров задержки перед началом увеличения скорости передачи. Значения этих таймеров достигнут своего лимита практически одновременно, что вызовет увеличение интенсивности трафика и переполнение очередей, которое приведет к отбрасыванию пакетов, и весь процесс повторится вновь.
Процесс, когда каждый источник ТСР-соединения уменьшает и увеличивает скорость передачи одновременно с другими источниками ТСР-соединений, получил название эффекта глобальной синхронизации (global synchronization). Эффект глобальной синхронизации приводит к неэффективному использованию полосы пропускания, а также к возрастанию задержки передачи пакетов.
Для решения проблемы поведения источников ТСР-соединения в момент отбрасывания пакетов был разработан алгоритм произвольного раннего обнаружения (Random Early Detection, RED).
В отличие от алгоритма "отбрасывания хвоста", алгоритм RED отбрасывает поступающие пакеты вероятностно, на основе оценки среднего размера очередей. Он не дожидается полного заполнения очередей, а начинает отбрасывать пакеты с некоторой вероятностью, когда средний размер очереди превысит определенное минимальное пороговое значение . Это позволяет избежать эффекта глобальной синхронизации, т.к. будут отбрасываться не все пакеты, а только пакеты произвольным образом выбранных потоков.
В коммутаторах D-Link поддерживается простой алгоритм произвольного раннего обнаружения (Simple Random Early Detection, SRED), который является расширенной версией алгоритма RED , реализованной на основе ASIC , и выполняет вероятностное отбрасывание входящих "окрашенных" пакетов. "Окрашивание" пакетов позволяет реализовать разные политики обслуживания пакетов (различную вероятность отбрасывания) на основе их приоритетов. Так пакеты, "окрашенные" в зеленый цвет обладают наивысшим приоритетом. Пакеты "окрашенные" в желтый цвет — средним, в красный цвет — низшим приоритетом.
Алгоритм SRED позволяет задавать два пороговых значения размера для каждой очереди — минимальное и максимальное. Если длина очереди меньше минимального порогового значения, то пакеты будут помещаться в очередь . Если размер очереди будет находиться в интервале между минимальным и максимальным пороговыми значениями, т.е. будет наблюдаться умеренная перегрузка , то пакеты, "окрашенные" в красные и желтые цвета, будут отбрасываться с заданной вероятностью. Если длина очереди превысит максимальное пороговое значение , то пакеты любых цветов будут отбрасываться с заданной вероятностью. Т.е. алгоритм SRED обеспечивает возможность настройки более интенсивного отбрасывания пакетов низкоприоритетного трафика и менее интенсивного отбрасывания пакетов высокоприоритетного трафика.
В коммутаторах D-Link при настройке SRED существует возможность выбора из восьми значений скоростей (вероятностей) отбрасывания пакетов:
При проектировании микросервисов часто возникает вопрос: какой способ связи между ними выбрать.
Многие отдают предпочтение RESTful API. Однако этот подход не всегда эффективен, так как в отдельных случаях чреват долгим ожиданием на клиентской стороне и потерей информации в случае сбоев.
Sync vs Async: синхронное и асинхронное взаимодействие
Однако сами очереди также необходимо масштабировать, и это может создать дополнительные сложности.
Правда, при этом очередь сама приобретает статус SPoF (Single Point Of Failure), поэтому необходимо заранее предусмотреть действия на случай ее аварийного отключения.
Фоновая обработка долгосрочных задач на веб-сайтахСюда можно отнести задачи, которые не связаны напрямую с основным действием пользователя сайта и могут быть выполнены в фоновом режиме без необходимости ожидания с его стороны. Это обработка изображений, преобразование видео в различные форматы, создание отзывов, индексирование в поисковых системах после изменения данных, отправка электронной почты, формирование файлов и так далее.
Буферизация при пакетной обработке данныхОчереди можно использовать в качестве буфера для некоторой массовой обработки, например пакетной вставки данных в БД или HDFS. Очевидно, что гораздо эффективнее добавлять сто записей за раз, чем по одной сто раз, так как сокращаются накладные расходы на инициализацию и завершение каждой операции. Но для стандартной архитектуры может стать проблемой генерация данных клиентской службой быстрее, чем их может обработать получатель. Очередь же предоставляет временное хранилище для пакетов с данными, где они будут храниться до завершения обработки принимающей стороной.
Помещая данные в очередь, вы можете быть уверены, что данные будут сохранены и в конечном итоге обработаны, даже если это займет немного больше времени, чем обычно, из-за большого скачка трафика. Увеличить скорость обработки в таких случаях также возможно — за счет масштабирования нужных обработчиков.
Гарантированная доставка при нестабильной инфраструктуреМногие брокеры поддерживают очереди FIFO, полезные в системах, где важно сохранить порядок транзакций. Если 1000 человек размещают заказ на вашем веб-сайте одновременно, это может создать некоторые проблемы с параллелизмом и не будет гарантировать, что первый заказ будет выполнен первым. С помощью очереди можно определить порядок их обработки.
Разбиение трудоемких задач на множество маленьких частей Прочие сценарии, требующие гарантированной доставки информации и высокого уровня отказоустойчивостиЭто обработка финансовых транзакций, бронирование авиабилетов, обновление записей о пациентах в сфере здравоохранения и так далее.
В каких случаях очереди неэффективны
Конечно, очереди не являются универсальным средством для любых приложений. Рассмотрим варианты, когда очереди не будут самым эффективным решением:
Если вы заинтересованы в использовании очередей, но опасаетесь, что команда не справится с их конфигурированием и последующей поддержкой самостоятельно, всегда можно воспользоваться одним из Managed-решений, представленных на рынке.
Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Михайлов С. К., Сергеева Т. П.
Определение пропускных способностей линий сети МГМН связи с пакетной коммутацией Расчет вариации задержки (IPDV) для телефонного соединения Модернизация стратегии развития современного холдинга на телекоммуникационном рынке i Не можете найти то, что вам нужно? Попробуйте сервис подбора литературы.Текст научной работы на тему «Моделирование времени задержки обслуживания междугородного телефонного трафика в маршрутизаторах пакетных сетей»
Моделирование времени задержки обслуживания междугородного телефонного трафика в маршрутизаторах пакетных сетей
Михайлов С.К., Сергеева Т.П., ЦНИИС
При переводе телефонного трафика в сеть с протоколом IP основными показателями качества обслуживания являются сетевые задержки, процент потерянных пакетов и колебания сетевой задержки, допустимые значения которых приведены в рекомендации Y1451 МСЭ-Т. Укажем эти допустимые значения для 0-го класса обслуживания (сервиса Real-time), к которому относится телефонный трафик.
В рекомендации Y1541 приводятся также измеренные значения сетевой задержки для экспериментальной сети, состоящей из двух конечных сетей с технологией TDM, связанных при помощи шлюзов с двумя сетями IF! Результаты измерений показали, что наибольшие задержки приходятся на время распространения — 25 мс (расстояние около 5000 км), а также значительные задержки вносятся в сетях TDM и на шлюзах доступа (соответственно 15 мс и 10 мс). Таким образом, в общее значение сетевой задержки входит постоянная составляющая, которая для данного примера оценивается, как:
В других сетях IP по сравнению с приведенным примером может изменяться задержка на время распространения, которая для сетей МГМН в РФ при передаче трафика от западной границы до восточной может достигать 57 мс. Кроме того, если в сети TDM производится не один, а два этапа цифровой коммутации и мультиплексирования, то задержка в этой сети может возрастать и составлять уже не 15 мс, а 30 мс. В результате допустимая суммарная задержка в маршрутизаторах сети IP для пакетов 0-го класса обслуживании не должна превышать величины порядка 25-30 мс.
Например, если при организации телефонного соединения через пакетную сеть МГМН считать, что преобразование телефонного трафика TDM в пакетную форму осуществляется в местной или зоновой сети, то в таком случае в междугородном соединении должны участвовать минимум 6 маршрутизаторов. Если пакетирование производится на шлюзах при вхождении в сеть МГМН, то соединение проходит через 4 маршрутизатора, среди которых 2 граничных маршрутизатора и 2 маршрутизатора ядра сети, которые, напри-
Приоритетное обслуживание трафика в маршрутизаторах обеспечивается различными дисциплинами управления очередями, с помощью которых организуются приоритетные очереди, взвешенные очереди и комбинированные очереди. В данной статье рассмотрим обслуживание в приоритетных очередях.
Очереди в маршрутизаторах возникают в результате временных перегрузок при обработке пульсирующего трафика, интенсивность которого может превышать среднюю интенсивность в несколько раз. Если причиной перегрузки является недостаточная производительность процессорного блока, то поступающие пакеты накапливаются во входной очереди или в нескольких входных очередях, если пакеты дифференцируются по классам обслуживания. Если причина перегрузки заключается в недостаточной пропускной способности выходного интерфейса, пакеты сохраняются в выходной очереди (или очередях) этого интерфейса. Нас будут интересовать только задержки в выходных очередях, поскольку в современных маршрутизаторах мощности процессоров рассчитаны на работу в недогруженном режиме и входные очереди практически не оказывают влияния на задержку пакетов в маршрутизаторах. Таким образом, будем считать, что задержка обусловлена только занятостью канала передачи. Необходимость учета задержки приводит к использованию для расчетов модели для системы с ожиданием. Обслуживание в режиме приоритетной очереди предполагает, что при наличии в очереди пакетов высшего приоритета вся пропускная способность канала отдается под их передачу. Загрузка всего широкополосного канала для трафика высшего приоритета будет определяться только собственным трафиком.
Моделирование обслуживания пакетов телефонного трафика в
Класс сервиса Доступность сети за месяц Процент потерянных пакетов „ Колебания сетевой Сетевые задержки задержки на на наземных наземных каналах каналах , . (джиттер)
Real-time не менее 99,5% не более 0,1 % , не более не более!50 мс 50 мс
выходной приоритетнои очереди маршрутизатора должно производиться с помощью анализа модели М/Р/1 с пуассоновским входным потоком (телефонный трафик) и с постоянным обслуживанием заявок, без учета трафика нижних приоритетов. Это объясняется тем, что пакеты телефонного трафика обслуживаются в первую очередь, а пакеты второй очереди — только тогда, когда первая очередь пуста, т.е. для трафика первой очереди трафик второй очереди фактически не существует (за исключением малой погрешности на время завершения передачи пакета низшего приоритета в момент прихода пакета телефонного трафика). Поэтому обслуживание пакетов телефонного трафика можно моделировать более простой моделью обслуживания без приоритетов, считая, что в систему поступают только пакеты телефонного трафика. Поскольку для модели М/Р/1 не имеется аналитического выражения для распределения времени ожидания, выберем в качестве верхней оценки для времени ожидания То и его распределения результаты хорошо изученной модели М/М/1 с экспоненциальным распределением времени обслуживания. На рис.1 приведена зависимость среднего времени ожидания в системе от коэффициента использования для системы М/М/1 (со средней интенсивностью обслуживания ц =1/1$ и со сренеквадратичным отклонением О = Тб, где Тб — среднее время передачи одного пакета) и для системы М/Р/1 с постоянной интенсивностью обслуживания ц и О = 0 [1]. Из рисунка видно, что при малом использовании канала, которое нас будет интересовать в первую очередь, результаты для двух систем практически совпадают, а с ростом время ожидания в системе М/М/1 возрастает быстрее.
Поэтому будем пользоваться анализом модели М/М/1, получая верхние (худшие) оценки, которые обычно используются для практических расчетов.
Рассмотрим процесс обслуживания на выходном интерфейсе маршрутизатора. Пусть поток пакетов телефонного трафика с интенсивностью X поступает на вход выходного интерфейса маршрутизатора, обслуживающий заявки по системе с ожиданием. Обслуживающим устройством в данном случае является широкополосный канал, который установлен на этом выходном интерфейсе. Следовательно, среднее время обслуживания одной заявки соответствует среднему времени передачи пакета по широкополосному каналу. Для получения распределения времени ожидания удобно производить расчеты по второй формуле Эрланга, которая для однолинейной системы М/М/1 имеет вид:
Отметим, что обозначения и термины в теории телетрафика и в теории массового обслуживания несколько различаются, однако во всех случаях имеется полное соответствие результатов.
В терминах СМО для однолинейной системы формула (2) имеет вид
Для расчетов времени задержки нами выбрано значение вероятности превышения этого времени равное 0,001, которое также указывается в рекомендации У1541 в качестве доверительной вероятности.
После преобразований формулы (1) получим:
Каждый телефонный канал (ОЦК) со скоростью 64 кбит/ с при прохождении через шлюз после преобразования в кодеке G.711
Спецвыпуск Т-Сотт, август 2009
Загрузка широкополосного канала при передаче пакетов для телефонного пучка реального размера, например, в 300 каналов ОЦК потребует ресурса пропускной способности 24 Мбит/ с, что составит 2,4% от общего ресурса канала 1 Гбит/ с. Для такой малой загрузки канала величина средней очереди r, определяемая из выражения:
Это означает практическое отсутствие очереди , т.е. в существующих операторских пакетных сетях МГМН с пропускными способностями линий между маршрутизаторами 1 Гбит/с и.10 Гбит/ с телефонный трафик будет проходить практически без задержек в маршрутизаторах.
Оценим задержку в маршрутизаторах для более низких скоростей широкополосных каналов, какие используются, например, между маршрутизаторами в корпоративных сетях, которая при загрузке выходного интерфейса телефонным трафиком не более 30% составляет соответственно:
2 Мбит/с- 48 мс, 34 Мбит/с - 2,8 мс, 155 Мбит/с -0,65 мс.
Анализ этих результатов позволяет сделать вывод, что при передаче пакетов телефонного трафика в линиях с пропускной способностью ниже 34 Мбит/ с использование линии должно быть ниже 0,3, иначе задержки будут превышать допустимые нормы.
1. В. Столлингс. Современные компьютерные сети (2-е издание). — СПб.: Питер, 2003.
2. МА Шнепс Системы распределения информации. Методы расчета. — М.: Связь, 1979.
Читайте также: