Efficient and scalable load balancing through cross-plane cooperation

Abstract

Load balancing network traffic through multiple shortest-paths has become common practice to efficiently utilize the network infrastructure. Despite widespread adoption, EqualCost Multi-Path (ECMP) delivers performance far from optimal. Several load balancing solutions utilize Weighted-Cost Multi-Path (WCMP), splitting incoming traffic between links proportionally to link weights. However, implementing WCMP requires the controller to update match+action rules whenever the weights must be changed, introducing a delay before the appropriate traffic split can be applied. Additionally, weighted traffic splits are applied over network flows without regard to flow characteristics or needs. We propose CrossBal, a hybrid load balancing system based on Deep Reinforcement Learning (DRL) that focuses its efforts on high-impact elephant flows. The DRL agent is modeled to be able to efficiently utilize network links while minimizing the action space, allowing the agent to quickly learn how to load balance. Further, CrossBal can quickly react to network changes by monitoring and switching active routes directly in the data plane. Our evaluation shows that CrossBal can efficiently utilize network resources, using most available links, while also reducing link utilization imbalance. We also evaluate the elephant flow detection employed by CrossBal, showing how it can quickly identify elephant flows while efficiently utilizing switch resources.

Balancear o tráfego de rede por meio de vários caminhos mais curtos tornou-se uma prática comum para obter uma utilização eficiente da infraestrutura de rede. Embora seja frequentemente utilizado, o Equal-Cost Multi-Path (ECMP) oferece um desempenho longe do ideal. Várias soluções de balanceamento de carga utilizam o Weighted-Cost MultiPath (WCMP), dividindo o tráfego entre links proporcionalmente aos pesos dos links. No entanto, a implementação do WCMP exige que o controlador atualize as regras de encaminhamento match+action sempre que os pesos devem ser alterados, introduzindo um atraso antes que a divisão de tráfego apropriada possa ser aplicada. Além disso, o WCMP divide o tráfego de rede baseando-se apenas nos pesos dos links, sem levar em conta as características ou necessidades de cada fluxo. Neste trabalho, propomos CrossBal, um sistema híbrido de balanceamento de carga baseado em Deep Reinforcement Learning (DRL) que concentra seus esforços em fluxos elefantes de alto impacto. O agente de DRL é modelado para ser capaz de utilizar os links de rede de forma eficiente e, ao mesmo tempo, minimizar o espaço de ação, permitindo que o agente aprenda rapidamente como balancear a carga. Além disso, o CrossBal pode reagir rapidamente às mudanças na rede monitorando e alternando as rotas ativas diretamente no plano de dados. Nossa avaliação mostra que o CrossBal consegue utilizar os recursos da rede de forma eficiente, usando a maioria dos links disponíveis, ao mesmo tempo que reduz o desequilíbrio na utilização dos links. Também avaliamos a detecção de fluxo elefante utilizada pelo CrossBal, mostrando como ele pode identificar rapidamente fluxos elefantes através do uso eficiente dos recursos do switch programável.