MemGuard-RW: improved real-time memory bandwidth regulation within a hypervisor

Abstract

Um mecanismo de regulação da largura de banda da memória é essencial para garan- tir o desempenho e a previsibilidade em sistemas embarcados multinúcleo, especial- mente ao lidar com tarefas críticas que exigem cumprimento rigoroso de prazos. Os mecanismos de regulação da largura de banda da memória também devem operar sem prejudicar as propriedades de temporização do sistema. Nesse contexto, uma solução de regulação da largura de banda da memória baseada no conceito MemGuard foi adaptada para uso no hipervisor Bao, projetado especificamente para particionamento estático e leve, proporcionando isolamento e interferência mínima. Esse mecanismo de controle de memória monitora e regula o acesso à memória entre máquinas virtuais (VMs) executadas em plataformas ARMv8. O mecanismo garante que a largura de banda da memória seja alocada de forma a minimizar a contenção entre as máquinas virtuais, ajudando a manter o desempenho e a correção do sis- tema. Ao gerenciar o acesso à memória de forma eficaz, ele garante que os sistemas em tempo real sofram interferência mínima, o que é fundamental para preservar a previsibilidade e a confiabilidade de ambientes multinúcleo. Nosso sistema, MemGuard-RW, estende a regulação tradicional incorporando tanto o isolamento espacial por meio da coloração do cache quanto o controle temporal usando a imposição dinâmica de orçamento de leitura/gravação. Ele utiliza contadores de desempenho de hardware e feedback acionado por interrupções para adaptar as alocações em tempo real, fornecendo controle preciso e previsível sobre os recursos de memória compartilhada. Foram avaliadas seis estratégias de alocação de orçamento de memória: EWMA, SW, AMBP, AFC, LR e PIC em quatro máquinas virtuais, cada uma executando pares de tarefas de benchmark com cargas de computação e memória variadas. As análises de escalabilidade e eficiência revelaram que EWMA, AFC e PIC oferecem as melhores compensações entre desempenho da tarefa, sobrecarga de CPU e previsibilidade, enquanto AMBP apresentou escalabilidade superior, mas maior custo de CPU. Os resultados demonstram que a regulação adaptativa baseada em feedback mitiga efetivamente a contenção e mantém garantias em tempo real em MPSoCs virtualizados. Esta pesquisa destaca a importância de estratégias de orçamento com base na carga de trabalho e oferece uma base sólida para o gerenciamento de recursos em ambientes embarcados em tempo real e críticos para a segurança.

Abstract: A memory bandwidth regulation mechanism is essential for ensuring performance and predictability in multi-core embedded systems, particularly when handling critical tasks that require strict deadline adherence. The memory bandwidth regulation mechanisms must also operate without impairing the system?s timing properties. In this context, a memory bandwidth regulation solution based on the MemGuard concept has been adapted for use within the Bao hypervisor, which is specifically designed for lightweight, static partitioning, providing isolation and minimal interference. This memory control mechanism monitors and regulates memory access across virtual machines (VMs) running on ARMv8 platforms. The mechanism ensures that memory bandwidth is allocated in a way that minimizes contention among virtual machines, help- ing maintain system performance and correctness. By effectively managing memory access, it ensures that real-time systems experience minimal interference, which is critical for preserving the predictability and reliability of multi-core environments. Our system, MemGuard-RW, extends traditional regulation by incorporating both spatial isolation via cache coloring and temporal control using dynamic read/write budget enforcement. It uses hardware performance counters and interrupt-driven feedback to adapt allocations in real time, providing fine-grained and predictable control over shared memory resources. Were evaluated six memory budget allocation strategies EWMA, SW, AMBP, AFC, LR, and PIC across four virtual machines, each running pairs of benchmark tasks with varying compute and memory loads. Scalability and efficiency analyses revealed that EWMA, AFC and PIC offer the best trade-offs between task performance, CPU overhead, and predictability, while AMBP showed superior scalability but higher CPU cost. The results demonstrate that adaptive, feedback-based regulation effectively mitigates contention and maintains real-time guarantees in virtualized MPSoCs. This research highlights the importance of workload-aware budget strategies and offers a robust foun- dation for resource management in safety-critical, real-time embedded environments.