Methods for analysis and model predictive control of dynamic systems modeled with echo state networks

Abstract

Redes de Estado de Eco (Echo State Networks, ESNs) são redes neurais consolidadas como modelos de identificação de sistemas, com treinamento por mínimos quadrados e capazes de representar diversos tipos de modelos. Porém, suas aplicações em controle são pouco estudadas em comparação com outros modelos de redes neurais. O objetivo desta tese de doutorado é estudar aspectos de controle de sistemas dinâmicos modelados por Redes de Estado de Eco. A rede de estado de eco exige um número alto de estados para identificar sistemas não lineares apenas treinando os pesos de saída, o que naturalmente resulta em um problema computacional quando se considera esse tipo de sistema em aplicações de controle, otimização e controle preditivo baseado em modelo. Como a rede de estado de eco é um sistema não-linear, sua prova de estabilidade em malha fechada não é trivial, o que torna interessante o desenvolvimento de métodos de análise de estabilidade para a mesma. Levando esses fatores em conta, a pesquisa segue em três frentes. A primeira consiste em aplicar experimentos com relação ao Controle Preditivo de Modelo Não Linear Prático (PNMPC), explorando suas capacidades em diversos tipos de aplicação, avaliando métricas tais como erro de seguimento e tempo computacional. Foram considerados diversos casos de estudo simulados, como o sistema de quatro tanques, uma plataforma de petróleo contendo dois poços e um riser, e um poço com produção por meio de uma bomba elétrica submersível. O controlador demonstrou sucesso em tarefas tanto de exclusão de perturbação quanto de seguimento de referência, até mesmo em comparação com outras estratégias de controle. Para resolver o problema do alto número de estados da rede de estado de eco, este estudo estuda a possibilidade de usar técnicas de redução de ordem de modelo como Decomposição Ortogonal Própria e Interpolação Empírica Discreta para reduzir o número de estados, tornando assim o modelo mais tratável para aplicações de controle ótimo e controle preditivo baseado em modelo, porém tentando manter a precisão e a representatividade. Foram feitas avaliações da capacidade de redução desses métodos apresentados a ESN considerando a métrica de capacidade de memória, um sistema Nonlinear Autoregressive with Moving Average (NARMA) de ordem de décima, e a mesma plataforma com dois poços e um riser dos experimentos com o PNMPC, demonstrando uma grande eficiência em obter um modelo aproximado com um número significativamente limitado de estados. A pesquisa desta tese também demonstra que é possível expressar o problema de controle de uma rede de estado de eco via Desigualdades de Matriz Linear (LMI) através do problema de estabilidade absoluta. A formulação é desenvolvida tanto para um controle de ganho linear, quanto para um Controle Preditivo de Modelo Não Linear (NMPC) com considerações conservadoras. Esses métodos são testados em um ESN que identifica o modelo de um tanque como prova de conceito.

Abstract: Echo State Networks (ESN) are a flavor of Recurrent Neural Networks widely applied as system identiAcation models, as they are easy to train and have high representation capacity. However, their use in control applications is not widely studied in comparison to other neural network models. This research aims to evaluate dynamic system control aspects for ESNs. ESNs have an intrinsically high number of states, which leads to computation overhead when performing heavy computation (i.e., optimization) with these networks. Also, stability proofs for closed-loop control with ESNs are not intuitive, hence the need for an easy, systematic stability analysis method. Considering these factors, this research follows three main fronts: the Arst one being the experimentation of the so-called Practical Nonlinear Model Predictive Control (PNMPC) with ESNs as a model. Three case studies were considered: a four-tank system, an oil and gas platform considering two gas-lifted wells and one riser, and an ESP-lifted oil well. The resulting ESN-PNMPC performed well in both trajectory tracking and disturbance rejection in all cases compared with other controllers. The following research topic concerns employing model order reduction techniques such as Proper Orthogonal Decomposition (POD) and Discrete Empirical Interpolation in the ESN to reduce the number of states, rendering the model easier to compute for MPC and Optimal Control applications. An experiment compares the memory capacity of ESNs with their reduced counterparts, while two case studies were evaluated: a Nonlinear Autoregressive with Moving Average (NARMA) system of 10th order and the same two wells and one riser platform of the PNMPC experiment. The reduction effectively found an ESN reduced-order model, behaving closely to the original but with signiAcantly fewer states. The third front led to the development of a Linear Matrix Inequality stability proof for feedback control with Echo State Networks, showing that the stability of a controller with an ESN in the loop can be expressed as an absolute stability problem. This result produced a stability guarantee and an attraction region estimate for a linear gain controller and an NMPC, with conservative considerations. A single tank model trained by a small ESN was considered a proof of concept. Developing such methods, exploring these three research fronts, and demonstrating their use in case studies contributes to expanding the state-of-the-art regarding Echo State Networks for control applications.