Bayesian nonparametric dynamical clustering of time series

Comprender un sistema complejo empieza, casi siempre, por un acto aparentemente sencillo: la repetición. Observamos un fenómeno muchas veces —olas llegando a una costa, la despolarización-repolarización de un corazón latido tras latido, una máquina industrial recorriendo el mismo ciclo operativo— y de esa repetición extraemos las estructuras que nos permiten separar lo estable de lo anecdótico. En entornos modernos de monitorización, esta tarea se ha vuelto al mismo tiempo más necesaria y más difícil: disponemos de cantidades ingentes de series temporales cuyos mecanismos subyacentes son parcialmente conocidos, difíciles de observar en su totalidad, o demasiado complejos para modelarse en forma cerrada. Lo que casi siempre podemos hacer, sin embargo, es buscar patrones que estructuren e identifiquen los datos. Esta búsqueda de patrones es la motivación central del agrupamiento no supervisado. En su formulación clásica, el agrupamiento asume que las observaciones son intercambiables e idénticamente distribuidas, y que el número de grupos debe fijarse de antemano. Cuando los objetos a agrupar son segmentos de una serie temporal, estas hipótesis dejan de sostenerse. Las observaciones llegan en secuencia y el orden importa; el mismo comportamiento subyacente puede manifestarse con distorsiones temporales—desplazamientos, contracciones o elongaciones locales—que deben modelarse de forma explícita; y el propio conjunto de comportamientos puede no ser fijo: nuevas clases morfológicas pueden emerger con el tiempo mientras las existentes derivan gradualmente. Este escenario exige pasar del agrupamiento estático y paramétrico a un agrupamiento dinámico y no paramétrico. Exige un modelo que sea capaz de adaptarse a nueva información manteniendo lo aprendido, lo que la literatura de aprendizaje automático denomina el dilema de estabilidad-plasticidad. Una forma natural de modelar este escenario es introducir estados latentes que gobiernen la generación de los segmentos observados a lo largo del tiempo, de modo que el modelo registre cómo dichos estados aparecen, persisten, evolucionan y conmutan. Los modelos ocultos de Markov (HMM) capturan esta estructura mediante una variable latente discreta que evoluciona como una cadena de Markov. Los sistemas dinámicos lineales (LDS) extienden esta idea con estados latentes de valores continuos y ecuaciones de evolución lineales. Los sistemas dinámicos lineales conmutados (SLDS) combinan ambos enfoques, ofreciendo aproximaciones lineales a tramos de comportamiento complejo no lineal. Sin embargo, todas estas versiones clásicas comparten una limitación fundamental: el número de estados o regímenes debe especificarse a priori. Los métodos bayesianos no paramétricos fueron introducidos precisamente para superar esta limitación, permitiendo que la complejidad del modelo crezca con la evidencia en lugar de fijarse de antemano. El proceso de Dirichlet (DP) proporciona un a priori sobre distribuciones discretas de dimensión infinita; su extensión jerárquica, el proceso de Dirichlet jerárquico (HDP), permite compartir distribuciones entre grupos y da lugar a modelos de espacio de estados con un número ilimitado de posibles regímenes. A esta capacidad de representar un número potencialmente ilimitado de regímenes se le une un segundo reto: la representación de la emisión, respondiendo a cómo modelar la morfología característica de un régimen identificado. Los procesos gaussianos (GP) ofrecen una respuesta especialmente adecuada: definen distribuciones sobre funciones, codifican incertidumbre calibrada mediante sesgos inductivos basados en núcleos, y permiten predicción y remuestreo en puntos temporales arbitrarios sin comprometerse con una familia paramétrica de funciones. Sin embargo, los modelos existentes que usan una mezcla de GPs realizan agrupamiento estático sobre muestras sin estructura temporal: descubren morfologías representativas, pero no modelan la dinámica que gobierna cómo esas morfologías aparecen, persisten, evolucionan o conmutan a lo largo del tiempo. En esta tesis se desarrolla un marco que unifica todas estas capacidades. La contribución metodológica central es el modelo de agrupamiento dinámico no paramétrico bayesiano mediante un proceso de Dirichlet jerárquico y procesos gaussianos (HDP-GPC). El modelo aborda simultáneamente cuatro requisitos: (i) un número ilimitado de grupos, inferido directamente a partir de los datos; (ii) representación funcional de los prototipos de grupo mediante emisiones gaussianas con incertidumbre calibrada; (iii) evolución temporal de la morfología de cada grupo gobernada por sistemas dinámicos lineales específicos por grupo, que permiten tanto la deriva gradual como la aparición brusca de nuevas clases; y (iv) desalineamiento temporal latente modelado mediante funciones de deformación a nivel generativo. El aprendizaje se logra mediante inferencia variacional, desarrollada en variantes tanto offline como online. El modelo se extiende a escenarios con múltiples salidas, en los que varios canales de información comparten la misma secuencia de regímenes discretos pero aportan evidencia ponderada a través de verosimilitudes independientes por canal: esto permite gestionar calidad de señal heterogénea entre derivaciones o sensores. La implementación completa se distribuye como paquete Python de código abierto, hdpgpc.

keywords: Bayesian estimation, Nonparametric clustering, Dynamic clustering, Time Series, ECG Processing, Ocean wave spectra