Aprendizaje federado y continuo a partir de datos heterogéneos en dispositivos y robots
La rápida adaptación, personalización y privacidad de los datos son tres aspectos requeridos y altamente valorados en dispositivos y robots. Con miles de millones de dispositivos móviles en el mundo y sensores en todas partes, esta es una era de computación ubicua, con una explosión inconcebible y abrumadora de datos generados a diario. En este contexto, el aprendizaje federado tendrá un gran impacto, ya que favorecerá una penetración aún más profunda del aprendizaje automático en todo tipo de dispositivos y robots, y en un espectro más amplio de aplicaciones. El aprendizaje federado es una estrategia para entrenar y compartir modelos entre máquinas, pero sin intercambio de datos. El proceso básico de aprendizaje federado consta de dos pasos principales: (1) adaptación local de modelos en los dispositivos o robots, y (2) consenso global de los modelos en un servidor central. Por tanto, hay un proceso cíclico de adaptación local (en los dispositivos) y consenso global (en la nube). Lo que se transfiere a la nube son modelos de los que no se pueden recuperar datos. Esto satisface restricciones de privacidad, requiere menos ancho de banda, pero aún conserva los beneficios de compartir conocimiento. El aprendizaje federado ofrece una posibilidad muy novedosa que se denomina aprendizaje federado personalizado. En resumen, esto significa que los dispositivos que están en una federación y comparten los modelos, aprenderán algo que está a medio camino entre el modelo global alcanzado por consenso, y los modelos que habrían aprendido localmente solo a partir de los datos capturados en los propios dispositivos. Dos desafíos importantes que enfrentaremos en este proyecto están relacionados con la creación de estos modelos federados personalizados, en particular, diseñaremos algoritmos para lograr un aprendizaje federado personalizado que (1) sea robusto a la heterogeneidad de datos entre los diferentes dispositivos (datos no i.i.d. ), y (2) es capaz de lograr un aprendizaje federado continuo (es decir, manejar datos no estacionarios o diferentes tareas). Estamos completamente seguros de que el aprendizaje federado será revolucionario. En el caso de la robótica, creemos que el uso del aprendizaje federado tiene un potencial enorme. Por ello, abordaremos un tercer desafío: cómo extender el aprendizaje por refuerzo profundo al contexto de un escenario federado personalizado. Este tercer desafío es particularmente adecuado para los robots y aún no se ha explorado lo suficiente.
Para realizar la investigación deseada, resolveremos tres tareas importantes (demostradores tecnológicos): "Aprendizaje de tareas industriales basadas en el contacto a través de la manipulación hábil robótica", "Aprendizaje continuo de objetos a partir de secuencias de video en línea con bajo etiquetado " y, finalmente, "Reconocimiento de actividad humana en teléfonos inteligentes ". El primer demostrador nos permitirá colaborar con la Escuela de Ingeniería SIGMA-Clermont y el Laboratorio del Institut Pascal (Clermont-Ferrand, Francia), e incluso colaborar en dos Proyectos Europeos H2020: ACROBA (que comenzará en enero de 2021) y SoftManBot ( que comenzó en octubre de 2019). El segundo demostrador tecnológico ha llamado la atención de una empresa tan importante como Televés. Y finalmente, el tercer demostrador es importante para Situm Technologies, importante spin-off de la Universidade de Santiago de Compostela.
Objetivos
Objetivo 1: Desarrollo de estrategias que permitan el aprendizaje federado con datos heterogéneos
Objetivo 2: Desarrollo de estrategias que faciliten el aprendizaje federado continuo
Objetivo 3: Aprendizaje federado aplicado a aprendizaje por refuerzo profundo, y al contexto específico de la robótica
Objetivo 4: Aprendizaje incremental a partir de flujos de datos visuales con pocas etiquetas en mundo abierto
Proyecto
/research/projects/aprendizaxe-federada-e-continua-a-partir-de-datos-heteroxeneos-en-dispositivos-e-robots
<p>La rápida adaptación, personalización y privacidad de los datos son tres aspectos requeridos y altamente valorados en dispositivos y robots. Con miles de millones de dispositivos móviles en el mundo y sensores en todas partes, esta es una era de computación ubicua, con una explosión inconcebible y abrumadora de datos generados a diario. En este contexto, el aprendizaje federado tendrá un gran impacto, ya que favorecerá una penetración aún más profunda del aprendizaje automático en todo tipo de dispositivos y robots, y en un espectro más amplio de aplicaciones. El aprendizaje federado es una estrategia para entrenar y compartir modelos entre máquinas, pero sin intercambio de datos. El proceso básico de aprendizaje federado consta de dos pasos principales: (1) adaptación local de modelos en los dispositivos o robots, y (2) consenso global de los modelos en un servidor central. Por tanto, hay un proceso cíclico de adaptación local (en los dispositivos) y consenso global (en la nube). Lo que se transfiere a la nube son modelos de los que no se pueden recuperar datos. Esto satisface restricciones de privacidad, requiere menos ancho de banda, pero aún conserva los beneficios de compartir conocimiento. El aprendizaje federado ofrece una posibilidad muy novedosa que se denomina aprendizaje federado personalizado. En resumen, esto significa que los dispositivos que están en una federación y comparten los modelos, aprenderán algo que está a medio camino entre el modelo global alcanzado por consenso, y los modelos que habrían aprendido localmente solo a partir de los datos capturados en los propios dispositivos. Dos desafíos importantes que enfrentaremos en este proyecto están relacionados con la creación de estos modelos federados personalizados, en particular, diseñaremos algoritmos para lograr un aprendizaje federado personalizado que (1) sea robusto a la heterogeneidad de datos entre los diferentes dispositivos (datos no i.i.d. ), y (2) es capaz de lograr un aprendizaje federado continuo (es decir, manejar datos no estacionarios o diferentes tareas). Estamos completamente seguros de que el aprendizaje federado será revolucionario. En el caso de la robótica, creemos que el uso del aprendizaje federado tiene un potencial enorme. Por ello, abordaremos un tercer desafío: cómo extender el aprendizaje por refuerzo profundo al contexto de un escenario federado personalizado. Este tercer desafío es particularmente adecuado para los robots y aún no se ha explorado lo suficiente.</p><p>Para realizar la investigación deseada, resolveremos tres tareas importantes (demostradores tecnológicos): "Aprendizaje de tareas industriales basadas en el contacto a través de la manipulación hábil robótica", "Aprendizaje continuo de objetos a partir de secuencias de video en línea con bajo etiquetado " y, finalmente, "Reconocimiento de actividad humana en teléfonos inteligentes ". El primer demostrador nos permitirá colaborar con la Escuela de Ingeniería SIGMA-Clermont y el Laboratorio del Institut Pascal (Clermont-Ferrand, Francia), e incluso colaborar en dos Proyectos Europeos H2020: ACROBA (que comenzará en enero de 2021) y SoftManBot ( que comenzó en octubre de 2019). El segundo demostrador tecnológico ha llamado la atención de una empresa tan importante como Televés. Y finalmente, el tercer demostrador es importante para Situm Technologies, importante spin-off de la Universidade de Santiago de Compostela.</p><p><strong>Objetivo 1: </strong>Desarrollo de estrategias que permitan el aprendizaje federado con datos heterogéneos</p><p><strong>Objetivo 2: </strong>Desarrollo de estrategias que faciliten el aprendizaje federado continuo</p><p><strong>Objetivo 3</strong>: Aprendizaje federado aplicado a aprendizaje por refuerzo profundo, y al contexto específico de la robótica</p><p><strong>Objetivo 4</strong>: Aprendizaje incremental a partir de flujos de datos visuales con pocas etiquetas en mundo abierto</p> - PID2020-119367RB-I00 - Xosé Manuel Pardo López, Roberto Iglesias Rodríguez
projects_es