Aprendizaxe federada e continua a partir de datos heteroxéneos en dispositivos e robots
A rápida adaptación, personalización e privacidade dos datos son tres aspectos requiridos e altamente valorados en dispositivos e robots. Con miles de millóns de dispositivos móbiles no mundo e sensores en todas partes, esta é unha era de computación ubicua, cunha explosión inconcibible e abafadora de datos xerados a diario. Neste contexto, a aprendizaxe federada terá un gran impacto, xa que favorecerá unha penetración aínda máis profunda da aprendizaxe automática en todo tipo de dispositivos e robots, e nun espectro máis amplo de aplicacións. A aprendizaxe federada é unha estratexia para adestrar e compartir modelos entre máquinas, pero sen intercambio de datos. O proceso básico de aprendizaxe federada consta de dous pasos principais: (1) adaptación local de modelos nos dispositivos ou robots, e (2) consenso global dos modelos nun servidor central. Por tanto, hai un proceso cíclico de adaptación local (nos dispositivos) e consenso global (na nube). O que se transfire á nube son modelos dos que non se poden recuperar datos. Isto satisfai restricións de privacidade, require menos ancho de banda, pero aínda conserva os beneficios de compartir coñecemento. A aprendizaxe federada ofrece unha posibilidade moi nova que se denomina aprendizaxe federada personalizada. En resumo, isto significa que os dispositivos que están nunha federación e comparten os modelos, aprenderán algo que está a medio camiño entre o modelo global alcanzado por consenso, e os modelos que aprenderían localmente só a partir dos datos capturados nos propios dispositivos. Dous desafíos importantes que enfrontaremos neste proxecto están relacionados coa creación destes modelos federados personalizados, en particular, deseñaremos algoritmos para lograr unha aprendizaxe federada personalizada que (1) sexa robusto á heteroxeneidade de datos entre os diferentes dispositivos (datos non i.i.d. ), e (2) é capaz de lograr unha aprendizaxe federada continua (é dicir, manexar datos non estacionarios ou diferentes tarefas). Estamos completamente seguros de que a aprendizaxe federada será revolucionaria. No caso da robótica, cremos que o uso da aprendizaxe federada ten un potencial enorme. Por iso, abordaremos un terceiro desafío: como estender a aprendizaxe por reforzo profundo ao contexto dun escenario federado personalizado. Este terceiro desafío é particularmente adecuado para os robots e aínda non se explorou o suficiente.
Para realizar a investigación desexada, resolveremos tres tarefas importantes (demostradores tecnolóxicos): "Aprendizaxe de tarefas industriais baseadas no contacto a través da manipulación hábil robótica", "Aprendizaxe continua de obxectos a partir de secuencias de vídeo en liña con baixa etiquetaxe " e, finalmente, "Recoñecemento de actividade humana en teléfonos intelixentes ". O primeiro demostrador permitiranos colaborar coa Escola de Enxeñería SIGMA-Clermont e o Laboratorio do Institut Pascal (Clermont-Ferrand, Francia), e mesmo colaborar en dous Proxectos Europeos H2020: ACROBA (que comezará en xaneiro de 2021) e SoftManBot ( que comezou en outubro de 2019). O segundo demostrador tecnolóxico chamou a atención dunha empresa tan importante como Televés. E finalmente, o terceiro demostrador é importante para Situm Technologies, importante spin-off da Universidade de Santiago de Compostela.
Obxectivos
Obxectivo 1: Desenvolvemento de estratexias que permitan a aprendizaxe federada con datos heteroxéneos
Obxectivo 2: Desenvolvemento de estratexias que faciliten a aprendizaxe federada continua
Obxectivo 3: Aprendizaxe federada aplicada a aprendizaxe por reforzo profundo, e ao contexto específico da robótica
Obxectivo 4: Aprendizaxe incremental a partir de fluxos de datos visuais con poucas etiquetas en mundo aberto
Proxecto
/research/projects/aprendizaxe-federada-e-continua-a-partir-de-datos-heteroxeneos-en-dispositivos-e-robots
<p>A rápida adaptación, personalización e privacidade dos datos son tres aspectos requiridos e altamente valorados en dispositivos e robots. Con miles de millóns de dispositivos móbiles no mundo e sensores en todas partes, esta é unha era de computación ubicua, cunha explosión inconcibible e abafadora de datos xerados a diario. Neste contexto, a aprendizaxe federada terá un gran impacto, xa que favorecerá unha penetración aínda máis profunda da aprendizaxe automática en todo tipo de dispositivos e robots, e nun espectro máis amplo de aplicacións. A aprendizaxe federada é unha estratexia para adestrar e compartir modelos entre máquinas, pero sen intercambio de datos. O proceso básico de aprendizaxe federada consta de dous pasos principais: (1) adaptación local de modelos nos dispositivos ou robots, e (2) consenso global dos modelos nun servidor central. Por tanto, hai un proceso cíclico de adaptación local (nos dispositivos) e consenso global (na nube). O que se transfire á nube son modelos dos que non se poden recuperar datos. Isto satisfai restricións de privacidade, require menos ancho de banda, pero aínda conserva os beneficios de compartir coñecemento. A aprendizaxe federada ofrece unha posibilidade moi nova que se denomina aprendizaxe federada personalizada. En resumo, isto significa que os dispositivos que están nunha federación e comparten os modelos, aprenderán algo que está a medio camiño entre o modelo global alcanzado por consenso, e os modelos que aprenderían localmente só a partir dos datos capturados nos propios dispositivos. Dous desafíos importantes que enfrontaremos neste proxecto están relacionados coa creación destes modelos federados personalizados, en particular, deseñaremos algoritmos para lograr unha aprendizaxe federada personalizada que (1) sexa robusto á heteroxeneidade de datos entre os diferentes dispositivos (datos non i.i.d. ), e (2) é capaz de lograr unha aprendizaxe federada continua (é dicir, manexar datos non estacionarios ou diferentes tarefas). Estamos completamente seguros de que a aprendizaxe federada será revolucionaria. No caso da robótica, cremos que o uso da aprendizaxe federada ten un potencial enorme. Por iso, abordaremos un terceiro desafío: como estender a aprendizaxe por reforzo profundo ao contexto dun escenario federado personalizado. Este terceiro desafío é particularmente adecuado para os robots e aínda non se explorou o suficiente.</p><p>Para realizar a investigación desexada, resolveremos tres tarefas importantes (demostradores tecnolóxicos): "Aprendizaxe de tarefas industriais baseadas no contacto a través da manipulación hábil robótica", "Aprendizaxe continua de obxectos a partir de secuencias de vídeo en liña con baixa etiquetaxe " e, finalmente, "Recoñecemento de actividade humana en teléfonos intelixentes ". O primeiro demostrador permitiranos colaborar coa Escola de Enxeñería SIGMA-Clermont e o Laboratorio do Institut Pascal (Clermont-Ferrand, Francia), e mesmo colaborar en dous Proxectos Europeos H2020: ACROBA (que comezará en xaneiro de 2021) e SoftManBot ( que comezou en outubro de 2019). O segundo demostrador tecnolóxico chamou a atención dunha empresa tan importante como Televés. E finalmente, o terceiro demostrador é importante para Situm Technologies, importante spin-off da Universidade de Santiago de Compostela.</p><p><strong>Obxectivo 1</strong>: Desenvolvemento de estratexias que permitan a aprendizaxe federada con datos heteroxéneos</p><p><strong>Obxectivo 2:</strong> Desenvolvemento de estratexias que faciliten a aprendizaxe federada continua</p><p><strong>Obxectivo 3:</strong> Aprendizaxe federada aplicada a aprendizaxe por reforzo profundo, e ao contexto específico da robótica</p><p><strong>Obxectivo 4:</strong> Aprendizaxe incremental a partir de fluxos de datos visuais con poucas etiquetas en mundo aberto</p> - PID2020-119367RB-I00 - Xosé Manuel Pardo López, Roberto Iglesias Rodríguez
projects_gl