Conferencia: 'A seguridade no aprendizaxe automática na práctica'

A ciberseguridade é fundamental para o funcionamento fiable dos sistemas dixitais. Con aproximadamente un 10 % dos orzamentos de TI dedicados á ciberseguridade, a seguridade está a converterse nunha cuestión cada vez máis vital para tecnoloxías emerxentes como a aprendizaxe automática (ML, polas súas siglas en inglés). Aínda que a investigación na seguridade de ML está medrando, adoita ser criticada por ser pouco práctica e por non reflectir o uso real do ML no mundo real.

Nesta charla, presento unha visión xeral das vulnerabilidades do ML e destaco as desconexións habituais entre a investigación en seguridade de ML e o seu uso real: moitas veces a investigación céntrase en modelos illados en lugar de en fluxos de traballo completos (pipelines), emprega perturbacións pouco realistas ou parte de supostos pouco prácticos. A continuación, presento o noso traballo recente que mide estas fendas e introduzo o novo marco de recollida de incidentes de seguridade en IA, co cal obteremos coñecementos reais e valiosos sobre a seguridade do ML para fomentar unha investigación máis práctica.

Sobre a poñente

Kathrin Grosse é investigadora científica no IBM Research en Zúric, Suíza, onde o seu traballo conecta a investigación en seguridade da IA coas necesidades prácticas da industria. Obtivo o seu mestrado na Universidade do Sarre (Saarland University) e completou o doutoramento no CISPA Helmholtz Center, Universidade do Sarre, no ano 2021, baixo a supervisión de Michael Backes. Despois do doutoramento, realizou investigación posdoutoral con Battista Biggio en Cagliari, Italia, e con Alexandre Alahi no EPFL, en Suíza.

Antes de incorporarse a IBM Research a tempo completo, Kathrin adquiriu unha valiosa experiencia na industria mediante prácticas en IBM no 2019 e en Disney Research no 2020/21. Máis alá da súa investigación principal, Kathrin contribúe activamente á comunidade científica: é revisora de revistas prestixiosas e conferencias de alto nivel, organiza obradoiros e congresos, e posúe dúas patentes. As súas contribucións foron recoñecidas externamente: en 2019 foi nomeada como Nova Promesa en IA polo Ministerio Federal de Educación e Investigación de Alemaña no Ano da Ciencia, e en 2024 foi convidada a ser membro da ACM.