Conferencia: 'La seguridad en el aprendizaje automático en la práctica'

La ciberseguridad es fundamental para el funcionamiento confiable de los sistemas digitales. Con aproximadamente el 10 % de los presupuestos de TI dedicados a la ciberseguridad, la seguridad en general es cada vez más vital para tecnologías emergentes como el aprendizaje automático (ML, por sus siglas en inglés). Si bien la investigación en seguridad de ML está creciendo, a menudo se la critica por ser poco práctica y no reflejar cómo se utiliza realmente el ML en el mundo real.

En esta charla, presento una visión general de las vulnerabilidades del ML y destaco las desconexiones comunes entre la investigación en seguridad de ML y el uso real del ML: la investigación suele centrarse en modelos aislados en lugar de considerar flujos completos de trabajo (pipelines), emplea perturbaciones poco realistas o parte de suposiciones poco prácticas. Luego, destaco nuestro trabajo reciente que mide estas brechas e introduzco nuestro nuevo marco de recopilación de incidentes de seguridad en IA, con el cual obtendremos valiosos conocimientos reales sobre seguridad en ML para motivar investigaciones más prácticas.

Sobre la ponente

Kathrin Grosse es investigadora científica en IBM Research en Zúrich, Suiza, donde su trabajo conecta la investigación en seguridad de IA con las necesidades prácticas de la industria. Obtuvo su maestría en la Universidad del Sarre (Saarland University) y completó su doctorado en el CISPA Helmholtz Center, Universidad del Sarre, en 2021, bajo la supervisión de Michael Backes. Tras su doctorado, realizó investigaciones posdoctorales con Battista Biggio en Cagliari, Italia, y con Alexandre Alahi en EPFL, Suiza.

Antes de incorporarse a IBM Research a tiempo completo, Kathrin adquirió valiosa experiencia en la industria mediante pasantías en IBM en 2019 y en Disney Research en 2020/21. Más allá de su investigación principal, Kathrin contribuye activamente a la comunidad científica: es revisora de revistas prestigiosas y conferencias de alto nivel, organiza talleres y conferencias, y cuenta con dos patentes. Sus contribuciones han sido reconocidas externamente; en 2019, fue nominada como Joven Promesa en IA por el Ministerio Federal de Educación e Investigación de Alemania en el Año de la Ciencia, y en 2024 fue invitada a ser miembro de la ACM.