El investigador del ICMAT-CSIC recibe el Premio SEIO – Fundación BBVA por un artículo que propone un enfoque bayesiano para proteger los sistemas de inteligencia artificial frente a ataques adversarios.
David Ríos es experto en análisis de riesgos, estadística y machine learning bayesianos. Imagen: Laura M Iraola/ ICMAT.
Un trabajo de David Ríos Insua, profesor de investigación del CSIC en el ICMAT, ha sido galardonado en la VII edición de los Premios Sociedad de Estadística, Investigación Operativa y Ciencia de Datos (SEIO) – Fundación BBVA 2026, en la categoría de Mejor contribución desde la estadística y la investigación operativa a la ciencia de datos. El premio reconoce el artículo “Adversarial Machine Learning: Bayesian Perspectives·, firmado junto a Roi Naveiro (CUNEF Universidad), Víctor Gallego (Komorebi AI e IE University) y Jason Poulos (Harvard Medical School), y publicado en el Journal of the American Statistical Association, revista de alto impacto en estadística.
El paper, que se desarrolló cuando Naveiro y Gallego eran miembros del ICMAT y el equipo liderado por Ríos, junto con Poulos, visitaba el Statistical and Applied Mathematical Sciences Institute (EE UU), aborda uno de los grandes retos de la inteligencia artificial actual: cómo proteger los sistemas de aprendizaje automático frente a ataques maliciosos. Estos ataques pueden afectar a numerosos sistemas críticos: algoritmos de reconocimiento de imágenes, filtros de spam o sistemas de detección de fraude bancario, entre muchos otros. Si alguien manipula deliberadamente los datos, incluso sistemas totalmente operativos pueden fallar de forma sorprendente.
De izquierda a derecha: Roi Naveiro, Jason Poulos y Víctor Gallego, coautores del paper premiado. Imágenes de las webs personales de los investigadores.
Por ejemplo, pegando unas pequeñas pegatinas blancas y negras sobre una señal real se pudo provocar que un sistema de reconocimiento de señales de tráfico de un coche automático confundiera una señal de stop con una de límite de velocidad. O, en el ejemplo que puede verse en la imagen inferior, unas ligeras modificaciones en las placas de matrícula de un vehículo son suficientes para impedir su reconocimiento automático. Los cambios son casi imperceptibles para el ojo humano, pero bastan para que muchos de los algoritmos empleados clasifiquen erróneamente la información, de forma reiterada.
En la izquierda, foto de la placa original. En la derecha, la placa modificada para engañar al programa de reconocimiento de imagen. Imagen cedida por Ríos.
Frente a estas vulnerabilidades, nace el aprendizaje automático adversario (adversarial machine learning), que estudia cómo se comportan estos sistemas cuando hay un adversario inteligente tratando activamente de burlarlos. A diferencia de la mayoría de los enfoques existentes, que recurren a la teoría de juegos (y supone que atacante y defensor conocen, o pueden deducir, las creencias y preferencias del otro), Ríos Insua y los coautores del artículo proponen una alternativa: modelizar la incertidumbre sobre las creencias, capacidades e intenciones del adversario mediante estadística bayesiana, sin necesidad de asumir ese conocimiento mutuo, que rara vez se da en situaciones reales.
“La idea central consiste en realizar predicciones probabilísticas coherentes sobre el posible desempeño de los adversarios e integrarlas en el sistema de IA, de manera que sus predicciones sean más robustas frente a tales ataques. Se consigue así aumentar la seguridad de las decisiones que toman los sistemas basados en IA, lo que incrementará la confianza de la sociedad en estas tecnologías revolucionarias, que ya se aplican en dominios críticos como la defensa, el transporte, la ciberseguridad, la salud o las finanzas”, explica Ríos.
David Ríos Insua
David Ríos, en su despacho del ICMAT. Imagen: Laura M Iraola/ ICMAT.
David Ríos Insua es profesor de investigación del CSIC en el ICMAT y miembro numerario de la Real Academia de Ciencias Exactas, Físicas y Naturales de España. Especialista en análisis de riesgos, estadística y machine learning bayesianos y análisis de decisiones y sus aplicaciones en seguridad, ciberseguridad y salud, entre otras, es autor de más de veinte monografías sobre estos temas.
De 2014 a 2023 dirigió la cátedra AXA-ICMAT en Análisis de Riesgos Adversarios y es catedrático de Estadística e Investigación Operativa en la Universidad Complutense de Madrid (en excedencia). Previamente ha sido profesor en las universidades de Duke (EE UU), Purdue (EE. UU.), Aalto (Finlandia), Paris-Dauphine (Francia), Shanghai for Science and Technology (China), CNR-IMATI (Italia), Academia Checa de Ciencias (UTIA), Universidad Politécnica de Madrid y Universidad Rey Juan Carlos. En 2018 obtuvo el Premio DeGroot de la ISBA y en 2019 el Premio Edelman.
Premios SEIO – Fundación BBVA
Los Premios SEIO – Fundación BBVA, en su séptima edición, han reconocido un total de cinco contribuciones en estadística, investigación operativa y ciencia de datos, seleccionadas por un jurado internacional presidido por Albert Satorra (Universitat Pompeu Fabra).