La inteligencia artificial (IA) está redefiniendo numerosos aspectos de nuestra vida diaria, desde el entretenimiento hasta la atención médica o el entorno laboral. Este potencial transformador también implica una serie de riesgos, que desgrana David Ríos Insua, profesor de investigación en Análisis de Riesgos y Ciencia de Datos del CSIC en el ICMAT, en una nueva masterclass de divulgación científica financiada por el AXA Research Fund. La serie ‘Building Secure AI Futures’, de tres capítulos, ya está disponible en el canal de YouTube de la fundación.

“La inteligencia artificial no es neutra. Su impacto dependerá de cómo decidamos usarla como sociedad”, afirma Ríos. “La clave está en comprender sus riesgos para poder gestionarlos de forma eficaz”, añade. En esta iniciativa divulgativa, dirigida al público general, el matemático aborda de manera clara y rigurosa los retos que plantea la IA, que son significativamente diferentes a los riesgos cibernéticos que ya conocemos.

La masterclass está disponible en inglés (con la opción de añadir subtítulos en español y otros idiomas) y pretende servir como herramienta educativa y de concienciación sobre uno de los mayores retos tecnológicos y éticos de nuestro tiempo.

Los capítulos son los siguientes:

Capítulo 1: Los riesgos ocultos de la inteligencia artificial

Aunque sus orígenes se remontan a la década de 1950, es en los últimos años cuando la IA ha empezado a transformar profundamente el mundo. Más allá de los modelos generativos, la IA se basa en el aprendizaje automático, la estadística y la lógica para hacer predicciones y tomar decisiones con impacto real. Cada avance tecnológico viene acompañado de nuevas incertidumbres: por cada beneficio, también puede emerger un riesgo.

Capítulo 2: Cómo la inteligencia artificial amenaza la política, la economía y la sociedad

 

El Foro Económico Mundial ha señalado el impacto de la desinformación impulsada por IA como una de las principales amenazas globales. Esta tecnología no solo afecta a la política y los medios de comunicación, sino que también está reconfigurando el mercado laboral, el sistema productivo y el modo en que se prestan servicios esenciales como la atención sanitaria.

Capítulo 3: El camino hacia una IA más segura
¿Qué herramientas pueden usarse para garantizar un desarrollo ético y seguro de la inteligencia artificial? Desde la regulación europea hasta iniciativas internacionales, David Ríos expone las claves para establecer una gobernanza responsable de esta tecnología. Este último capítulo de la serie invita a actuar —desde el ámbito individual hasta el institucional— para asegurar que el desarrollo de la IA se oriente hacia el bienestar colectivo.

David Ríos Insua: matemáticas para la toma de decisiones

David Ríos Insua es profesor de investigación del CSIC en el ICMAT y miembro de la Real Academia de Ciencias Exactas, Físicas y Naturales. Su labor investigadora parte de problemas reales complejos de toma de decisiones, que aborda con herramientas matemáticas de campos como la estadística bayesiana, el aprendizaje automático y el análisis de riesgos. Su trabajo ha tenido aplicaciones en la gestión de embalses, la protección de infraestructuras críticas, la robótica social y, en los últimos años, en el análisis de riesgos adversarios.

El análisis de riesgos adversarios permite tomar decisiones en situaciones de conflicto, como la ciberseguridad o la lucha contra el terrorismo, mediante herramientas matemáticas de la estadística bayesiana y la teoría de juegos. Para hacer predicciones y optimizar las estrategias a seguir este modelo considera que los adversarios son inteligentes y pueden adaptarse a las acciones de respuesta frente al riesgo, a diferencia de los métodos tradicionales, que suponen que los riesgos son fijos. Este enfoque ha demostrado ser especialmente útil en contextos donde las amenazas son inciertas y cambiantes, como sucede en el ámbito de la IA.

Sobre este tema, Ríos dirigió la Cátedra AXA-ICMAT en Análisis de Riesgos Adversarios en el ICMAT. Rios es también catedrático de Estadística e Investigación Operativa en la Universidad Complutense de Madrid (UCM), actualmente en excedencia. Licenciado en Ciencias Matemáticas por la UCM, Ríos obtuvo su doctorado en Ciencias de la Computación por la Universidad de Leeds (Reino Unido), bajo la supervisión de Simon French. Tras ello, ha sido profesor e investigador en diversas instituciones internacionales, entre las que se encuentran las universidades de Manchester, Leeds, Purdue, Duke, Paris-Dauphine, Aalto, Rey Juan Carlos, Politécnica de Madrid y Shanghai para Ciencia y Tecnología. También ha sido miembro del International Institute for Applied Systems Analysis (IIASA) en Viena, el Istituto di Matematica Applicata e Tecnologie Informatiche en Milán y el Statistical and Applied Mathematical Sciences Institute (SAMSI) en Durham, donde dirigió dos programas de investigación.

Es autor y editor de más de 20 monografías, entre ellas Sensitivity Analysis in MODM (Springer), Statistical Decision Theory (Wiley), Bayesian Analysis of Stochastic Process Models (Wiley) y Adversarial Risk Analysis (Taylor & Francis). Ha publicado más de 160 artículos científicos y capítulos de libros. Ha sido ponente invitado en 70 ocasiones y ha supervisado 27 tesis doctorales y 31 de máster.

Entre sus intereses personales se encuentran el surf, los viajes (especialmente por el norte de Galicia) y aprender con sus hijas.