En los últimos años, los sistemas de inteligencia artificial (IA) y aprendizaje automático (ML) se han integrado en procesos críticos como la detección de fraudes, los diagnósticos médicos, la conducción autónoma y la toma de decisiones financieras. A medida que estas tecnologías ganan terreno, también crecen los interrogantes sobre su confiabilidad y resistencia frente a adversarios que buscan explotarlas. La disciplina de seguridad en IA aborda estos riesgos, y dentro de ella, el campo del adversarial machine learning (AML) estudia cómo un atacante puede alterar el comportamiento de los modelos mediante entradas manipuladas o procesos maliciosos, así como las estrategias para defenderse de esos ataques.

Este artículo analiza los principales vectores de ataque, casos documentados, defensas en uso, implicaciones prácticas para empresas —incluyendo en el contexto latinoamericano— y los retos que plantea el futuro.

Tipos de ataques adversariales

Los ataques adversariales pueden clasificarse según el momento en que ocurren y el objetivo que persiguen. Uno de los más conocidos es la evasión o ataque en la fase de inferencia. En este caso, el adversario introduce pequeñas perturbaciones en una entrada legítima, imperceptibles para los humanos pero suficientes para inducir una clasificación errónea en el modelo. Un ejemplo clásico es el de una imagen de un gato ligeramente alterada que un sistema confunde con una ardilla.

Otro tipo relevante es el envenenamiento de datos, en el cual el atacante introduce ejemplos maliciosos dentro del conjunto de entrenamiento o validación. Esto puede distorsionar el modelo hasta el punto de insertar puertas traseras que solo se activan con un disparador específico. También existen ataques de extracción de modelo, que consisten en consultar de forma reiterada a un modelo accesible públicamente para reconstruir su funcionamiento interno, ya sea con fines de espionaje, robo de propiedad intelectual o preparación de ataques más complejos.

La privacidad es otra dimensión en riesgo. Ataques como el membership inference intentan deducir si un individuo estuvo presente en los datos de entrenamiento, mientras que los de inversión de modelo buscan reconstruir información sensible directamente a partir de las salidas. Finalmente, en el terreno de la explicabilidad, han surgido ataques que manipulan las explicaciones de los modelos, generando interpretaciones engañosas que ocultan sesgos o debilidades, un fenómeno conocido como explicaciones adversariales.

Casos reales y tendencias actuales

En la práctica, estos riesgos no son meras hipótesis. Investigaciones recientes han mostrado malware potenciado por IA capaz de evadir antivirus tradicionales, lo que demuestra que los atacantes también están aprovechando el aprendizaje automático para perfeccionar sus técnicas. Al mismo tiempo, instituciones como el NIST han desarrollado taxonomías estandarizadas que ofrecen un lenguaje común para clasificar y mitigar este tipo de amenazas.

El costo de las defensas robustas también es un tema de preocupación. Estudios industriales señalan que entrenar modelos con técnicas de robustez puede multiplicar varias veces los recursos necesarios en comparación con un entrenamiento convencional, lo que plantea dilemas prácticos para las organizaciones. En sectores como la manufactura y el control industrial, donde la IA se utiliza para monitoreo y mantenimiento predictivo, se han documentado vulnerabilidades que muestran el impacto tangible de los ataques adversariales en entornos críticos.

Estrategias de defensa y técnicas robustas

El adversarial training es una de las defensas más utilizadas. Se trata de exponer al modelo, durante su entrenamiento, a ejemplos adversariales generados dinámicamente para que aprenda a resistirlos. Aunque es eficaz, esta técnica suele requerir un costo computacional elevado. Otra aproximación es el randomized smoothing, que añade ruido a las entradas para evaluar la estabilidad de las predicciones y certificar la robustez frente a perturbaciones menores.

Algunos enfoques buscan detectar los ejemplos adversariales en lugar de hacer inmune al modelo. Estos métodos utilizan autoencoders, verificadores secundarios o técnicas estadísticas para identificar entradas sospechosas. Existen también técnicas de defensive distillation y feature squeezing, que reducen la sensibilidad de los modelos a pequeñas alteraciones. Más allá de estas, los métodos certificados y la optimización robusta ofrecen garantías teóricas dentro de márgenes específicos de perturbación, mientras que las técnicas híbridas y de meta-aprendizaje apuntan a una defensa más dinámica y adaptable frente a ataques novedosos.

Relevancia práctica para empresas

La adopción de defensas contra ataques adversariales no puede hacerse de forma indiscriminada. Las empresas necesitan evaluar riesgos con base en su modelo de amenaza, priorizando aquellos sistemas de IA que toman decisiones críticas, como los de fraude financiero o los de autenticación. Deben también considerar la relación costo-beneficio, dado que muchas defensas implican un consumo mayor de recursos.

Además, la seguridad en IA requiere auditoría continua. El red teaming aplicado a modelos de IA se perfila como una práctica indispensable para evaluar defensas frente a ataques emergentes. En paralelo, la presión regulatoria crece: nuevas normativas demandan modelos más auditables y transparentes. Para lograrlo, las organizaciones deben invertir no solo en tecnología, sino también en capacitación, asegurando que los equipos de ciencia de datos y ciberseguridad comprendan y gestionen las vulnerabilidades asociadas al aprendizaje automático.

En el caso de Latinoamérica, donde muchas empresas aún se encuentran en fases iniciales de adopción de IA, la seguridad puede ser un factor diferenciador. Aquellas que logren demostrar modelos robustos y confiables tendrán una ventaja competitiva frente a competidores que prioricen únicamente la funcionalidad.

Retos abiertos y tendencias futuras

El futuro del adversarial machine learning plantea desafíos significativos. Entre ellos, garantizar la robustez escalable de grandes modelos de lenguaje y arquitecturas multimodales, enfrentar ataques de evasión dinámica que se adaptan en tiempo real, y desarrollar métodos de explicabilidad que no puedan ser manipulados. La seguridad en aprendizaje federado y distribuido, donde múltiples actores contribuyen con datos o modelos parciales, es otra área sensible.

Asimismo, se espera una consolidación de estándares internacionales que certifiquen la robustez de los modelos, junto con la necesidad de integrar defensas en ecosistemas de agentes autónomos de IA. El panorama deja claro que el AML seguirá siendo un área de investigación y práctica central en los próximos años.

La seguridad en IA y el aprendizaje adversarial representan un frente crítico en la ciberseguridad moderna. Los modelos no solo deben aspirar a la precisión, sino también a la resiliencia frente a adversarios cada vez más sofisticados. Para profesionales y organizaciones, comprender y anticipar estos ataques no es una opción, sino una necesidad estratégica. Aquellos que actúen hoy estarán mejor preparados para un futuro donde la inteligencia artificial será omnipresente y, por ende, un blanco inevitable.

 

Fuentes

• Vassilev, A., Oprea, A., Fordyce, A., Anderson, H., Davies, X., & Hamin, M. (2025). Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations. NIST Trustworthy and Responsible AI.
• Wu, B., Zhu, Z., Liu, L., Liu, Q., He, Z., & Lyu, S. (2023). Attacks in Adversarial Machine Learning: A Systematic Survey from the Life-cycle Perspective. arXiv preprint arXiv:2302.09457.
• IBM Research. (2023, January 20). Improving the efficiency of adversarial robustness defenses. IBM Research Blog.
• Jedrzejewski, F. V. (2024). Adversarial Machine Learning in Industry: A Systematic Review. Computers & Security, 136, 103715.
• Kotyan, S. (2023). A reading survey on adversarial machine learning: Adversarial attacks and their understanding. arXiv preprint arXiv:2308.03363.
• Soremekun, E., et al. (2023). Towards Backdoor Attacks and Defense in Robust Models. Computers & Security, 129, 103296.
• Baniecki, H., & Biecek, P. (2023). Adversarial attacks and defenses in explainable artificial intelligence: A survey. arXiv preprint arXiv:2306.06123.