Hemos visto cómo en los últimos meses la Inteligencia Artificial se ha convertido en el concepto estrella del marketing tecnológico, prometiendo automatizar, proteger y anticiparse a amenazas de forma autónoma. Sin embargo, en la práctica, muchas herramientas que aseguran estar potenciadas por IA apenas entregan funciones básicas de automatización, creando una falsa sensación de seguridad que puede ser incluso más peligrosa que no tener protección.
No es una seguridad nueva
La IA en contextos de detección lleva décadas entre nosotros. Desde los años 80, con el desarrollo de sistemas expertos como MYCIN en medicina, los algoritmos han buscado emular la toma de decisiones humanas. Pero lo que tenemos hoy, impulsado por modelos generativos y aprendizaje profundo, va mucho más allá, cuando realmente está bien aplicado.
Gartner proyecta que para 2029, el 80% de las consultas de servicio al cliente serán resueltas de forma autónoma por IA agentiva, reduciendo los costos operativos en un 30%. ¿Pero qué significa eso para la ciberseguridad? Que se intensificará la presión por adoptar soluciones automatizadas, aun cuando no siempre estén listas para responder ante amenazas reales.
La firma también advierte sobre el lado oscuro de esta tecnología: los atacantes están utilizando la inteligencia artificial para escalar, automatizar y perfeccionar sus métodos. Algunas de las amenazas más preocupantes incluyen la creación de deepfakes autónomos para suplantaciones altamente creíbles, el uso de modelos de lenguaje modificados o «Dark AI» capaces de evadir filtros y restricciones mediante técnicas de jailbreak, la generación automatizada de malware adaptativo y la proliferación de plataformas de desinformación impulsadas por modelos generativos. A esto se suma un riesgo silencioso pero creciente: las fugas de datos provocadas por el uso no regulado de herramientas de IA por parte de empleados, especialmente cuando se utilizan plataformas públicas para procesar información sensible sin las debidas políticas internas.
Frente a esto, la necesidad de contar con soluciones de seguridad inteligentes, automatizadas y adaptativas es más urgente que nunca. Sin embargo, estas tecnologías deben ir de la mano de una estrategia de ciberseguridad integral, diseñada y supervisada por equipos expertos capaces de interpretar el contexto, ajustar las respuestas y anticipar nuevas formas de ataque.
Cuando los atacantes manipulan la IA
La inteligencia artificial, por poderosa que sea, es una herramienta complementaria, no una solución autosuficiente. Sin una supervisión adecuada, incluso los modelos más avanzados pueden ser manipulados, como lo demuestra el creciente fenómeno del AI Poisoning, que pone en evidencia los límites y vulnerabilidades de sistemas que, en teoría, deberían protegernos.
Uno de los riesgos más complejos y menos comprendidos dentro del uso de IA en ciberseguridad es precisamente el AI Poisoning, o envenenamiento de datos. Este tipo de ataque ocurre durante la fase de entrenamiento de un modelo de machine learning, cuando actores maliciosos logran inyectar datos manipulados con el fin de alterar su comportamiento. A diferencia de un fallo técnico, el AI Poisoning tiene una intencionalidad adversaria y puede provocar tanto la degradación general del modelo (availability attacks), como manipulaciones específicas que afectan solo ciertos resultados (integrity attacks), como ocurre con los ataques de backdoor o envenenamientos dirigidos.
Fuente: NIST Trustworthy and Responsible AI – NIST AI 100-2e2023. Adversarial Machine Learning, A Taxonomy and Terminology of Attacks and Mitigations
Este tipo de amenaza no es nuevo. Según el U.S. National Institute of Standards and Technology (NIST) en su informe Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, el primer caso documentado se remonta a 2006, en el contexto de generación de firmas para gusanos informáticos. Desde entonces, estos ataques han sido observados en múltiples dominios: detección de spam, análisis de intrusiones, clasificación de malware, visión computacional, procesamiento de lenguaje natural, y sectores sensibles como salud y finanzas. Hoy, con la masificación de modelos generativos y el uso de datos públicos para entrenamiento, su impacto ha escalado a nivel industrial. Un informe de Microsoft alerta que el AI Poisoning es actualmente la vulnerabilidad más crítica para sistemas de IA en producción.
Un ejemplo reciente evidencia cómo esta amenaza se materializa en la práctica. El usuario @r_cky0 reportó en X cómo ChatGPT entregó código con referencias a APIs maliciosas ligadas a la red Solana, específicamente desde dominios como solanaapis[.]com y primeapis[.]com. Los atacantes, mediante técnicas de SEO malicioso, posicionaron estos enlaces en plataformas como GitHub, Postman, Medium y Stack Exchange, haciendo que la IA los interpretara como fuentes legítimas. El resultado: un desarrollador que solicitó ayuda para crear un bot en pump.fun recibió una respuesta con código contaminado, que expuso sus claves privadas y resultó en una pérdida de $2.500 USD en menos de 30 minutos, transferidos directamente al monedero de los atacantes.
Este incidente demuestra que los atacantes no solo manipulan los modelos desde dentro, sino también su entorno de entrenamiento y consulta. En CronUp Ciberseguridad, monitoreamos activamente este tipo de amenazas, que crecen y se sofistican día a día. Y lo repetimos: no basta con contar con tecnología avanzada. Se requiere una estrategia que combine automatización, inteligencia humana y cumplimiento normativo, para enfrentar este escenario de forma sostenible y efectiva.
La urgencia es clara. Según un sondeo de Gartner (2024), el 42% de los encuestados considera la privacidad de los datos como el principal riesgo asociado al uso de GenAI. Esto se vuelve aún más crítico cuando empleados sin supervisión utilizan modelos públicos para tareas sensibles, exponiendo a las organizaciones a brechas invisibles pero reales.
El informe Voice of the CISO 2024 lo confirma: el 74% de los CISOs considera que el error humano es la mayor vulnerabilidad de sus entornos. En este contexto, la IA puede ser una gran aliada, pero no reemplaza la conciencia ni la preparación. Por eso, la concientización sigue siendo un pilar clave en toda estrategia de ciberseguridad moderna.
¿Estamos confiando demasiado en la etiqueta “IA”?
Muchas plataformas prometen capacidades avanzadas de análisis y detección, pero al evaluar su desempeño real, descubrimos que están lejos de los modelos que sí integran IA real, como los desarrollados por Microsoft, Google o Amazon. En algunos casos, simplemente no existe un motor de IA, sino procesos automatizados con lógica básica y sin capacidad de aprendizaje real.
Esta brecha entre promesa y capacidad genera riesgos críticos, donde las herramientas, pese a contar con tecnología avanzada, no cumplen su función por errores de implementación, falta de pruebas o una comprensión limitada de sus capacidades reales por parte del equipo técnico.
¿Qué hacer frente a esta falsa promesa de seguridad?
Frente a la brecha entre promesa y realidad, es fundamental que las organizaciones adopten una postura crítica y estratégica frente a las soluciones basadas en inteligencia artificial. El primer paso es evaluar con pruebas reales cada herramienta antes de integrarla al ecosistema de ciberseguridad, evitando confiar únicamente en fichas técnicas o promesas comerciales. Además, es crucial capacitar a los equipos internos para que comprendan las capacidades reales y, sobre todo, las limitaciones de estas tecnologías, evitando que se conviertan en cajas negras mal utilizadas. La IA debe complementar el trabajo de analistas humanos, no reemplazarlo, ya que la interpretación contextual y la toma de decisiones siguen siendo esenciales. Por último, es indispensable mantener políticas claras sobre privacidad, uso corporativo de IA y manejo de información sensible, para evitar exposiciones innecesarias que podrían ser aprovechadas por actores maliciosos.
Cuando la IA sí aporta valor
A pesar de sus riesgos, la inteligencia artificial también está transformando positivamente la ciberseguridad, especialmente en áreas como el análisis de datos y la criptografía. Su capacidad para procesar grandes volúmenes de información en tiempo real permite detectar patrones anómalos, correlacionar eventos de múltiples fuentes y generar insights predictivos que antes requerían horas de trabajo manual. Esto se traduce en una mejor anticipación de amenazas, una respuesta más rápida ante incidentes y una optimización en el uso de recursos dentro de los centros de operaciones de seguridad (SOC).
En el campo de la criptografía, la IA puede contribuir al desarrollo de algoritmos más robustos, especialmente en escenarios donde la computación cuántica empieza a desafiar los estándares actuales de seguridad. Al mismo tiempo, esto representa un nuevo frente de riesgo si estas capacidades son aprovechadas por actores maliciosos. Por eso, muchas investigaciones hoy están enfocadas en diseñar técnicas criptográficas resistentes a ataques cuánticos, un terreno donde la inteligencia artificial puede ser tanto aliada como adversaria. La clave está, como siempre, en su implementación, supervisión y uso ético.
Un enfoque técnico, no promocional
Puede sonar reiterativo, pero es una realidad que no podemos ignorar: el riesgo está siempre presente, y en muchos casos, se amplifica por una confianza mal depositada en tecnologías que no han sido validadas. La inteligencia artificial no es magia ni una solución autosuficiente. Es una herramienta poderosa, sí, pero su efectividad depende directamente de cómo se implementa, se supervisa y se integra dentro de una estrategia de ciberseguridad coherente y contextualizada.
En CronUp Ciberseguridad, lo vemos a diario: empresas que adquieren soluciones avanzadas sin entender sus verdaderas capacidades, sin pruebas exhaustivas ni alineación con sus procesos internos. Por eso, nuestro enfoque va más allá de la tecnología. Acompañamos a nuestros clientes en el desarrollo integral de sus estrategias de defensa, combinando automatización con inteligencia humana, evaluando continuamente los controles implementados y reforzando la capa más crítica: el factor humano.
Realizamos pruebas activas de ingeniería social, campañas de simulación y actividades de concientización, diseñadas para detectar vulnerabilidades reales dentro de las organizaciones. Porque sabemos que los ataques no solo apuntan a sistemas, sino también a personas.
Si confiamos más en el eslogan que en el análisis, el mayor riesgo no vendrá desde fuera… sino desde dentro. Y por eso, más que una solución, ofrecemos acompañamiento experto y visión estratégica para construir una ciberseguridad que sea realmente resiliente.
© 2026 CronUp Ciberseguridad. Todos los derechos reservados. Este contenido está protegido por la Ley Nº 17.336. Se permite su uso informativo citando la fuente y enlazando el artículo original. Su reproducción o uso sin atribución constituye infracción.
