Apoyada en investigaciones del NIST, la compañía demuestra matemáticamente que los filtros fijos son insuficientes ante las cambiantes amenazas de la IA generativa.
Check Point® Software Technologies Ltd. (NASDAQ: CHKP), pionero y líder global en soluciones de ciberseguridad, asegura que ha cambiado completamente la manera en que las empresas protegen sus sistemas de inteligencia artificial. Frente a las metodologías de seguridad tradicionales que dependen de auditorías y validaciones en momentos puntuales, la compañía advierte de la necesidad urgente de adoptar un enfoque de 'Red Teaming' continuo para gestionar el comportamiento dinámico e impredecible de la IA en entornos reales.
En la informática tradicional, los equipos de seguridad están acostumbrados a trabajar con hitos cerrados: se detecta una vulnerabilidad, se aplica un parche, se pasa el control y el software se actualiza. Sin embargo, la seguridad de la IA rompe estas reglas de juego. Superar una prueba de seguridad ofrece una tranquilidad temporal, pero solo describe cómo se comporta un sistema específico bajo una configuración concreta y en un momento preciso.
La realidad de la IA en producción es muy distinta: los modelos cambian constantemente de comportamiento, los prompts se actualizan, se integran nuevas bases de conocimiento externas, los agentes automatizados adquieren más herramientas y los usuarios finales introducen contextos imprevistos que los desarrolladores nunca planificaron. En este escenario, los atacantes se adaptan con la misma rapidez, haciendo que los análisis de seguridad del pasado queden obsoletos casi de inmediato.
Esta necesidad de evaluar los sistemas constantemente cuenta con un sólido respaldo matemático. En el estudio 'Robust AI Security and Alignment: A Sisyphean Endeavor?' del National Institute of Standards and Technology (NIST), el científico Apostol Vassilev aplica los principios del teorema de incompletitud de Gödel a la seguridad de la IA. Su conclusión es muy clara: ningún conjunto finito de reglas de seguridad o filtros (guardrails) puede ser completamente infalible frente a las técnicas de manipulación de instrucciones (prompts adversarios).
Esto no significa que las medidas de contención actuales no sirvan. El problema real, según Check Point Software, es que las empresas siguen buscando una certificación de seguridad permanente cuando el verdadero objetivo debe ser la mejora continua. El lenguaje humano otorga a los atacantes un campo de juego casi infinito para ocultar intenciones maliciosas a través de juegos de rol, traducciones, instrucciones cruzadas de múltiples turnos o la inyección indirecta de código mediante correos, archivos o webs que el propio agente de IA consulta. Al ser imposible anticipar cada combinación verbal, el éxito ya no se mide en declarar un sistema como impenetrable, sino en lograr que atacar la IA sea un proceso tan complejo, caro e ineficiente que disuada a los ciberdelincuentes.
"La confianza para desplegar la IA en una empresa no puede depender de una firma de aprobación antes de su lanzamiento. Los modelos cambian, los agentes evolucionan y los riesgos mutan. La verdadera confianza viene de saber que la compañía tiene la capacidad de monitorizar activamente sus sistemas, ponerlos bajo presión de los adversarios de forma constante mediante Red Teaming, blindarlos en producción y reaccionar de inmediato cuando se detectan nuevas debilidades", afirma Adam Ely, director general de Seguridad de IA en Check Point Software.
Para lograr esta resiliencia, Check Point Software propone un modelo dinámico alineado con las recomendaciones del NIST que se estructura en tres pilares. El primero es el descubrimiento continuo de vulnerabilidades mediante equipos de Red Teaming que simulan ataques reales para encontrar debilidades antes que los ciberdelincuentes. El segundo es el robustecimiento constante de las defensas, asegurando que cada fallo descubierto sirva para modificar las reglas en producción y se sume a las pruebas automáticas para evitar que resurja en el futuro. Por último, se requiere una resiliencia operativa que asuma que algún ataque podría tener éxito, limitando el alcance de lo que la IA puede modificar y monitorizando comportamientos extraños en tiempo real.
Este enfoque se ejecuta como un engranaje continuo. El proceso comienza al descubrir un posible riesgo durante el modelado de amenazas, lo que permite al equipo de Red Teaming diseñar pruebas específicas para explotarlo. Una vez identificada la brecha, se prioriza su solución para robustecer y proteger el sistema mediante medidas en tiempo de ejecución. Esto permite mantener una monitorización constante que, tarde o bien temprano, exigirá volver a evaluar y retestear la IA ante cualquier cambio de código, nuevo modelo o actualización de fuentes de datos.
Check Point AI Defense Plane: seguridad en tiempo de ejecución
Aunque el Red Teaming expone los puntos débiles, las organizaciones necesitan herramientas operativas para frenar los ataques mientras la IA está funcionando. Con este objetivo, la arquitectura Check Point AI Defense Plane unifica el descubrimiento de activos de IA, la gobernanza de políticas, la verificación constante y la protección en tiempo de ejecución (runtime protection).
Al evaluar constantemente la manera en que interactúan los usuarios, los datos corporativos y las acciones automáticas de los agentes de software, la plataforma permite detectar anomalías y bloquear accesos sospechosos en el momento. Esta integración elimina la fricción que siempre ha existido entre velocidad de desarrollo y control de riesgos, permitiendo que las compañías adopten soluciones de IA con la certeza de que su sistema de defensa aprende tan rápido como la tecnología que protege.
