Entre los aspectos positivos, los expertos apuntan a un cambio en las reglas del juego de la ciberseguridad. La IA facilita el trabajo de los defensores en muchos casos, ya que puede abordar retos que los equipos humanos aún no pueden resolver una escalada. La ciberdefensa tiende a ser proactiva, ya que los modelos de IA son capaces de predecir amenazas antes de que ocurran, analizando patrones de amenazas históricas y datos en tiempo real. Asimismo, esta tecnología se aplica para supervisar continuamente el comportamiento de los usuarios cuando usan el correo electrónico, las aplicaciones en la nube y los endpoints, lo cual permite detectar anomalías respecto al patrón normal, indicando si hay un compromiso de cuenta u otra amenaza. Por último, la automatización basada en IA permite acelerar la respuesta ante incidentes, pasando de un tiempo de contención de horas a segundos.
¿Lo malo de todo esto? Que la IA no es sólo para uso de los defensores, sino también de sus adversarios para desarrollar ataques altamente adaptables, escalables y dirigidos. Como tácticas habituales están el phishing basado en IA, altamente personalizado y con apariencia legítima; malware polimórfico, que puede cambiar dinámicamente su código para eludir métodos de detección basados en firmas; ingeniería social asistida por deepfake con audios y vídeos falsos para ataques de suplantación de identidad.
Pese a que la IA presenta numerosas ventajas para los equipos de seguridad, lo cierto es que también plantea desafíos en sus operaciones cotidianas. Esta cara más compleja se materializa cuando los sistemas generan alertas excesivas, incluidos falsos positivos, abrumando a los defensores y haciéndoles perder en ocasiones un tiempo valioso; al intentar integrar soluciones de IA en la infraestructura existente, puesto que se necesitan diseños escalables y flexibles; y en la opacidad de las decisiones de la IA, lo que hace que los analistas a veces confíen en las decisiones del sistema, obstaculizando la adopción.
Para el equipo de investigación de Proofpoint, "lo importante es encontrar un equilibrio entre lo que promete la IA y la practicidad, con la necesaria experiencia para que se despliegue esta tecnología avanzada con eficacia a la hora de defenderse de amenazas sofisticadas y sortear los desafíos operativos. Las soluciones serán adaptables y centradas en adelantarse a las tácticas cambiantes de los ciberdelincuentes para proteger a las personas, quienes son los puntos de entrada más vulnerables de una organización" .