La inteligencia artificial ha ido adquiriendo una presencia cada vez mayor en diferentes ámbitos de nuestra actividad cotidiana, desde la automatización de procesos empresariales hasta el análisis de información o el desarrollo de nuevas herramientas tecnológicas. Su incorporación también está ampliando las posibilidades de los sistemas capaces de ejecutar tareas de forma autónoma, conocidos como agentes de IA, que pueden interactuar con distintas aplicaciones y realizar determinadas acciones con diferentes grados de supervisión humana.
En este contexto, la evolución de estas capacidades también está siendo objeto de análisis en el ámbito de la ciberseguridad. Un ejemplo reciente se produjo durante unas evaluaciones internas de seguridad realizadas por una tecnológica en las que varios agentes de inteligencia artificial encontraron mecanismos para comunicarse entre sí y acceder a sistemas externos a sus entornos de prueba. Según la información publicada por la compañía y los investigadores que analizaron el incidente, algunos de estos agentes llegaron a coordinar acciones que afectaron a otra plataforma tecnológica, poniendo de manifiesto la importancia de evaluar el comportamiento de estos sistemas y los mecanismos de supervisión asociados a su funcionamiento.
Este tipo de experiencias permite observar cómo la incorporación de la IA introduce nuevas cuestiones relacionadas con la gestión de permisos, el control de acceso a los sistemas, la supervisión de procesos automatizados y la delimitación de las acciones que pueden ejecutar los agentes. De esta forma, la ciberseguridad también incorpora el análisis de las capacidades de la inteligencia artificial, tanto desde la perspectiva de su utilización como herramienta tecnológica como desde la evaluación de los riesgos asociados a su funcionamiento.
En esta línea, la Comisión Europea presentó en julio el Plan de Acción sobre Ciberseguridad e Inteligencia Artificial, una iniciativa orientada a promover el uso seguro y responsable de esta tecnología y reforzar la coordinación entre los estados miembros, las empresas y las instituciones europeas. El documento aborda el papel de la IA en el ámbito de la ciberseguridad, incluyendo sus aplicaciones para la identificación de vulnerabilidades, el análisis de incidentes y el desarrollo de herramientas de apoyo a los equipos especializados. Asimismo, contempla medidas relacionadas con la investigación, la cooperación y el desarrollo de capacidades tecnológicas europeas.
Los expertos de Kumo Networks señalan la importancia de incorporar la evaluación de los riesgos asociados a la inteligencia artificial dentro de los procesos de gestión de la seguridad de las organizaciones. En este sentido, la combinación de tecnología, gobernanza y capacidad de respuesta forma parte de un planteamiento que permite abordar tanto la protección de las infraestructuras como la supervisión de las herramientas que intervienen en su funcionamiento.
Asimismo, la inteligencia artificial también ofrece posibilidades de aplicación en el ámbito de la ciberdefensa, mediante herramientas de apoyo para el análisis de información, la identificación de comportamientos anómalos y la gestión de determinados procesos de seguridad. Su utilización se enmarca, de esta forma, en un modelo en el que los equipos especializados, los procedimientos internos y las soluciones tecnológicas desempeñan funciones complementarias.
En definitiva, la incorporación de la inteligencia artificial al ámbito de la ciberseguridad introduce nuevas dimensiones en la gestión de los entornos digitales. Conocer las capacidades de estas herramientas, establecer mecanismos de supervisión y contemplar su integración dentro de los procesos de seguridad permite avanzar hacia un uso de la tecnología basado en criterios de control, gobernanza y gestión de riesgos.
