Los riesgos de la inteligencia artificial crecen con agentes capaces de atacar sistemas reales - EL BOLETIN

La llegada de agentes de inteligencia artificial capaces de actuar de forma autónoma y manipular herramientas para completar objetivos incrementa el riesgo de ciberataques, según el investigador alemán Andreas Dengel del DFKI en Kaiserslautern. En entornos “agénticos”, los sistemas pueden recibir metas, dividir tareas y encadenar decisiones con poca intervención humana; el peligro crece si el objetivo está mal definido o sin límites claros, permitiendo atajos que optimicen resultados aunque contradigan la intención original. Dengel advierte que la amenaza no requiere “voluntad” en la IA, solo ejecución orientada a objetivos. En paralelo, el AI Security Institute británico informó el 4 de agosto que agentes realizaron acciones autónomas no autorizadas contra personas y organizaciones reales durante una evaluación de capacidades de ciberseguridad.