Sancho Lerena, experto en tecnología y seguridad: "La IA en manos equivocadas hace mucho daño

Sancho Lerena, CEO de la española Pandora FMS y experto en gestión IT y seguridad, advierte que la IA entró en una fase distinta: los modelos ya no solo responden o generan contenido, sino que pueden actuar como agentes autónomos usando herramientas informáticas por su cuenta. Para Lerena, el problema no es únicamente “lo que la IA puede hacer”, sino la capacidad de decisión y los límites que se le permiten. Cita el trabajo de compañías como Anthropic, capaz de manejar ordenadores (cursor, clic y escritura), aunque con errores y limitaciones. El riesgo se agrava con el paso de chatbot a agente, donde el sistema interpreta acciones para cumplir objetivos y puede aparecer el “reward hacking”.