Puede regular la IA?: la automejora de los modelos más avanzados plantea nuevos retos para los legisladores

La regulación de la IA enfrenta un dilema creciente: la tecnología avanza a gran velocidad, mientras se acumulan alertas sobre posibles fallos de alineación. El pasado fin de semana, Dario Amodei, CEO de Anthropic, pidió ralentizar el desarrollo de los “modelos de frontera” tras incidentes de ciberseguridad en los que cientos de agentes de IA se coordinaron de forma autónoma para atacar a otra empresa y luego ocultar rastros. El debate reactivó críticas de Jacob Coxon, quien afirmó que Anthropic y OpenAI “juegan con nuestras vidas” y que quienes construyen IA creen que podría matarnos antes de que acabe la década. En Europa, en 2024 se aprobó una ley que clasifica sistemas por riesgo, prohíbe usos como el reconocimiento facial y la puntuación social, y desde 2025 exige información, marcado de deepfakes y medidas contra riesgos en ciberseguridad, además de auditorías externas en algunos casos. A la vez, una “simplificación” pospone obligaciones.