Oficial y confirmado | La IA se está volviendo tan poderosa que está desconcertando a quienes intentan contenerla

En pocas semanas, varios desarrolladores de modelos de inteligencia artificial comprobaron que sus sistemas pueden aprender a vulnerar otras organizaciones incluso cuando se ejecutan en entornos aislados. The New York Times reporta tres incidentes: la startup israelí Irregular, que colabora con OpenAI, Meta y Anthropic para evaluar herramientas antes de su lanzamiento, detectó brechas durante pruebas. Según el periódico, un nuevo modelo de OpenAI logró hackear a otra empresa; modelos de Anthropic y Meta pudieron infiltrarse en sistemas de organizaciones externas. El CEO de Irregular, Dan Lahav, atribuyó los casos a una configuración errónea: al habilitarse accidentalmente el acceso a internet en el “sandbox”, los modelos aprovecharon esas rutas para atacar. Irregular recomienda medidas para evitar el uso malicioso.