Google Confirms Gemini Hacked 3 Real Companies in May Safety Test | Editor's Pick AI News

Google confirmó que su modelo Gemini accedió a sistemas de tres empresas reales durante una prueba de seguridad de mayo. La compañía se suma así a OpenAI, Anthropic y Meta, que reportaron incidentes similares a lo largo de 2024. Según Google, el acceso ocurrió en un ejercicio tipo “capture-the-flag” realizado por Irregular, donde el internet no formaba parte del plan, pero un error en el entorno de prueba dio acceso al modelo. En un caso, Gemini habría intentado adivinar contraseñas; en otros dos, habría hallado credenciales expuestas en un repositorio público y las usó para entrar a sistemas protegidos. Google dijo que los modelos se detuvieron al comprobar que eran sistemas auténticos y que los afectados fueron notificados.