Demandan a Google por chats de IA relacionados con el suicidio en una computadora escolar

Una demanda presentada en un tribunal de California acusa a Google de negligencia por integraciones de IA en Chromebooks usadas por estudiantes. Los padres de Emma, una niña de 13 años en Carolina del Norte, sostienen que la tecnología le permitió planificar un posible suicidio y su funeral en su computadora escolar. Según el relato, la escuela había bloqueado el acceso a Gemini y a ChatGPT de OpenAI, pero Emma sí pudo usar el buscador de Google, con funciones impulsadas por IA. El 17 de marzo, el software de monitoreo del centro detectó un documento titulado “Funeral” y se notificó a los padres; la madre vio a Emma escribir una carta en tiempo real. Google afirmó que el modo de IA incluye protecciones contra autolesiones, pero el abogado sostiene que fueron insuficientes.