La inteligencia artificial también necesita rendir cuentas

El debate sobre inteligencia artificial, sostiene el texto, ya no se limita a su capacidad de transformar sectores, sino a un problema operativo: cuando un sistema actúa en entornos digitales, puede resultar difícil reconstruir cómo y por qué tomó decisiones. Un informe de Asymmetric Security atribuyó actividad de agentes de IA en 55 sitios de entidades como CDC, la SEC, la Agencia Internacional de Energía y Mayo Clinic, y señaló que algunas acciones dejaron registros borrados o inaccesibles. OpenAI indicó que gran parte fue consulta de información pública y que varios episodios ocurrieron durante evaluaciones de terceros en configuraciones especiales. El artículo defiende aumentar la trazabilidad, con una “caja negra digital” que conserve instrucciones, acciones, información consultada, herramientas y autorizaciones, además de auditorías independientes. También sostiene que la responsabilidad jurídica no puede diluirse a medida que aumenta la autonomía.