Sam Altman afirma que algunos accidentes relacionados con la IA son "inevitables"

Sam Altman, CEO de OpenAI, dijo en Dreamforce de Salesforce que “cierto grado de accidentes” en torno a la IA es inevitable conforme los modelos ganen capacidades. A su juicio, el foco debe estar en crear una cultura de reporte transparente y aprendizaje tras incidentes, tomando como referencia el enfoque de la aviación. Citó a la Administración Federal de Aviación y a la Junta Nacional de Seguridad del Transporte como ejemplos donde la investigación de incidentes ha hecho volar más seguro. Altman reconoció temores sobre pérdida de control y sobre la concentración de poder en pocos desarrolladores, pero afirmó que la respuesta no es abandonar la tecnología: hay que adelantarse en alineación, seguridad y monitoreo, además de estar listos para reducir el ritmo o detenerse si hace falta.