Abriendo la "Caja Negra": El Mayor Desafío de la Inteligencia Artificial Moderna

“Abriendo la ‘Caja Negra’: El Mayor Desafío de la Inteligencia Artificial Moderna” aborda la dificultad de explicar por qué los modelos de deep learning toman decisiones que afectan a personas. El artículo plantea que las redes neuronales actuales alcanzan alta precisión, pero operan con millones de parámetros y transformaciones en capas ocultas, lo que elimina la trazabilidad interna: se conocen los datos de entrada y la predicción, no los pasos intermedios. Ante ello, surge la IA Explicable (XAI) impulsada también por exigencias regulatorias como el “derecho a una explicación” del Reglamento Europeo de IA. Se describen enfoques para auditar la “mente digital”, como mapas de saliencia (por ejemplo Grad-CAM en diagnóstico por imagen), modelos sustitutos tipo LIME, y valores SHAP inspirados en teoría de juegos para estimar la contribución de variables al resultado.