Inteligencia artificial bajo fuego: la Justicia le cierra la puerta a los jueces robot

Inteligencia artificial bajo fuego: la Justicia le cierra la puerta a los jueces robot al proponer reglas para acotar el uso de IA generativa en el ámbito judicial. En los últimos dos años, herramientas se emplearon de forma informal para redactar escritos, resumir documentos y buscar antecedentes, pero la Corte bonaerense advierte “alucinaciones”: respuestas falsas, referencias inexistentes y análisis sesgados. El proyecto no elimina la tecnología; limita su aplicación a tareas de bajo riesgo como transcripción automática de audiencias, organización documental, clasificación de expedientes y corrección de textos. En cambio, sistemas para interpretar normas, sugerir resoluciones o predecir resultados se consideran de alto riesgo y requieren controles estrictos. Se incorpora el concepto de “sesgo de automatización” y el impacto potencial en debido proceso, derecho de defensa y tutela judicial efectiva. Se prohíben sistemas predictivos para reincidencia con efectos en libertades o cautelares, la generación de pruebas sintéticas y la confección automática de pericias sin intervención crítica. La Suprema Corte crea una Comisión de Gobernanza y Uso de IA para evaluar herramientas y monitorear resultados con informes periódicos.