Mustafa Suleyman, jefe de la IA de Microsoft: "Si caminas una hora recorres una distancia; si caminas dos, doblas distancia. Esa intuición fue útil, pero fracasa con la IA"

Mustafa Suleyman, jefe de IA en Microsoft, afirma que el progreso de la IA es exponencial, no lineal. En MIT Technology Review describe que el cómputo ha pasado de 10^14 FLOPS en 2020 a 10^26 FLOPS hoy, impulsado por chips más rápidos, memoria y redes que conectan miles de GPU. Nvidia ha subido de 312 a 2.250 teraflops desde 2020; Maia 200 ofrece más rendimiento por euro; la memoria HBM3 triplica el ancho de banda y NVLink/InfiniBand enlazan GPU en clústeres. Un ejemplo: 167 minutos en 8 GPU se reducen a menos de cuatro. Se prevé casi 4x cómputo anual en laboratorios, y hacia 2027, 100 millones de chips H100.