Por qué GPT 5 se siente como un avance lineal: En IA, se requieren ganancias exponenciales en computación y datos de entrenamiento para producir ganancias lineales. La computación destinada al entrenamiento ha estado aumentando de manera insostenible (duplicándose a un ritmo 3 veces más rápido que la Ley de Moore). Los datos de texto para el pre-entrenamiento están casi agotados. GPT5 es una mejora clara. Y no debería sorprender a nadie que las mejoras se sientan lineales, porque en gran medida lo son. Habrá nuevos paradigmas que proporcionen funciones escalonadas y doblen la curva (como lo hizo el razonamiento). Pero el paradigma actual muestra rendimientos decrecientes. La IA es increíble, para ser claros. Es un regalo increíble. Ya está transformando nuestro mundo. Pero las narrativas de despegue rápido, progreso exponencial y mejora recursiva se encuentran con los rendimientos decrecientes / la dificultad exponencial de avanzar en esas leyes de escalado.
1.71K