Dlaczego GPT 5 wydaje się być liniowym postępem: W AI, aby uzyskać liniowe zyski, potrzebne są wykładnicze zyski w obliczeniach i danych treningowych. Obliczenia przeznaczone na trening rosną w sposób nie do utrzymania (podwajając się w tempie 3x prawa Moore'a). Dane tekstowe do wstępnego treningu są prawie wyczerpane. GPT5 to wyraźna poprawa. I nie powinno nikogo dziwić, że poprawa wydaje się liniowa - ponieważ w dużej mierze taka jest. Pojawią się nowe paradygmaty, które zapewnią funkcje skokowe i wygięcie krzywej (jak to miało miejsce w przypadku rozumowania). Ale obecny paradygmat pokazuje malejące zyski. AI jest niesamowite, aby było jasne. To niesamowity dar. Już zmienia nasz świat. Ale szybki start, wykładniczy postęp, narracje o samodoskonaleniu napotykają na malejące zyski / wykładnicze trudności w poruszaniu się w górę tych praw skalowania.