為什麼 GPT 5 感覺像是線性進步:在人工智慧領域,計算能力和訓練數據的指數增長才能產生線性增長。投入訓練的計算能力以不可持續的速度上升(以 3 倍摩爾定律的速度翻倍)。用於預訓練的文本數據幾乎已經耗盡。 GPT5 是一個明顯的改進。沒有人會感到驚訝,因為這些改進感覺是線性的——因為它們在很大程度上確實如此。將會有新的範式提供階段性功能並改變曲線(就像推理所做的那樣)。但當前的範式顯示出收益遞減。 人工智慧是很棒的,這一點要明確。這是一個令人難以置信的禮物。它已經在改變我們的世界。但快速起飛、指數進步、遞歸自我改進的敘事面臨著收益遞減/在這些擴展法則上向上移動的指數難度。
1.57K