Чому GPT 5 здається лінійним прогресом: у штучному інтелекті для отримання лінійного виграшу потрібні експоненціальні прирости в обчислювальних і навчальних даних. Обчислювальні навантаження, що кидаються на тренування, нестійко зростають (подвоюються в 3 рази швидше, ніж закон Мура). Текстові дані для передтренувальної підготовки майже вичерпані. GPT5 – це явне покращення. І нікого не повинно дивувати, що поліпшення здаються лінійними - тому що вони багато в чому так і є. З'являться нові парадигми, які забезпечують ступінчасті функції і згинають криву (як це робило міркування). Але нинішня парадигма демонструє спадну віддачу. Штучний інтелект – це круто, якщо бути зрозумілим. Це неймовірний подарунок. Це вже змінює наш світ. Але швидкий зліт, експоненціальний прогрес, наративи рекурсивного самовдосконалення наштовхуються на спадну віддачу / експоненціальну складність просування вгору за цими законами масштабування.
1,7K