Щойно закінчив інтерв'ю @karpathy з @dwarkesh_sp. Якщо ви хочете зрозуміти стан штучного інтелекту, вам слід слухати всі 2,5 години. Але ось мої зауваження: Оракул кодування вайбу просто не вражений. + Соло, агенти, що самонавчаються, ще рано. Вони будуть тут через 10 років. Як відомо, агенти забувають речі, губляться і поки не можуть надійно виправити власні помилки. + Агентні робочі процеси – це головне. Переможці використовують хороші тренувальні дані, людський мозок і багато безладних ітерацій. + AGI – це не вимикач світла. Це довгий схил. Ми доберемося до цього потроху. + Надійність вирішує все. Вам не потрібен розумніший штучний інтелект, вам потрібно, щоб він не зламався. + Він створює Eureka Labs — школу, засновану на штучному інтелекті. Він справедливо вважає, що освітній простір зі штучним інтелектом є величезним відкриттям для персоналізованої освіти. ТАК... Якщо ви будівельник: Почніть з вузького. Робіть других пілотів, а не автопілотів. Записуйте все в журнал. Тренуйтеся на власних даних. Використовуйте інструменти, які додають пам'ять. Будьте причетні. Якщо ви засновник/виконавчий директор: Виберіть 2–3 робочі процеси з високою рентабельністю інвестицій. Встановіть цілі надійності на «дев'ятки» (наприклад, 99,9% або 99,9999%) і фінансуйте марш. Продукт для персоналу, машинне навчання та операції; Вимагайте живих інформаційних панелей Eval. Якщо ви оператор: Пілотуйте один процес за допомогою угод про рівень обслуговування та резервних варіантів. Відстежуйте таксономію помилок. Ведіть бігові книжки. Слідкуйте за дрифтом. Тримайте людей за викликом у крайніх випадках. Якщо ви інвестор: Підтримуйте команди з маховиками даних, сильними звичками eval та цілеспрямованими прикладами використання. Шукайте автоматизацію робочих процесів, безпеку, корпоративну інтеграцію... та освіта, нативна за допомогою штучного інтелекту. 100% варто послухати, якщо у вас є час.

У міру того, як вартість розвідки різко падає, вартість відносин зворотно зростає до небес. Виділіть додаткову хвилину, щоб надолужити згаяне на початку зустрічі. Вилетіти до клієнта. Зберіть команду за трапезою. Особиста зустріч – найкращий захист від майбутнього штучного інтелекту.