Právě jsem dokončil rozhovor @karpathy s @dwarkesh_sp. Pokud chcete pochopit stav umělé inteligence, měli byste si poslechnout celé 2,5 hodiny. Ale tady jsou mé poznámky: Věštec kódující vibrace prostě není ohromen. + Solo, samoučící se agenti jsou stále brzy. Budou tu za 10 let. Jak víte, agenti zapomínají věci, ztrácejí se a zatím nedokážou spolehlivě opravit své vlastní chyby. + Agentické pracovní postupy jsou králem. Vítězové používají dobrá tréninková data, lidský mozek a spoustu chaotických iterací. + AGI není vypínač světla. Je to dlouhý svah. Dostaneme se tam kousek po kousku. + Spolehlivost je všechno. Nepotřebujete chytřejší umělou inteligenci, potřebujete, aby se nerozbila. + Buduje Eureka Labs – školu nativní pro umělou inteligenci. Oprávněně si myslí, že vzdělávací prostor AI je obrovským odemknutím pro personalizované vzdělávání. TAKŽE... Pokud jste stavitel: Začněte úzce. Dělejte kopiloty, ne autopiloty. Vše zaznamenávejte. Trénujte na vlastních datech. Používejte nástroje, které přidávají paměť. Zapojte se. Pokud jste zakladatel/výkonný ředitel: Vyberte si 2–3 pracovní postupy s vysokou návratností investic. Stanovte si cíle spolehlivosti podle "devítek" (například 99,9 % nebo 99,9999 %) a podporujte pochod. Personální produkt, ML a operace; Požadujte živé nástěnky EVAL. Pokud jste operátor: Pilotujte jeden proces se smlouvami SLA a záložními řešeními. Taxonomie chyb sledování. Udržujte runbooky. Sledujte drift. Udržujte lidi v pohotovosti pro okrajové případy. Pokud jste investor: Zpět týmy s datovými setrvačníky, silnými návyky a zaměřenými případy použití. Hledejte automatizaci, bezpečnost, podnikovou integraci pro konkrétní pracovní postupy... a vzdělávání nativního pro umělou inteligenci. 100% stojí za poslech, pokud máte čas.

Jak cena inteligence prudce klesá, cena vztahů nepřímo raketově stoupá. Udělejte si minutu navíc a dohnat to, co jste stihli na začátku schůzky. Odlet za klientem. Shromážděte tým na jídlo. Osobní setkání je nejlepší pojistkou proti budoucnosti umělé inteligence.