La prossima generazione di startup con valutazione oltre i 10 miliardi sarà costruita scalando l'addestramento in un ambiente RL interno. Viviamo in un'abbondanza di capacità eppure abbiamo solo due principali prodotti AI, chatgpt e coding agent, e questo mi frustra profondamente. L'attuale catena di approvvigionamento dell'intelligenza artificiale è strutturalmente rotta, con un solo fornitore di hardware, un paio di grandi attori AI che possiedono tutto il raffinamento dell'intelligenza, gli sviluppatori sono lasciati con accesso API con a malapena alcun controllo. Come se l'era di Internet fosse stata costruita con Intel che vende CPU a 4 grandi cloud che possiedono l'intera infrastruttura e stack software con segreti e NDA ovunque, dando a WordPress come kit di sviluppo per le startup. Perché Perplexity non ha inventato la ricerca profonda? Non potevano semplicemente perché è addestrato con RL. La mia previsione per i prossimi anni: RL diventerà il toolkit più potente per costruire prodotti AI nelle startup. Vedremo centinaia di storie di successo come Cursor e Lovable. Gli utenti finali ne trarranno il massimo beneficio. I grandi laboratori evolveranno verso aziende di prodotto, OAI si concentrerà sul mercato dei consumatori, Anthropic sul coding agent, DeepMind integrerà l'AI in tutte le attività di Google, Meta e XAI si contenderanno i social media. Vedremo l'emergere di un ecosistema di startup di infrastruttura AI, che venderanno calcolo, addestramento di modelli fondamentali, cureranno dati, costruiranno ambienti RL, offriranno inferenze e addestramenti economici, alimentati dalla scienza aperta e dal software open source. @PrimeIntellect sta pionierando questo ecosistema e la visione dell'AGI open source, l'hub dell'ambiente RL è uno dei primi pezzi chiave.

Claude è bravo a fare brainstorming sulla configurazione del training distribuito, ma è assolutamente scarso nell'implementare semplici modifiche al codice. Comunque, credo che tornerò a programmare da solo.

quando testo un nuovo codice di addestramento, se non vedo una configurazione di debug che mi permetta di fare un breve run su hardware limitato, inizio a mettere in dubbio la capacità dello sviluppatore di mantenere il repository.

In base alla mia stima, dovremmo raggiungere 1 milione di stelle su GitHub entro i prossimi 3 mesi.

14 Giorni di Distribuzione, Giorno 7! Incontra Sami Jaghouar (@samsja19) di @PrimeIntellect: Sami guida la loro ricerca e si concentra sul pre-addestramento decentralizzato e sull'apprendimento per rinforzo distribuito come parte del suo lavoro. Sami terrà una lezione su come appare l'implementazione dell'addestramento decentralizzato presso Prime.

L'ultimo hackathon in modalità GPU è stato il miglior hackathon a cui abbia mai partecipato di persona, non vedo l'ora di partecipare al prossimo.

Sembra che altre persone convergano nell'utilizzare vllm v1 logprob per il rapporto di importanza per risolvere il problema di stabilità. Penso di avere il PTSD da questo tipo di crash di RL.

Sto assumendo un ingegnere di ricerca presso @PrimeIntellect Stiamo costruendo laboratori AGI open source e stiamo cercando talenti grezzi. Non ci interessa il tuo precedente titolo di lavoro. Tutti nel team di ricerca sono full stack, costruiamo infrastrutture e ci occupiamo anche di dati. Se hai una passione per i sistemi, l'apprendimento per rinforzo, i dati o le leggi di scaling, ti verrà presentata una tonnellata di sfide da risolvere.

l'attenzione è tutto ciò di cui hai bisogno, ma l'agente deve comunque cercare il codice che è già nel contesto

previsione: gli ambienti RL saranno la prossima grande novità nell'IA alla fine del 2025 / inizio 2026. vedrete startup lanciarsi in ogni settore, sanità, ingegneria, marketing, vendite, ecc.