La próxima generación de startups de productos valorados en más de 10B se construirá escalando el entrenamiento en un entorno de RL interno. Vivimos en una abundancia de capacidades y, sin embargo, solo tenemos dos productos principales de IA, chatgpt y un agente de codificación, y eso me frustra profundamente. La cadena de suministro actual de inteligencia artificial está estructuralmente rota, con un único proveedor de hardware, un par de gigantes de IA que poseen toda la refinería de inteligencia, y los desarrolladores se quedan con acceso a API con apenas control. Como si la era de Internet se hubiera construido con Intel vendiendo CPU a 4 gigantes de la nube que poseen toda la infraestructura y la pila de software, con secretos y NDA por todas partes, y dando WordPress como un kit de desarrollo a las startups. ¿Por qué no inventó Perplexity la investigación profunda? Simplemente no pudieron porque se entrena con RL. Mi predicción para los próximos años: RL se convertirá en la herramienta más poderosa para que las startups construyan productos de IA. Veremos cientos de historias de éxito como Cursor y Lovable. El usuario final se beneficiará más de ello. Los grandes laboratorios evolucionarán hacia empresas de productos, OAI se centrará en el mercado de consumo, Antropic en el agente de codificación, DeepMind integrará IA en todos los negocios de Google, y Meta y XAI pelearán por las redes sociales. Veremos la aparición de un ecosistema de startups de infraestructura de IA, vendiendo computación, entrenando modelos fundamentales, curando datos, construyendo entornos de RL, ofreciendo inferencia y entrenamiento baratos, impulsados por la ciencia abierta y el software de código abierto. @PrimeIntellect está liderando este ecosistema y la visión de AGI de código abierto, el hub de entornos de RL es una de las primeras piezas clave.

Claude es bueno generando ideas sobre la configuración de entrenamiento distribuido, pero es absolutamente malo implementando cambios de código simples. De todos modos, supongo que volveré a programar yo mismo.

cuando pruebo una nueva base de código de entrenamiento, si no veo una configuración de depuración que me permita hacer una ejecución corta en hardware limitado, empiezo a cuestionar la capacidad del desarrollador para mantener el repositorio.

Según mi estimación, deberíamos alcanzar 1 millón de estrellas en GitHub en los próximos 3 meses.

¡14 Días de Distribución, Día 7! Conoce a Sami Jaghouar (@samsja19) de @PrimeIntellect: Sami lidera su investigación y se centra en el preentrenamiento descentralizado y el aprendizaje por refuerzo distribuido como parte de su trabajo. Sami dará una conferencia sobre cómo se implementa el entrenamiento descentralizado en Prime.

El último hackathon de modo GPU fue el mejor hackathon al que he asistido en persona, estoy deseando que llegue el siguiente.

Parece que otras personas convergen en usar vllm v1 logprob para la relación de importancia para solucionar el problema de estabilidad. Creo que tengo PTSD de este tipo de colapso de RL.

Estoy contratando un ingeniero de investigación en @PrimeIntellect Estamos construyendo laboratorios de AGI de código abierto y estamos buscando talento en bruto. No nos importa tu título de trabajo anterior. Todos en el equipo de investigación son full stack, construimos infraestructura y también analizamos datos. Si tienes un punto fuerte en sistemas, aprendizaje por refuerzo, datos o leyes de escalado, te enfrentarás a un montón de desafíos por resolver.

la atención es todo lo que necesitas, pero el agente aún necesita buscar el código que ya está en el contexto

predicción: los entornos de rl serán la próxima gran cosa en la ia a finales de 2025 / principios de 2026. verás startups lanzándose en cada industria, salud, ingeniería, marketing, ventas, etc.