Swarm Inference es un cambio de juego para la industria de la IA. Para entender por qué, necesitas comenzar con cómo se ven los retornos para los constructores de proveedores de inferencia regulares (GPUs en centros de datos). Póntete el sombrero de inversor: -Ves el auge de la IA. Quieres involucrarte. Comprar GPUs, ponerlas en algún lugar y alquilarlas es el núcleo de este modelo de negocio. - Comienzas a modelar, construyes tu PnL. Centros de datos, servidores, conectividad, etc. Este es tu CAPEX y COGS. La línea superior solo destaca para GPUs de alta gama. La energía es cara. La gestión no es trivial. - Llegas a una conclusión rápida: los retornos son... difíciles de decir, por lo menos. Si pasas por este ejercicio, hay un simple TLDR: Contribuir a la economía de IA a nivel de infraestructura solo funciona con escala, o algunos conectan en energía/espacio. La infraestructura de inferencia está comoditizada y el rendimiento se ha comprimido. Sigo intentando encontrar una manera de analizar esto, pero simplemente parece que no hay alfa que encontrar aquí. Desde una perspectiva tecnológica, todo esto es una consecuencia de la forma en que la inferencia ha funcionado históricamente hoy. Necesitas densidad de computación. Alto rendimiento de bus, alta VRAM, etc. Swarm Inference es un cambio de juego porque la densidad de computación ya no es un requisito. El CAPEX y COGS anteriores son una consecuencia de la necesidad de densidad de computación. Pero si no necesitas densidad de computación, entonces no necesitas centros de datos. Dicho de otra manera, los proveedores de infraestructura individuales no tienen que superar un obstáculo de escalado para participar. Y si no necesitas una escala mínima para participar, entonces tal vez incluso un hogar individual pueda contribuir a la IA con retornos que realmente tengan sentido. Por eso Swarm Inference es un cambio de juego. Es una innovación que cambia dónde se puede encontrar alfa. Felicidades al equipo de Fortytwo por ejecutar un cambio de paradigma.

DAWN está buscando mentes creativas listas para asumir un desafío. 💻🎨✍️ ¡Tenemos un premio de $6,000 para varios proyectos donde puedes escribir, dibujar o crear contenido en tu propio idioma! Échales un vistazo.👇