Swarm Inference est un véritable changement de jeu pour l'industrie de l'IA. Pour comprendre pourquoi, vous devez commencer par ce à quoi ressemblent les retours pour les constructeurs de fournisseurs d'inférence réguliers (GPU dans les centres de données). Mettez votre chapeau d'investisseur : -Vous voyez le boom de l'IA. Vous voulez vous impliquer. Acheter des GPU, les placer quelque part et les louer est le cœur de ce modèle commercial. - Vous commencez à modéliser, vous construisez votre PnL. Centres de données, serveurs, connectivité, etc. C'est votre CAPEX et COGS. Le chiffre d'affaires ne se démarque que pour les GPU haut de gamme. L'énergie est chère. La gestion n'est pas triviale. - Vous arrivez à une conclusion rapide : les retours sont... difficiles, pour le dire poliment. Si vous passez par cet exercice, il y a un simple TLDR : Contribuer à l'économie de l'IA au niveau de l'infrastructure ne fonctionne qu'avec une échelle, ou une certaine connexion sur l'énergie/l'espace. L'infrastructure d'inférence est devenue une marchandise et le rendement a été compressé. J'essaie toujours de trouver un moyen de découper cela, mais j'ai l'impression qu'il n'y a tout simplement pas d'alpha à trouver ici. D'un point de vue technologique, tout cela est une conséquence de la façon dont l'inférence a historiquement fonctionné aujourd'hui. Vous avez besoin de densité de calcul. Un débit de bus élevé, une grande VRAM, etc. Swarm Inference est un changement de jeu parce que la densité de calcul n'est plus une exigence. Le CAPEX et le COGS ci-dessus sont une conséquence de la nécessité de densité de calcul. Mais si vous n'avez pas besoin de densité de calcul, alors vous n'avez pas besoin de centres de données. Dit différemment, les fournisseurs d'infrastructure individuels n'ont pas à franchir un obstacle d'échelle pour participer. Et si vous n'avez pas besoin d'une échelle minimale pour participer, alors peut-être qu'un foyer individuel peut même contribuer à l'IA avec des retours qui ont réellement du sens. C'est pourquoi Swarm Inference est un changement de jeu. C'est une innovation qui change où l'alpha peut être trouvé. Félicitations à l'équipe de Fortytwo pour avoir exécuté un changement de paradigme.

DAWN recherche des esprits créatifs prêts à relever un défi. 💻🎨✍️ Nous avons un prize pool de 6 000 $ pour divers projets où vous pouvez écrire, dessiner ou créer du contenu dans votre propre langue ! Découvrez-les.👇