O Swarm Inference é um divisor de águas para a indústria de IA. Para entender o porquê, você precisa começar com como são os retornos para os criadores de fornecedores de inferência regulares (GPUs em data centers). Coloque seu chapéu de investidor: -Você vê o boom da IA. Você quer se envolver. Comprar GPUs, colocá-las em algum lugar e alugá-las é o núcleo desse modelo de negócios. - Você começa a modelar, constrói seu PnL. Data centers, servidores, conectividade, etc. Este é o seu CAPEX e CPV. A linha superior se destaca apenas para GPUs de ponta. A energia é cara. O gerenciamento não é trivial. - Você chega a uma conclusão rápida: os retornos são... áspero para dizer o mínimo. Se você executar este exercício, há um TLDR simples: Contribuir para a economia da IA no nível da infraestrutura só funciona com escala, ou alguns se conectam em energia/espaço. A infraestrutura de inferência é comoditizada e o rendimento foi compactado. Eu continuo tentando encontrar uma maneira de fatiar e cortar isso, mas parece que simplesmente não há alfa a ser encontrado aqui. Do ponto de vista da tecnologia, tudo isso é consequência da maneira como a Inferência tem funcionado historicamente hoje. Você precisa de densidade de computação. Alta taxa de transferência de barramento, alta VRAM, etc. A inferência de enxame é um divisor de águas porque a densidade de computação não é mais um requisito. O CAPEX e o CPV acima são uma consequência da necessidade de densidade computacional. Mas se você não precisa de densidade de computação, não precisa de data centers. Dito de outra forma, os provedores de infraestrutura individuais não precisam passar por um obstáculo de escala para participar. E se você não precisa de escala mínima para participar, talvez até mesmo uma casa individual possa contribuir para a IA com retornos que realmente façam sentido. É por isso que o Swarm Inference é um divisor de águas. É a inovação que muda onde o alfa pode ser encontrado. Parabéns à equipe da Fortytwo por executar uma mudança de paradigma.

A DAWN está à procura de mentes criativas prontas para enfrentar um desafio. 💻🎨✍️ Temos um prêmio total de US$ 6.000 para vários projetos onde você pode escrever, desenhar ou criar conteúdo em seu próprio idioma! Confira-os. 👇