Anunciando nossa rodada inicial de US$ 7,3 milhões! O TensorZero permite um volante de dados e aprendizado para otimizar aplicativos LLM: um ciclo de feedback que transforma métricas de produção e feedback humano em modelos e agentes mais inteligentes, rápidos e baratos. Hoje, fornecemos uma pilha de código aberto para a criação de aplicativos LLM de nível industrial que unifica um gateway LLM, observabilidade, otimização, avaliação e experimentação. Você pode pegar o que precisa, adotar de forma incremental e complementar com outras ferramentas. Com o tempo, esses componentes permitem que você configure um ciclo de feedback baseado em princípios para seu aplicativo LLM. Os dados que você coleta estão vinculados aos seus KPIs, portas entre provedores de modelos e se transformam em uma vantagem competitiva para seus negócios. Nossa visão é automatizar grande parte da engenharia de LLM. Estamos estabelecendo as bases para isso com o TensorZero de código aberto. Por exemplo, com nosso modelo de dados e fluxo de trabalho de ponta a ponta, poderemos sugerir proativamente novas variantes (por exemplo, um novo modelo ajustado), testá-lo em dados históricos (por exemplo, usando diversas técnicas de aprendizado por reforço), permitir um teste A/B gradual e ao vivo e repetir o processo. Com uma ferramenta como essa, os engenheiros podem se concentrar em fluxos de trabalho de nível superior – decidindo quais dados entram e saem desses modelos, como medir o sucesso, quais comportamentos incentivar e desincentivar e assim por diante – e deixar os detalhes de implementação de baixo nível para um sistema automatizado. Este é o futuro que vemos para a engenharia LLM como disciplina. Recentemente, o TensorZero alcançou o repositório de tendências #1 da semana globalmente no GitHub (e estamos prestes a cruzar 10 mil estrelas). Temos a sorte de ter recebido contribuições de dezenas de desenvolvedores em todo o mundo, e é emocionante ver o TensorZero já alimentando produtos LLM de ponta em startups de IA de fronteira e grandes organizações, incluindo um dos maiores bancos da Europa. Temos o prazer de compartilhar que arrecadamos US$ 7,3 milhões para acelerar os esforços da TensorZero para criar a melhor infraestrutura de código aberto da categoria para engenheiros de LLM (estamos contratando!). A rodada foi liderada por @FirstMarkCap, com participação de @BessemerVP, @bedrock, @DRWTrading, @coalitionvc e dezenas de anjos estratégicos.