Gabriel và tôi đã bắt đầu kinh doanh này bằng cách lập trình trong một văn phòng nhỏ suốt một năm. Chúng tôi bắt đầu với ý tưởng rằng các hệ thống AI phải có khả năng học hỏi từ kinh nghiệm thực tế để giải quyết các vấn đề thực tế. Cuối cùng, rõ ràng rằng đây là một vấn đề về hệ thống và dữ liệu nhiều hơn là một vấn đề về học máy. Giải pháp cần phải là phần mềm đạt tiêu chuẩn công nghiệp, có sẵn miễn phí và dễ dàng áp dụng cho các nhà phát triển cá nhân nhưng có thể mở rộng để phù hợp với nhu cầu của các tổ chức lớn. Vì vậy, chúng tôi đã mã nguồn mở dự án và bảo những người dùng đầu tiên của chúng tôi ngừng trả tiền cho chúng tôi. Thật điên rồ. Ngày nay, chúng tôi đang bước vào một giai đoạn mới. Chúng tôi có một đội ngũ kỹ thuật nhỏ nhưng tuyệt vời: Aaron (người duy trì trình biên dịch Rust, Svix, AWS), @anndvision (học hậu tiến sĩ tại Columbia, tiến sĩ Oxford), và Alan (tiến sĩ CMU, Phó Chủ tịch tại JPM AI Research) sắp được gia nhập bởi Shuyang (kỹ sư phần mềm chính về hạ tầng LLM tại Google, Palantir) và Cole (Cognition, Windsurf, Stanford). Cộng đồng của chúng tôi đang hoạt động và phát triển (sắp đạt 10k sao!). Có một con đường rõ ràng để xây dựng tác nhân tối ưu hóa mọi triển khai TensorZero dựa trên phản hồi thực tế mà nó thu thập. Nếu bạn nói với tôi khi tôi bắt đầu tiến sĩ rằng một ngày nào đó nhiều công ty sẽ tự nguyện bắt đầu lưu trữ các quỹ đạo RL trong một mô hình dữ liệu mà tôi đã giúp xây dựng để chúng tôi có thể tối ưu hóa các chính sách của họ dựa trên phần thưởng mà họ quan tâm, tôi sẽ rất ngạc nhiên. Sớm thôi, điều này sẽ không còn được thực hiện bằng tay.
TensorZero
TensorZero04:14 19 thg 8
Thông báo về vòng gọi vốn hạt giống 7,3 triệu đô la của chúng tôi! TensorZero cho phép một vòng lặp dữ liệu và học tập để tối ưu hóa các ứng dụng LLM: một vòng phản hồi biến các chỉ số sản xuất và phản hồi của con người thành các mô hình và tác nhân thông minh hơn, nhanh hơn và rẻ hơn. Hôm nay, chúng tôi cung cấp một bộ công cụ mã nguồn mở để xây dựng các ứng dụng LLM cấp công nghiệp, kết hợp một cổng LLM, khả năng quan sát, tối ưu hóa, đánh giá và thử nghiệm. Bạn có thể lấy những gì bạn cần, áp dụng dần dần và bổ sung với các công cụ khác. Theo thời gian, những thành phần này cho phép bạn thiết lập một vòng phản hồi có nguyên tắc cho ứng dụng LLM của bạn. Dữ liệu bạn thu thập được liên kết với các KPI của bạn, kết nối qua các nhà cung cấp mô hình, và tạo thành một lợi thế cạnh tranh cho doanh nghiệp của bạn. Tầm nhìn của chúng tôi là tự động hóa phần lớn kỹ thuật LLM. Chúng tôi đang đặt nền tảng cho điều đó với TensorZero mã nguồn mở. Ví dụ, với mô hình dữ liệu và quy trình làm việc đầu cuối của chúng tôi, chúng tôi sẽ có thể chủ động đề xuất các biến thể mới (ví dụ: một mô hình tinh chỉnh mới), kiểm tra lại trên dữ liệu lịch sử (ví dụ: sử dụng các kỹ thuật đa dạng từ học tăng cường), cho phép thử nghiệm A/B trực tiếp dần dần, và lặp lại quy trình. Với một công cụ như vậy, các kỹ sư có thể tập trung vào các quy trình làm việc cấp cao hơn — quyết định dữ liệu nào vào và ra khỏi các mô hình này, cách đo lường thành công, hành vi nào cần khuyến khích và không khuyến khích, và nhiều hơn nữa — và để lại các chi tiết thực hiện cấp thấp cho một hệ thống tự động. Đây là tương lai mà chúng tôi thấy cho kỹ thuật LLM như một ngành. Gần đây, TensorZero đã đạt vị trí #1 trong danh sách kho trending của tuần trên toàn cầu trên GitHub (& chúng tôi sắp vượt qua 10k sao). Chúng tôi may mắn nhận được sự đóng góp từ hàng chục nhà phát triển trên toàn thế giới, và thật thú vị khi thấy TensorZero đã và đang cung cấp năng lượng cho các sản phẩm LLM tiên tiến tại các công ty khởi nghiệp AI hàng đầu và các tổ chức lớn, bao gồm một trong những ngân hàng lớn nhất châu Âu. Chúng tôi rất vui mừng thông báo rằng chúng tôi đã huy động được 7,3 triệu đô la để tăng tốc nỗ lực của TensorZero trong việc xây dựng cơ sở hạ tầng mã nguồn mở tốt nhất cho các kỹ sư LLM (chúng tôi đang tuyển dụng!). Vòng gọi vốn này do @FirstMarkCap dẫn đầu, với sự tham gia của @BessemerVP, @bedrock, @DRWTrading, @coalitionvc, và hàng chục nhà đầu tư thiên thần chiến lược.
25,84K