Więc pozwól, że to wyjaśnię. Inference ma: 1. Zdecentralizowaną sieć, która dostarcza wnioskowanie LLM w cenie energii elektrycznej 2. Umiejętności w zakresie szkolenia i serwowania modeli, które sprawiają, że modele są super tanie, szczególnie w przypadku specjalistycznych zadań 3. Umowy z centrami danych na wynajem niewykorzystanej mocy po znacznie obniżonych stawkach 4. API do wnioskowania wsadowego zaprojektowane do skalowania do miliardów żądań A @paulg wciąż nas nie obserwuje? To jakieś bzdury.
3,18K