Это представляет собой эволюцию потребительских LLM, чтобы они больше походили на рекомендательные системы или новостные ленты. Платформа оптимизирует модель и подсказку для достижения удовлетворенности пользователей с учетом штрафа за стоимость. Вероятно, будет проводиться A/B тестирование, которое будет определять многие из этих решений по маршрутизации.