Dies stellt die Entwicklung von Verbraucher-LLMs dar, die mehr wie Empfehlungssysteme oder Nachrichtenfeeds funktionieren. Die Plattform optimiert das Modell und den Prompt, um die Benutzerzufriedenheit unter Berücksichtigung einer Kostenstrafe zu erreichen. Wahrscheinlich gibt es A/B-Tests, die viele dieser Routing-Entscheidungen vorantreiben.