Stadig mer overbevist om at prefill og decode vil dukke opp som distinkte markeder innen inferens. Ulike systemer vil bli brukt for hver; åpenbart må de jobbe sammen. Sannsynligvis 18 måneder unna.
73,34K