Luonnollinen keskustelu sisältää keskeytyksiä ja ihmisten päälle puhumista, mitä LLM:n on vaikea mallintaa yhtenä autoregressiivisenä sekvenssinä. Olen varma, että pääset melko pitkälle luomalla tekstijakson, jossa on elokuvakäsikirjoitus, kuten taukoja kesken lauseen, mutta näyttää siltä, että todellinen ratkaisu olisi rinnakkaiset kuuntelu- ja ajatteluvirrat, joissa puhuminen jonotetaan taukoja varten tai nousee keskeytysprioriteettiin. Eri virtojen tokenien sekoittaminen ja jonkin mukautetun tekeminen huomiolla vaikuttaa uskottavalta.
178,11K