AI voelt als 1999 weer helemaal opnieuw. Iedereen voelt dat het revolutionair is, kapitaal stroomt binnen, en optimisme heeft tijdelijk de wetten van de logica opgeschort. Toch is de AI van vandaag minder een wijze orakel en meer een briljante maar onbetrouwbare wonderkind; snel, welbespraakt, capabel, maar geneigd om feiten met vertrouwen uit te vinden. Studies schatten dat LLM's tot 27% van de tijd "hallucinerend" zijn, met feitelijke fouten in bijna de helft van de uitkomsten. Dit zijn geen kwade leugens; het is een kenmerk van het ontwerp. Het model is getraind om een antwoord te geven, niet per se het juiste. Denk aan een enthousiaste stagiair die altijd indruk wil maken, zelfs als dat betekent dat hij moet bluffen. Dit wordt erger wanneer beheersing belangrijk is. Druk een AI, en het kan het ene moment toegeven... en het volgende moment zich verdubbelen. In situaties met hoge inzet is dat niet eigenaardig, het is gevaarlijk. Dit betekent niet dat AI niet transformerend is. Productiviteitswinsten zijn echt. Bedrijven zijn hun processen aan het herzien. Werkstromen verschuiven. Maar we kunnen snelheid niet verwarren met wijsheid of glans met waarheid.