FlashAttention este probabil cea mai bună contribuție "AI PhD": > petrece ani de zile studiind > înțelege lucrurile mai bine decât toți ceilalți > rescrie codul de nivel scăzut într-un mod mai inteligent > face transformatoarele de 2-4 ori mai rapide > în esență un prânz gratuit > acum rulează pe toate computerele noastre