Het enige dat AI ervan weerhoudt om overweldigend goed te zijn in audits, is het gebrek aan investeringen in de AI-auditruimte. Ik heb meerdere auditors van wereldklasse getraind, zowel direct als indirect. Ik speelde ook competitief en weet dat ik geen enkele kans heb om iets te doen dat ook maar in de buurt komt van wereldklasse. Competitief zijn moeilijker dan audits, omdat de permutatie van ingangspunten en betekenisvolle toestandsruimte veel groter is en veel moeilijker om over te redeneren. AI verpletterde mensen bij go in 2016. Iemand die 20-30 miljoen dollar zou steken in R&D op het gebied van AI-audits, zou de zaken volledig omdraaien. De top van het klassement voor web2 bug bounties in de Verenigde Staten is een LLM. *Zo'n AI is geen eenmalige LLM, maar iets dat agentisch eenheidstests en formele verificatiespecificaties kan schrijven om zijn begrip van de codebase te testen. Het aantal tokens dat dit verbruikt, zou extreem duur zijn, maar waarschijnlijk concurrerend met wat audits nu kosten. **AI zal auditors nooit volledig vervangen, omdat ze nooit zoveel context hebben als een mens. Maar het enige dat ernstige ontwrichting tegenhoudt, is een gebrek aan serieuze investeringen. Ik zou in zo'n project investeren, als ik zag dat het team de juiste ervaring had met audits en machine learning.
Hari
Hari9 mei 2025
What's your hot take about security?
15,07K