Ainoa asia, joka estää tekoälyä olemasta ylivoimaisen hyvä tarkastuksissa, on tekoälyn auditointiin tehtävien investointien puute. Olen kouluttanut useita maailmanluokan auditoijia sekä suoraan että epäsuorasti. Pelasin myös kilpailullisesti ja tiedän, että minulla ei ole mitään mahdollisuuksia tehdä mitään lähelläkään maailmanluokkaa. Kilpailullinen meneminen on vaikeampaa kuin auditoinnit, koska sisääntulopisteiden ja merkityksellisen tila-avaruuden permutaatio on paljon suurempi ja paljon vaikeampi päätellä. Tekoäly murskasi ihmiset go:ssa vuonna 2016. Joku, joka sijoittaa 20-30 miljoonaa dollaria tekoälyn auditointiin T&K:hon, kääntäisi asiat täysin päälaelleen. Web2-bugipalkkioiden tulostaulukon kärjessä Yhdysvalloissa on LLM. *Tällainen tekoäly ei ole kertaluonteinen LLM, vaan jotain, joka voi agenttillisesti kirjoittaa yksikkötestejä ja muodollisia varmennusmäärityksiä testatakseen ymmärrystään koodikannasta. Tämän kuluttamien tokenien määrä olisi erittäin kallis, mutta todennäköisesti kilpailukykyinen sen kanssa, mitä auditoinnit maksavat nyt. **Tekoäly ei koskaan korvaa täysin auditoijia, koska heillä ei ole koskaan yhtä paljon kontekstia kuin ihmisellä. Mutta ainoa asia, joka pysäyttää vakavat häiriöt, on vakavien investointien puute. Investoisin tällaiseen projektiin, jos näkisin, että tiimillä on oikea kokemus auditoinneista ja koneoppimisesta.
Hari
Hari9.5.2025
Mikä on kuuma näkemyksesi turvallisuudesta?
15,14K