Oli erityisen utelias kysymään @karpathy, miksi itseohjautuvilla autoilla kesti vuosikymmen+ loistavista demoajeluista edes jonkin verran käyttöönottoon. Andrej johti tekoälyä Teslalla 5 vuoden ajan. Halusin todella tietää, pitäisikö näiden kitkojen pidentää AGI-aikajanaamme vai olivatko ne omituisia itseohjautuville. Ajamisella on todella korkeat epäonnistumiskustannukset. Ihmiset ovat yllättävän luotettavia kuljettajia - joudumme vakavaan onnettomuuteen 400 000 mailin / 7 vuoden välein. Itseohjautuvien autojen on vastattava tai ylitettävä tämä turvallisuusprofiili ennen kuin ne voidaan ottaa käyttöön. Mutta ovatko useimmat verkkotunnukset tällaisia? Ennen haastattelua minusta tuntui, että lähes jokaisella verkkotunnuksella, johon haluaisimme liittää AGI:n, on paljon alhaisemmat epäonnistumiskustannukset. Jos täysin autonomiset ohjelmistosuunnittelijat eivät saisi tehdä virheitä 7 vuoteen, käyttöönotto olisi todellakin erittäin hidasta. Andrej esitti mielenkiintoisen huomion, jota en ollut kuullut aiemmin: itseohjautuvuuteen verrattuna ohjelmistosuunnittelulla on korkeammat (ja mahdollisesti rajattomat) epäonnistumiskustannukset: > Jos kirjoitat todellista tuotantotason koodia, mikä tahansa virhe voi johtaa tietoturvahaavoittuvuuteen. Satojen miljoonien ihmisten henkilökohtaiset sosiaaliturvatunnukset voivat vuotaa. > Itseajamisessa, jos asiat menevät pieleen, saatat loukkaantua. On huonompiakin lopputuloksia. Mutta ohjelmistoissa on lähes rajatonta, kuinka kauheaa jokin voi olla. > Jollain tapaa ohjelmistosuunnittelu on paljon vaikeampi ongelma [kuin itseohjautuminen]. Itseohjautuvuus on vain yksi tuhansista asioista, joita ihmiset tekevät. Se on melkein kuin yksi vertikaali. Kun taas puhumme yleisestä ohjelmistosuunnittelusta, pinta-alaa on enemmän. On mahdollisesti toinenkin syy, miksi LLM-> laajalti käytetty AGI-siirtymä voi tapahtua paljon nopeammin: LLM:t antavat meille havaintoja, representaatioita ja maalaisjärkeä (jakelun ulkopuolisten esimerkkien käsittelemiseksi) ilmaiseksi, kun taas ne piti muovata tyhjästä itseohjautuville autoille. Kysyin Andrejilta tästä: > En tiedä kuinka paljon saamme ilmaiseksi. LLM:t ovat edelleen melko erehtyviä, ja niissä on paljon aukkoja, jotka on vielä täytettävä. En usko, että saamme maagisia yleistyksiä täysin laatikosta. > Toinen näkökohta, johon halusin palata, on se, että itseohjautuvat autot eivät ole vielä läheskään valmiita. Käyttöönotot ovat melko vähäisiä. Jopa Waymolla on hyvin vähän autoja. He ovat rakentaneet jotain, joka elää tulevaisuudessa. Heidän on täytynyt vetää tulevaisuutta taaksepäin, mutta heidän on täytynyt tehdä siitä epätaloudellista. > Lisäksi, kun katsot näitä autoja eikä kukaan aja, siellä on enemmän ihmisiä kuin voisi odottaa. Jossain mielessä emme ole itse asiassa poistaneet henkilöä, olemme siirtäneet hänet paikkaan, jossa et näe häntä.