Am fost deosebit de curios să întreb @karpathy de ce mașinile autonome au durat un deceniu+ de la plimbări demo stelare la chiar oarecum implementate. Andrej a condus AI la Tesla timp de 5 ani. Am vrut cu adevărat să știu dacă aceste fricțiuni ar trebui să ne prelungească termenele AGI sau dacă sunt idiosincratice pentru conducerea autonomă. Conducerea are un cost foarte mare al eșecului. Oamenii sunt șoferi surprinzător de fiabili - avem un accident grav la fiecare 400.000 de mile / 7 ani. Iar mașinile autonome trebuie să egaleze sau să depășească acest profil de siguranță înainte de a putea fi implementate. Dar sunt cele mai multe domenii ca acesta? Înainte de interviu, mi s-a părut că aproape fiecare domeniu în care am dori să conectăm AGI are un cost mult mai mic al eșecului. Dacă inginerii software complet autonomi nu ar fi lăsați să facă o greșeală timp de 7 ani, implementarea ar fi într-adevăr foarte lentă. Andrej a subliniat un punct interesant pe care nu l-am auzit până acum: în comparație cu conducerea autonomă, ingineria software are un cost mai mare (și potențial nelimitat) al eșecului: > Dacă scrieți cod real de producție, orice fel de greșeală ar putea duce la o vulnerabilitate de securitate. Sute de milioane de numere personale de securitate socială ale oamenilor ar putea fi scurse. > În conducerea autonomă, dacă lucrurile merg prost, s-ar putea să vă răniți. Există rezultate mai rele. Dar în software, este aproape nelimitat cât de groaznic ar putea fi ceva. > Într-un fel, ingineria software este o problemă mult mai dificilă [decât conducerea autonomă]. Conducerea autonomă este doar unul dintre miile de lucruri pe care le fac oamenii. Este aproape ca o singură verticală. În timp ce atunci când vorbim de inginerie software generală, există mai multă suprafață. Există un alt motiv pentru care tranziția LLM -> AGI implementată pe scară largă ar putea avea loc mult mai repede: LLM-urile ne oferă percepție, reprezentări și bun simț (pentru a face față exemplelor în afara distribuției) gratuit, în timp ce acestea au trebuit să fie modelate de la zero pentru mașinile autonome. L-am întrebat pe Andrej despre asta: > Nu știu cât de mult primim gratuit. LLM-urile sunt încă destul de failibile și au o mulțime de goluri care trebuie încă umplute. Nu cred că obținem o generalizare magică complet din cutie. > Celălalt aspect la care am vrut să mă întorc este că mașinile autonome nu sunt nici pe departe terminate. Implementările sunt destul de minime. Chiar și Waymo are foarte puține mașini. Au construit ceva care trăiește în viitor. Au trebuit să retragă viitorul, dar au trebuit să-l facă neeconomic. > De asemenea, când te uiți la aceste mașini și nu conduce nimeni, există mai mult om în buclă decât te-ai aștepta. Într-un fel, nu am eliminat de fapt persoana, am mutat-o într-un loc unde nu o poți vedea.