, @dwarkesh_sp frågade @ilyasut "Hur fick du din bästa forskningssmak?" Den tidigare chefsforskaren vid OpenAI sade: "Det som verkligen kan vidga klyftan mellan toppforskare är inte beräkningskraft (Compute) eller ren intelligens (Intelligence), utan estetik (Estetik/Smak). ” Den "skallagen" som AI-fältet förlitade sig på tidigare närmar sig sin gräns, vilket markerar slutet på en era där man förlitat sig på brutal estetik för att driva framsteg. Framtida genombrott kommer att förlita sig på kraftfullare inlärningsmetoder och algoritmer, kända som "forskning." Anledningen till att forskningssmak är viktig är att den pekar på den underliggande sanningen om intelligens. Ilya anser att bra AI-arkitekturer och inlärningsmekanismer bör "matcha hjärnans inneboende struktur", det vill säga hitta rätt heuristiker för mänskligt lärande: den mänskliga hjärnan är ett mycket mångsidigt och extremt effektivt inlärningssystem som kan lära sig nya färdigheter på mycket kort tid (som när en tonåring lär sig köra på bara 10 timmar). Framtida AI-genombrott kommer att komma från denna mer effektiva och mångsidiga inlärningsmetod, snarare än att bara öka mängden data eller modellstorlek. Perspektivet från meduppfinnaren av viktiga genombrott som AlexNet, Seq2Seq, AlphaGo, GPT-3 och fler antyder en transcendens inom empirismen: Data kan vara vilseledande Trender kan upphöra Men USA kommer inte att göra det