, @dwarkesh_sp fragt @ilyasut: „Wie hat sich dein erstklassiger Forschungs-Geschmack (Ästhetik) entwickelt?“ Der ehemalige Chief Scientist von OpenAI sagte: „Was wirklich den Unterschied zwischen Spitzenforschern ausmacht, ist nicht die Rechenleistung (Compute), auch nicht der reine IQ (Intelligenz), sondern die Ästhetik (Aesthetic / Taste).“ Das in der KI-Branche bisher angewandte „Gesetz der Skalierung“ hat seine Grenzen erreicht, was das Ende der Ära markiert, in der Fortschritte durch rohe Gewalt (brute-force aesthetics) vorangetrieben wurden. Zukünftige Durchbrüche werden auf leistungsstärkeren Lernmethoden und Algorithmen basieren, also auf „Forschung“. Forschungsgeschmack ist wichtig, weil er auf die zugrunde liegende Wahrheit der Intelligenz hinweist. Ilya glaubt, dass hervorragende KI-Architekturen und Lernmechanismen „der grundlegenden Struktur des Gehirns entsprechen“ sollten, also die richtigen Anregungen für menschliches Lernen finden (Correct Heuristics): Das menschliche Gehirn ist ein hochgradig universelles und extrem effizientes Lernsystem, das in sehr kurzer Zeit neue Fähigkeiten erlernen kann (zum Beispiel kann ein Teenager in nur 10 Stunden das Autofahren lernen). Zukünftige KI-Durchbrüche werden aus diesen effizienteren, universelleren Lernmethoden hervorgehen, nicht einfach durch die Erhöhung der Datenmenge oder der Modellgröße. Die Ansichten dieses Mitbegründers von Schlüsselinnovationen wie AlexNet, Seq2Seq, AlphaGo, GPT-3 deuten auf eine Überwindung des Empirismus hin: Daten können täuschen Trends können veralten Aber Schönheit bleibt.