Julian Schrittwieser (Anthropic): - De discussie over de AI-bubbel op X is "zeer losgekoppeld" van wat er gebeurt in de grenslaboratoria. "In de grenslaboratoria zien we geen vertraging in de vooruitgang." - AI zal een "massale economische impact" hebben. De omzetprognoses voor OpenAI, Anthropic en Google zijn eigenlijk "vrij conservatief". - Door extrapolatie van dingen zoals METR-gegevens, zullen de modellen volgend jaar in staat zijn om zelfstandig te werken aan een hele reeks taken. De lengte van de taak is belangrijk, omdat het de mogelijkheid ontsluit voor een mens om een team van modellen te superviseren, waarvan elk autonoom werkt gedurende uren (in tegenstelling tot elke 10 minuten met een agent moeten praten om feedback te geven). - "Extreem waarschijnlijk" dat de huidige aanpak voor het trainen van AI-modellen (voortraining, RL) een systeem zal opleveren dat op ongeveer menselijk niveau kan presteren in basically alle taken die we belangrijk vinden voor productiviteit. - Over Move 37: "Ik denk dat het vrij duidelijk is dat deze modellen nieuwe dingen kunnen doen." AlphaCode en AlphaTensor "bewijzen dat je nieuwe programma's en algoritmen kunt ontdekken". AI is "absoluut al nieuwe dingen aan het ontdekken", en "we bewegen gewoon omhoog op de schaal van hoe indrukwekkend, hoe interessant de dingen zijn die het in staat is om zelf te ontdekken." - "Zeer waarschijnlijk" dat we volgend jaar enkele ontdekkingen zullen hebben waar mensen unaniem het erover eens zijn dat ze super indrukwekkend zijn. - AI zal in staat zijn om op eigen kracht een doorbraak te maken die het waard is om een Nobelprijs te krijgen in 2027 of 2028. - Over het vermogen van AI om de ontwikkeling van AI te versnellen: Een zeer veelvoorkomend probleem in veel wetenschappelijke gebieden is dat het steeds moeilijker wordt om vooruitgang te boeken naarmate het veld vordert (d.w.z. 100 jaar geleden kon een enkele wetenschapper per ongeluk het eerste antibioticum ontdekken, terwijl het nu miljarden dollars kost om een nieuw medicijn te ontdekken). Hetzelfde zou kunnen gebeuren met AI-onderzoek - hoewel AI het onderzoek naar nieuwe AI productiever zal maken, kan er geen explosie zijn omdat nieuwe vooruitgangen steeds moeilijker te vinden zijn.