Ontken je dit feit @paulg?

Ik ben oud genoeg om me te herinneren dat je om een vraag te beantwoorden het web moest doorzoeken, verschillende links in nieuwe tabbladen moest openen, moest jagen op pagina's van vreemden die in het verleden "soortgelijke" vragen stelden, de antwoorden moest lezen en vervolgens handmatig de benodigde informatie moest afleiden.

Als je op een knop zou kunnen drukken, en het was de wet van het land (van de Aarde) dat niemand op dit moment is toegestaan om frontier AGI-capaciteiten te ontwikkelen, zou je het dan doen? @robertskmiles zegt in principe JA!

"We worden gevraagd om iets nieuws te doen, om daadwerkelijk te proberen een oprecht moeilijk probleem op te lossen, dat we misschien niet goed uitgerust zijn om op te lossen." —@robertskmiles

Ik heb net een moderne 3D-printer gezien die atomen snel in hun gewenste posities manipuleert. Ik beschouw dit als bewijs voor de haalbaarheid van nanotechnologie - de fysica is anders, maar de hackbaarheid van atoomconfiguraties is fundamenteel niet.

Je zou *kunnen denken* dat dit onomstotelijk het bestaan van hoge algemene intelligentie bewijst, maar het laat eigenlijk alleen zien dat het mogelijk is om een specifieke combinatie van vaardigheden te leren van de cultuur om je heen. De juiste trainingsdata stelt je in staat om de volgende stap in het bouwen van een schone kamer te patronen.

De AI houdt niet van je, noch haat het je, maar je lichaam is gemaakt van water dat het kan gebruiken om zijn datacenter te koelen.

📢 NIEUWE DOOM DEBATES EXCLUSIEF: Een interview met Rob Miles (@robertskmiles), de populairste AI-veiligheidsonderwijzer op YouTube! Verbazingwekkend genoeg begon Rob in 2011, lang voordat ChatGPT mainstream aandacht voor het veld bracht. We praten over: 👉 Waarom zijn P(Doom) tussen de 10-90% ligt, afhankelijk van hoe de mensheid op de uitdaging reageert 👉 Waarom zelfs perfect afgestemde AI-systemen mogelijk hun waarden niet doorgeven aan opvolgende systemen - een enorme blinde vlek in het huidige veiligheidswerk 👉 Het "ontbrekende humeur" probleem: waarom mensen de potentiële menselijke uitsterving bespreken met de emotionele urgentie van een academische conferentie in plaats van het te behandelen als de noodsituatie die het is 👉 Zijn belangrijkste doemscenario door middel van recursieve zelfverbetering, en waarom er enorme ruimte boven menselijke intelligentie is 👉 Of mensen de "minst intelligente soort zijn die in staat is tot technologische beschaving" - en wat dat betekent voor wat slimmere systemen zouden kunnen bereiken 👉 Onze belangrijkste onenigheid: Rob denkt dat veiligheidsexperts binnen AI-bedrijven moeten werken voor schadebeperking, terwijl ik betoog dat dit "tractability-washing" mogelijk maakt dat fundamenteel roekeloze ondernemingen wordt gelegitimeerd 👉 Communicatiestrategie - Rob vraagt zich af of zijn gematigde Britse benadering iets cruciaals mist, en misschien moet iemand "rondrennen en schreeuwen" om de juiste urgentie over te brengen Rob heeft meer dan een decennium geprobeerd mensen wakker te schudden voor de belangrijkste uitdaging van de mensheid. Ons gesprek onthult de spanning tussen redelijke analyse en existentiële noodsituatie. Zeer aanbevolen!

Incredible interview. Gefeliciteerd aan @liron Ik vond het geweldig om @VitalikButerin zoveel aspecten van het AI-landschap te horen bespreken. Ik ben 50% door het interview en geniet er tot nu toe van!

Maak je klaar voor @robertskmiles…