📢 EXCLUSIV NEW DOOM DEBATES: Un interviu cu Rob Miles (@robertskmiles), cel mai popular educator de siguranță AI de pe YouTube! În mod uimitor, Rob și-a început activitatea în 2011, cu mult înainte ca ChatGPT să atragă atenția publicului asupra domeniului. Vorbim despre: 👉 De ce P(Doom) se află între 10-90%, în funcție de modul în care omenirea răspunde provocării 👉 De ce chiar și sistemele AI perfect aliniate ar putea să nu-și transmită valorile sistemelor succesoare - un punct mort masiv în munca actuală de siguranță 👉 Problema "dispoziției lipsă": de ce oamenii discută despre potențiala extincție umană cu urgența emoțională a unei conferințe academice în loc să o trateze ca pe o urgență 👉 Scenariul său principal prin auto-îmbunătățire recursivă și de ce există un spațiu enorm deasupra inteligenței umane 👉 Dacă oamenii sunt "specia cea mai puțin inteligentă capabilă de civilizație tehnologică" - și ce înseamnă asta pentru ceea ce ar putea realiza sistemele mai inteligente 👉 Dezacordul nostru cheie: Rob crede că oamenii de siguranță ar trebui să lucreze în cadrul companiilor de inteligență artificială pentru reducerea riscurilor, în timp ce eu susțin că acest lucru permite "spălarea tractabilității" care legitimează întreprinderile fundamental nesăbuite 👉 Strategia de comunicare - Rob se întreabă dacă abordarea sa britanică măsurată lipsește ceva crucial și poate cineva trebuie să "alerge țipând" pentru a transmite urgența adecvată Rob a petrecut peste un deceniu încercând să trezească oamenii la cea mai importantă provocare a umanității. Conversația noastră dezvăluie tensiunea dintre analiza rațională și urgența existențială. Foarte recomandat!