Niez-vous ce fait @paulg ?

J'ai assez d'âge pour me souvenir que pour répondre à une question, il fallait chercher sur le web, ouvrir divers liens dans de nouveaux onglets, chasser des pages de personnes inconnues qui avaient posé des questions "similaires" dans le passé, lire les réponses, puis essayer d'inférer manuellement la réponse dont vous avez besoin.

Si vous pouviez appuyer sur un bouton, et qu'il était de la loi du pays (de la Terre) qu'aucun développement de capacités AGI de pointe n'est autorisé en ce moment, le feriez-vous ? @robertskmiles dit en principe OUI !

« Nous sommes appelés à faire quelque chose de nouveau, à essayer réellement de résoudre un problème véritablement difficile, que nous ne sommes peut-être pas bien équipés pour résoudre. » —@robertskmiles

Je viens de voir une imprimante 3D moderne manipuler des atomes pour les placer rapidement à leurs positions désirées. Je considère cela comme une preuve de la faisabilité de la nanotechnologie - la physique est différente, mais la possibilité de modifier les configurations atomiques n'est fondamentalement pas.

Vous pourriez *penser* que cela prouve sans aucun doute l'existence d'une intelligence générale élevée, mais cela montre en réalité qu'il est possible d'apprendre une combinaison spécifique de compétences à partir de la culture qui vous entoure. Les bonnes données d'entraînement vous permettent de faire correspondre les modèles pour la prochaine étape de construction d'une salle blanche.

L'IA ne t'aime pas, ni ne te déteste, mais ton corps est fait d'eau qu'elle peut utiliser pour refroidir son datacenter.

📢 NOUVEAUX DÉBATS DOOM EXCLUSIFS : Une interview avec Rob Miles (@robertskmiles), l'éducateur en sécurité de l'IA le plus populaire sur YouTube ! Étonnamment, Rob a commencé en 2011, bien avant que ChatGPT n'attire l'attention du grand public sur le domaine. Nous parlons de : 👉 Pourquoi sa P(Doom) se situe entre 10 et 90 %, selon la façon dont l'humanité répond au défi 👉 Pourquoi même les systèmes d'IA parfaitement alignés pourraient ne pas transmettre leurs valeurs aux systèmes successeurs - un énorme angle mort dans le travail de sécurité actuel 👉 Le problème du "mood manquant" : pourquoi les gens discutent de l'extinction humaine potentielle avec l'urgence émotionnelle d'une conférence académique au lieu de la traiter comme l'urgence qu'elle est 👉 Son scénario principal de doom à travers l'amélioration récursive, et pourquoi il y a une énorme marge au-dessus de l'intelligence humaine 👉 Si les humains sont la "moins intelligente des espèces capables de civilisation technologique" - et ce que cela signifie pour ce que des systèmes plus intelligents pourraient accomplir 👉 Notre désaccord clé : Rob pense que les personnes en sécurité devraient travailler au sein des entreprises d'IA pour réduire les dommages, tandis que j'argue que cela permet le "tractability-washing" qui légitime des entreprises fondamentalement imprudentes 👉 Stratégie de communication - Rob se demande si son approche britannique mesurée manque de quelque chose de crucial, et peut-être que quelqu'un doit "courir en criant" pour transmettre l'urgence appropriée Rob a passé plus d'une décennie à essayer de réveiller les gens sur le défi le plus important de l'humanité. Notre conversation révèle la tension entre l'analyse raisonnée et l'urgence existentielle. Fortement recommandé !

Interview incroyable. Félicitations à @liron J'ai adoré entendre @VitalikButerin aborder tant d'aspects du paysage de l'IA. Je suis à 50 % de l'interview et j'adore jusqu'à présent !

Préparez-vous pour @robertskmiles…