Dans un monde pas si improbable où notre planète est couverte de laboratoires autonomes de la taille de Gigafactories, que faisons-nous de la science ? J'ai récemment animé un séminaire à Austin avec @cosmos_inst et @mbrendan1 sur "L'IA et la République de la Science." Avec une liste de lecture allant d'Aristote à AlphaFold, nous avons examiné la question centrale de l'évolution de la science dans un monde avec des scientifiques IA et des laboratoires autonomes. Quelques enseignements : 1. Les scientifiques IA peuvent accélérer la production d'informations "scientifiques" significatives, mais la science concerne l'expansion des connaissances certifiées. Cette certification n'est pas seulement provisoire (Popper) mais aussi profondément sociologique et normative (Merton, Kuhn). Popper soutient de manière convaincante que même si nous pouvions construire une "Machine d'Induction" qui apprend à représenter le monde en découvrant des motifs auparavant non remarqués, la Machine d'Induction ne fonctionne que sur la base de la fonction objective et du modèle du monde intégrés par un ingénieur humain. Ce que l'ingénieur considère comme "faire de la science" — ce qui compte comme un motif significatif, une expérience valide ou une explication satisfaisante — nous ramène à la question en constante évolution des objectifs et des limites de la science, des questions auxquelles la République de la Science doit répondre en tant qu'entité essentiellement politique. 2. L'IA peut être trop capable pour rester un simple outil. La question de la citoyenneté de l'IA est cruciale pour l'avenir de notre République de la Science. Polanyi modélise la communauté des scientifiques — la République de la Science — comme un ordre émergent hayekien. Tout comme le prix est le produit de désirs et d'ajustements individuels innombrables sur le marché, la science ressemble également à un corps politique d'experts, chacun avec des connaissances limitées, travaillant ensemble pour assembler le vaste puzzle des connaissances où chaque découverte ajuste les efforts des autres. À l'époque moderne, la République de la Science a exigé un doctorat pour obtenir la citoyenneté, mais cela exclut non seulement les scientifiques citoyens mais aussi l'IA. L'IA est-elle un outil — un télescope superintelligent — ou est-elle un véritable citoyen dans la République ? Si l'IA devient un véritable citoyen, la structure de gouvernance de la République pourrait devoir changer. Si elle reste un outil, nous devons nous demander : l'outil de qui, servant quels objectifs ? 3. La promesse de l'IA de mettre fin à la stagnation dépend d'un diagnostic correct de la maladie. 90 % de tous les scientifiques ayant jamais vécu sont en vie aujourd'hui (de Solla Price), mais selon de nombreux critères, la nouveauté et l'importance des découvertes scientifiques sont en tendance à la baisse (Cowen et Collison). Si les goulets d'étranglement de la science consistent à poser les bonnes questions, à des incitations perverses à la publication et à une sclérose institutionnelle, l'IA doit cibler ces problèmes directement, et non simplement publier un volume plus élevé d'articles. L'IA peut-elle nous aider à inciter à la qualité plutôt qu'à la quantité, à publier des résultats négatifs et pas seulement des succès prêts pour les relations publiques, et à explorer de nouveaux modèles pour découvrir et nourrir les talents ? Notre syllabus, liste de lecture, et plus ici :