Tendencias del momento
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
Investigador principal @forethought_org
Comprender la explosión de inteligencia y cómo prepararse
Un físico argumenta que es imposible construir una esfera de Dyson en nuestras vidas.
No estaba convencido - mira mi respuesta:

Prakash1 nov, 03:04
¿Es posible una Esfera de Dyson para 2040?
> Paul Christiano dio un 15% de probabilidad de una Esfera de Dyson para 2040 en @dwarkesh_sp
> Así que invité a @Astro_Wright, astrónomo y astrofísico en Penn State, especialista en detectar firmas tecnológicas alienígenas para averiguar si sería posible.
Aspectos destacados:
Sobre la Física de las Esferas de Dyson
> Sobre el Limitador Último - Refrigeración: "Lo único que puedes hacer es poner radiadores y dejar que el calor se irradie... no tienes un río cerca, no puedes hacer refrigeración por agua, no puedes soplar ventiladores sobre ello. No hay aire."
> Sobre Construirlas Calientes, No Frías: "En realidad, espero que las esferas de Dyson estén lo más calientes posible si están maximizando la computación... Creo que estas cosas estarán a temperatura ambiente o más cálidas."
Sobre la Construcción de una Esfera de Dyson
> Sobre Desensamblar Júpiter: "Podrías desensamblar Júpiter y construir una esfera de Dyson... Él [Freeman Dyson] trabajó en los detalles como, es totalmente posible desensamblar un planeta."
> Sobre la Imposibilidad de una Rápida Esfera de Dyson: "Es literalmente imposible construir una esfera de Dyson alrededor del sol tan rápido [en 50 años]... No es que no esté siendo imaginativo. Es que no hay suficiente masa. La masa está en Júpiter."
> Sobre la Energía Necesaria: "Si tomas toda la energía que el sol emite durante 50 años y con perfecta eficiencia la usas para levantar masa de Júpiter, aún no tendrías suficiente tiempo."
> Sobre la Tecnología Clave Necesaria: "Creo que tienes que invocar el crecimiento exponencial. Necesitas alguna forma de tener un exponencial descontrolado que mine tanto material, construya tantas cosas... Creo que son máquinas autorreplicantes, máquinas de Von Neumann."
Sobre la Detección de Civilizaciones Alienígenas
> Sobre la Imposibilidad de Esconderse: "Es muy difícil ocultar el hecho de que estás usando energía... no puedes mantenerlo, derretirás todo. Y cuando te deshagas de ello, será obvio."
> Sobre lo Fácil que Son de Encontrar: "Tal cosa sería extremadamente detectable... Incluso si solo capturara el 1 o 2% de la luz de una estrella en total, eso seguiría siendo bastante obvio. Se vería bastante anómalo."
> Sobre Encontrar una Civilización Oculta: "Puedes ponerte gafas infrarrojas y ver quién tiene el calor encendido. Como las casas que están cálidas por dentro... puedes ver el calor saliendo de esas casas."
> Sobre Descartar Super-Civilizaciones: "Pudimos demostrar que de las 100,000 galaxias más cercanas a la Vía Láctea, no hay ninguna de esas [civilizaciones de Tipo III]."
Sobre la Industria Espacial Destruyendo la Ciencia
> Sobre el Lugar Perfecto para Cazar Alienígenas: "Poner un radiotelescopio en el lado opuesto de la luna sería increíble... la luna actúa como un escudo y no hay interferencia de radiofrecuencia."
> Sobre la Amenaza al Lado Lejano de la Luna: "Tan pronto como dices, 'Está bien, queremos construir algo en el lado lejano de la luna,' todos dicen, 'Genial, construyamos la infraestructura'... y establecen toda esta comunicación inalámbrica a través de la luna. Y tú dices, 'Eso derrota todo el propósito.'"
> Sobre el Impacto de Starlink en la Ciencia: "Starlink se lanzó y simplemente arruinó todos nuestros planes para la astronomía... Y ahora cada vez que toma una foto, se 'Starlinkea'. Así es como lo llamamos. Grandes rayas a través de cada imagen."
> Sobre la Carrera para Estudiar Marte: "Tenemos que apresurarnos y hacer todos nuestros experimentos de detección de vida antes de que las botas pisen el suelo allí... Tan pronto como la gente vaya a Marte, lo contaminaremos."
Este fue, con mucho, el mejor podcast que he hecho hasta ahora. Enlaces a continuación:
6,8K
Muchas personas piensan que la toma de control de la IA llevaría muy probablemente a la extinción humana.
Creo que eso es incorrecto.
Imagina una escala de "cuánto le importa la IA a los humanos" que va del 0% al 100%.
100% --> no hay toma de control de la IA
0% --> toma de control de la IA y extinción humana
Observa que hay una GRAN parte de esa escala donde la IA toma el control pero no mata a los humanos:
0.01% a 50% --> toma de control de la IA pero NO extinción humana
Creo que esta parte intermedia del rango debería tener una gran masa de probabilidad.
¿Por qué es 0.01% para evitar la extinción? Porque es muy barato para una superinteligencia mantener a los humanos vivos y darnos vidas increíbles.
Hay dos razones por las que la IA podría preocuparse por los humanos >0.01%:
1. La IA podría preocuparse intrínsecamente, porque la alineación funcionó un poco.
- Nos preocupamos un poco por las vacas y las plantas, incluso aunque no tuvieron control sobre cómo evolucionamos.
- Agregaremos muchos datos de entrenamiento para intentar que las IA se preocupen por nosotros; parte de eso podría quedarse incluso si la alineación falla en general.
2. La IA podría preocuparse instrumentalmente, porque espera que otros agentes la recompensen por mantener a los humanos vivos (a través del comercio acausal, o si la IA está en una simulación).
- p. ej. la IA realiza comercio acausal con una rama cercana de Everett donde los humanos resolvieron la alineación.
- p. ej. la IA piensa que puede estar en una simulación dirigida por humanos.
@RyanPGreenblatt tiene una gran publicación discutiendo esto (enlace abajo). Soy un poco más optimista que él.
4,9K
Parte superior
Clasificación
Favoritos

