El experimento mental de Roko’s basilisk
Leah Feiger: Bien, eso está bien. Gracias, Tori. Will, ¿qué tienes para nosotros?
Will Knight: Vaya, no sé si realmente puedo competir con RFK, pero como buen operativo de la CIA, voy a promover algo de los rincones más raros de la IA, IA y filosofía, supongo. Así que hay algo llamado Roko’s basilisk. El basilisco es una criatura mitológica serpentina que, si mirabas a sus ojos, podía matarte. Y se planteó un experimento mental en un foro de IA, diciendo que en el futuro, una superinteligencia estaría incentivada a crear una simulación en la que quizás todos existimos dentro de ella, y estaría incentivada a torturar a cualquiera que trabajara en contra de ella o incluso sólo pensara en la idea de trabajar en contra de su existencia. Así que, en uno de estos…
Leah Feiger: Increíble.
Will Knight: … foros, prohibieron hablar de Roko’s, este experimento mental, Roko’s basilisk. La idea era que, si siquiera pensabas en ello, podía ser peligroso, lo cual es particularmente loco.
Leah Feiger: Eso es tan gracioso. ¿En qué foros se está proliferando esto, o no se está proliferando?
Will Knight: Esto fue en LessWrong, que es un foro muy famoso dedicado a los riesgos y alineación de la IA y—
Leah Feiger: ¿Con qué frecuencia piensas personalmente en Roko’s basilisk?
Will Knight: Bueno, de hecho sólo lo descubrí recientemente, y trato de no pensar en ello por si acaso. Es como la apuesta de Pascal, ¿no? Es como jugar con las posibilidades de que la superinteligencia venga a existir, así que tienes que intentar hacer que venga a existir. Sí, es completamente loco.
Leah Feiger: Oh, eso es muy bueno. Bien. Oh, en realidad, esto es un poco difícil esta semana, pero tengo que ir con Tori. Activos de la CIA, aquí vamos.
Vittoria Elliott: Finalmente. ¿Los Ravens me llevaron al borde? Debo saber.
Leah Feiger: Los Ravens te llevaron al borde. Me gustó, y fue parte de, sólo vi cuánto estabas trabajando por esto, y sí, fue una A por esfuerzo y una A por ejecución. Buen trabajo.
Vittoria Elliott: Gracias.
Leah Feiger: Y parcialmente, no puedo darle la victoria a algo en lo que no se me permite pensar nunca más. Tori y Will, muchas gracias por unirse a nosotros. Fueron excelentes invitados.
Vittoria Elliott: Gracias, Leah.
Will Knight: Gracias por tenerme.
Leah Feiger: Gracias por escuchar WIRED Politics Lab. Si te gustó lo que escuchaste hoy, asegúrate de seguir el programa y calificarlo en tu aplicación de podcast favorita. También tenemos un boletín que Makena Kelly escribe cada semana. El enlace al boletín y los informes de WIRED que mencionamos hoy están en las notas del programa. Si deseas ponerte en contacto con nosotros con alguna pregunta, comentario o sugerencias para el programa, por favor, escríbenos a [email protected]. Estamos muy emocionados de saber de ti. WIRED Politics Lab es producido por Jake Harper. Pran Bandi es nuestro ingeniero de estudio. Amar Lal mezcló este episodio. Stephanie Kariuki es nuestra productora ejecutiva. Chris Bannon es el jefe global de audio en Condé Nast, y yo soy tu anfitriona, Leah Feiger. Estaremos de regreso en tu feed con un nuevo episodio la próxima semana.
Fuente y créditos: www.wired.com
Cats: Politics,Politics / Politics News,WIRED Politics Lab
