Peter Tucker
0 
3494
1047
Es Elon Musk en su versión más Elon Musk: según informes de noticias, el empresario espacial y de automóviles eléctricos conoció a su novia actual haciendo una broma sobre la inteligencia artificial traicionera..
Musk y el músico Grimes, cuyo nombre real es Claire Boucher, fueron a la Met Gala en pareja el lunes (7 de mayo). Según la publicación de chismes Page Six, los dos se conocieron a través de Twitter, cuando Musk pensó en hacer un juego de palabras sobre el "Basilisco rococó", una mezcla del experimento mental "Basilisco de Roko" y el estilo elaboradamente ornamental que se ve en la Francia del siglo XVIII..
Musk pronto se enteró de que Grimes había hecho el mismo juego de palabras en un video musical en 2015, y el resto es historia romántica. El basilisco de Roko, por otro lado, es una visión aterradora del futuro y el centro de una vorágine de subcultura en línea de un año..
El principio
Todo comenzó en 2010, cuando una persona que pasó por Roko publicó un experimento mental en el sitio LessWrong, un foro donde la gente discute de todo, desde filosofía hasta inteligencia artificial (IA) y ciencia cognitiva. La publicación fue eliminada, pero RationalWiki conservó una copia. La idea de Roko era que si, en el futuro, aparecía una IA superinteligente diseñada para maximizar el bien común, podría castigar a todos los que no contribuyeron a su existencia. [Máquinas superinteligentes: 7 futuros robóticos]
"Por supuesto, esto sería injusto, pero es el tipo de cosa injusta que es muy utilitaria", razonó Roko..
Esta hipotética se produciría después de la singularidad, el punto en el que la inteligencia artificial se vuelve indistinguible de la vida misma, de hecho, mejor que la vida misma, porque puede hacer cosas como subirse a sí misma indefinidamente, logrando una especie de inmortalidad de silicio. Si este poder divino descubre que no ayudaste a crearlo, bueno, caramba. Podría simplemente decidir que su justa recompensa es el tormento eterno. [Una breve historia de la inteligencia artificial]
El nombre "basilisco" proviene de una leyenda medieval sobre una serpiente que podía matar con una mirada..
Sin embargo, aquí está la trampa: si no sabías sobre la posibilidad del basilisco de Roko, estás libre: es probable que la IA solo persiga a aquellos que predijeron su existencia pero decidieron no donar, digamos, todos sus elementos desechables. ingresos para ayudar a lograrlo. Con solo leer sobre la posibilidad del basilisco de Roko, te has condenado a ti mismo. (Lo siento.)
Esa advertencia, en pocas palabras, es donde comenzó la vorágine en línea. El fundador de LessWrong, Eliezer Yudkowsky, calificó la publicación de "ESTÚPIDA" y "genuinamente peligrosa". Con solo pensar con gran detalle en cómo una IA podría chantajearlo, Roko se había preparado para ser chantajeado, así como para todos los demás que podrían leer la publicación..
"Estoy prohibiendo esta publicación para que no (a) le dé a la gente pesadillas horribles y (b) le dé a las superinteligencias distantes un motivo para seguir adelante con el chantaje contra personas lo suficientemente tontas como para pensar en ellas con suficiente detalle", escribió Yudkowsky..
De Roko al romance
La prohibición de la discusión de Roko sobre el basilisco sobre LessWrong duró hasta 2015. Yudkowsky escribió más tarde en Reddit que lamentaba su reacción, lo que hacía que pareciera que pensaba que Roko tenía razón; de hecho, cree que ninguna inteligencia artificial diseñada pensando en los mejores intereses de la humanidad acabaría torturando a la gente. En cambio, escribió, eliminó la publicación porque la idea no tenía ningún beneficio potencial para nadie..
A Musk le pueden gustar especialmente las bromas de Basilisk de Roko porque la publicación original lo mencionaba. Roko escribe que alguien como Musk, que está "cambiando por sí solo las caras de las industrias de alto impacto", estaría en la buena disposición de la teórica IA sobrehumana. Musk también ha hablado sobre los peligros potenciales de la IA, pidiendo regulación y advirtiendo el mes pasado que la IA podría convertirse en un "dictador inmortal".
"Si la IA tiene un objetivo y la humanidad se interpone en el camino, destruirá a la humanidad como algo natural sin siquiera pensar en ello. Sin resentimientos", dijo Musk en un documental titulado "¿Confías en esta computadora?" "que fue lanzado en abril. "Es como si estuviéramos construyendo una carretera y un hormiguero se interpusiera en el camino. No odiamos a las hormigas, solo estamos construyendo una carretera. Así que, adiós, hormiguero".
Grimes, por su parte, es un músico y artista visual canadiense a quien se le ocurrió el juego de palabras "Rococo Basilisk" para su video musical "Flesh Without Blood". El video presenta a un personaje que usa pelucas estilo rococó y vestidos voluminosos y termina apuñalado en el estómago y cubierto de sangre en una cancha de tenis..
"Está condenada a ser eternamente torturada por una inteligencia artificial, pero también es como María Antonieta", dijo Grimes a FuseTV..
Artículo original sobre .