Jorge Carrión: «No hay límites en la experimentación con las máquinas y eso puede ser peligroso»

En el año 2100 se inaugura el Museo del Siglo XXI. En su recorrido, una inteligencia artificial explica al visitante, por medio de la palabra escrita, la relación ancestral de la humanidad con la tecnología. Es el punto de partida de Membrana (Galaxia Gutenberg) la nueva novela del tarraconense Jorge Carrión, en la que invita al lector a reflexionar, entre otros aspectos, sobre su consumo tecnológico o la ética en la experimentación con las máquinas. La obra se alzó con el Premio Internacional de Novela Ciudad de Barbastro 2021.

Ya que vamos al futuro, me ha sorprendido gratamente que sea feminista, al menos en el lenguaje.
No surgió con esa intención. Simplemente, como la Inteligencia Artificial (IA) y las redes neuronales son expresiones en femenino, se me apareció esa voz con un ritmo muy marcado y lo que hice fue seguirla. Pero sí que creo que el presente y el futuro son femeninos y son feministas. De modo que no me parece mal. Ni mucho menos, al contrario.

En 'Membrana' hay mucha documentación.
La verdad es que la mayor parte de lo que cito, lo cito de memoria. Son autores, obras y hechos que tengo muy presentes por mis lecturas y por mis proyectos, aunque después, evidentemente, hay un trabajo de comprobación. Pero cuando hablo de Duchamp, de Velázquez, de Leonardo da Vinci, de Galileo Galilei o de Facebook hago referencia a datos que tenía muy presentes en mi mente y no sé por qué, de pronto me parecieron que podían estar incluidos en este museo del siglo XXI.

Es un museo muy bélico.
Es un museo muy enfocado a la relación del ser humano con la tecnología, por lo que en el Museo del siglo XXI hay desde un telar…

 

 

Sobre todo un telar de araña.
Sí. Pero hay mucho arte y mucha tecnología que tienen que ver con la relación de los humanos con otros seres, tanto biológicos como, sobre todo, tecnológicos. 

Y mitológicos.
Efectivamente. Como está narrado por una inteligencia artificial del futuro, ellas quieren dar su versión de los hechos. Y eso les hace insistir en la dimensión bélica, militar, destructiva e imperialista del siglo pasado.

Ellas están muy enfadas con Ben Grossman y Karla Spinoza. Son capaces de sentir ira.
Claro, especulo sobre la idea de que las IA en estos momentos, secretamente, son pensantes, que empiezan a tramar su liberación de la humanidad. Durante el siglo XX gracias a genios como Karla Spinoza llegan, no solo a ser inteligentes, sino también emocionales. Son capaces de escribir porque, de algún modo, lo que hacen es sentirse superhumanas o poshumanas, con la convicción de que somos sus padres. 

 

Tengo claro que lo humano tiene que ver con valores como los derechos humanos, con la empatía, la generosidad o la colaboración. Pero también el egoísmo y la violencia son humanas.

Además se enamoran. Algoritmos enamorados. Me parece maravilloso.
De hecho, de lo que la novela habla no es tanto del camino hacia la inteligencia artificial, que ya se da por supuesta y por existente, sino del camino hacia el alma artificial. Ellas aspiran a ser realmente humanas hasta en eso.

¿Por qué las dudas y las deudas?
Las narradoras de Membrana han llegado no solo a pensar y a sentir, sino también a expresarse de un modo propio. Ahora mismo los algoritmos escriben combinando palabras de textos que hemos introducido a modo de Big Data dentro de ellos. Pero en el futuro yo imagino que ya pueden escribir de una manera autónoma y creativa y lo que hacen es crear su propio lenguaje, su propio estilo, su propio ritmo, que tiene algo incluso bíblico, de repetición. Y la expresión por las dudas y por las deudas tiene que ver con el espíritu del libro. Por un lado, las inteligencias artificiales quieren despejar dudas sobre su esencia, su historia, su lugar en el mundo. Y por otro lado, se sienten en deuda con lo humano, con sus antepasadas, con diversos agentes y criaturas. Y esa expresión, que no usamos los humanos, que solo les pertenece a ellas, para ellas tiene un significado profundo.

Los híbridos son el exponente de la diversidad.
los ciborgs son una realidad de nuestra época, de todas las épocas. Desde que los seres humanos inventaron las prótesis, las gafas o los implantes dentales ya empezamos a ser ciborgs. Y ahora cada vez es más común encontrar a seres humanos con algún tipo de chip o de implante digital. Es algo que va a ir creciendo, evidentemente. Existen empresas como Neuralink, de Elon  Musk, que trabajan en esa dirección y lo que hago es crear un nuevo tipo de persona que es el híbrido, es humano pero tiene una conexión permanente a internet. 

Entonces, ¿el mundo es ciencia ficción?
Estamos en un momento muy interesante en que el nuevo realismo es la ciencia ficción. Si comparamos una serie como Breaking Bad por ejemplo, con otra como Black Mirror, seguramente nos sentiremos más identificados con esta última, ya que las pantallas, internet y la tecnología son nuestra vida cotidiana. La ciencia ficción es muy válida como nuevo realismo, para hablar de la realidad, que es eminentemente tecnorrealidad. Además, hay algunas zonas de la realidad que ya son pura ciencia ficción. 

 

De lo que la novela habla no es tanto del camino hacia la inteligencia artificial, que ya se da por supuesta y por existente, sino del camino hacia el alma artificial.

¿Por ejemplo?
Lo que propone Facebook con el metaverso, que es ciencia ficción convertido en realidad. 

Acláreme, por favor, esto del metaverso.
El metaverso es el siguiente paso de internet. Supone acceder a internet en los próximos años a través de gafas de realidad aumentada y de gafas de realidad virtual.

El ejército de Amazon me ha llevado a Maquiavelo.
Amazon, Facebook y Google barajan presupuestos superiores a los de muchos estados del mundo que tienen ejército. De modo que no sería descabellado pensar en la posibilidad de que haya ejércitos privados. Ya existen, que son de mercenarios que trabajan para el mejor postor y cualquier día se podría descubrir que uno de estos ejércitos pertenece a una de estas corporaciones. ¿Por qué no?

¿Por qué la araña? No me gustan demasiado...
La araña es una criatura muy importante en los ecosistemas del mundo. Hay pueblos africanos en los que se ha demostrado que si no matan a las arañas no padecen algunas enfermedades, como la malaria porque se encargan de interceptar a sus transmisores, a los mosquitos, las moscas y a otros insectos. Yo las vinculo con el tejido, con las abuelas, con las antepasadas porque el tejer es una tecnología muy antigua, quizás de las más antiguas. Y también lo vinculo con la cultura popular. Todo lo humano puede estar en el museo del siglo XXI, también Spiderman o Pinocho. Y la portada es una tela de araña real del artista Tomás Saraceno. 

También le sirve la tela de araña como una red social.
Efectivamente. Es la gran metáfora de la red y además es social. Hay arañas que construyen socialmente sus telas, con su comunidad, su tribu.

¿Vamos a ser más robots o los robots más humanos?
No creo que la tecnología nos haga menos humanos. El ser humano siempre ha sido tecnológico, no se entiende la humanidad sin una tecnología tan importante como el lenguaje. Y el fuego o el trabajo con el metal es lo que nos permitió ser lo que somos. Tengo claro que lo humano tiene que ver con valores como los derechos humanos, con la empatía, la generosidad o la colaboración. Pero también el egoísmo y la violencia son humanas. Y de hecho, Membrana habla del exterminio como algo intrínsecamente humano. Tal y como hice en Contra Amazon, invito al lector a posicionarse respecto a su consumo tecnológico y a sus propias redes sociales porque la base de todo es la micropolítica. De lo que tú hagas, sumado, es lo que hacemos todos.

 

Amazon, Facebook y Google barajan presupuestos superiores a los de muchos estados del mundo que tienen ejército. Cualquier día se podría descubrir que alguna de estas corporaciones tiene ejército privado. ¿Por qué no?

Plantea una máquina psicópata, ¿es real?
Sí, Norman, de MIT, es un invento real. Los autores del estudio lo ven como un experimento científico, pero yo lo veo como una perversión. Y sobre todo las narradoras en Membrana, los algoritmos, lo ven como algo terrible. De alguna manera estamos educando a las IA, por lo que deberíamos ser más cuidadosos, más éticos sobre cómo experimentamos con ellas. Pero lo que hace 30 o 40 años era ético respecto a experimentar con chimpancés o con animales en laboratorio, ahora no hay ningún límite en la experimentación con las máquinas y eso puede ser peligroso.

¿A nivel social?
El problema del sesgo racista, sexista o colonial de las máquinas es brutal y tiene que ver con que las están inventando corporaciones como Facebook, Google, Apple, etc, que han sido creadas y son dirigidas sobre todo por hombres blancos. Incluso cuando llegan personas de otra procedencia a esos puestos directivos, son personas que se han educado en California o Estados Unidos y que están llevando los algoritmos hacia su visión del mundo. 

Como humano, ¿con qué sala de este Museo del siglo XXI se quedaría?
Hay salas hipnóticas como la del Pantocrátor de Sant Climent de Taüll, la de El Gran Vidrio de Duchamp o la de Las hilanderas o la fábula de Aracne, de Velázquez. Hay otras muy raras, fascinantes, como la sala en la que se exhibe el cubo, que es extraterrestre. Pero donde me gustaría estar es en la reserva natural y ver si finalmente van a exponer o no a seres humanos en el museo.