Entrevista de Doug Henwood
Al ver a los magnates tecnológicos tirar la cautela por la ventana en la carrera armamentista de la IA o relativizar la pregunta de si la humanidad debería continuar, es natural preguntarse si realmente les importan las vidas humanas.
La respuesta seria y profunda a esta pregunta es tan sombría como la respuesta rápida y sarcástica. Como sostiene el filósofo moral Émile Torres, muchos líderes de Silicon Valley abrazan una visión de un futuro transhumanista en el que los seres humanos biológicos serán reemplazados por entidades digitales dotadas de superinteligencia. Esta visión ayuda a explicar su obsesión con la inteligencia artificial general (AGI) y está en el centro de lo que Torres describe como preferencias extincionistas respecto de la especie humana.
En 2023, Torres y su colega Timnit Gebru acuñaron el acrónimo TESCREAL para describir una constelación de ideologías —Transhumanismo, Extropianismo, Singularitarianismo, Cosmismo, Racionalismo, Altruismo Eficaz, Longterminismo— que se volvieron altamente influyentes dentro de Silicon Valley. Torres es filósofo, historiador intelectual y periodista, y su trabajo se centra en la ética de las tecnologías emergentes, especialmente la IA y la extinción humana.
En esta conversación con el periodista Doug Henwood, Torres explica la cosmovisión TESCREAL, sus conexiones con la eugenesia y el «realismo del IQ» (coeficiente intelectual), y por qué figuras como Elon Musk, Peter Thiel y Sam Altman abrazan visiones de un futuro poshumano.
DH
TESCREAL es un trabalenguas. ¿Qué significa?
ET
Nunca dije que fuera una palabra linda. No lo es. Pero es útil.
La idea clave en el corazón mismo de la cosmovisión TESCREAL es esta visión tecno-utópica del futuro en la cual desarrollamos tecnologías avanzadas que nos permitirán reingenierizar radicalmente el organismo humano para crear una nueva especie poshumana (el llamado transhumanismo). Así nos expandiríamos más allá de la Tierra, colonizaríamos Marte y luego el resto de la galaxia, para finalmente crear vastas simulaciones informáticas llenas de billones y billones de personas digitales.
Y la razón de todo esto es que la cosmovisión TESCREAL nos instruye para maximizar la cantidad total de valor en el universo. Las personas son los contenedores o sustratos del valor. Cuantas más personas haya, mayor es la cantidad total de valor que se podría crear.
DH
Ese valor, ¿qué es exactamente? ¿Y quién lo disfruta?
ET
Es una excelente pregunta. El TESCREALismo recibió una influencia significativa de una teoría ética llamada «utilitarismo totalista». El utilitarismo totalista entiende el valor como algo impersonal. El valor no importa porque beneficie a alguna persona en particular. La idea es que el universo es mejor si contiene más valor.
Si lo pensamos en términos de dinero o riqueza, sería como decir que cuanto más dinero haya, mejor. No tiene por qué ser dinero: también se puede interpretar el valor como placer o felicidad. Cuantas más experiencias placenteras contenga el universo, mejor se vuelve, no necesariamente para alguien, sino simplemente desde lo que los utilitaristas totalistas llaman el punto de vista del cosmos. Hay un ojo cósmico desencarnado mirando el universo, y lo juzga mejor cuanto más valor contiene, y peor cuanto menos contiene.
DH
Hay un costado raramente religioso en eso.
ET
Sí. Y también diría que hay una especie de influencia capitalista: la idea de que los seres humanos no importan por nosotros mismos. En esta cosmovisión, importamos por el valor, y no al revés.
DH
Esto me está convirtiendo en un humanista sentimental. Me gusta pensar que soy más disciplinado que eso, pero, dios, estas posiciones me vuelven muy básico en cuanto al valor de los seres humanos.
ET
Se llama literalmente «impersonalismo», en el sentido de entender el valor de manera impersonal. La idea clave es que somos medios para un fin. El único fin es el valor, este concepto abstracto pero cuantificable que debería maximizarse hasta los límites físicos del cosmos. Importamos sólo como canales a través de los cuales ese valor puede existir. Esa idea es integral al movimiento TESCREAL.
DH
Elon Musk dijo hace poco en un posteo en X que los humanos somos un «mecanismo de arranque (bootloader) biológico para la superinteligencia digital». ¿Es esto de lo que estás hablando? Los humanos crearán esta inteligencia fabulosa, pero ella nos superará y nos dejará atrás.
ET
Exactamente. Hay un par de maneras de pensar esto. Una es que la superinteligencia podría ser importante porque facilitaría la realización de la visión TESCREAL del futuro. Los TESCREAListas tienden a pensar todo en términos de ingeniería. El razonamiento es: si tenemos una superinteligencia, tenemos un superingeniero. Si tenemos un superingeniero, entonces podemos ingenierizar el paraíso, que es un término que literalmente usan.
La superinteligencia va a descubrir cómo colonizar el espacio, como dijo Sam Altman, CEO de OpenAI. Sin AGI probablemente no podamos colonizar el espacio. La superinteligencia va a descubrir cómo «curar» el envejecimiento para que vivamos para siempre o subamos nuestras mentes a computadoras. Pero el otro rol clave que podría desempeñar la superinteligencia es que se multiplique en una población que simplemente reemplace a la humanidad.
Tal vez nuestra especie, de alguna manera, no es digna de cumplir la visión a largo plazo del TESCREALismo. Y lo que necesitamos es una población de seres «más inteligentes» que puedan salir a colonizar el espacio y reingenierizar o rediseñar galaxias para cosechar toda su energía y maximizar el valor.
DH
Desde mi limitado punto de vista de carne y hueso, pareciera que estas criaturas del futuro serían algo así como simulaciones.
ET
Esa es una posibilidad. Una vez que tenés inteligencias digitales, hay dos opciones. Una es que vivan en mundos de realidad virtual: eso es lo que decía cuando hablaba de construir vastas simulaciones informáticas llenas de trillones de personas digitales. Serían entidades digitales, AGIs o superinteligencias, que viven en un universo simulado.
La otra posibilidad es que esos sistemas de IA ocupen algo así como cuerpos androides o mecánicos para navegar el mundo físico. Siguen siendo digitales, pero en vez de existir dentro de mundos simulados, existirían en nuestro mundo real.
La visión real apunta a tener ambos. Tendríamos superinteligencias que saldrían a colonizar el espacio, y también construirían —y acá cito a algunas figuras líderes del movimiento TESCREAL— «computadoras del tamaño de planetas» para ejecutar esos mundos virtuales donde otras IAs serían seres simulados en universos simulados.
El imperativo transhumanista de reingenierizar radicalmente a la humanidad está en el corazón de todas las otras afirmaciones que hacen los TESCREAListas. Probablemente no podamos colonizar el espacio si no nos reingenierizamos radicalmente o no subimos nuestras mentes o no creamos una nueva especie de AGI que reemplace a la humanidad. ¿Está claro?
DH
Tal vez necesite tomar más drogas antes de que esto empiece a tener sentido. Bien, hablamos sobre la T, la E, la S y la C del acrónimo. Pasemos a la R, racionalismo. ¿Qué significa en este mundo?
ET
El racionalismo fue fundado por una figura muy reconocida dentro del transhumanismo moderno, Eliezer Yudkowsky. La idea es que necesitamos dar un paso atrás y pensar en las mejores maneras de optimizar nuestra racionalidad. Cuanto más racionales seamos, mejor posicionados estaremos para crear a estos sucesores poshumanos que van a colonizar el espacio. El racionalismo trata de identificar sesgos cognitivos para neutralizarlos. Trata de desarrollar nuevas teorías en un campo llamado teoría de la decisión, que supuestamente nos permite tomar decisiones de la manera más racional posible.
La mayoría queremos ser más racionales y no queremos sucumbir a los efectos distorsivos de los sesgos cognitivos. Pero cuando empezás a ver los detalles de lo que propone el racionalismo, se vuelve realmente problemático. Te doy un ejemplo breve.
El fundador, Yudkowsky, publicó un artículo en su sitio de blogs comunitarios, Less Wrong —el epicentro online de toda la comunidad racionalista—, en el que les pedía a los lectores imaginar una situación con dos opciones. Una: una persona es torturada despiadadamente durante cincuenta años. La otra: un número inimaginable de personas sufre la molestia casi imperceptible de que una mota de polvo les entre en el ojo por un segundo. ¿Cuál de las dos es peor? Su argumento era que la segunda es mucho peor, porque si hacés las cuentas…
DH
Una locura.
ET
Sí, la reacción adecuada es una carcajada. Su lema es «cerrá la boca y multiplicá»: olvidate de tus emociones o intuiciones morales. Usá la cabeza, hacé cuentas y vas a ver que el segundo escenario es mucho peor que alguien siendo torturado cincuenta años. Por eso, deberías elegir la opción de la tortura.
DH
Otro aspecto de esta cosmovisión es la adoración del alto IQ, lo que nos lleva al terreno de la eugenesia. ¿Podés hablar del IQ y de la eugenesia?
ET
El IQ es muy importante para muchas personas del movimiento TESCREAL. Muchos son lo que ellos llaman «realistas del IQ». Creen que el IQ mide algo real sobre la mente humana y que ese algo es muy importante.
Muchos psicólogos, filósofos, etcétera, creen que el IQ es un disparate total. El estadístico Nassim Taleb hizo una crítica muy buena a la idea del IQ. Señaló que los tests pueden servir para identificar a individuos que puntúan muy bajo, pero cuando se trata de gente por encima del promedio, es básicamente inútil, porque hay millones de maneras de ser «inteligente». Algunos son grandes en matemática, otros tienen un sentido común y una sabiduría extraordinarios, otros son científicos brillantes pero con cero sentido común.
Diría que la idea de inteligencia es semejante a la de habilidad. Si alguien dice «tenés que conocer a mi amigo Joe, es muy habilidoso», yo pregunto: «¿En qué? ¿Cómo?». Necesito más información. ¿Puede escribir un cuarteto de cuerdas? ¿Cocinar una cena espectacular? ¿Construir un mueble?
Históricamente, el IQ estuvo íntimamente ligado a la eugenesia. Los tests los desarrollaron eugenistas prominentes, con visiones profundamente racistas y sexistas. Creían que la «raza blanca» tenía inteligencia superior respecto de otras categorías raciales, y diseñaron el test para confirmar exactamente lo que querían demostrar.
Hay una continuidad clarísima entre la eugenesia del siglo XX y el movimiento TESCREAL. Figuras líderes del TESCREALismo encendieron alarmas sobre la posibilidad de presiones «disgenésicas» (el opuesto de eugenésicas, donde eugenesia significa literalmente «buen nacimiento»). La idea es que la inteligencia es heredable, algo que desde el punto de vista científico es muy cuestionable. La disgenesia ocurriría si, por ejemplo, los individuos «menos inteligentes» se reproducen más que los «más inteligentes», de modo que aumente la presencia de personas de bajo IQ a lo largo de generaciones.
En el movimiento TESCREAL se preocuparon explícitamente por esto. Y era exactamente la preocupación de los eugenistas del siglo XX: ¿qué pasa si la población no blanca de EE.UU. crece y supera en número a la blanca? Sería un desastre bajo esa visión: causaría presiones disgenésicas, porque según esos realistas del IQ —racistas— las poblaciones no blancas tienen IQs más bajos. Eso llevó a programas eugenésicos clásicos: prohibir matrimonios interraciales, impedir inmigración, etc.
El transhumanismo es, sin controversia posible, una forma de eugenesia. De hecho, el transhumanismo fue introducido inicialmente por eugenistas del siglo XX como Julian Huxley, biólogo que publicó varios libros sobre el tema. El transhumanismo es eugenesia con esteroides. Los eugenistas clásicos querían mejorar la especie humana. El transhumanismo dice: ¿por qué detenernos en perfeccionar a la humanidad? ¿Por qué no crear una especie poshumana completamente nueva y «superior»?
DH
Todo esto sería una rareza intelectual si no fuera porque gente como Elon Musk, Peter Thiel, Sam Altman y Marc Andreessen forman parte de este club, en grados diversos. ¿Cómo se relaciona este modo de pensamiento con estos referentes de Silicon Valley?
ET
Marc Andreessen incluso tuvo la palabra «TESCREALIST» en su bio de Twitter allá por 2022 o 2023. Y Elon Musk dijo que el longterminismo es «muy parecido» a su filosofía.
DH
Y su cosa de «colonizar Marte» también es totalmente parte de esto.
ET
Absolutamente. Musk se ve como una figura mesiánica que va a desempeñar un rol decisivo no sólo en la historia humana sino en la cósmica. Porque si él es quien inaugura la era de la AGI con su empresa xAI, eso sería un cambio monumental. En su visión, introduciría una capacidad completamente nueva para que podamos realizar este sueño tecno-utópico TESCREAL.
SpaceX también forma parte de esto. Para Musk, Marte es el primer peldaño rumbo al resto de la galaxia, que a su vez es el peldaño rumbo al resto del universo. Si es él quien nos lleva a Marte y permite establecer colonias independientes de la Tierra allí, entonces él, más que nadie, será el responsable de haber lanzado a la humanidad en dirección a este mundo utópico.
Todas estas personas comparten también las mismas actitudes discriminatorias que animaban al movimiento eugenésico del siglo XX. Musk alertó sobre el declive de la población global, pero si mirás sus tweets de cerca, parece más explícitamente preocupado por el declive de las poblaciones blancas. Hace unos meses, alguien tuiteó que la población blanca global es cerca del ocho por ciento, y Musk respondió algo así como «y bajando rápido». Hay un componente racial muy claro en su ansiedad no sólo sobre la inmigración sino sobre el declive poblacional. Musk básicamente piensa que la gente blanca es superior, y que sería muy malo para el futuro de la humanidad —y de la poshumanidad— que la población blanca disminuya.
DH
En su larga entrevista con Ross Douthat del New York Times en junio, Douthat le preguntó a Peter Thiel si quería que la especie humana perdurara. Thiel dudó y vaciló antes de decir que sí, pero no parecía creerlo demasiado. Y luego mencionó el transhumanismo en las frases siguientes. ¿Qué es lo que quieren estas personas? ¿Son indiferentes o incluso están a favor de la extinción humana?
ET
Hay dos cosas esenciales para entender lo que está pasando en Silicon Valley. Una es que la cosmovisión TESCREAL está por todas partes. Es el agua en la que nadan y el aire que respiran. No podés entender qué pasa en Silicon Valley, especialmente en la carrera por construir la AGI, sin comprender el transhumanismo, el longterminismo y todas estas ideologías TESCREAL.
La segunda cosa realmente importante es que un componente clave de la utopía TESCREAL es una postura proextinción. La utopía es un mundo en el cual los poshumanos —no los humanos— son quienes dominan. Cuando Thiel dudó, simplemente canalizó ese componente proextinción de la cosmovisión TESCREAL. No se trata de la humanidad: se trata de la poshumanidad, que es la que va a salir a colonizar el espacio y dirigir todo.
Thiel tiene una visión algo particular, una minoría dentro de Silicon Valley, según la cual los poshumanos que nos deberían reemplazar deben ser extensiones de nuestros cuerpos biológicos. Dijo explícitamente que quiere vivir para siempre, pero manteniendo su cuerpo. No quiere subir su mente a una computadora y convertirse en un ser digital.
Esto contrasta con otra versión del proextincionismo, más extendida en Silicon Valley, según la cual el futuro es digital. Podés distinguir entre el transhumanismo biológico de Thiel y lo que podríamos llamar eugenesia digital. La eugenesia digital es una versión del proextincionismo que afirma que los futuros poshumanos que nos reemplacen deberían ser digitales.
Podrían ser mentes humanas subidas o entidades completamente separadas, autónomas, distintas, como ChatGPT. Podés imaginar un ChatGPT 10 alcanzando el nivel de AGI y luego tomando el control. En ese sentido, la AGI no sería una extensión nuestra: sería algo separado. No nos convertimos en ella: simplemente la creamos. Thiel, en cambio, imagina a la poshumanidad como algo en lo que nos convertimos. El punto central, igual, es que todos son proextinción.
DH
Por como lo describís, esto no suena a una agenda popular. ¿Hay lugar para la coerción en su cosmovisión?
ET
¿Si hay lugar para la coerción? Sí, creo que sí.
DH
La pregunta era deliberadamente ingenua.
ET
Su visión del futuro no es inclusiva. Si fuera inclusiva, incluiría a los humanos. No lo hace. Es un futuro para poshumanos.
También es profundamente elitista y extremadamente antidemocrática. Ahora mismo, con sus miles de millones, están intentando crear un mundo nuevo dirigido por poshumanos sin preguntar jamás las opiniones y preferencias del resto de la humanidad. Lo hacen sin nuestro consentimiento y no les importa lo que tengamos para decir.
Creen en su visión y van a intentar llevarla a cabo de todos modos. Creen genuinamente que están haciendo lo correcto. No hay ningún aporte del resto de la humanidad sobre cómo debería ser nuestro futuro colectivo. Podrías describir esto como profundamente coercitivo.
DH
Los tipos de Silicon Valley son la superinteligencia por ahora, así que ¿quién necesita la opinión de los demás?
ET
Exacto. Creo que eso es lo que creen. La comunidad racionalista es muy influyente en Silicon Valley, y lo que básicamente les dice a sus miembros es que, una vez que dominás tal o cual teoría de la decisión, una vez que dominás los patrones de pensamiento óptimamente racionales, obtenés acceso directo a verdades fundamentales sobre cómo debería ser el futuro. Y, debido a que la racionalidad ofrece una perspectiva universal y objetiva, no necesitás la perspectiva de nadie más. Así es exactamente como estos multimillonarios de Silicon Valley piensan nuestro futuro colectivo.
