Westworld, o ¿Cómo se hace un ser humano? – Juan Pájaro

En un futuro distante, científicos y empresarios colaboran para crear un vasto parque de atracciones al estilo del Viejo Oeste, poblandolo con robots artificialmente inteligentes (o “anfitriones”) tan avanzados que son completamente indistinguibles de los seres humanos. Los patrones ricos (“los recién llegados” a los anfitriones) vienen al parque para actuar con totalidad fantasías inmersivas sin consecuencias (que pueden lastimar e incluso “matar” a los anfitriones, pero por diseño los anfitriones no pueden matar a los clientes), mientras que una intrincada red de empleados subterráneos trabaja todo el día para limpiar y reiniciar los anfitriones, reprogramar sus fallas de personajes y argumentos, y mejorar continuamente el velo del parque de realismo. Es una máquina bien engrasada, cada centímetro de ella diseñada para el entretenimiento espeluznante de la clase alta. Sólo que, últimamente, el realismo se está volviendo demasiado real. Este es el argumento principal de la serie Westwood de HBO, un reboot hecho por J.J. Abrams de la película de 1973, escrita y dirigida por Michael Crichton.

Con cada episodio, se vuelve un poco más claro quién lo está conduciendo y por qué, pero el giro clave es que algunos de los anfitriones están exhibiendo comportamientos “aberrantes”; por ejemplo, saliendo de sus argumentos programados, “recordando” la violencia cometida contra ellos antes de restablecer el sistema, y ​​generalmente conectando puntos que, en teoría, no es posible para ellos conectar. En resumen, los anfitriones actúan cada vez más como un ser humano que como una computadora.

Con la introducción de este tema, todo el espectáculo — los giros de la trama, sus personajes, su contenido gráfico — se subsume bajo dos cuestiones filosóficas claves. Primero, ¿pueden las computadoras pensar? Y en segundo lugar,  ¿sólo las computadoras son realmente seres humanos?

En un nivel de superficie, Westworld sólo se ocupa realmente de la primera cuestión y las implicaciones sociales de la creación de tales máquinas impredecibles. (Los principales científicos e innovadores — Stephen Hawking, Bill Gates y Elon Musk entre ellos — han levantado una bandera roja sobre el avance exponencial de la inteligencia artificial y los peligros que representa para la vida humana. Todavía hay mucho espectáculo a la izquierda, pero no parece que Westworld ofrezca mucho para contrarrestar esos miedos). Estas dos preguntas realmente llegan a la misma pregunta: ¿qué es la conciencia humana? — la primera pregunta implica siempre a la segunda también. Entonces, ¿cómo responde Westworld estas preguntas?

¿Pueden las computadoras pensar?

El científico informático Alan Turing ideó una prueba en la que los ordenadores, para todos los efectos, podrían demostrarse inteligentes. Turing describió la siguiente situación hipotética: supongamos que una computadora y una persona estuvieran en un cuarto cerrado, separados de un interrogador cuya meta es descubrir cuál es cuál a través de una serie de preguntas. El objetivo de la persona es conducir al interrogador a reconocer que la computadora es la computadora, mientras que la computadora está programada para llevar al interrogador a reconocer falsamente la computadora como la persona. Si al final de este “juego de imitación” la computadora imita tan de cerca las respuestas humanas que el interrogador identifica incorrectamente la máquina como una persona, la computadora ha pasado la “prueba de Turing” por exhibir comportamiento inteligente.

Se supone ampliamente que la prueba de Turing es una condición suficiente para demostrar que una computadora ha alcanzado algo parecido al pensamiento humano. Los calificativos que utilizamos para hablar de tecnologías actuales que reflejan la inteligencia (“teléfono inteligente”, “robótica cognitiva”, “inteligencia artificial”) refuerzan aún más esa suposición.

Pero Westworld expone las limitaciones de la prueba de Turing. En el segundo episodio, un joven conversa con un anfitrión en una sala de espera que conduce al parque, “¿Eres real?”, le pregunta, sintiéndose claramente un poco tonto, “Bueno,” responde el anfitrión, “Si no sabes, ¿importa?” Esta es la lógica del conductismo que soporta la prueba de Turing. Pero la respuesta a esto — basada en todo lo que hemos visto sobre el modo normal de funcionamiento del parque — es claramente “Sí”. Ser engañado por un anfitrión para tratarlo como humano (o humana) no cambia el hecho de que los anfitriones son rutinariamente arrastrados a un frío y oscuro laboratorio, y programados al pie de la letra para decir y hacer todo lo que dicen y hacen. Pueden actuar como pensadores autónomos, pero no hay nada “real” sobre ellos (al menos, no al principio).

Estas limitaciones se vuelven explícitas en el tercer episodio cuando el fundador del parque, el Dr. Robert Ford (interpretado por Anthony Hopkins), describe los primeros días de Westworld con su compañero “Nuestros anfitriones comenzaron a pasar la prueba de Turing después del primer año”, explica el Dr. Ford. “Pero eso no fue suficiente para Arnold, no estaba interesado en la apariencia del intelecto o el ingenio, quería lo real, quería crear conciencia”.

Esto implica que lo que hace que el pensamiento de los seres humanos sea real y verdadero sean la presencia de una mente o conciencia para participar en ella. La mímica de una cosa no alcanza toda la realidad de esa cosa; y la realidad de la conciencia humana es evidentemente un “algo más” que va más allá de los comportamientos observables. Esto nos lleva a una pausa en la primera pregunta para saltar a la segunda.

 ¿Sólo las computadoras son realmente seres humanos?

Las discusiones sobre si las computadoras pueden pensar implican preguntas acerca de si el pensamiento humano involucra una mente o conciencia más allá del cerebro material en primer lugar. Si no hay tal cosa como la mente o la conciencia, entonces la prueba de Turing es una manera perfectamente válida para determinar si una computadora se ha convertido en un pensador en el mismo sentido que una persona es un pensador. Desde este punto de vista, los seres humanos no son realmente diferentes del anfitrión promedio en Westworld. Todas sus opciones, creencias y sensaciones — en resumen, todo el espectro de experiencias “inmateriales” que asocian con un solo tema que usted llama “yo mismo” — son sólo una ficción conveniente. La única diferencia es que cuando los anfitriones están programados por procesos artificiales para comportarse como si fueran sujetos especiales, estamos hablando de que están siendo programados por procesos naturales, es decir, los anfitriones son sus estructuras materiales y su movimiento, y nada más.

Westworld claramente no adopta esta perspectiva materialista sobre la vida humana. Todo el drama del espectáculo es que los anfitriones van más allá de la prueba de Turing para alcanzar algo de otro tipo y, por lo tanto, en la segunda pregunta, el logro de algo va más allá de las estructuras materiales del cerebro que poseen los seres humanos, pero, ¿qué es eso?

Los gigantes de la filosofía moderna difieren ampliamente en este punto. El experimento “Sala China” de John Searle es la crítica más popular de la prueba de Turing y se centra en la comprensión. Otros, como Thomas Nagel (“¿Qué es ser un murciélago?”) y David Chalmers (el “Duro problema de la conciencia”) han hecho de la conciencia una especie de baluarte contra el materialismo.

Una de las críticas menos reconocidas pero más importantes del materialismo, sin embargo, es el argumento de la intencionalidad. En el libro de Edward Feser, “Filosofía de la Mente”, él da un argumento convincente de que el “problema antiguo de la intencionalidad” es lo que realmente está detrás de los argumentos de la comprensión o la conciencia:

El término «intencionalidad» se deriva del latín intendere, que significa «apuntar (at)» o «apuntar (at)» — de ahí el uso del término para significar la capacidad de un estado mental de «apuntar a»; o ser, o significar, representarse o representar algo más allá de sí mismo. (Es importante notar que las intenciones, por ejemplo, su intención de leer este capítulo, son sólo una manifestación de la intencionalidad, su creencia de que usted está leyendo un libro, su deseo de leerlo, su percepción del libro, y así sucesivamente, exhiben intencionalidad tanto como su intención).

El concepto fue de gran interés para los filósofos medievales, pero Franz Brentano (1838 -1917) es el pensador responsable de ponerlo a la vanguardia de la discusión filosófica contemporánea. Brentano también es famoso por considerar la intencionalidad como la «marca de lo mental» — la característica esencial de todos los fenómenos mentales — y para sostener que su intencionalidad posesiva hace que los fenómenos mentales sean finalmente irreducibles e inexplicables en términos de fenómenos físicos.

Si los anfitriones de Westworld están logrando algo más allá de lo material, es, en una palabra, intencionalidad. Sus sensaciones, pensamientos, creencias y deseos ya no están contenidos en una cadena de mecanismos físicos. Son acerca de sus objetos, dirigidos hacia ellos. Simultáneamente, parecen develar las puertas ocultas a la percepción, la razón y la voluntad — e incluso contemplar el encuentro con su “hacedor” — precisamente a través de la “cercanía” de estados mentales tan característicos de la vida humana.

Si Feser tiene razón en que la intencionalidad es el mejor argumento para la inmaterialidad de la mente, y Westworld trata la intencionalidad como el “algo” inmaterial que ahora tienen los anfitriones, volvemos a la primera pregunta. ¿Puede un ordenador alcanzar realmente el pensamiento humano, entendido como el funcionamiento de una mente inmaterial?

Westworld quiere decir “sí”, pero justificar que la respuesta adecuada es completamente más allá del alcance de la demostración — y además, drenaría todo el drama. El espectáculo deja caer indicios de que a través de una receta afortunada de ingredientes (ingredientes que también estaban presentes en el hombre primal), “de alguna manera” los anfitriones pasaron de intercambio de símbolos involuntario a la comprensión del símbolo intencional, y de la inconsciencia a la conciencia emergente. De buena gana suspendemos cualquier incredulidad que tengamos que seguir en ese viaje. Sin embargo, como explica un neurocientífico, tenemos “razones muy convincentes” para creer que esto realmente nunca va a suceder.

Cualquiera que sea la respuesta a la primera pregunta, al tratar con la segunda pregunta de esta manera, Westworld abre la puerta a otro problema filosófico antiguo.

Westworld como metáfora

Uno de los eslóganes de Westworld es que se trata “del amanecer de la conciencia artificial y el futuro del pecado”. La primera mitad de esa descripción, que se centra en los anfitriones, es obvia y abarca todos los temas discutidos anteriormente. Pero ¿qué pasa con “el futuro del pecado”?

El foco aquí parece estar en los patrones que frecuentan el parque, tipificados en el personaje de Logan. Al principio de la serie, un visitante de Westworld dice que es la primera vez que visita el parque, él trajo a su familia y fue a pescar, pero la segunda vez, dejó a la familia detrás y “fue derecho al mal.” Logan es justo un veterano experimentado de Westworld, no tiene dudas de hacer lo que quiera con los anfitriones en un momento dado. William, su futuro yerno, lamenta en un momento que Logan sólo quiere matar o tener relaciones sexuales con todo lo que ve y es que para este joven empresario rico, lo único que importa es su propio poder y placer. De hecho, su mayor deseo es poder llegar a los confines del parque, “al juego más grande que hay”, es decir, la guerra total.

Esto dice más sobre Logan que lo que hace sobre el parque. Walker Percy señaló una vez (en una línea que podría haber sido escrita fácilmente sobre Westworld) que el yo moderno está tan aburrido y alienado, y tan frustrado por su aburrimiento y alienación, que “necesita ejercer todas las opciones posibles para tranquilizarse, que no es un fantasma sino que es más bien uno mismo entre los otros seres. Una de estas opciones es un encuentro sexual, otra es la guerra”. Los creadores del parque se benefician generosamente de esta suposición, aislando el anhelo de los clientes de hacer algo dramáticamente y dejarlo sin un costo para el mundo que los rodea.

Pero sabemos que la ilusión es sólo eso. Las acciones de los patrones no son, como ellos sospechan, sin consecuencias. Están infligiendo heridas profundas, y recuerdos duraderos de esas heridas, en sus anfitriones conscientes. Más que cualquier discusión abstracta sobre la sensibilidad o la conciencia, este punto se hace de una manera más visceral e intuitiva. Una y otra vez, la cámara persiste en los ojos de los anfitriones y, a través de estas “ventanas al alma”, vemos preocupación, esperanza, tristeza y asombro. Más que la mera conciencia, la comprensión primitiva, o incluso la intencionalidad, vemos un reflejo del misterio de la creación y de la dignidad que otorga.

Si dejamos de lado la espinosa cuestión de la conciencia computacional y leemos esto simbólicamente, el espectáculo se vuelve menos una bola de cristal en el futuro, y más un espejo del presente. Los anfitriones simbolizan a los débiles, a los jóvenes, a los sin voz, a los indefensos, a los marginados de la sociedad que son manipulados, brutalizados y desechados, a menudo sin entender completamente lo que se les está haciendo o cómo detenerlo. Lisa Joy, una de las co-creadoras del programa, confirma esta lectura cuando describe a Westworld como “acerca de lo que significa ser humano (…) una meditación sobre la conciencia, la bendición y la carga de ella”. Para los anfitriones es que están llegando a conocer y entender el mundo que les rodea — y la carga es, como es para muchas personas, precisamente lo mismo.

De igual modo, los patrones pueden ser leídos como agentes de decadencia, poder brutal y desprecio por la vida humana vulnerable. Ellos tienen a los anfitriones bajo sus pulgares para su propia gratificación, que es en última instancia todo lo que importa para ellos. En el parque, tratan objetos como personas, sólo para tratarlos como objetos de nuevo; pero la gran ironía es que los objetos, al convertirse en “otros”, vuelven a revelar el impulso que los patrones han dejado salir y dejar atrás, a saber, la objetivación del otro. De una manera indirecta, entonces, el espectáculo es todo acerca de esta adicción a tratar a las personas como objetos, que no es el futuro del pecado, sino la realidad del pecado en sí. Adulando que la adicción en sus formas más gráficas — para volver a la línea de Percy — se convierte en mucho más que escapar para los clientes. Incluso se vuelve más que reconstruirse. Se trata de reconstruir el significado mismo de la existencia para conformarse con el yo, “el mundo allá afuera”, el Hombre de Negro explica a un anfitrión en una escena, “el que nunca verás, era uno de abundancia (… )Cada necesidad cuidada, excepto una: propósito. Sentido.”

¿Es todo esto tan impensable? Uno de los anfitriones, recordando un “bucle” narrativo pasado como profesor de Shakespeare, advierte a otro usando una de las líneas de Romeo y Julieta: “Estos placeres violentos tienen fines violentos”.

Como un espectáculo no sólo sobre el futuro, sino sobre el presente, Westworld parece entregar exactamente la misma advertencia — no sólo sobre la rapidez con la que desarrollamos objetos de tipo humano, sino también sobre la inhumanidad con la que nos objetivamos.

En ambos casos, la cuestión que nos queda: ¿Occidente está cayendo de cabeza en Westworld?

Compartí en las redes!