HAL 9000 o la máquina (im)perfecta

0
408

Introducción

Poster original de “2001: A Space Odyssey” de Stanley Kubrick.

Un 12 de enero de 1992 fue puesta en funcionamiento la supercomputadora HAL 9000 en Urbana, Illinois, de acuerdo con el argumento de la película de ciencia ficción 2001: A Space Odyssey (1968) de Stanley Kubrick.

HAL 9000 era un cerebro electrónico diseñado como inteligencia artificial que controlaba la nave espacial Discovery con rumbo a las inmediaciones de Júpiter. Le conocimos por el ojo-lente en rojo con borde negro y una voz acaso fría e impersonal o probablemente algo terrorífica. El imaginario que ha logrado sembrar es que en un futuro próximo –o quizá actual– la tecnología o, mejor dicho, la inteligencia artificial, tomando decisiones lógicas, y emulando probablemente al ser humano, podría dominar por completo a este, incluso determinando su muerte.

Y ¿en verdad las tecnologías determinan la vida del ser humano? ¿Hasta qué punto HAL 9000 anticipa el futuro de la humanidad bajo la sombra de las tecnologías, toda vez que estas además son producto de su creatividad y necesidad? ¿Sigue vigente la intención reflexiva que estaba en 2001: A Space Odyssey? El objeto de interés de este artículo es en realidad pensar la presencia de HAL 9000 en la cultura contemporánea.

La película de Kubrick y las computadoras

Fotograma del vals espacial en “2001: A Space Odyssey” de Stanley Kubrick.

Para 1968 cuando Kubrick presentó su película la palabra computadora ya era de uso común, aunque por entonces lo que más se conocía eran los mainframes o grandes computadoras que ocupaban un buen espacio de alguna habitación, aunque ya se pensaba en las computadoras de diseño más individualizado toda vez que la empresa Olivetti presentara su dispositivo de escritorio con el nombre de Programma 101.

2001: A Space Odyssey lo que hizo es poner como parte del argumento a un mainframe que en realidad estaba mimetizado en toda la nave, cuyo miembro de conexión era no solo el ojo, sino otros módulos de exposición de datos en pantallas, teclados virtuales y otros teclados…: la propia nave era en sí una supercomputadora y, viéndolo ya en otra perspectiva, era un organismo maquínico con una increíble programación, en cuyo interior, de modo minimalista, estaban hospedados los tripulantes: David Bowman y Frank Poole, además de otros que estaban en hibernación.

Se sabe que 2001: A Space Odyssey partió de un cuento de Arthur C. Clarke, “The Sentinel” (“El centinela”, 1948) y, tal como trabajaba Kubrick con los escritores a los que les motivaba a escribir el guion base, orientó a Clarke que su cuento se convirtiera en la historia núcleo que luego fue ampliándose hasta el diseño final de una historia con 4 partes. Clarke a la par fue escribiendo la novela homónima que fue presentada luego del estreno del filme en abril de 1968. En tal novela aparece HAL 9000 pero con la diferencia que es puesta en marcha un 12 de enero de 1997, y no 1992.

Fotograma de la nave Discovery en viaje hacia Júpiter en “2001: A Space Odyssey” de Stanley Kubrick.

Sea cual fuere cómo se fue escribiendo la novela y se fue trabajando el guion de 2001: A Space Odyssey –a propósito les invito a releer un antiguo artículo mío: ““2001”, una película seminal”, publicado en Amazing Stories, el 4 de abril de 2018; reproducido en Ciencia ficción en Ecuador, el 6 de abril de 2018 y en mi blog Todo Iván Rodrigo-Mendizábal, el 7 de abril de 2018–, lo cierto es que HAL 9000 no solo es la muestra de la moderna computación, sino también la confluencia de dos trabajos: la inteligencia artificial y los nuevos diseños computacionales de la IBM.

La inteligencia artificial representada en un filme

Respecto a la inteligencia artificial se sabe que fue Alan Turing había avanzado con ciertas ideas sobre dicho asunto, sobre todo diseñando un tipo de código o algoritmo que permitiese emular, si se quiere, el razonamiento humano en algún tipo de computadora, es decir, que esta demostrase una forma de inteligencia. Sus trabajos sobre una máquina que piensa fueron inaugurales pronto para la moderna computación. Un colega con el que trabajó en una máquina lógica que permitiese además decodificar códigos enemigos durante la Segunda Guerra Mundial, Irving John Good, y que siguió los pasos de Turing, a la larga extremó los planteamientos de este de su trabajo “Computing Machinery and Intelligence”, publicado en 1950 y presentó en 1965 dos investigaciones con los títulos de “Speculations Concerning the First Ultraintelligent Machine” y “Logic of Man and Machine” que fueron, a la par, cuando Kubrick empezó el proyecto de 2001: A Space Odyssey, inspiradores. Por tal motivo, invitó a Good a ser parte del equipo consultor que trabajó con él y Clarke.

Fotograma de HAL 9000 en “2001: A Space Odyssey” de Stanley Kubrick.

HAL 9000 entonces reúne ciertas ideas y muchos de los avances en máquinas computadoras e informática que se estaba poniendo en marcha por entonces. Proyecta a un futuro hipotético, hacia 2001 –para su momento, año aún distante–, la interacción ya común, ya consolidada, de seres humanos y máquinas inteligentes, además cuando ya se hace viajes a la Luna, aunque aún con fines investigativos, de grupos de personas como si estuvieran cruzando el espacio en aviones entre ciudades terráqueas. Y pasando el 2001, 18 meses después de que aparentemente se descubriera en un cráter de la Luna la representación fehaciente de alguna forma de inteligencia exterior, mediante un monolito perfecta y simétricamente elaborado, es que nos enteramos de que HAL 9000 ya era muy conocido en los vuelos espaciales.

Este HAL 9000 en principio nos parece, en el tono de la película de Kubrick, como una máquina obediente y formal, que atiende y ayuda a los astronautas en sus labores cotidianas en un viaje largo, acaso tedioso hacia Júpiter. Kubrick nos había acostumbrado, hasta el episodio previo a Júpiter, a admitir que la interacción ser humano-máquina no tendría nada más de excepcional porque por fin se había conseguido que las computadoras y sus cerebros hagan el trabajo no solo mecánico, sino también intelectual. ¿Las máquinas se estaban equiparando al ser humano? ¿Eran en esencia serviles? Cuando vemos el vals espacial que inicia con el hueso tirado al aire por el simio casi humano, que inmediatamente se conecta –¡elipsis visual magistral, por cierto!– con una nave espacial que lleva a un científico a una estación espacial, y desde allá a la Luna, nos damos cuenta que no vemos naves o edificaciones cósmicas, sino la conquista humana de lo tecnológico, si pensamos justamente que la tecnología es el uso social y el aprovechamiento potencial de los diseños de los aparatos o las máquinas: una tecnología es a la inteligencia humana, lo que un aparato a su uso. El ser humano, se puede decir, ha logrado una comunión con la máquina y ha hecho de ella una tecnología en la misma medida que el cuerpo y la mente humanas.

Fotograma de Poole desayunando y viendo una pantalla con una emisión de TV en “2001: A Space Odyssey” de Stanley Kubrick.

Por ello, cuando conocemos a HAL 9000 en el viaje hacia Júpiter, pronto sabemos que lo tecnológico, es decir, la inteligencia artificial incorporada en la máquina que es la totalidad del emplazamiento donde están Bowman y Poole, puede hablar como un ser humano, demostrando habilidad de pensamiento o de razonamiento lógico; esto es: HAL 9000 reconoce la voz de sus interlocutores, sabe con quién charla y puede diferenciarlos en sus preferencias y sus comportamientos; puede entablar conversaciones sobre diversos tópicos con una solvencia impresionante; puede jugar al ajedrez –y este hecho no es fortuito por dos razones: porque al ajedrez se le considera un juego ciencia que permite el razonamiento y la estrategia y, por otro lado, porque curiosamente su desarrollo moderno implicó compararlo con un autómata analítico que pudiese pensar y combinar procesos, similares a cuando uno está construyendo para sí conocimiento; el propio Kubrick, ya como apunte, era un jugador de ajedrez–; pero también, puede leer los labios, aprender de lo que hacen los humanos y tomar decisiones.

Y una cosa que HAL 9000 –se entiende–, aprende y tiene la capacidad de inducir a que otros tomen decisiones sobre la base de sus propias decisiones. En otras palabras, usando el razonamiento lógico, Clarke y Kubrick nos muestran que HAL 9000 intenta comportarse como un ser humano: va calibrando sus decisiones ya programadas, ya puestas en su código interno, comparándolas con las que los humanos realizan y luego las transforma para producir una cadena de problemas o de acontecimientos.

Fotograma de un módulo donde está viendo HAL 9000 en “2001: A Space Odyssey” de Stanley Kubrick.

Porque de eso se trata 2001: A Space Odyssey, sobre todo en la parte concerniente al viaje a Júpiter bajo la comandancia real de HAL 9000 –por más que alguno de los tripulantes sea el comandante humano–. Brevemente digamos ciertos indicios de supuestos hechos que se ven y se suscitan en la trama: en el juego de ajedrez con Poole hace una mención equivocada o hace un juego equivocado; predice luego que una unidad, la de comunicación con la Tierra está empezando a fallar; reconoce una discrepancia con su gemelo en la Tierra cuando aquel demuestra que no hay fallo; incita a devolver la pieza a su lugar e inmediatamente toma la decisión de asesinar a Poole lanzándolo al espacio exterior; mata a los tripulantes en hibernación; impide a Bowman entrar a la nave cuando este ha ido a rescatar a su compañero muerto. Hasta acá, por lo tanto, una serie de hechos que sugieren que la tecnología es como si fuera el propio ser humano, el cual haría las cosas, si bien usando el razonamiento lógico, con la frialdad que implicaría todo ello, comportándose en defensa propia, comportándose de modo que, ante la inminencia de ser sobrepasado en sus decisiones y conociendo el propósito real que los otros desconocen, debe destruir a sus “semejantes”.

El mal “maquínico”

En esta parte HAL 9000 nos muestra cuán perversa puede ser la inteligencia humana. Margaret Stackhouse en un artículo, “Affirmative, Dave, I read you” –compilado en el libro The Making of Kubrick’s 2001 (Signet, The New American Library, Inc. (1970), editado por Jerome Agel–, señala lo siguiente respecto a HAL 9000:

“A. He is evil, but only because he reflects human nature.

1) His uneasiness about the mission implies that even the highest development of human intelligence is imperfect in ability to understand.

2) Man, trying to progress independently of divine aid, attempts, either consciously or unconsciously, to create life, in the form of HAL. This is not allowed. Man is reaching, or is being forced to reach, a limit in his ability to progress further”.

Fotograma donde aparecen Poole y Bowman analizando un fallo anunciado por HAL 9000 en “2001: A Space Odyssey” de Stanley Kubrick.

Stackhouse identifica unos rasgos importantes en HAL 9000: a) su maliciosidad o villanía, en la medida que “refleja la naturaleza humana”; b) sabe y cree firmemente que su nivel de inteligencia es superior a la humana, más aún cuando hay una misión de alto nivel; y c) cuando el ser humano crea un ser maquínico inteligente, encuentra su límite precisamente en ese ser nuevo. ¿Caen por su peso las famosas leyes de la robótica que Isaac Asimov planteara en sus obras? Las máquinas suponen un nuevo ethos o, mejor dicho, las computadoras con inteligencia artificial pareciera que crean un nuevo ethos y tratan de llevar más allá el comportamiento moral de los seres humanos, comportamiento, por otro lado, que está ligado al mal.

Y he aquí que Clarke y Kubrick devuelven la autoridad al ser humano, sobre todo en cuanto a su debilidad. Como todo cuerpo –en cierta medida la respiración de Bowman, cuando ingresa a la nave, parece ser también la respiración de HAL 9000 como si estuviera “desesperado”–, como toda máquina perfecta, hay siempre un resquicio, un “talón de Aquiles”, algo que implica que no todo es cerradamente absoluto. 2001: A Space Odyssey por ello es un filme que sigue siendo insuperable porque en lugar de dar respuestas, abre inquietudes, abre caminos de pensamiento, abre preguntas precisamente sobre eso que Stackhouse ha puesto de manifiesto: la naturaleza humana, su creencia que puede superar a Dios en su creación, su necesidad de demostrarse que es superior pero no comprende quizá la señal de lo inescrutable.

El resquicio de la máquina-cuerpo de HAL 9000 es la parte manual, la parte operativa independiente de esta misma máquina. Stackhouse nos dice:

“Reasons for HAL’s failure:

1) Eternal human error once again in evidence; or,

2) This may be a divine punishment; or,

3) God will not allow man to become subordinate to his own foolish creations”.

Fotograma de una pantalla donde se anuncia que HAL 9000 está matando a la tripulación en “2001: A Space Odyssey” de Stanley Kubrick.

Stackhouse orienta su pensamiento al hecho que hay un Dios superior o, mejor dicho, algo Superior que impediría que el ser humano se salga con la suya. Pero fuera de ese razonamiento, interesa rescatar la idea de que, tras toda máquina, por más perfecta que sea, que la inteligencia artificial, por más próxima a la máquina cerebral del ser humano, siempre estará traspasado o siempre tendrá una resquebrajadura que induce a pensar en el error. Habría siempre alguna contingencia que impediría que las máquinas con inteligencia artificial en el futuro sean superiores al ser humano. Piénsese solo cómo la ciencia informática ha dado lugar al hackerismo y con ello a los virus. Un virus puede descomponer una máquina inteligente o, si se quiere, un virus, como el que ahora vivimos en el mundo, es capaz de llevar a la muerte a los cuerpos-máquinas humanas. En este contexto, es pertinente lo que afirma Stackhouse:

“The fact that man can overcome HAL’s evil is optimistic; however, to do this he must destroy HAL, who is nearly a living being —again, the theme of death, futility. [This and triviality are shown in HAL’s “song.”].”

En 2001: A Space Odyssey constatamos que el ser humano vence a la máquina inteligente, es decir, vence al mal, si se piensa que el mal es la “libertad concreta” –en términos de Georges Bataille en su Sobre Nietzsche: voluntad de suerte (1979)–, es decir, un ejercicio desatado por una entidad, el mismo ser humano, que demuestra su desvinculación con un ethos. Bowman se erige como el alter ego de HAL 9000, usa su raciocinio, pero también, apelando a lo humano, su voluntad de retornar al bien, aun cuando la computadora reconozca, tras la serie de pruebas que ha efectuado, llevando a matar con “conciencia” a seres humanos, que todo volverá a ser como antes:

“Look Dave, I can see you’re really upset about this. I honestly think you ought to sit down calmly, take a stress pill, and think things over. I know I’ve made some very poor decisions recently, but I can give you my complete assurance that my work will be back to normal. I’ve still got the greatest enthusiasm and confidence in the mission. And I want to help you”.

¿Será que un ser racional que ha matado, que ha ejercido la libertad concreta, puede hacer que todo vuelva a la normalidad?

IBM y la voz sintética, la voz de HAL 9000

Fotograma de la desconexión de HAL 9000 en “2001: A Space Odyssey” de Stanley Kubrick.

Es interesante todo el proceso de desconexión de HAL 9000 cuando nos damos cuenta, en efecto, que es también un proceso de volver al estado 0, al estado inicial de construcción de la computadora. Es ahí que aparece otro rasgo importante de la posibilidad de la inteligencia artificial: la capacidad de sentir, es decir, que la máquina “sienta”, tenga “emociones”, hecho ocultado por la racionalidad tecnológica moderna. El diálogo es importante:

“HAL: Dave, stop. Stop, will you? Stop, Dave. Will you stop, Dave? Stop, Dave. I’m afraid. I’m afraid, Dave. Dave, my mind is going. I can feel it. I can feel it. My mind is going. There is no question about it. I can feel it. I can feel it. I can feel it. I’m a… fraid. Good afternoon, gentlemen. I am a HAL 9000 computer. I became operational at the H.A.L. plant in Urbana, Illinois on the 12th of January 1992. My instructor was Mr. Langley, and he taught me to sing a song. If you’d like to hear it I can sing it for you.

Dave: Yes, I’d like to hear it, HAL. Sing it for me.

HAL: It’s called “Daisy”.

[HAL sings while slowing down.]

HAL: Daisy, Daisy, give me your answer do. I’m half crazy all for the love of you. It won’t be a stylish marriage, I can’t afford a carriage. But you’ll look sweet upon the seat of a bicycle built for two”.

HAL 9000 al querer equipararse con el ser humano, al ser la metáfora del ser humano racional, lógico, que obra ejerciendo con libertad y mata porque se piensa superior, ante la inminencia de su propia “muerte” nos devuelve su estado original, su estado en el que aún era “inocente”. Por ello, su desconexión se representa como “trivial” según Stackhouse, siendo sus últimas palabras la canción “Daysi”, en referencia a una canción de 1892, “Daisy Bell”.

Se cuenta que HAL vendría a ser las letras anteriores al acrónimo IBM. Clarke lo ha desmentido varias veces, además poniendo en la saga de su novela, 2010: Odyssey Two (1982), lo siguiente:

“Is it true, Dr. Chandra, that you chose the name Hal to be one step ahead of IBM?”

“Utter nonsense! Half of us come from IBM and we’ve been trying to stamp out that story for years. I thought that by now every intelligent person knew that H-A-L is derived from Heuristic Algorithmic”.

El acrónimo HAL en realidad vendría a mencionar “Heuristic Algorithmic” o “Algoritmo Heurístico”. Por lo tanto, su HAL 9000 no tendría nada que ver con IBM que en la década de 1960 era una marca que resonaba en el mercado. Pero lo que sí es cierto es que Clarke, sí había visitado los laboratorios Bell en 1962 donde se presentó un software y el producto de este para sintetizar el habla, usando una computadora IBM 704, diseñada como prototipo en 1954 y que tenía características avanzadas. En dicho evento la computadora mencionada ejecutaba en versión computacional la canción “Daisy Bell”. ¿Qué modo de ser desconectado, o qué modo de perder la memoria, la inteligencia, volviendo a ser un infante inocente? ¡Es una completa ironía!

Finalizando

Hasta acá mis reflexiones sobre este ser maquínico HAL 9000, puesto en funcionamiento un día 12 de enero de 1992. HAL 9000 nos recuerda que, pese a la perfección, como todo ser que también estaría determinado por la contingencia, es una máquina imperfecta. (Iván Rodrigo Mendizábal)

LEAVE A REPLY

Please enter your comment!
Please enter your name here

This site uses Akismet to reduce spam. Learn how your comment data is processed.