(hey, type here for great stuff)

access to tools for the beginning of infinity

Computación analógica como antídoto de algoritmos autónomos

La evolución de la informática y guarda paralelismos con una cada vez más técnica y sofisticada burocracia: en el origen del sistema, la participación humana es esencial pero, una vez la inercia se pone en marcha, tanto una infraestructura informática como un aparato burocrático se propulsan a sí mismos y toman las riendas.

Una vez un sistema se propulsa así mismo, este cuerpo cibernético o burocrático se convierte en «la» actividad que supedita al resto de actores a meras comparsas, o apenas piezas sustituibles de un engranaje sobre el cual todos los participantes conocen alguna porción, pero que todos han dejado de estudiar en su contexto.

Recurriendo a las tesis de Robert M. Pirsig, autor de un ensayo donde el mantenimiento de su motocicleta se convierte en una excusa para explorar lo que él llama «metafísica de la calidad», los sistemas burocráticos de la modernidad nos privan de uno de los júbilos que comparten curiosos y niños (además de la ingenuidad): un conocimiento profundo de la máquina en su contexto, del «sistema» y no de su porción.

George Dyson

Al delegar aspiraciones de comprensión, pensamiento y poetización de sistemas complejos a nuestro alrededor, contribuimos a esta aceleración burocrática. Este efecto ya había sido notado en los prolegómenos de la sociedad de la información desde distintas perspectivas que comparten reflexiones.

Cuando el funcionamiento propulsa mayor funcionamiento

El temor al automatismo autopropulsado por una maquinaria burocrática en marcha sin «cabeza pensante» es ya el tema principal que nutre el mundo burocrático, aséptico, resbaladizo y desprovisto de significado a través del que desfilan (¿existen hasta que dejan de hacerlo?) los personajes de Franz Kafka; esta misma maquinaria no sólo permitió la ejecución de las mayores atrocidades, sino que protagonizó las reflexiones acerca de la «banalidad del mal» observadas en el mediocre burócrata subalterno de la maquinaria de exterminio nazi, Adolf Eichmann, por la filósofa Hannah Arendt (enviada especial del New Yorker al juicio de Eichmann en 1962, de donde surgiría el ensayo Eichmann en Jerusalén —1963—).

Y, en una entrevista concedida en 1966 a Der Spiegel a condición de que se publicara póstumamente (lo hizo en 1976), el controvertido filósofo Martin Heidegger (acaso el más influyente del siglo XX junto a Ludwig Wittgenstein), profesor -y amante— de Arendt, así como ambiguo durante el ascenso del nazismo al poder (luego se desmarcaría), habla del fin de la filosofía de los hombres (se refiere a la tradición humanista-existencialista) y al advenimiento de lo que él ya llama cibernética. En efecto, la «teoría de sistemas» y la técnica californiana ya empiezan a tomar las riendas.

Pero de qué hay que preocuparse, le pregunta el periodista enviado por Der Spiegel. Al fin y al cabo, todo funciona; cada vez hay más empresas de producción energética —prosigue—, la producción de bienes asciende, en las partes avanzadas del planeta la gente tiene una buena vida. «Vivimos en un estado de prosperidad», declara el entrevistador, exultante. ¿Qué nos falta en realidad?

El ensayo de Kenneth Brower sobre la interesante biografía, tan alejada y a la vez cercana, del astrofísico Freeman Dyson y uno de sus hijos, el divulgador y profesor de historia de la ciencia George Dyson

La respuesta de Heidegger explica la inquietud visceral de los personajes de Kafka, así como la terrorífica banalidad del funcionario que ha delegado su ética, su sentido de culpa y su propia habilidad para comprender la maquinaria de exterminio de la que ha formado parte: el Adolf Eichmann descrito por Hannah Arendt es un monstruo sólo posible como pieza de un sistema puesto en marcha y propulsado con su propia inercia:

«Todo funciona. Eso es precisamente lo sorprendente, que todo funciona, que el funcionamiento lo propulsa todo más y más hacia un mayor funcionamiento, y que la ‘tecnicidad‘ aparta sin cesar al hombre y lo desarraiga de la tierra.»

Metafísica de la calidad y ecología de la mente

En el mundo de los hombres que han delegado su conocimiento del contexto para conformarse con la especialización de una porción en un sistema, los aficionados a las motocicletas con inquietudes metafísicas (como el Robert M. Pirsig autorretratado en el ensayo sobre el viaje en moto con su hijo), serían incapaces de comprender la máquina en su contexto con los elementos y el conductor-acompañante.

La máquina deslizándose por la carretera en un momento determinado y con unas condiciones concretas, sonando de un modo característico y aportando a su conductor unas sensaciones concretas y no otras. Todo este sistema no puede ser automatizado sin que se pierda su razón de ser: el punto de vista, la conciencia del conductor-mecánico dan sentido a la experiencia.

Gracias al proceso de sustitución algorítmica, nuestro mundo gana en personajes deslizándose como los que se topan con la burocracia incolora, insípida y deshumanizada que describe Kafka, en intermediarios que delegan toda cuestión ética o de responsabilidad a la maquinaria de la que forman parte, en individuos que creen que siguen en el puesto de mando de sus máquinas y su existencia (como Robert M. Pirsig lo estuvo al exponer su «metafísica de la calidad»).

En el contexto de transformación desde la filosofía del hombre (por ejemplo, la fenomenología existencialista que agotaba Heidegger) a la cibernética, los postuladores de una informática inicial que tenía en cuenta el contexto (al partir de la teoría de sistemas, tal y como expone Gregory Bateson en Pasos hacia una ecología de la mente), darán paso a la informática práctica.

Los teóricos soñadores de la era en que los números significaban cosas cedieron la estructura del mundo informático que habían concebido a los creadores de servicios en los que los números «hacen» cosas y reniegan de la responsabilidad de otorgar un significado a estas acciones. El humanismo de la cibernética quedó sepultado bajo el utilitarismo de la informática y los servicios de Internet triunfantes.

Reflexiones de un artesano constructor de canoas

Estas últimas reflexiones parten de un pensador y hombre de acción próximo en varios sentidos a Robert M. Pirsig, el divulgador científico e historiador George Dyson (1953). El hijo del físico teórico (y postulador del futuro humano en el espacio) Freeman Dyson, George exploró desde la adolescencia actividades relacionadas con el conocimiento de técnicas y contextos en su complejidad, desde la navegación y construcción de canoas de nativos americanos a la construcción de una casa en un árbol a 30 metros del suelo en los bosques canadienses, donde vivió entre 1972 y 1975. Kenneth Brower explora el aparente contraste entre Freeman y su hijo George en el ensayo The Starship and the Canoe.

Ocurre que el astrofísico que soñaba con construir naves espaciales no está tan alejado del joven artesano en busca de crear el mejor transporte y el mejor abrigo ancestrales, en función de una cultura, unos materiales, un contexto. Ambos se comportan, explora el ensayo, con la determinación y la ingenuidad de quienes no se resignan a que el mundo acabe en manos de sistemas burocráticos autopropulsados y sin ser humano al mando. Justo lo que ocurre en la sociedad postmoderna.

Videoconsola analógica Magnavox Odyssey (1972-1975): constaba de la propia consola, que se conectaba al televisor, y dos controladores, presentando tres pequeños cuadrados en la pantalla que se comportaban de un modo distinto en función del juego; uno de los 28 juegos desarrollados para la consola emulaba el juego del ping pong e inspiró Pong (Atari), el primer juego arcade popular

George Dyson dedica un interesante ensayo en Edge a explorar la evolución digital desde un sistema humano a un algoritmo que ya no depende de programadores humanos, y las preocupantes implicaciones de este fenómeno. Pero Dyson no se conforma con el diagnóstico y explora una original propuesta de solución: devolver a la cibernética su corazón analógico.

Para Dyson, lo que hoy conocemos por revolución digital no ha acabado, pero ha mutado en algo muy distinto, abandonando el posibilismo de los primeros años y dejando atrás su «infancia». Hace tiempo que la informática no responde al viejo paradigma de las máquinas controladas por instrucciones que, a su vez, han sido diseñadas por humanos, que supervisan la ejecución.

Sin programadores que comprendan un algoritmo en su conjunto

Con el aumento de la capacidad de proceso y la mejoría de las instrucciones, se produjeron dos fenómenos, dice Dyson. La popularización de la informática implicó el surgimiento de código capaz de replicarse a sí mismo, así como una realidad automatizada de máquinas supervisándose a sí mismas. Este proceso creó a las empresas e individuos más poderosos de nuestra época.

El segundo fenómeno es el preocupante:

«Hoy existe más código que nunca, pero es cada vez más difícil encontrar a alguien que mantenga sus manos al volante. La capacidad de intervención individual ha entrado en decadencia. La mayoría de nosotros y en la mayoría de casos seguimos las instrucciones que nos proporcionan los ordenadores, y no a la inversa.»

Las reflexiones de George Dyson son especialmente pertinentes, dada su estrecha relación con la contracultura de la Costa Oeste estadounidense y su profundo conocimiento y puesta en práctica del pensamiento de sistemas, tan influyente durante los inicios de la cibernética, desde los diseños de la interfaz moderna entre hombre y computadora expuestos por Douglas Engelbart en la Madre de todas las demos de 1968 a los primeros ordenadores personales comerciales presentados en la primera feria de la informática personal, la West Coast Computer Faire (abril de 1977) de San Francisco; entre estos diseños destacaba el Apple II diseñado por Steven Wozkiak y vendido por un Steve Jobs acicalado en americana y melena peinada, cómodo con su acaparamiento de la atención.

La intención de los pioneros de la informática personal, interesados en unir las nuevas teorías del desarrollo personal con herramientas capaces de «aumentar» las capacidades humanas, era la de asociar la informática personal con un período de mayor autonomía personal y potenciación de capacidades, y no de supeditación a estructuras burocráticas representadas por la Costa Este y Europa (DEC, IBM u Olivetti eran el pasado, mientras el ordenador personal era todavía asociado con la creatividad).

Consecuencias del fin de la infancia

El gusto por la tipografía y las campañas de marketing con mensaje subversivo pierde su sentido cuando las empresas que habían enarbolado la bandera pirata contra el mundo orwelliano que aportaban la burocracia e IBM (el hilo argumental del anuncio del Macintosh, a cargo de Ridley Scott), controlan el entorno y los dispositivos que han posibilitado el mundo de inercia algorítmica ajeno a los humanos en que nos adentramos.

O, explicado por George Dyson:

«El fin de la infancia fue la obra maestra de Arthur C. Clarke, publicada en 1953, en la que se narra la llegada de benevolentes déspotas alienígenas que traen muchas de las conveniencias hoy proporcionadas por los Guardianes de Internet en la Tierra. No acaba bien.»

¿Qué cree que deberíamos hacer al respecto alguien como George Dyson, que decidió —como el resto de sus hermanos— seguir su propio camino de descubrimiento personal pese a tener acceso privilegiado al epicentro del mundo de la investigación en física teórica a través de su padre? ¿Qué madurez podemos esperar del mundo digital, dada la evolución hacia una entidad burocratizadora y sin nadie humano al mando?

En su segundo ensayo (Darwin Among the Machines: The Evolution of Global Intelligence, 1997), George Dyson reflexionaba hace poco más de dos décadas sobre esta misma inercia en la que los algoritmos más sofisticados se desprenden de sus constricciones humanas y evolucionan según sus propias necesidades.

Dyson evocaba en este ensayo un artículo publicado bajo el mismo título por el escritor Samuel Butler en 1863 en el diario británico The Press; en él, Butler aplicaba a las máquinas más complejas los principios evolucionistas expuestos en la teoría de Darwin, pues el funcionamiento de éstas constaba de un significado a partir de una «vida mecánica» que mejoraría con usos y versiones, suplantando eventualmente a la supervisión humana. The Matrix avant la lettre, en definitiva.

Reflexiones de Dyson sobre computación analógica

George Dyson cree que el ser humano puede influir en el diseño de los algoritmos, pero no interponiendo limitaciones éticas o una supervisión humana (para supervisar, al fin y al cabo, sería necesario comprender un funcionamiento y un contexto de red imposibles de discernir por una persona o equipo), sino modificando su arquitectura fundamental. Sorprendiéndonos a todos, Dyson habla de la poco ortodoxa noción del retorno a lo analógico.

Sabemos que su retorno a lo analógico no se refiere a la regresión al mundo agrario postulado por neorrurales, sectas religiosas y neomaltusianistas, entre otros, sino en construir ordenadores que combinen la arquitectura digital contemporánea con el uso renovado de válvulas de vacío como las que posibilitaron el funcionamiento de los primeros ordenadores electrónicos: antes de los transistores y los componentes en estado sólido, las válvulas electrónicas regulaban las señales eléctricas en la unidad de proceso y memoria principal de los primeros ordenadores, los aparatosos «mainframes».

Computadora analógica en el Centro de Investigación Glenn de la NASA en 1949 (Lewis Field, Brook Park, Cleveland, Ohio)

Con los transistores y la arquitectura sólida de los procesadores, la informática pudo miniaturizar los componentes y multiplicar la capacidad de proceso, facilitando la informática personal, Internet o la telefonía móvil, pero esta evolución —argumenta Dyson— no era la única posible, sino que resultó ser suficientemente eficiente, viable y ventajosa. La futura evolución podría combinar, dice George Dyson, los sofisticados componentes digitales de hoy ensamblados en ordenadores analógicos con una arquitectura mejorada de válvulas electrónicas.

¿Una broma? Dyson, que ni conoce el día de los inocentes ni lo asocia con finales de diciembre (su artículo apareció, además, el 1 de enero, y no el 28 del mes anterior o, en su defecto, el 1 de abril, equivalente anglosajón del día de los inocentes), argumenta que un diseño que combinara lo digital y lo analógico se asemejaría en comportamiento al comportamiento de la vida:

«La naturaleza usa código digital [Dyson se refiere al comportamiento, no en términos estrictos] en el almacenaje, la replicación, la recombinación y la corrección de errores en secuencias de nucleótidos, pero depende de código analógico y computación analógica para la inteligencia y el control: no hay programación, ni código. Para aquellos en busca de la auténtica inteligencia, autonomía y control entre las máquinas, el dominio de la computación analógica, y no el de la computación digital, es en el que debería interesarles.»

Un mapa topológico del futuro

Las computadoras digitales se abstraen de una representación real para poder procesar números enteros, secuencias binarias, lógica determinista, algoritmos, y un tiempo «idealizado». Por el contrario, las computadoras analógicas se sirven de números reales, lógica no determinista y funciones continuas (incluyendo el tiempo). En la computación analógica, recuerda Dyson, la complejidad no reside en el código, sino en la topología.

Al tratar de comprender las reflexiones de George Dyson en toda su extensión, podemos evocar la línea de metro de una ciudad. El funcionamiento de la computación digital nos invitaría a descifrar el mapa sobre una representación idealizada de la realidad, una construcción virtual que, al tratar de reproducir las estaciones de la red de metro según su localización real, dificulta la comprensión instantánea de los usuarios.

Por el contrario, la computación analógica equivaldría a los mapas esquemáticos que desarrollan los gestores de sistemas de metro de todo el mundo, representaciones de «información topológica» que no son geométricamente exactas (curvaturas que no coinciden, longitudes y escalas adaptadas para facilitar las proporciones y la legibilidad…), lo que paradójicamente aumenta nuestra capacidad para interpretar la información con «naturalidad». Se trata de una representación fiel de un tipo de información, una exactitud basada en las relaciones y no en la creación de un mundo que adolece de redundancias.

La computación digital es intolerante al error o las ambigüedades, además de depender de informaciones precisas; la computación analógica, por el contrario, no sólo tolera errores y ambigüedades, sino que éstos mejoran su resistencia (como ocurre con la vida).

Responsabilidad personal

Los modelos de la computación digital han dejado de ser «modelos» de conocimiento humano, argumenta Dyson, y se convierten en entidades propias, una reflexión próxima a la denuncia de Heidegger sobre un mundo técnico cuya inercia se propulsa a sí misma, y todo funciona pese a que ya nadie esté al mando. Motores de búsqueda, efectos de red y otros fenómenos dependen de algoritmos que han alcanzado este peligroso estadio de desarrollo, prescindiendo de nosotros en su gobernanza autónoma:

«Lo que había empezado como una cartografía de significados humanos define hoy el conocimiento humano, y ha empezado a controlar —más que simplemente catalogar o indexar—, el pensamiento humano. Nadie está en el puesto de control. Si un número suficiente de conductores se suscribe a un mapa en tiempo real, el tráfico es controlado, sin más modelo central que el propio tráfico. La red social popular ya no es un modelo para el grafo social, sino que se convierte en el grafo social. Esto explica que sea un juego en que el ganador se lo lleva todo. Los Gobiernos, con su lealtad a modelos y sistemas de control anticuados, se están quedando atrás.»

Seguimos imaginando —nuestro relato reconfortante necesita creerlo— que individuos o al menos algoritmos individuales diseñados por personas, se encuentran todavía a los mandos detrás del escenario, ocultos en algún sitio. George Dyson no cree que este tipo de metáforas sean ya útiles, ya que perpetúan un autoengaño.

Computadora analógica AKAT-1 (1959), diseñada por el pionero polaco en ciencia computacional Jacek Karpiński en colaboración con el ingeniero Janusz Tomaszewski

Las empresas que controlan el almacenamiento, la combinación útil (por rentable) y difusión de la información crean algoritmos que escapan a toda ética o comportamiento moldeable. Y, según Dyson, lo que debería preocuparnos no es el éxito de estas empresas, capaces de crear negocios fabulosos con la información digitalizada del mundo, sino qué ocurre cuando estas fuerzas se emancipan de facto de sus creadores, desatendiendo cualquier responsabilidad que nos debemos en tanto que humanidad.

¿Y si la respuesta de la naturaleza ante quienes trataron de controlar la naturaleza a través de máquinas programables fuera permitirnos construir máquinas cuya naturaleza esté más allá del control programable?, reflexiona Dyson.

Sea como fuere, nos adentramos en un territorio en el que la responsabilidad personal y con las comunidades a las que pertenecemos dependerá cada vez más de nuestra capacidad para señalar los estragos causados por algoritmos que anteponen su propagación a cualquier otra consideración, incluso cuando ante una ontología de lo que debería constituir la decencia humana.