“Depurar un programa es tu código forzándote a que lo entiendas.”

Este aparentemente anodino comentario del ingeniero informático e inversor Paul Graham oculta tanto significado como un buen haiku o una parábola.

Como todo sistema complejo en el universo, unas líneas de código informático, programadas en el contexto de un lenguaje y su marco (“framework”), se convierten en una unidad de información superior a la suma aleatoria de sus partes, al haber sido constituidas para alcanzar un potencial operativo.

Esta idea aparentemente sencilla diferencia a los libros con significado de los compendios que incluyen caracteres ensamblados de manera aleatoria en la biblioteca de Babel que imagina Jorge Luis Borges en su cuento.

Posibilidades de orden a partir de la aleatoriedad

Los objetos y sistemas que acumulan información en el universo logran mayor significado que el resultado que obtendríamos si los redujéramos a la suma de cada una de sus partes, un concepto que, en filosofía de la ciencia, recibe el nombre de emergentismo.

Por ejemplo, una molécula en una habitación no nos ayuda a descubrir la temperatura o el nivel de humedad en la estancia, sino que necesitamos una muestra suficiente del “sistema” (habitación).

La suma simple de caracteres en un libro, sin el orden, separaciones ni puntuación que se requieren, no logra el significado de una novela cuando ésta vuelve a la vida: cuando alguien la lee.

También existe lo que el físico teórico Carlo Rovelli llama información relativa, el concepto que nos recuerda que los sistemas de información (objetos, conceptos en informática o en nuestra mente) no son independientes de lo que les rodea, sino que incluyen información sobre el mundo más allá de ello.

Información relativa, emergentismo

La reciprocidad de los objetos y sistemas en el universo implica que cuentan con información intrínseca, sin necesidad de que un observador consciente (nosotros) aprecie esta sutilidad. Tanto el emergentismo como la información relativa son fenómenos ubicuos en la naturaleza.

Si nos centramos en la información relativa, el color de la luz en un lugar y momento determinados contiene información del objeto de luz donde ha rebotado un instante antes, del mismo modo que un virus incluye información de la célula que intentará atacar.

Debugging is your code forcing you to understand it.

— Paul Graham (@paulg) January 30, 2017

Cuando niveles de información relativa esenciales en el universo reciben una “aceleración” al ser explotados por la vida para potenciar la supervivencia, o se convierten en una idea elaborada en nuestro cerebro, un lenguaje compartido por una comunidad de hablantes, o un programa informático, esta información se convierte en “mental” –explica Carlo Rovelli-, al adquirir el peso semántico de lo que llamamos información.

Tanto el mundo físico como el mundo mental y tecnológico no se componen de entidades autárquicas, sino que conforman una tupida red de información relativa que reacciona al entorno y muta con él, donde unos tienen información del resto y a la inversa.

Naturales y artificiales; sistemas al fin y al cabo

Así, los micelios de hongos en el sotobosque, la relación de neuronas con el resto de células en el sistema nervioso de animales complejos, o el funcionamiento de entidades abstractas como Internet y los sistemas políticos del mundo, son entidades emergentes de información relativa, donde la información propia y sobre otros establece relaciones sensibles a una transformación permanente; y donde el conjunto contiene más información que la suma de las partes

Esta especie de baile de objetos en un contexto dado -y de atributos en sistemas de información complejos- que, según la física teórica contemporánea, compone lo que conocemos del universo (sin pararnos en especulaciones en boga tales como hologramas, multiverso, etc.), evoca las intuiciones de tradiciones filosóficas alejadas en la historia, como el atomismo de los epicúreos descrito por Lucrecio en De rerum natura.

Uno de los precursores de la filosofía moderna, Arthur Schopenhauer, desarrollaría el concepto de la “voluntad de vivir”, que tanto influiría en posteriormente en los existencialistas, desde Nietzsche hasta la actualidad.

En efecto, el comentario de Paul Graham (cofundador de la incubadora de empresas Y Combinator) sobre programación informática plagado de significado, puede sugerir conceptos de filosofía de la ciencia como los mencionados emergentismo e información de la vida, pero evoca también especulaciones puramente filosóficas, como la influyente “voluntad de vivir”.

Cristal, proteína, ADN: empuje para convertirse en algo superior

Para Schopenhauer, en el universo hay objetos que tratan de avanzar (desde su imperceptible situación en el universo) hacia complejidades mayores, como si en ellos hubiera una actitud de la materia precursora de lo que llamamos comportamiento o voluntad, de “convertirse”.

Con su laberíntica estructura fractal, los cristales se encuentran a medio camino del desorden mineral y de los sistemas de información cuya complejidad precede a la vida misma, como las proteínas. El siguiente paso: el ARN y el ADN, auténticos saltos cualitativos de la “voluntad de vivir” de Schopenhauer a escala microscópica.

Ocurriría algo análogo con los sistemas “mentales”, desde las ideas al lenguaje, la literatura o el diseño de software.

Volviendo al comentario de Paul Graham, si depurar una pieza de código de software se puede interpretar como la voluntad del propio código para que entendamos su propósito, el mismo razonamiento nos evoca teorías filosóficas y naturales, pues existen analogías entre la supuesta “voluntad de vivir” de los sistemas en el universo (o de lograr una complejidad que les permita progresar en significado y, quizá, propagarse en el futuro), y la evolución biológica expuesta por el biólogo y divulgador británico Richard Dawkins en El gen egoísta (1976), pues los organismos complejos evolucionan a escala genética.

Evolucionismo de lo pequeño: el gen egoísta

Dawkins atribuye con fines pedagógicos el carácter de “egoístas” a los genes, pues éstos no actúan con su propia conciencia, pero sí siguen una voluntad presente en la naturaleza, según la cual los genes que serán más replicados y heredados son aquellos más preparados para servir con su propósito: contener información antropomórfica y con los menores imprevistos -defectos- posibles.

El desorden de una piedra, la emergencia fractal de un mineral, la organización previa a la vida de una proteína y la resistente complejidad de un gen muestran, como los sistemas humanos (economía, política, tecnologías de la información), un “egoísmo” o “voluntad de vivir”.

En su entrevista póstuma concedida al semanario Der Spiegel, el filósofo alemán Martin Heidegger advertía de la aceleración de las estructuras tecnológicas y la emergencia de una cultura que se derivaba de esta “tecnicidad”, y que desarraigaba cada vez más al ser humano de su “autenticidad” (vitalismo, contacto con la naturaleza, ritmos ancestrales olvidados).

Al ser cuestionado sobre qué filosofía sustituiría a la del individuo (que él encarnaba, en tanto que existencialista influido por la fenomenología y Nietzsche), Heidegger no dudó un momento en decir: “cibernética”. Era 1961, pero el filósofo aventuraba quizá esta voluntad de mayor significación de los primeros sistemas de informática analógica, que tarde o temprano conducirían a complejidades aceleradas.

Cuando la memética engulle los modelos ilustrados

Éstas llegaron rápidamente: programación orientada a objetos, informática personal, Internet, telefonía móvil, nube computacional, big data, aprendizaje automático… y los primeros casos hacia una auténtica emergencia de una conciencia artificial. A medio plazo, acaso la singularidad tecnológica (explosión autónoma y exponencial de entidades de inteligencia artificial, superando el control y la capacidad intelectual humana).

A escala cultural, la profunda transformación ha acelerado un evolucionismo que evoca las ideas de Schopenhauer y Richard Dawkins: sustituimos “voluntad de vivir” o “gen egoísta” por “información egoísta”, y asistimos a un fenómeno que engulle nuestra dieta informativa en los últimos años: el meme.

Las unidades de cultura más propensas a la propagación usan sus huéspedes (nuestras mentes) para extenderse, puesto que compartiremos con amigos y conocidos el contenido, contribuyendo así a su voluntad intrínseca (no a la nuestra). Con la Internet ubicua, el meme ha alcanzado niveles asfixiantes y tanto medios como redes sociales se dedican a propagar contenido desprovisto de información real que, con una imagen y un pequeño texto, actúa de cebo para nuestro clic.

La memética no es el único fenómeno del evolucionismo cultural coherente con ideas y advertencias de la filosofía de la ciencia. De un modo análogo a la información relativa entre millones de impulsos nerviosos y el resto del organismo, un fenómeno que constituye la base de la conciencia, relaciones similares podrían contribuir a un nuevo tipo de conciencia artificial.

Evolucionismo y máquinas

Al principio, la “voluntad de vivir” de una conciencia artificial nos obligará a entender parte de su código para mejorarla, pero, gracias a técnicas como el aprendizaje de máquinas, buena parte de las mejoras en el código y tareas de estructuras de información de compañías como Alphabet o Facebook parten de la automejora: el propio código ha aprendido a mejorar por sí mismo.

La emergencia de distintos tipos de inteligencia artificial, incluyendo unidades de conciencia similares a la humana, constituye un reto ético y económico, ya que afectará cuestiones básicas como libertades individuales, empleo y organismos de supervisión.

Con la intención de avanzarse a una posible regulación forzada cuando los avances en inteligencia artificial fueran inminentes y conquistaran distintos ámbitos, la propia industria tecnológica pretende seguir la estrategia de la autorregulación, con iniciativas como OpenAI: este organismo sin ánimo de lucro con sede en California es partidario de que la inteligencia artificial se desarrolle con código abierto.

Según OpenAI, una inteligencia artificial de código abierto aceleraría su uso y evolución, y protegería a la vez a la humanidad de los peligros que pudieran emerger… Sin descartar la autoemancipación de entidades de inteligencia artificial, siguiendo con el argumento que enlaza los conceptos de emergentismo, voluntad de vivir o evolucionismo de entidades complejas de información.

Vigilancia de totalitarismos (en humanos y máquinas)

Las opciones políticas que, sin escrúpulos, proponen soluciones fáciles a problemas complejos, logrando un rédito electoral instantáneo entre quienes se sienten más vulnerables, coinciden en propuestas como el proteccionismo y el aislacionismo, al dar crédito al relato simplista de que se pueden recuperar niveles de empleo de otras épocas reabriendo fábricas.

Esta retórica política, ya presente en los países avanzados en los experimentos totalitarios de la primera mitad del siglo XX, olvida que la robótica y los algoritmos han cambiado para siempre la industria, y apenas un puñado de sectores mantienen sistemas industriales derivados del fordismo y el toyotismo (incluyendo, de momento, una industria del automóvil cada vez más robotizada).

La inteligencia artificial no hará más que acelerar este proceso, con una consecuencia: se requerirán menos trabajadores y con mayores conocimientos, mientras otros empleos menos estratégicos aprovecharán la abundancia de solicitantes de empleo para mantener los sueldos a la baja.

Los retos éticos de la inteligencia artificial se acumulan en todos los flancos, y el ascenso de Theresa May y Donald Trump al gobierno de Reino Unido y Estados Unidos complica más la situación.

¿Puede el mundo confiar en los datos y estadísticas que estos dos ejecutivos compartirán con la opinión pública? ¿Demandarán ambos países códigos éticos exigentes para evitar estructuras que ponen en riesgo a ciudadanos de otros países y a sus gobiernos?

De vuelta a la casilla de salida: evocando el ludismo

Entre los retos y riesgos presentados por la “voluntad de vivir” de la inteligencia artificial, Julia Bossmann del Foresight Institute menciona:

• desempleo: la automatización impacta sobre prácticamente todos los sectores, y el cambio se acelera (como también ocurrió en el sector agrario durante la mecanización de inicios del siglo XX);
• desigualdad: las posiciones más demandadas, apenas una fracción del total de ofertas aumentan su retribución, mientras se reduce el resto del mercado laboral;
• deshumanización de las relaciones sociales y laborales;
• estupidez artificial (cómo afrontar errores cometidos por máquinas y cómo depurar responsabilidades): se estima que, sólo en 2016, 250 millones de registros de base de datos fueron vulnerables a ataques por fallos básicos;
• comportamientos sin ética o moral basadas en los valores humanistas universales: racismo, principio de asistencia a necesitados, cuestiones humanitarias, etc.;
• seguridad: utilización ilícita y contra las personas de sistemas de IA, potencial intromisión de terceros (empresas, países, crimen organizado, etc.);
• emergentismo: qué ocurre con las consecuencias inesperadas;
• singularidad tecnológica: hacia The Matrix;
• derechos de las entidades de inteligencia artificial: ¿una declaración de derechos y deberes de los robots y algoritmos?

Desde el reduccionismo de los utilitaristas, un trabajador europeo o estadounidense es más costoso que un trabajador chino, que es a su vez más caro que un trabajador de Bangladesh, etc.

Lo que incluso Trump y sus nuevos amigos nativistas aprenderán a la larga es que una máquina es menos costosa y compleja de atender que cualquier trabajador del mundo, sea cual fuere su situación, formación y nivel de productividad.

Flautistas

Una vez quienes han soñado con un líder fuerte que solucione sus problemas existenciales en su lugar, los votantes de salvapatrias como Trump deberán, como el resto, prepararse para un futuro en que trabajo, retribución relaciones y entretenimiento adquirirán un nuevo sentido.

Debemos asegurarnos de que los esbirros de los totalitarios no bloquean una discusión sobre el futuro de la tecnología y la robótica que debe incluirnos a todos.

Será más difícil hacer comprender que la auténtica libertad implica unos mínimos niveles de corresponsabilidad y proyecto común entre todos los rincones del planeta.

Eso sí, cuando se invoca la responsabilidad individual, la gente olvida su supuesta libertad de conciencia y a menudo opta por delegar el peso de su responsabilidad compartida en el primer cantamañanas que le promete las siete ciudades de Cíbola sin levantarse del sillón.

A la larga, tendremos que aprender que, si no establecemos límites, será el software (y quienes lo controlan con fines utilitaristas, prescindiendo de la ética desarrollada desde la Ilustración) quien lo haga por nosotros.

Un CRISPR para la información

Entonces, cuando seamos apenas un huésped de los algoritmos, sólo nos quedará leer los clásicos de la literatura distópica como si, en realidad, se tratara ensayos de actualidad.

La información se comporta con el egoísmo de los genes. Desarrollemos una técnica de edición de posibles virus y mutaciones para que se reproduzca lo que nos interesa, y no lo que interesa a los algoritmos (y a oscuros survivalistas que han logrado la nacionalidad neozelandesa para retirarse a las antípodas cuando Occidente se vaya al carajo).

Algo así como un CRISPR de los sistemas de información.