Pasquinelli: Pensar la «IA» como relación social

Pasquinelli: Pensar la «IA» como relación social

José Pérez de Lama / 02-03/01/25

Unos comentarios sobre el libro de Matteo Pasquinelli, 2023, The Eye of the Master. A Social History of Artificial Intelligence, Verso, Londres Nueva York

______

En la elogiosa recomendación que aparece en la contraportada del libro, Sandro Mezzadra escribe lo siguiente: «Estamos rodeados de historias sobre la IA amenazando los puestos de trabajo, como si fuera un poder mágico sobrevolando el trabajo desde fuera o desde arriba. El Eye of the Master cambia radicalmente esta visión. Matteo Pasquinelli demuestra que el trabajo está en la raíz del desarrollo histórico de la IA. Historias de expropiación y resistencia, automatización y lucha se entrecruzan en las páginas de este apasionado libro, que es a la vez un impresionante logro académico y un arma política para repensar las políticas de la IA.»

Una de las cosas enojosas de la emergente «IA» (Inteligencia Artificial, como todos sabemos ya a estas alturas — lo voy a poner entre comillas de momento) es que su complejidad y sobre todo su propaganda, combinada con su creciente omnipresencia, nos hacen sentir a todxs un poco ignorantes e indefensos en el caso de que quisiéramos resistir. Algo que Iván Illich ya nos decía sobre la estrategia política de las ciencias y las tecnologías modernas…

Tras superar una cierta pereza, me puse a tratar de seguir los artículos y algunos debates recientes sobre el asunto, en especial en Mastodon, la plataforma federada alternativa al antiguo Tuiter, donde existe bastante interés y preocupación por el asunto. También he tratado de seguir las aplicaciones de la «IA», digamos que, para optimizar el genocidio de los palestinos por parte de los sionistas con el apoyo de las inefables Big Tech globales [post anterior en este mismo blog, al final: https://arquicontable.nam42.cc/recartografiando-gaza-catorce-anos-despues-necropolitica-y-resistencias/ ].

Entre los textos sobre el tema que más me han interesado últimamente destacan el de Timnit Gebru con Émil P. Torres titulado The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence [enlace: https://firstmonday.org/ojs/index.php/fm/article/view/13636 ]. Gebru es una célebre joven investigadora en «IA» que fue colíder del Ethical Artificial Intelligence Team (sic) de Google, y que dejó el cargo debido a sus críticas a los trabajos de la compañía en el campo de la «IA» — más o menos [enlace a la página sobre Gebru en Wikipedia: https://en.wikipedia.org/wiki/Timnit_Gebru ].

El otro texto es un libro editado por Verso cuyo autor es el viejo conocido — para algunos — Matteo Pasquinelli, pensador, profesor y activista «posoperaísta», que fuera joven colaborador de Franco Berardi Bifo, aunque parece que desde hace ya un tiempo esa relación dejó de estar activa. El libro de Pasquinelli se titula The Eye of the Master. A Social History of Artificial Intelligence. Comento a continuación acerca de este libro.

Como valoración general me parece un libro de enorme interés. Su principal aportación, a mi juicio, es hacer una crítica desde la economía política — con una perspectiva «posoperaísta» — de la «IA» y la cuestión de la automatización del trabajo como elemento clave para su análisis (p. 11). Existen múltiples críticas de la «IA» pero ésta me pareció en cierto sentido nueva y fundamental.

En adelante intentaré escribir — en lugar del platónico «IA» — «inteligencias artificiales», en minúsculas y en plural, de la misma manera que muchos preferimos hablar de ciencias en lugar de hablar de la Ciencia como se usa bastante habitualmente (véanse por ejemplo las críticas de Latour).

El libro de Pasquinelli presenta varios argumentos entrelazados, unos desarrollados en mayor profundidad y otros con más apresuramiento. Y como dice alguna colega, en cuanto historia — él dice en el texto que sería una historia tecno-social, en contraste con el título que dice sólo historia social — es bastante parcial. Quizás sería más ajustado describirlo como una colección de episodios arqueológicos o genealógicos — de relevancia, eso sí que me lo parecen. Aquí me centraré sobre todo en lo que considero el principal argumento, que corresponde a la primera parte del libro y que acabo de releer con bastante atención.

Al principio del texto, Pasquinelli hace efectivamente un breve estado de la cuestión de lo que llama Critical AI Studies, de bastante interés para los no especialistas como yo (pp. 10-13). Allí desgrana someramente las diferentes aproximaciones críticas a las que aludía previamente. Por un lado estarían los estudios sobre los sesgos característicos de las inteligencias artificiales — cuando se usan por ejemplo para la selección laboral o se aplican al control de la criminalidad — sesgos que son típicamente los de la cultura blanca masculina frente a todo tipo de minorías. También estarían las críticas sobre el uso de ghost workers, esto es, la explotación directa de trabajadores relativamente poco cualificados en las partes poco visibles de los procesos, y la crítica ecológica del enorme consumo de recursos materiales y energéticos. Y críticas más filosóficas como las de la «epistemología histórica» (etiqueta del autor) «preocupada por el despliegue dialéctico de la praxis social, los instrumentos de trabajo y las abstracciones científicas dentro de las dinámicas de la economía global». O la «epistemología política» cuyos autores y autoras «han explicado el surgimiento de la racionalidad moderna y el pensamiento mecánico (al que también pertenece la «IA») en relación con la transformación del cuerpo femenino y el cuerpo colectivo en general en una máquina dócil y productiva» (p. 13). (Sirvan estas citas literales para hacernos una idea del lenguaje usado por el autor.)

Si la hipótesis principal de la primera parte del libro es que las máquinas en general y la IA más en particular automatizan y capturan los resultados de la división social del trabajo, esto es, del trabajo y el conocimiento colectivos, la hipótesis de la segunda parte es que la «IA» según se entiende actualmente tiene su origen en la automatización del conocimiento como pattern recognition, como reconocimiento de patrones, basado en el paradigma de las redes neuronales artificiales, que tendría su origen en la automatización de la percepción y la atención (p. 14). En este comentario me centraré en la primera parte que me parece de momento más relevante. La segunda, ilustraría hasta cierto punto, la hipótesis de la primera en las condiciones de la emergencia de la «IA».

______

Los principios de Babbage sobre la máquina-trabajo

El argumento desarrollado en la primera parte es bastante prolijo, y en ocasiones académico y/o muy dirigido al interno de los debates posoperaístas (el general intellect según Marx, el trabajo abstracto y cosas así). Me limitaré a tratar de introducirlo en torno a tres o cuatro enunciados de Pasquinelli.

El primero sería el de los dos principios de Charles Babbage (1791-1871) sobre las máquinas y la automatización. Como quizás recordarán algunos, Babbage es una de los «héroes» en las historias oficiales sobre la invención de los ordenadores, que concibió dos proto-ordenadores en torno a 1830 en Inglaterra, el Difference Engine (1822-1831) y el Analytical Engine (engine, que significa etimológicamente ingenio o dispositivo, significa también motor). Los nombres tienen que ver con el interés de la época por el cálculo (diferencial) y el «análisis» que era el nombre que recibía ese, entonces nuevo, tipo de matemáticas. El DE era un dispositivo mecánico que trataba de usar la máquina de vapor para automatizar los procedimientos de cálculo de logaritmos que se hacían a mano por un gran número de personas — «computadores humanos» eran el nombre que recibían — según el sistema desarrollado en Francia por Gaspard de Prony. Otra de las circunstancias de celebridad de Babbage es su amistad con Ada Lovelace a quien se suele atribuir la invención del concepto de software (ella lo llamó «diagrama»), que desarrolló pensando en las posibles aplicaciones del AE. Pasquinelli argumenta que a pesar de su fama de matemático y científico algo excéntrico — no llegó a hacer que sus máquinas funcionaran, sobre todo la segunda — el aspecto más destacado de su trabajo era la economía política y sus reflexiones sobre el papel de las máquinas en el entonces emergente capitalismo. En este sentido destaca Pasquinelli su obra On the Economy of Machinery and Manufactures (1832 / Sobre la economía de la maquinaria y las manufacturas), ampliamente leída en su época, citada incluso por Marx en El capital. Presenta allí sus dos principios sobre las máquinas y el análisis del trabajo, que Pasquinelli describe del siguiente modo:

«(1) la teoría de la máquina-trabajo [Labor theory of the machine], que afirma que una nueva máquina viene a imitar y sustituir una división del trabajo previa; y (2) el principio del cálculo del trabajo (habitualmente llamado principio de Babbage), que afirma que la división del trabajo permite calcular y adquirir la cantidad exacta de trabajo necesario» (Pasquinelli, pp. 61-62).

Pasquinelli cita al propio Babbage explicando un poco más el primero de sus principios:

«Quizás el principio más importante del que depende la economía de un fabricante sea el de la división del trabajo entre las personas que lo llevan a cabo […] La división del trabajo sugiere la composición de herramientas y máquinas para ejecutar el proceso […] Cuando cada proceso es reducido al uso de herramientas simples, la unión de todas estas herramientas, movidas por un único motor, constituye la máquina» (p. 62).

A partir de ahí las hipótesis de Pasquinelli son las siguientes. Que la división del trabajo es una forma de conocimiento derivada del trabajo, de un trabajo que es siempre manual-e-intelectual y de carácter social. Que el paso que dio Babbage con sus engines era el de tratar de automatizar no ya el trabajo convencionalmente manual como habían hecho las primeras máquinas sino un trabajo más intelectual o mental como era el caso del cálculo que era llevado a cabo por las «computadoras humanas». Además, que las inteligencias artificiales contemporáneas consisten en una clase parecida de apropiación del trabajo intelectual y social. Que la automatización de este tipo de trabajo también supone la posibilidad del cálculo del valor que produce (segundo principio de Babbage) y que por tanto está en estrecha relación con el business plan del capitalista, el «plan de negocio».

Pasquinelli dedica bastante esfuerzo en el libro a tratar de demostrar en especial la primera de las ideas, que el trabajo es siempre intelectual y social, y que la división del trabajo sería un tipo de análisis del trabajo que lo convierte en una suerte de conocimiento o inteligencia que sería la que se incorpora en la maquinaria. Lo hace para mí convincentemente. Recurre a diversas fuentes, entre otras, Peter Damerow y otros pensadores contemporáneos de la escuela alemana, William Thompson (también leído por Marx) y Thomas Hodgskin «economistas ricardianos» y socialistas coetáneos de Babbage, el propio Marx, Romano Alquati sociólogo italiano de los años 60, investigador de la Olivetti y estudiosos actuales de Babbage como Simon Schaffer y otros.

Señalaría que la relación entre trabajo (experiencia) y conocimiento en la línea descrita por Pasquinelli, por ejemplo en Damerow, la analiza de forma muy potente y con gran claridad John Dewey, desde su perspectiva pragmatista y su filosofía de la experiencia (ver por ejemplo cómo se describe en Fesmire, 2015, Dewey).

El discurso sobre el trabajo abstracto — y también la energía, el espacio y el tiempo abstractos — que introducen las máquinas y el capitalismo en el proceso de producción me recordó mucho los interesantes escritos de McKenzie Wark en los que identifica a la «clase hacker» como aquella capaz de producir las abstracciones características de la economía y la cultura digital (pueden verse A Hacker Manifesto, 2004, y Capital is Dead, 2019).

La máquina es una relación social y el fetichismo de la «IA»

Para acabar este sucinto comentario, dos enunciados adicionales de Pasquinelli. El primer dice que «La máquina es una relación social, no una cosa» (p. 119). Esta paráfrasis de Marx hablando del capital y también de la mercancía, parece una clave fundamental para pensar críticamente sobre las inteligencias artificiales hoy. Pensar en la mercancía como una cosa en lugar de como una relación social, Marx lo asocia muy al principio del Capital a lo que llama el fetichismo de la mercancía, una percepción mistificada de la realidad, que oculta e impide ver las relaciones de poder y explotación en que se basa el capitalismo. Algo parecido podríamos hablar hoy del fetichismo de las inteligencias artificiales.

Me gusta ir comentando en Mastodon (antes en Tuiter) las cosas que voy pensando y que luego recojo en algún post como éste. Acerca de las máquinas como relación social y del fetichismo, Eugenio Tisselli me comentaba allí lo siguiente: «Capital y máquinas son ambos relaciones sociales grandemente asimétricas. Pero además, la máquina es también una relación ecológica. [Además, p]ienso que es importante no olvidar tampoco el carácter de cosa de las máquinas y desenmascarar el fetichismo como forma de dominación, y no como deseo material».

El segundo de los enunciados es: «[T]oda innovación tecnológica materializa las relaciones de poder y los antagonismos de clase de un momento histórico dado y por esta razón debe estar en el foco de nuestro estudio: “El capital es siempre trabajo social acumulado, la máquina es siempre trabajo social materializado. Obviamente. Cada ‘nueva máquina’, cada innovación expresa el nivel general y las características de las relaciones de poder entre clases en ese momento” (Alquati) (p. 129).

Esta idea de la relación social y de la materialización de un proyecto de poder y reflejo de los antagonismos del momento creo que se pueden leer también en el artículo de Gebru y Torres que mencionaba al inicio, que se centra en el sueño-pesadilla de la «IA-General» como expresión de la ideología del grupo social de los llamados tech-bros, que podríamos imaginar como los equivalentes a los robber-barons de la época de Marx.

______