Publicado por la editorial Caja Negra en 2020, Eric Sadin, nos presenta La inteligencia artificial o el desafío del siglo. Una obra en donde realiza un fuerte cuestionamiento al actual desarrollo de la IA, señalándolo como una amenaza para la humanidad y sus instituciones. ¿Cuáles son los riesgos de delegar en las máquinas aspectos inherentes al quehacer humano? ¿Está la democracia liberal amenazada por una tecno-ideología? ¿Nos gobierna un Leviatán algorítmico? Estas y otras preguntas son las que va a intentar responder el autor del libro en cuestión.
Reconocido por sus críticas filosas a los distintos fetiches de la tecnología digital y la IA, Eric Sadin es una de las personalidades más destacadas y renombradas entre los que estudian las relaciones entre tecnología y sociedad. Sus trabajos y escritos se han concentrado en el intento de armar un diagnóstico de la contemporaneidad y sus prácticas en función del impacto que los artefactos tecnológicos producen en la humanidad. Siendo este el más político de sus últimos libros, el autor intenta sentar las bases de una ética contra la inteligencia artificial o ética de la responsabilidad y a la vez advertirnos del riesgo de delegar nuestra capacidad de raciocinio a una computadora presuponiendo un natural “orden algorítmico de las cosas”.
El tecno-logos
Para Sadin las tecnologías digitales han producido un cambio muy profundo en nuestra forma de percibir la realidad. Específicamente lo que plantea es que con el desarrollo de los sistema computacionales, fuimos desplazando nuestro criterio de evaluación y diagnóstico a los softwares, dotándolos de “una singular y perturbadora vocación: la de enunciar la verdad” [1].
De la misma forma que la antigua palabra griega logos era utilizada para referirse a la razón, palabra o sentido hoy, para el autor, vivimos en una era donde rige el tecnó-logos. Por primera vez en la historia de nuestra especie dotamos a los artefactos del poder de enunciar, más rápido y mejor, el supuesto estado de las cosas. Según Sadin este poder constituye la primera característica de lo que él llama “inteligencia artificial” y que además determina todas las funciones que le son asignadas. Esto es muy interesante porque a partir de este momento “las ciencias algorítmicas” toman un camino antropomórfico que busca atribuir a los procesadores cualidades humanas, de poder evaluar situaciones y sacar conclusiones de ellas. Para el autor entramos literalmente a “la era antropomórfica de la ciencia”.
La IA rodea nuestra existencia bajo muchas formas que van desde dispositivos computacionales (smartphones, chatbots, GPS, etc.) conectados a los seres y las cosas del mundo (voces, textos, automóviles en movimiento, etc.), los que a su vez son reducidos a expresiones matemáticas-binarias que facilitan su administración algorítmica. Se dice “inteligente” porque sus partes intentan imitar algún aspecto de la inteligencia humana (determinar la mejor oferta de zapatillas en todo el mercado del calzado o la ruta automovilística más corta para llegar a casa, por ejemplo) pero esto no deja de ser una mera reducción, ya que no hace más que seccionar una parte de la inteligencia humana y la maximiza. En ese sentido la IA es la vanguardia de punta de lo que Sadin llama “tecnologías de lo exponencial”. La IA es un recorte de la inteligencia humana maximizada, recorte que está lejos de poder pensar (de conjunto) como una persona. Pero se le dio la autoridad para que su diagnóstico se considere como verdadero.
Lo digital surge como una forma de peritar “lo real” de una forma más fiable que nosotros mismos. Esto se puede apreciar cotidianamente en los buscadores de internet, en la medicina, en la administración financiera que además autoriza créditos personales, las redes sociales, en las aplicaciones de GPS y hasta en la justicia por medio de fallos y video vigilancia. Y es en ese sentido que “Toma forma un estatuto antropológico y ontológico inédito que ve como la figura humana se somete a las ecuaciones de sus propios artefactos con el objetivo prioritario de responder a intereses privados y de instaurar una organización de la sociedad en función de criterios principalmente utilitaristas” [2].
Criterios utilitaristas que sutilmente se fueron instaurando en nuestro sentido común cotidiano hasta convertirse en una nueva doxa (opinión) acrítica de los beneficios de la “revolución digital”. Una revolución que terminó volviendo a poner en el horizonte “la ideología del progreso” que finalizará con el advenimiento de un régimen acabado de perfección.
Ahora bien, hay que decir que los artefactos (de cualquier tipo) no son derivados de ningún orden natural de las cosas, sino que son el producto de la acción humana y que interfieren en los asuntos de los humanos. Para Sadin IA no es diferente, no hay ningún camino inevitable que haya llevado a la IA a convertirse en la prótesis de nuestras elecciones, sino que hay un criterio (político) utilitario de maximización exponencial en las decisiones que relegó el tiempo humano de la comprensión y la reflexión.
La mano invisible automatizada
Como resaltamos más arriba, según Sadin, la tecnología y sus diferentes manifestaciones en la forma de artefactos son fruto de una ideología. Dicha ideología no nace de un repollo, sino que tiene un origen específico. En el caso de la “interpretación robotizada” de la realidad, surge de lo que Sadin definió como “una fantasía tecnocientífica que data de la posguerra y se ha convertido hoy en un axioma económico y antropológico que pretende construir una gobernanza indefinidamente dinámica y sin fallas de los asuntos humanos”. Si bien Alan Turing inventó la primera computadora de análisis y cálculo (que permitió a los aliados codificar la información encriptada de los nazis y su máquina Enigma), el objetivo era acumular información para guiar al usuario a la mejor opción. A partir de la Guerra Fría y la amenaza de los misiles nucleare, los sistemas de defensa pasaron a indicar directamente qué acción se debía llevar a cabo.
Para Sadin en la misma forma que los economistas clásicos, como Adam Smith, apelaron a una metáfora fantástica para justificar determinados fenómenos del capitalismo en el siglo XIX (el ejemplo más conocido es la mano invisible que regula los mercados) hoy vivimos en un mundo que nos quiere vender el concepto de que una “mano invisible automatizada” es la responsable de la robotización y automatización del mundo contemporáneo, como si no hubiese interés políticos y económicos que lo estuvieran desarrollando e imponiendo. Los dos ejemplos técnicos que toma Sadin como paradigmáticos para ilustrar esto son los “drones de combate” y el “brazalete de Amazon”. Un artefacto puede matar con precisión a kilómetros de distancia, el otro puede controlar milimétricamente los movimientos de un obrero en un depósito, también a kilómetros de distancia.
El escenario que se abre para Sadin frente a este tipo de nuevas situaciones es un conflicto de racionalidades ya que un tipo de racionalidad técnica como es el tecno-logos apunta a instaurar modos de existencia cada vez más sometidos a esquemas racionales que favorecen el apogeo de estructuras asimétricas de poder.
El mito originario
El fundamento principal que tiene la racionalidad técnica para justificar su supremacía radica en un mito muy antiguo, conocido como la neutralidad de la técnica que por cierto predomina desde el momento en que dicho axioma ideológicamente orientado permite hacer abstracción de los intereses en juego y de las intenciones de todo tipo que se materializaron en sus dispositivos.
Este mito de la neutralidad de la técnica, nos dice Sadin, también toma forma en la imagen mesiánica de los “emprendedores visionarios” que impulsaron la informática moderna. Personajes como Steve Jobs, Bill Gates, Mark Zuckenberg o Elon Musk son presentados a la población por medio de sus autobiografías como seres iluminados, tocados por la “mano invisible” de la inspiración, presentando sus productos como fruto de su fervor creativo individual y revistiéndolos de una “inocencia virginal” lejos de cualquier responsabilidad por el mal uso de sus productos. Pero la única realidad es que hay que ser muy ingenuo para creer que el surgimiento de la PC (Steve Jobs) se debió a la iniciativa de un joven en la cochera de sus padres que con una soldadora de estaño en una mano y una plaqueta en la otra. En el relato oficial se ocultan los intereses económicos que dictaron la trayectoria de las investigaciones en ese sector, las características y la naturaleza del complejo tecnocientífico californiano y estadounidense de la época, o las luchas industriales que comenzaron a enfrentar los diferentes fabricantes de PC. Pensar eso sería como afirmar que la revolución industrial del siglo XVIII en Inglaterra surgió porque un carpintero inglés llamado James Hargreaves inventó la primera máquina hiladora (La Jenny) en 1764.
Pero volviendo a la informática, podemos afirmar que la vocación original de la misma era crear un instrumento para aumentar el control en la administración de las cosas. En ese mismo sentido, Sadin ve que en la digitalización creciente de la sociedad también se le suma el de la digitalización de las administraciones, hoy capaces de recolectar directamente los datos, de tratarlos y de ofrecer nuevos usos de aquí en adelante; por lo tanto, lo que estaríamos viviendo sería también la “transformación digital del Estado”: el “Estado se piensa de ahora en más como una “plataforma” [3].
La IA representa antes que nada un poder dinámico de organización, lo que muy pronto supo capturar al mundo de las empresas, mientras que también es un poder dinámico de gobernanza. Se está imponiendo un nuevo modelo de sociedad. Estaría dotada de poderes homeostáticos, pretende permitir a todos salir ganando y estaría manejada por sistemas en un número cada vez más extenso de sus engranajes. En esa dirección, Sadin ve en el Neoliberalismo una ideología rabiosamente individualista que reduce toda forma de vida a las “lógicas orgánicas del mercado”. Como “ya lo había afirmado Margaret Thatcher en su época: ‘La sociedad no existe’” [4].
Para Sadin el potencial aletheico de la IA llegó en un momento de avanzada del neoliberalismo a nivel global que produjo grandes crisis políticas y económicas que luego devinieron en crisis de representatividad. “En nuestro período confuso, quisiéramos que la inteligencia artificial, consciente o inconscientemente, se ocupara de resolver gran cantidad de nuestras dificultades. Cuanto más ingobernable es la sociedad, más pretendemos otorgar a una tecnología el cuidado de gobernar nuestras existencias” [5].
Según Eric Sadin “Fukuyama se equivocó”, el fin de la historia no habría surgido de la caída del Muro de Berlín en 1989 y del triunfo planetario del liberalismo político y económico, no. El fin de la historia se consumará hoy en favor de la generalización del uso de la inteligencia artificial. El fin de la voluntad que define nuestras existencias. Un nuevo régimen de la verdad blindado por fakenews y posverdad estaría emergiendo.
La “i” del Phone y su giro antropológico
Según el autor, actualmente entramos a una era de “posprogramación”, en el sentido de que el orden y el funcionamiento de los dispositivos electrónicos ya no están condicionados por un lenguaje de programación específico sino que lo condiciona a propia interacción con el mismo. La “i” del iPhone presupone la fusión del Individuo en la máquina, desde los sistema operativos amigables hasta el mouse que nos permite desplazarnos por la pantalla, son prótesis informáticas que generalizan la interfaz táctil instaurando una relación basada en una mayor cercanía.
Para Eric Sadin la IA no representa solamente una tecnología más, sino que literalmente encarna una “tecno-ideología”. Una ideología que “permite que se confundan los procesos cerebrales y las lógicas económicas y sociales que tienen como base común su impulso vitalista y su estructura conexionista altamente dinámica” [6].
El neoliberalismo y su individualismo fomentaron la atomización del sujeto humano a su expresión más mínima, su cerebro. La época actual ya no hace eje en el sujeto en sí, en el ciudadano, sino en la mínima expresión de una persona como son sus impulsos y reacciones cerebrales. El “tecno-liberalismo” convirtió al cerebro humano en el fetiche de la comprensión y demostración de la realidad. Sin ir muy lejos, varias disciplinas actuales han agregado el prefijo “neuro” a su campo para darle un lustre científico (verdadero). Llegamos a hablar de “neuromanagement”, de “neuropolítica”, o incluso de “neuroeducación”. Toda una fascinación por la “plasticidad cerebral” que presupone un orden natural de las cosas que se ve reflejado en su uso aplicado: educación, defensa, administración, justicia, etc. Para Sadin, literalmente el “cerebro” se convirtió en la nueva “mónada humana” [7].
Para Sadin, actualmente el tecno-logos está creando un “nuevo régimen de verdad”. Pero volvemos a caer en la ya clásica y conocida pregunta filosófica ¿Qué es la verdad? En ese sentido, para el autor Occidente ha atravesado varios estadios de lo que se entiende por verdad o episteme a lo largo de su historia. Surgió la verdad revelada con el monoteísmo. Después pasó por el Platonismo y su sana desconfianza a las sombras de las cavernas. Luego Aristóteles nos dio una primera definición de la verdad al plantear la “adecuación con lo real”. Tomas de Aquino problematizó la dualidad de la verdad y su acceso a ella a partir de distinguir lo espiritual de lo racional. Descartes en el siglo XVIII proclamó la certidumbre del cogito por la prueba del método y las cadenas de razonamiento. Nietzsche, identificó el principio de la verdad en relación al respeto obligado de la moral. Y finalmente cierra el desarrollo del concepto de verdad con la definición de Michel Foucault y su teoría de los “juegos de verdad” en donde el poder se encuentra en la posesión del saber.
Según Sadin, “nunca” un régimen de verdad se había impuesto de esta manera en la historia., Y no por su fuerza de seducción o por su influjo coactivo, sino por la producción de adecuaciones que damos por sentado que son las más apropiadas. Hay un poder de revelación que promete ejercer su ingenio desde el menor detalle de nuestra existencia hasta las situaciones colectivas como ninguna otra instancia tutelar simbólica lo había podido hacer hasta ahora.
Lo que se quiere presentar en el libro no es un desacuerdo con las herramientas, sino con respecto al espíritu de la técnica que está predominando y que alimenta un tipo específico de racionalidad: una razón instrumental extrema. En ese mismo sentido lo que Eric Sadin busca denunciar o alertar es que hoy hay un cambio en el estatuto de la noción de poder, literalmente entramos a una Controlcracia: No es el miedo al Leviatán hobbesiano lo que controla a la sociedad moderna. Tampoco los dispositivos de control foucaultianos, ya que no se trata de vigilar sino de conmover en los comportamientos. “Hoy pasamos del estado de la individualización, que caracteriza en gran parte a la modernidad en la posguerra, al estadio de la penetración de los cuerpos y las cosas” [8].
Para Sadin se pone menos énfasis en la justicia y más en los mecanismos de control en la forma de la administración automatizada. Hay menos control estatal y más “monitoreo algorítmico”, por medio de los datos cruzados gracias al Big Data. Para el autor, literalmente hoy vivimos a través de tecnologías de la administración de la vida y la previsión. Pasamos del “fetichismo de mercancía” al “fetichismo de instante mejor gobernado”. No hay “poshumanidad” sino humanidad materializada, incubada y teleguiada desde servidores.
La “Doxa” técnica o el gobierno de los números
Con la llegada del neoliberalismo, a comienzos de la década ochenta, el fenómeno doble de la presión de la competencia y de la flexibilización de los códigos del trabajo favoreció un principio que después se generalizó muy rápidamente: hacer externas ciertas actividades. Nace la tercerización con el objetivo de reducir costos. “Estos métodos se vieron facilitados por la digitalización de los registros contables relativos al funcionamiento de los tercerizados que permitieran tener una visión detallada de sus prácticas” [9]. La IA procede en sí misma mediante comparaciones. Su base descansa en la codificación binaria que recorta los elementos en unidades mínimas.
Para Sadin, en el mundo de la ideología “Tecno-liberal”, la equivalencia se vuelve un fetiche. La naturaleza de una tecnología basada en el cálculo comparativo se confunde con un objetivo económico que pretende poner en comparación cualquier cosa con cualquier otra, a fin de hacer intervenir permanentemente un criterio de competencia y de extraer en cada operación, el margen de beneficio más amplio. Vemos cómo los sistemas proceden a la medición de los desempeños del personal a través del seguimiento del uso de sus computadoras para registrar todo gesto y movimiento, lo que permite que se establezcan cartografías granulares y evolutivas. El management actual determina cada vez más objetivos a corto plazo firmando en general contratos cada vez más precarios que cuando llegan a término, serán objeto de nuevas licitaciones que presentarán a las agencias de empleo para volver a comparar a los individuos y seleccionarlos para nuevas tareas temporales.
Los individuos deben ser movilizables en todo momento y, cuando llega el momento, deben movilizarse ellos mismos para realizar los objetivos que se les asignan. Surge un beneficio de la intercambiabilidad continua de los seres. A cada uno de nosotros se le asigna una suerte de “rating” y trabaja, le guste o no, consciente o inconscientemente, para hacer subir este rating y entonces capitalizarlo. Según el autor somos como una “mónada nómade”.
Para Sadin entramos a una era de la antropología de lo comparativo y como consecuencia llegamos al clímax de una relación utilitarista con lo real. Sadin afirma que vivimos en el mundo ideal que Jeremy Bentham (creador de la estructura de vigilancia panóptica que luego Foucault analizó en su libro Vigilar y Castigar) pensó para nosotros: un mundo en donde la utilidad prevalece antes que cualquier otra consideración. “El dogma de la ‘mano invisible’ que hoy habría alcanzado un estadio automatizado, toma ahora la forma de una verdad instituida. Trabajaría perpetuamente para el interés de todos y cada uno de nosotros, y nos haría entrar en el mejor de los mundos posibles o en un ‘paraíso artificial’ llamado a imponerse a todo instante.” [10]. Un “paraíso artificial” garantizado por algoritmos y artefactos ideológicamente “neutrales”.
A modo de cierre
Para Eric Sadin, la humanidad se encuentra teledirigida y no es consciente de eso. En ese sentido lo que propone es la elaboración de una teoría crítica sobre internet: “No, no necesitamos ‘pensadores de Internet’ sino un pensamiento sobre la digitalización del mundo, su automatización a largo plazo total, y todas sus consecuencias en nuestra existencias. Pero probablemente estemos alcanzando en este punto una suerte de techo de cristal de la conciencia ‘crítica’ predominante” [11].
Es por ese camino que Sadin considera que se puede revertir la situación, creando una “ética de la responsabilidad que se preocupe por el modo en el cual nuestros principios, los fundamentos de nuestra humanidad y nuestra civilización, están en vías de ser erradicados” [12].
Para Sadin, la salida “racional” a esta tecno-encerrona que se despliega sobre la sociedad es una “ética”, pero de la acción que se movilice en las calles por “defender la preservación de nuestros datos personales y a recurrir sin descanso a la ‘ética’” [13]. Según él “No hay que apelar a una ‘convergencia de luchas’ sino a una simultaneidad de operaciones llevadas adelante en los múltiples lugares donde deban ocurrir e inspiradas por principios comunes” [14]. La pregunta del millón sería como hay que hacer para que surjan esas “múltiples operaciones” y que lleguen a cumplir su objetivo civilizatorio. Bueno, la respuesta que nos ofrece Sadin es más confusa que esclarecedora ya que apela a un tipo de organización clandestina de corte anarquista fundada en Francia por el año 2000 llamados el “Comité Invisible” los cuales predicen un colapso del capitalismo que fomentará “el motín organizado” [¡!] [15]. Esto es muy llamativo, viniendo de un pensador que llama a “no coordinar luchas” o que directamente llama a no hacer huelga y protestar como “neoluddista” [16]. Al final del libro aparece lo que Sadin propone como modelo de organización política para comenzar esta resistencia ética; esos serían los “Grupos de información de las prisiones” como los que creó Michel Foucault en 1971. Su idea es organizar una intolerancia activa que permita “zonas a defender” para hacer intervenir a la “jurisprudencia cuando lo juzguemos necesario” [17]. Todo el análisis que presenta Sadin en su libro es un desarrollo extensivo y exhaustivo donde nos muestra cómo la IA se fue desarrollando a lo largo de la historia para que finalmente tome la forma que conocemos hoy.
Sadin, está explicando el momento de la historia en la que nos encontramos, pensándolo en relación al pasado, presente y el tecno-futuro por venir, pero desde una perspectiva de laboratorio o si se quiere simplemente crítica. Es como si fuese un geólogo. Explica las capas sucesivas que forman nuestro suelo, cada capa define las condiciones de posibilidad de un cierto tipo de pensamiento que ha triunfado durante un determinado período de tiempo. Pero no nos cuenta lo más interesante de todo esto, que sería: a partir de qué condiciones se ha constituido cada tipo de pensamiento; cómo o por qué los seres humanos pasamos de un tipo de pensamiento a otro. Para poder hacer posible eso hubiese sido necesario hacer intervenir a la praxis, es decir a la Historia.
Si bien el libro de Eric Sadin presenta un análisis agudo sobre las nuevas formas de control social y productivo a partir de la IA, su análisis tiene muchos espacios en blanco o preguntas sin responder. Cómo por ejemplo: al principio de la nota vimos como Sadin muestra y desarrolla los intereses que hay detrás de esta “mano invisible automatizada” que se nos presenta como parte de un desarrollo natural de la tecnología, pero en ningún momento aclara o define qué sectores sociales, específicamente, son los que se ven beneficiados por este “tecno-logos” y por otro lado qué sectores sociales son los que se vería afectados por los mismo. En ese sentido queda difuso o poco claro a quién estaría intentando interpela con su propuesta. No tiene distinción ni limitación.
Por último, tampoco queda definida la relación entre el “tecno-liberalismo” y la “razón instrumental extrema” ya que no queda claro dónde poner el eje del problema: en las máquinas surgidas de un espíritu de época que quiere cosificar a los seres humanos y convertirlos en apéndices de sus fusibles, o en un sistema político-económico utilitario que busca maximizar las ganancias a costa del aumento del deterioro y empobrecimiento de la calidad de vida de los trabajadores bajo la forma de la precarización laboral más extrema.
Desde la época de Karl Marx a la actualidad la tendencia histórica es al aumento de la productividad, que gracias a la máquinas y el desarrollo técnico, cada vez se produce más en menos tiempo, pero eso no representó una disminución de las jornadas laborales sino que al contrario, cada día los empresarios buscan como absorber hasta el último minuto de la vida de los obreros en los tiempos de trabajo.
El desafío por lograr es poder romper las relaciones sociales capitalistas para así lograr que ese menor tiempo de producción logrado por la tecnología, se traduzca en que la humanidad cada vez tenga que utilizar menos energías para producir lo que necesita para subsistir. Y así finalmente poder liberarse del yugo del trabajo para poder desplegar su tiempo y fuerzas en el pleno desarrollo de las capacidades humanas como es el ocio creativo, el arte, la ciencia y la cultura. Sin mencionar lograr establecer una relación más equilibrada y sana con la naturaleza.
NOTAS AL PIE
[1] Eric Sadin, La inteligencia artificial o el desafío del siglo, Buenos Aires, Ed. Caja Negra, 2020, p. 17.
[2] Ibídem, p. 21.
[3] Ibídem, p. 208.
[4] Ibídem, p. 213.
[5] Ibídem, p. 214.
[6] Ibídem, p. 70.
[7] En la filosofía moderna, a partir de Leibniz con su Monadología, el concepto de mónada se aplica a la idea de un “átomo espiritual” o la manifestación más mínima e indivisible del espíritu humano.
[8] Ibídem, p. 225.
[9] Ibídem, p. 182.
[10] Ibídem, p. 202.
[11] Ibídem, p. 274.
[12] Ibídem, p. 277.
[13] Ibídem, p. 290.
[14] Ibídem, p. 289.
[15] Ibídem, p. 289.
[16] Ibídem, p. 136.
[17] Ibídem, p. 310.