Lo ilegible. Inteligencia artificial y derecho a la opacidad
Cutting the Sugar-Cane (1823), acuatinta del pintor británico William Clark, publicada en el álbum Ten Views in the Island of Antigua. Imagen intervenida con IA*
¿Qué hace la transparencia cuando deja de ser un valor y se convierte en un dispositivo? ¿Qué queda de la vida cuando cada gesto, cada compra, cada demora se vuelve dato legible para una máquina que conserva para sí la opacidad de su cálculo? En este ensayo, Aldo Ternavasio recorre tres problemas que se cruzan sin resolverse: los equívocos entre transparencia y opacidad como categorías políticas; la diferencia entre resistir la gubernamentalidad estatal y corporativa y reapropiarse de las formas de vida; y la inteligencia artificial entendida no como propiedad privada sino como producción colectiva expropiada. Lo que atraviesa los tres es una tesis incómoda: no es la IA la que nos esclaviza, sino el conjunto de pequeñas prácticas de transparencia que no solo aceptamos, sino que deseamos. Para hacer este recorrido, el autor vuelve al poeta y pensador martiniqués Édouard Glissant y encuentra en la resistencia afrocaribeña la clave que conecta la plantación colonial con los data centers.
por Aldo Ternavasio
El consentimiento general de las opacidades particulares es el equivalente más simple de la no-barbarie.
Édouard Glissant
Soy yo el que pensó esto. ¿Lo soy? Al menos, soy el que lo escribe. ¿Seguro? ¿Cómo saberlo? Tendría que ser transparente. Si no para los demás, al menos para mí mismo. Creo que solemos creer que es así. Sin embargo, muchas veces sucede lo contrario: somos más transparentes para los otros que para nosotros mismos. Pero todo es un lío. Porque ¿cómo saben los otros que eso que ven con total transparencia en mí realmente está ahí, y no surge de algo que creen ver, pero que en realidad es un prejuicio de ellos? ¿Qué deberíamos preferir, la transparencia o el embrollo?
Si yo le pregunto al mundo —cantaba Atahualpa Yupanqui—, el mundo me ha de engañar. Si yo le pregunto ahora por la transparencia, también me engañará, me diría lo mismo que nos dice a todos: que hay que elegirla siempre. Lo que se escribe aquí es fatalmente transparente. Al menos, como tokens, porque eso son las palabras para la IA que eventualmente leerá esto. Una cadena de etiquetas. Una porción de esa transparencia es parte de una lucha estratégica contra las consecuencias de la expropiación del archivo de nuestros datos. Pero también hay otra cuestión importante, y tiene que ver con entender por qué esa transparencia parece dejarnos tan inermes frente a lo que suponemos que la IA hace con nosotros. Esto, que podría estar escrito por IA, eventualmente será leído por una y, sin opacidades ni transparencia, algo en el mundo cambiará, algo nuevo podrá ocurrir —aunque no hay forma de saberlo—, y otras cosas dejarán de ser posibles. Cosas inframínimas, como decía Duchamp, nuestro Michelangelo de los urinarios. Inframínimas. Pero opacas. La transparencia como opacidad ready-made, me digo. Al menos, eso creo.
¿A qué viene todo esto? Pues bien. Hace rato que me irrita una palabra que, en principio, debería simpatizarme: transparencia. Nadie debería estar muy en contra de ella. La transparencia parece estar del lado correcto de las cosas: contra la corrupción, contra los secretos del poder, contra los negocios turbios, contra las zonas oscuras donde se decide lo que después padecen otros. Hasta ahí, todo bien.
El problema es que las palabras no trabajan solas. Trabajan en una época, dentro de ciertos dispositivos, con ciertos aliados. En los años noventa, transparencia fue una palabra muy funcional al mundo del Consenso de Washington. Sirvió para auditar Estados, gastos públicos, funcionarios, burocracias, países endeudados. Y no digo que eso estuviera mal. El Estado puede ser corrupto, desde luego. El problema es que esa exigencia de transparencia convivía bastante bien con la opacidad real del capital financiero, los paraísos fiscales, los bancos, las consultoras, las formas legales del saqueo. Transparencia para los Estados periféricos; opacidad para los circuitos del dinero.
Hoy parece haber otra vuelta. La transparencia ya no apunta solamente a las instituciones. Apunta a la vida. Cada compra, cada recorrido, cada búsqueda, cada demora, cada entusiasmo, cada cansancio puede transformarse en dato. Y el dato no mira exactamente. Calcula. O mira calculando, que tal vez sea peor.
Por eso me inquieta tanto la discusión sobre precios dinámicos y precios personalizados. No se trata solamente de que algo pueda costar más según la hora, la demanda o el stock. Eso ya sería bastante. El problema empieza cuando el precio deja de pertenecer a la mercancía y empieza a depender del comprador. No cuánto cuesta esto, sino cuánto puede pagar este sujeto, en este momento, según lo que el sistema cree saber de él. El empresario Francisco José Elías Navarro, propietario de la cadena española de supermercados La Sirena, dijo que ya están tecnológicamente en condiciones de generar una tarifa de cada producto para cada cliente en tiempo real. Las cosas ya no tendrían un precio único y, más que una información del mercado, el precio pasa a expresar una del comprador. Si una persona compra por compulsión, si siempre vuelve, si parece tener urgencia, si vive en tal zona, si puede tolerar un poco más de abuso, el precio aparece como una cualidad emergente del cliente. El viejo precio de la góndola empieza a parecer una pieza arqueológica.
No sé si ya estamos ahí del todo. Pero la dirección se ve. La vida redoblada por un doppelgänger digital se vuelve algo transparente para la máquina mientras la máquina conserva para sí la opacidad de un cálculo fuera de cualquier dominio público. Nosotros somos legibles y, como tales, nos convertimos en un efecto de lo que el dispositivo lee. Condenados a dejar huellas inocultables, quedamos expuestos a errar con nuestras vidas sin atributos fuera del sistema que las reconoce y legitima al tiempo que personaliza lo que será real, al menos en parte, en nuestros intercambios sociales. Uno cree que compra una mercancía, pero la mercancía también nos está vendiendo una imagen de nosotros mismos al tiempo que la fabrica. Es un impuesto a ser uno mismo.
Por eso me interesa volver a Édouard Glissant. Su derecho a la opacidad no nace de una defensa abstracta de la privacidad ni de una concepción liberal del individuo. Nace de una historia concreta: la esclavitud, la plantación, la colonialidad, las lenguas degradadas, la memoria rota del Caribe. Del vientre del barco negrero, dice Glissant. La transparencia colonial siempre quiso cuerpos legibles: cuerpos como fuerza de trabajo, como valor de cambio, como raza, como propiedad, como amenaza posible. También quiso culturas traducibles, nombres clasificables, identidades comprensibles tanto para el conquistador como para el amo. El conquistador primero, el jesuita después, el administrador colonial luego y, detrás de él, el etnógrafo y el lingüista.
La opacidad, en Glissant, no es esconderse en los pliegues de una identidad insondable. Es otra cosa: la posibilidad de estar en relación sin quedar inmediatamente capturado por la mirada del otro. No se trata de no ser visto. Se trata de no aceptar que toda relación exija volverse transparente en los términos de quien mira, clasifica o administra. Lo que está en juego es algo más, algo diferente al secreto de los datos. Aun cuando retengamos un mínimo de privacidad estratégica, persiste un problema de otra naturaleza. Lo opaco, en tanto se sustrae de la equivalencia general ya no sólo del precio sino también de la racionalidad de la acción social organizada por el mercado, implica asignar a la vida valores de uso que escapan a cualquier valorización económica del tiempo vivido.
Es la renuncia a esta opacidad la que nos hace sentir inermes frente a la IA. ¿Qué queda de la vida cuando su productividad es absorbida por las máquinas? Nada para el capitalista, todo para el viviente. No es un problema de un inefable sentido de la existencia. Es un problema político de primera magnitud. Porque sólo se lucha por la privacidad de los datos si estos afectan el valor de la experiencia vivida con independencia de la valorización capitalista. Y es esa valorización no capitalista de la vida lo que constantemente nos es conculcado.
De ahí, a mi juicio, la importancia de Glissant y de entender la privacidad como un episodio importante pero no suficiente de una opacidad vitalizante que permite a grupos humanos sobrevivir a la que tal vez sea la experiencia más extrema que puede atravesar un humano, la esclavitud en sus formas más brutales. Dicho de otra forma: porque no somos libres, ni lo seremos, tenemos derecho a la opacidad. Quizás sea el derecho fundamental, porque funda la posibilidad del derecho a tener derechos.
Y ahí aparece el créole, la créolisation, el archipiélago, las lenguas que la cultura dominante degrada como patois, jerga, mezcla, resto. Los animales de Kafka, sí. Pero también los de Glissant. Lo que una lengua mayor llama deformación puede ser, en realidad, una forma de mundo. O, al menos, una forma de supervivencia que no pide permiso para existir.
Esto me lleva a Kafka, aunque el salto pueda parecer raro. Kafka no escribió en yiddish. Escribió en alemán. Pero no en un alemán seguro de sí mismo, en el alemán mayor, por decirlo así. Escribió desde una extranjería interna: la del judío de Praga, la del Jargon, la de una lengua que empieza a no coincidir del todo consigo misma. Deleuze y Guattari llamaron a eso literatura menor. No la literatura escrita en una lengua menor, sino lo que una minoría hace dentro de una lengua mayor al hacerla extranjera en sí misma.
¿No podría pensarse algo parecido con Glissant? Glissant escribe en francés, como Césaire y Fanon. Pero su francés no es simplemente el francés universal de la República. Es un francés atravesado por el créole, por la plantación, por la esclavitud, por el archipiélago. Kafka hace algo raro con el alemán. Lo vuelve, por decirlo así, menos alemán. Glissant hace otra cosa con el francés: lo obliga a escuchar el Caribe que el francés preferiría administrar como periferia en los confines de la civilización.
La comparación tiene límites, claro. La historia judía europea y la historia negra atlántica no son equivalentes. El antisemitismo fue, y es, una violencia brutal. Pero la cultura judía europea tiene una inscripción paradójica en Occidente: perseguida y, al mismo tiempo, central en buena parte de su canon. Marx, Freud, Spinoza, Einstein, Kafka… El antisemitismo necesita construir al judío como inferior moral, como conspirador, como amenaza oculta, precisamente porque debe rechazar algo que ya está en el centro de la cultura occidental. La cultura negra ocupa otro lugar. Incluso cuando es reconocida, sigue marcada como cultura negra. Jazz, blues, hip hop, literatura afroamericana, pensamiento caribeño, teoría decolonial. Todo eso puede ser admirado, consumido, celebrado, incluso canonizado parcialmente. Pero rara vez deja de cargar la marca de lo subalterno. Fanon, Césaire, Glissant, Baldwin, Morrison, Wynter o Mbembe no ingresan del mismo modo al universal. Entran como pensamiento negro, caribeño, africano, poscolonial, francófono. No es un detalle. Es parte del problema. Por eso Glissant no es un Kafka caribeño. Sería una mala fórmula. Más bien permite desplazar la idea de literatura menor hacia otra escena. Kafka minoriza una lengua europea desde una extranjería interna. Glissant vuelve opaca una lengua imperial desde una herencia colonial que Europa necesitó mantener como afuera, aunque ese afuera estuviera en el centro mismo de su riqueza y de su idea de humanidad.
En América Latina hay otra imagen de opacidad que me interesa mucho: el pasamontañas zapatista. En pleno mundo neoliberal, el Subcomandante Marcos irrumpe con el rostro cubierto. No es exactamente ni el guerrillero anónimo en una acción clandestina ni el héroe revolucionario clásico cuya personalidad deslumbra. Marcos fue una intersección entre un yo singular e individualizado y una multitud anónima. Multitud con independencia de su tamaño. El pasamontañas no oculta una identidad individual importante. Más bien arma una escena de enunciación colectiva. Al tapar el rostro, hace aparecer una voz común. Es una paradoja muy precisa: el rostro oculto vuelve visible a quienes no contaban. Y descubre lo evidente eclipsado: tener rasgos no equivale a tener rostro.
Glissant y Marcos se tocan ahí, aunque vengan de mundos distintos. La opacidad no como retirada, sino como una forma de aparecer sin quedar del todo disponible. No desaparecer, sino impedir que la aparición sea gobernada desde el principio por el Estado, el mercado, la policía, el archivo o el espectáculo.Con la inteligencia artificial, todo esto vuelve bajo otra forma. La nueva lengua mayor ya no es solamente el alemán, el francés o el inglés. Es el dato y el perfil que traza. Es la predicción no oracular del riesgo, el precio y la trazabilidad. La IA no sólo automatiza tareas. Automatiza inferencias sobre la vida. Quiere saber qué podríamos desear antes de que lo sepamos, qué sobreprecio estaremos dispuestos a pagar, qué imagen esperamos recibir de nosotros mismos, qué memoria involuntaria aceptaremos como propia y cuál no.
Por supuesto, todo esto tiene que ser estudiado con rigor. Hay que investigar cadenas de trabajo, anotación de datos, concentración empresarial, infraestructuras, dependencia tecnológica, violencia material. Sin eso, la teoría se vuelve demasiado cómoda, demasiado literaria en el peor sentido. Pero también hay otro riesgo, que a mí me importa especialmente: que el problema se vuelva demasiado reconocible. Entonces decimos explotación capitalista, vigilancia, colonialismo de datos, precarización. Y sí, es eso. Pero quizás no sea sólo eso.
Tal vez el asunto sea no elegir tan rápido. Hay que mostrar la violencia, sí. Pero también habría que evitar que, al mostrarla, la volvamos demasiado reconocible. La inteligencia artificial generativa reinstala violencias que conocemos: explotación, extracción, alienación, concentración, dependencia. Pero también las deforma. No sólo explota trabajo: explota lenguaje, atención, memoria, estilo, deseo de reconocimiento, imaginación. No sólo produce mercancías: produce condiciones de aparición de lo humano.
Ahí aparece, quizás, algo que todavía no sabemos nombrar bien. Un hecho antropofáctico, si se quiere. Una zona rara donde lo humano y lo artificial ya no se enfrentan desde afuera, sino que se componen, se imitan, se disputan y se extrañan mutuamente. No se trata de defender la opacidad contra la transparencia, como si una fuera buena y la otra mala. Hay opacidades del poder que deben ser destruidas. Y hay transparencias que son necesarias. Pero también hay una transparencia que captura y una opacidad que permite respirar. Esa diferencia me parece cada vez más importante.
Quizás haya ahí una política menor de la inteligencia artificial. No lo sé. Algo así como hacerle perder seguridad a la lengua del dato. No porque podamos ocultarnos en un créole algorítmico, sino, más bien, porque podemos sabotear todas esas transparencias inframínimas que componen nuestras vidas cotidianas, nuestros trabajos y nuestras formas de relacionarnos. Impedir que la vida sea traducida a perfil, predicción, precio o riesgo es inevitable mientras aceptemos, incluso mientras deseemos, el juego de la transparencia. Lo que sí podemos hacer es cambiar eso. Recuperar una relación con la vida que justifique y exija la rebelión. Ahí lo inevitable deviene evitable.
Haití o Cuba son como los cuerpos decapitados que los narcos o los paramilitares dejan colgados de un puente como valla publicitaria de advertencia. Por eso, es necesario ver que no son eso, sino más bien lo contrario. Lo que la tradición de los oprimidos nos enseña —decía Benjamin— es que debemos entender que el estado de excepción es permanente. Hay una cadena inequívoca que va de la plantación colonial hasta los data centers —Meredith Whittaker—. Pero tampoco podemos olvidar que la inteligencia de la inteligencia artificial sigue siendo un atributo de la vida humana y, como tal, está por encima de las relaciones de propiedad. La inteligencia artificial es la inteligencia de nuestra artificialidad y, como tal, formamos parte de ella. La polis algorítmica sigue separando patricios de esclavos y atribuyendo, según eso, derechos y obligaciones. Volver a pensar la opacidad no como un defecto, sino como una condición de la relación. La opacidad como piquetes en las calles patricias de la tecnorepública. No para escondernos del mundo, sino para encontrar las maneras de evitar que nuestros mundos sean administrados por quienes dicen verlo todo. Comenzando, justamente, por las razones para rebelarnos.
(*) La imagen que acompaña este ensayo es una intervención sobre Cutting the Sugar-Cane (1823), acuatinta del pintor británico William Clark, publicada en el álbum Ten Views in the Island of Antigua. Clark residió tres años en las Indias Occidentales por invitación de los terratenientes locales para documentar visualmente la producción azucarera. Los historiadores señalan que su mirada ofrece una versión idealizada del régimen de plantación: los trabajadores aparecen bien vestidos y la violencia del látigo está ausente.
