Cover image from OpenDemocracy.net, originally sourced from Wambra Radio archive / Imagen de portada de OpenDemocracy.net, originalmente del archivo de Wambra Radio

Durante el otoño de 2021, tomé una clase maravillosa en Harvard titulada “Trans* Literary and Cultural Productions in Latin America” enseñada por el Prof. Jorge Sánchez Cruz. Para el proyecto final, preparé este ensayo sobre algoritmos transfóbicos y travestifóbicos, informado por lo que aprendí en la clase y mis estudios en MIT. Agredezco al Prof. Sánchez Cruz por su ayuda en la preparación y revisión de este ensayo.

Existe una gran idea incorrecta que los algoritmos actúan independientemente del sesgo humano. El prejuicio no es solo el resultado de cómo aplicamos los algoritmos; el sesgo está arraigado estructuralmente en los datos que los impulsan y en la jerarquía lógica de su código. Estudios están comenzando a revelar que nuestros algoritmos tienen prejuicios profundamente peligrosos que amenazan a las mujeres y las personas de color. A pesar de estos buenos avances, sólo se han realizado unas pocas investigaciones sobre el sesgo algorítmico contra gente trans y especialmente gente travesti – quienes existen en la intersección de múltiples identidades marginalizadas.

En este estudio, encuesto cómo se usan los algoritmos para ejecutar violencia hacia las personas travesti y trans. Primero, introduzco qué son los algoritmos – y cómo pueden ser violentos en absoluto. Segundo, analizo cómo los algoritmos perpetúan nuestro lenguaje binario y normativo para oprimir a gente travesti y trans. Finalmente, analizo cómo los algoritmos castigan a cuerpos no normativos; caras y cuerpos que no se pueden ser clasificados están etiquetados como amenazas. A lo largo del estudio, intento incluir un análisis de la experiencia travesti y trans de color de América Latina (lo cual se ignora a menudo) – y cómo las redes algorítmicas anti-trans se centran en medios opresivos racistas y clasistas. Mis hallazgos muestran la urgencia de esta amenaza a personas travesti y trans, y nos compelen a rechazar y escapar las marcas normativas de algoritmos.

I. Una introducción a algoritmos¹

Esencialmente, un algoritmo es simplemente una estrategia. Da un método eficiente para usar datos con el fin de encontrar un resultado deseado.

Consideremos un ejemplo simple. Estoy pensando en un número entre 1 y 100, y no le lo voy a revelar a usted. Me puede preguntar si mi número es mayor, menor, o igual a otro número, le responderé sí o no. Para adivinar mi número rápidamente (sin preguntarme cada número entre 1 y 100), puede usar un algoritmo – o una estrategia eficiente – para decidir lo que necesita preguntarme. De hecho, tal vez haya usado este algoritmo antes. El algoritmo es el siguiente: Primero, me pregunta si mi número es más de 50 (el promedio de mi gama). Si digo que sí, sabe que mi número es entre 50 y 100. Si digo no, sabe que mi número es entre 1 y 50. Puede seguir dividiendo el intervalo por la mitad basado en mis respuestas hasta que descubre mi número original.² Este algoritmo es bastante rápido; en este ejemplo, revelará mi número secreto después de siete preguntas en el peor de los casos.

Los algoritmos se hacen rápidamente más complejos a medida que se hacen más complejos los problemas. Por ejemplo, para encontrar la ruta más rápida entre dos ubicaciones, necesitas un algoritmo que eficientemente chequea muchas rutas posibles.³ Para mostrar resultados relevantes de búsqueda, Google necesita un algoritmo que rápidamente clasifica contenido de cada sitio en el internet. Para reconocer una cara, el iPhone necesita un algoritmo que clasifica las partes diferentes de una cara con exactitud en menos de un segundo. Estos algoritmos suponen (p.ej. asumir si mi número es más de 50 y menos de 100, es entre 50 y 100) y aproximan (p.ej. chequear solo calles cortas en lugar de calles largas mientras se busca la ruta óptima entre dos ubicaciones) para hacer lo que se necesita hacer rápidamente.

Pero, ¿qué tan problemáticos pueden ser estos atajos estratégicos en realidad? Al final del día, un algoritmo es líneas de código y lógica. Prejuicio – si existe – parece que vendría solo de las preferencias personales del científique de computación. ¿Cómo puede ser violento un algoritmo? ¿Cómo puede ser peligroso? ¿Racista? ¿Transfóbico?

Profesor Andrew Goffey comenta sobre esta idea incorrecto,

Aunque les científiques de la computación trabajan con ellos como si fueran seres puramente formales de la razón…los algoritmos tienen una relación crucial, aún problemática, con la realidad material…Los algoritmos hacen cosas, y su sintaxis incorpora una estructura de comando para permitir que esto suceda…Y por estúpidos que sean, los sistemas de guía de misiles, las bases de datos de inteligencia, y las pruebas biométricas son todos perfectamente reales.⁴

Los algoritmos son la base de muchas tecnologías importantes en nuestras vidas. Los algoritmos sostienen interacciones en el internet. Controlan cuales anuncios se le muestra. Clasifican sus emails. Deciden lo que se le recomienda en redes sociales y en búsquedas en Google. Filtran fotos, videos, y metraje de seguridad para identificar caras, cuerpos, y movimiento. Cada vez que se acerca a una forma de tecnología, entra en contacto con los algoritmos.

Hay dos maneras primarias por la cual el sesgo puede infiltrar los algoritmos, con efectos consecuenciales: por datos y por estructura. Primero, el perjuicio puede entrar en un algoritmo por los datos en sí. Desafortunadamente, no existen datos que vienen sin prejuicio. Profesor Jeffrey Bigham dice, “No podemos eliminar todo el prejuicio de datos, porque todos los datos son prejuiciados…Los datos nunca capturan el estado completo verdadero del mundo.”⁵ El prejuicio se puede incorporar con los que se están incluyendo en los datos (p.ej. una población por la mayoría blanca) o de donde se viene los datos (p.ej. solo los EEUU).⁶ Cómo no se puede tomar datos para cada persona en el mundo, es imposible crear bases informáticas que representan cada condición humana posible.

El algoritmo más simple aún necesita introducir, cambiar, y formatear datos de alguna manera. Necesita usar una estructura de datos. Para imponer una estructura de datos, escoge una interpretación de los datos – que puede ser algo no tan objetivo como una correlación, categorización, etc.⁷ Dado que el prejuicio existe en los datos desde el principio, estará en el mejor de los casos llevado al resultado por el algoritmo y en el peor de los casos exacerbado por el algoritmo. Un ejemplo es COMPAS, un software que usa el sistema judicial en EEUU para determinar algorítmicamente la probabilidad que una persona cometa delitos repetidamente. Dado que COMPAS usa las estadísticas de reincidencia históricas de EEUU basadas en décadas de condenas racistas, COMPAS es un algoritmo racista; tiene una probabilidad mucha más alta de falsamente predecir delito repetido para acusados negros que acusados blancos.⁸ Esto afecta directamente los veredictos y las penas que reciben estadounidenses negros.

Segundo, los algoritmos pueden introducir prejuicio adicional por su estructura. Este tipo de prejuicio puede manifestarse por varias maneras. Suposiciones o lógica partidista pueden codificarse adentro del diseño (tal vez una correlación que se utiliza como regla en el algoritmo, p.ej. si a une usuarie le gusta X, probablemente desee Y). Estructuras de computación pueden limitar la exactitud de los algoritmos (p.ej. incapacidad de replicar arbitrariedad verdaderamente, incapacidad de considerar contexto). Conjeturas que parecen certeras se pueden codificar en un algoritmo, y, si luego se demuestra que están equivocadas, puede ser difícil eliminarlas (p.ej. normas médicas, leyes nuevas).⁹ Un ejemplo de prejuicio estructural es el algoritmo detrás de Turnitin – un software que chequea plagio en ensayos estudantiles. Turnitin supone que el plagio es copiar exactamente. Como resultado, tiene una probabilidad más alta de acusar plagiaries quienes no hablan inglés nativamente; hablantes natives de inglés puede parafrasear mejor y evadir detección.¹⁰ La definición inexacta del plagio en el algoritmo de Turnitin crea resultados prejuiciados e injustamente castiga a estudiantes quienes no hablan inglés nativamente.

Un ejemplo mucho más horrífico es el algoritmo “SKYNET” de la agencia de seguridad nacional. El propósito de SKYNET era identificar – y asesinar con un dron – a personas en Paquístan que conspiraban con grupos terroristas. Después de que reporteres lanzaban la existencia de SKYNET y su metodología,¹¹ un grupo de reporteres, expertes de ciencia de datos y activistas de derechos humanos predijeron que los algoritmos sospechosos de SKYNET probablemente han causado las muertes de miles de paquistanís inocentes.¹²

Estas dos fuentes de prejuicio no lo abarcan todo. Sesgo puede emerger de la accesibilidad y transparencia del software en sí mismo. Puede surgir de quienes usan la tecnología. Si sectores demográficos específicos lo usan más, obtendrá comentarios basado en las preferencias de esa población y se adaptará a esas preferencias. Usos imprevistos pueden causar que lógica incorrecta esté aplicada a un problema inesperado. Nuestra tecnología – en el mejor de los casos – replica sesgo y – en el peor de los casos – exacerba el sesgo y la violencia presente en nuestras estructuras sociopolíticas.

Es fundamental darse cuenta de que estos algoritmos no son juegos. Son el código que promulga ley y orden, que apunta armas, que controla listas de espera en hospitales y que aprueba aplicaciones de inmigración y ciudadanía. Los algoritmos categorizan el valor de la vida humana.

II. Algoritmos travestifóbicos y transfóbicos

En esta sección, daré dos ejemplos de cómo los algoritmos perpetúan travestifobia. Primero, describiré cómo los algoritmos hablan la lengua de prejuicio travestifóbico y transfóbico. Segundo, explicaré cómo los algoritmos castigan a cuerpos no normativos.

Este estudio no intenta proveer un reportaje universal de la tecnológica que afecta a gente travesti y trans. De hecho, la tecnología está evolucionando más rápidamente de que se la puede analizar ampliamente. Al mismo tiempo, la astilla de la tecnología descrita en este estudio no solo oprime a gente travesti y trans, sino también a otros grupos marginalizados. Es crucial reconocer que la lucha travesti-trans es parte de una lucha más grade contra el imperialismo. Activista transgénera Kalaniopua Young advierte,

Sin un análisis convencedor de cómo los sistemas de raza, trauma histórico y disparidades sociales, ambientales y económicas que toman parte en violencia antitrans, se obvia representar las experiencias de mujeres transgéneras de color mientras nos convertimos en un número de muertes cuantificable para un movimiento trans de clase media mayoritariamente blanco.¹³

Este estudio intenta centrarse las experiencias de mujeres travesti y trans de color y cómo la tecnología opresiva desigualmente afecta sus vidas.

A. Algoritmos hablan el lenguaje de prejuicio

El lenguaje que usamos para hablar de género está arraigado estructuralmente con el prejuicio transfóbico. Fundamentalmente, nuestras clasificaciones actuales de género, sexo y sexualidad se basan en proyectos imperiales europeos diseñados para oprimir poblaciones no blancas. Nuestras normas de género aparecieron en Europa industrial temprana formando parte de iniciativas opresivas y coloniales que intentaban sistematizar la complejidad crecente de grupos sociales en Europa.¹⁴ Autor Jack Halberstam explica,

Todos estos esfuerzos de clasificar comportamiento humano surgieron de y contribuyeron al desarrollo de proyectos raciales que separaban a poblaciones blancas de las de color; estas distinciones ‘científicas’ entre cuerpos normales y anormales dieron apoyo a proyectos de la supremacía blanca que intentaban colapsar otredad racial en variación de género y perversión sexual.¹⁵

Los estereotipos de género y raza que emergieron de expertos autoproclamados durante este periodo se inculcaron en instituciones políticas, sociales y económicos que se estaban desarrollando simultáneamente. Actualmente, estas mismas instituciones guían sociedades occidentales y plagan países que sufren de influencias imperialistas.

Mientras nueva lengua se está desarrollado, se define en comparación a normas imperialistas. Halberstam describe el problema de tratar de desarrollar lenguaje más representativo a través de una infraestructura aquejada de sesgo:

Mientras hoy Facebook te ofrece famosamente cincuenta y uno maneras de identificarte en su sitio, hace cien años que esas categorías han estado en construcción usando la…intensificación del deseo de clasificar, saber y definir. Entonces, en vez de un gran salto adelante, nuestra profusión actual de opciones clasificatorias en realidad se remonta en las primeras investigaciones de sexología, cuando médicos como Richard von Krafft-Ebing produjeron conocimiento nuevo sobre el comportamiento sexual de género…De hecho, los sistemas más viejos de clasificación han cedido el paso a sistemas vernáculos sin desplazar necesariamente los binarios centrales y dominantes de raza, clase, género y sexualidad.¹⁶

Esto no solo es un problema en la colonización del lenguaje de género. Una gran parte de nuestro lenguaje todavía usa el occidente como punto de referencia. Por ejemplo, la geografía se define incluso en términos eurocéntricos. El “Oriente Medio” se llama “Oriente Medio” porque está en el medio del este (u Oriente). Este nombre se acuñó por “exploradores” europeos quienes pensaron que Europa era el centro del mundo.¹⁷ Similarmente, el término “tercer mundo” es una clasificación creada para satisfacer a intereses occidentales. Este término originalmente se usaba como una designación política occidental – para separa los países occidentales, comunistas y los demás. No hay mucho que une las naciones de esta categoría tercera aparte de que están o “estuvieron una vez subyugadas a dominio occidental.”¹⁸

Los algoritmos han internalizado nuestro lenguaje normativo y violento. Los algoritmos aprenden directamente del lenguaje humano. El ejemplo más obvio es una estrategia algorítmica que se llama procesamiento del lenguaje natural (PLN). El procesamiento del lenguaje natural le permite a su computadora leer y comprender el lenguaje.¹⁹ Básicamente, su computadora no puede entender lenguaje; solo puede separar palabras individuas y no puede identificar el subjeto, la acción, etc. ni puede inferir ningún contexto. El procesamiento del lenguaje natural les enseña a computadoras cómo leer por mostrarles muchos textos comunes – un proceso que a menudo se refiere como “entrenar.” Cuando el PLN le da un texto a una computadora, la computadora empieza a colectar datos. Cuenta el número de veces que cada palabra aparece en un texto. Mantiene un registro de cuales palabras frecuentemente aparecen juntas. Los algoritmos de PLN pueden aprender estructuras gramáticas si le muestra oraciones etiquetadas con categorías gramaticales. El PLN aún puede aprender tono – si le da un banco de palabras con tonos asignados, el PLN puede descubrir el tono de palabras que no ha visto antes usando asociaciones de palabras. Otro algoritmo de PLN mapea cada palabra a una lista única de números. La diferencia entre las listas de dos palabras corresponde aproximadamente a su diferencia en significado.²⁰

Hoy en día, el PLN es una de las técnicas modernas computacionales más poderosas. Es la columna vertebral de muchas tecnologías críticas – como la búsqueda de Google, las recomendaciones de redes sociales, la transcripción automática de audio, el corrector automático y los algoritmos de censura en el internet. El desarrollo del PLN solo empezó hace setenta años y desde entonces ha crecido demasiado rápido por su propio bien. Muchos estudios han encontrado sesgo racista, sexista e islamófobico en softwares populares de PLN.^{21 22 23 24 25 26 27 28 29} Para resaltar unos ejemplos representativos, Nadeem et al. midieron softwares populares de PLN e investigaron sus sesgos estereotípicos cuando se estaban usando para predecir palabras en contexto. Les dieron oraciones ejemplares a los modelos de PLN y examinaron si los modeles prefirieron opciones estereotípicas, anti-estereotípicas o no relacionados. Los algoritmos consistentemente prefirieron y predijeron opciones estereotípicas. ³⁰

Birhane et al. estudiaron la calidad de leyendas generadas por una combinación de PLN y otros algoritmos. Birhane et al. encontraron que las leyendas producidas por el software – que estuvo entrenado usando datos acumulados por “trepar” por todo el internet, colectando todo que se puede encontrar – estaban abrumadoramente prejuiciadas y estereotípicas.³¹ Birhane et al. concluyeron que las imagenes y leyendas emparejadas por el software “ni solo arriesgaba amplificar representaciones hipersexualizadas y misóginas de mujeres, sino que también presentaba resultados que estaban reminiscentes de ideologías anglocéntricas, eurocéntricas y, potencialmente, de supremacía blancura.”³² Estos dos estudios solo demuestran una tajada fina de los peligros del PLN.

Estudios del sesgo del PLN hasta gente travesti y trans han sido casi completamente ignorados. De hecho, las únicas investigaciones que han sido completadas – usando PLN para “predecir” si alguien es trans – son una amenaza a gente travesti y trans.^{33 34} Podemos adivinar que el PLN tiene prejuicio similarmente arrollador contra gente travesti y trans. Sin embargo, un estudio amplio de cómo nuestros algoritmos refuerzan normativos del género es esencial.

El prejuicio anti-trans del PLN contribuye a la necropolítica y la violencia contra gente travesti y trans de color. El PLN controla las recomendaciones de las redes sociales y búsquedas de Google y entonces apoya y propaga la normatividad del género y la blancura por la internet. Esto contribuye a un efecto que algunos describen como “la trampa de visibilidad.”³⁵ Mientras gente travesti y trans pueda buscar visibilidad en el internet y en los medios como manera de compartir, conectar, enseñar y aprender, al mismo tiempo pierde control de su visibilidad a medida que se esté apropiada por elles con el poder. Gossett, Stanley y Burton resumen,

Mientras se produce dentro de la cosmología del capitalismo racial la promesa de ‘representación positiva’ termina dando poco apoyo o protección a muches, si no la mayoría, de gente trans y de género no conforme, particularmente elles quienes son de bajos ingresos y/o de color—las mismas personas cuyas vidas y trabajo constituyen la base para la figuración de este momento de visibilidad.³⁶

Un ambiente diseñado a oprimir gente no blanca y no normativa nunca visibilizará justamente y igualmente. Siempre y cuando las fuerzas capitalistas ganan dinero por medio de mostrar, filtrar y controlar la visibilidad trans, la experiencia trans y travesti de color será invisible. Los algoritmos asegurarán que esto sea el caso – incluso para elles que buscan lo contrario – a medida que resultados se están ordenados y censurados según los más prejuiciados y los más rentables.

Esto resulta en la saturación de la violencia y visibilidad de la muerte travesti/trans se saturan en los medios. Silva Santana comenta sobre esta hiperconcentración en la muerte travesti. “Hay un riesgo que las mujeres trans, especialmente mujeres trans negras, estén discutidas solamente como cadáver.”³⁷ Los algoritmos inundan el internet con imágenes de cadáveres travestis y trans. Profesora micha cárdenas dice,

Nuestro momento necropolítico es uno en el cual historias horríficas de los asesinatos de personas en nuestras comunidades y familias llegan a nosotres cada día por medio en red. Si la herramienta primaria de la biopolítica fue el censo, quizás podríamos considerar que la herramienta paradigmática de la necropolítica sea el algoritmo.³⁸

El efecto del “trauma repetido de experimentar representaciones mediáticas de violencia contra personas trans y negras”³⁹ es sobrecogedoramente negativo. Aunque resulta en más visibilidad, también se correlaciona con más violencia anti-trans.⁴⁰ Muestra el individuo trans solo como víctima, con demasiado retraso como para que se le pueda ayudar.

Cuando la experiencia vivida trans gana visibilidad, frecuentemente se coopta por personas trans blancas.⁴¹ Ni solo existen redes de personas que sostiene y promueve la blancura y la normatividad, sino también existen algoritmos que castigarán contenido no blanco y no normativo – sin importa los deseos de la audiencia. Como consecuencia, Gossett et al. nos hacen deliberar,

En todos los casos, surge la pregunta de si la visibilidad es un objetivo por el cual trabajar o un resultado que debe evitarse…muches de les colaboradores reflexionan sobre lo que significa ser y, luego, lo que significa pensar que estar con las estructuras que lo refutan o se apropian (y a veces hacen ambas cosas al mismo tiempo).⁴²

Activistas travesti y trans experimentan con la idea de rechazar la visibilidad – y con ella, la blancura, normatividad y el binario de género. De algunas maneras, un movimiento similar está emergiendo sobre los algoritmos; hay una ola de investigaciones desafiando y evitando a algoritmos como PLN. Tal vez una estrategia similar se puede aplicar a los algoritmos tóxicos.

B. Algoritmos castigan a cuerpos no normativos

Hay expectaciones físicas normativas para un cuerpo. El cuerpo trans/travesti reta estas expectaciones. Lohana Berkins pregunta,

¿Qué es el cuerpo Travesti, Transexual, Transgénero? La existencia de un contorno, las formas estandarizadas de una silueta, o nos plantea, aún si proponérselo, la reformulación de las fronteras de la corporalidad, quién y qué determina la perimetralidad del cuerpo ¿es la genitalidad?, ¿la falometría?, ¿el biologicismo?, ¿la reproductividad?, ¿el deseo?, ¿la farmacología?, ¿la tecnobiología?, ¿la hormonización?, ¿los protocolos médicos?, ¿la teoría o la praxis?⁴³

La respuesta es ninguna. Es un rechazo a responder o estar en deuda con alguna, y un estado de cambio constante.⁴⁴

La ejecución de normas corpóreas afecta violentamente a gente travesti y trans de color. Esta violencia se ha documentado analíticamente,^{45 46} pero probablemente más ampliamente está documentada por el arte travesti y trans. Películas como Madame Satã,⁴⁷ Sin vagina, me marginan⁴⁸ y La mujer fantástica⁴⁹ muestran el castigo que reciben personas travesti y trans – del agente policial, el agente judicial y las fuerzas sociales – solo por existir en cuerpos no normativos. Colecciones artísticas como Museo Travesti de Perú⁵⁰ y el sitio web, “El archivo de la memoria trans,”⁵¹ documentan las luchas de personas travesti y trans – resaltando y empoderando sus historias y sus cuerpos, pero también develando las reacciones violentas y la opresión que experimentan por existir en cuerpos no normativos. El arte travesti demuestra su rechazo de ser categorizade por normas de género.

Esto no es una respuesta compatible con lógica algorítmica – a lo que le encanta identificar, clasificar, y ordenar. De consecuencia, los algoritmos han internalizado una noción de un cuerpo normativo – un cuerpo blanco que se conforma a normas del género. Un ejemplo representativo de esto es la vigilancia electrónica – que depende de algoritmos por identificación, análisis y clasificación facial y corpórea. El estado usa estos algoritmos para ejecutar la ley y la seguridad. Pero, por existir en sociedades coloniales y capitalistas, ejecutar la ley significa ejecutar violencia de raza y de género.

Se ha demostrado firmemente que los algoritmos de reconocimiento facial son racistas.^{52 53 54} Clasifican erróneamente caras de personas de color, especialmente de personas negras. Estos algoritmos se utilizan para oprimir. El reconocimiento facial está utilizado por la policía para culpar y detener a personas. Está utilizado para verificar identidades en agencias de inmigración y para ejecutar seguridad en aeropuertos. También se usa para operaciones militarías.⁵⁵ Asimismo, tecnología con software de reconocimiento facial a menudo está concentrada en comunidades marginadas.⁵⁶ Estos son ejemplos muy reales que pueden afectar las vidas de gente travesti y trans.

Pero, ¿qué investigación se ha realizado sobre la trans- y travesti-fobia de los algoritmos de vigilancia? Aunque hay pocos grupos haciendo estos tipos de investigaciones, el trabajo que existe es increíblemente importante y muy revelador. Un estudio muy reciente de Scheuerman, Pape, y Hanna describe como la clasificación de género en algoritmos de vigilancia es una continuación de proyectos coloniales, intentando a oprimir personas trans y no blancas. Scheuerman et al. explican,

Poques han examinado cómo las tecnologías automatizadas del análisis facial se intersecan con la genealogía histórica de género racializado—el binario de género y su clasificación como una herramienta altamente racializada de poder y control colonial…Discutimos que la autoesencialización contemporánea de género vía la cara es ambas racializada y trans-exclusiva: afirma un binario de género fijo y eleva la cara blanca como el modelo último de diferencia de género.⁵⁷

Scheuerman et al. proveen una visión general y rigurosa de la evolución de la “ciencia” de la clasificación de raza y género – hasta su manifestación actual, los algoritmos del reconocimiento facial. Como teoriza Halberstam sobre el legado colonial dentro de nuestro lenguaje,⁵⁸ Scheuerman et al. muestran el legado colonial dentro de nuestra tecnología.

Las clasificaciones normativas y racializadas (y pues, completamente incorrectas) de gente trans y travesti son peligrosas. Shoshana Magnet explica, “elles más en riesgo de tener sus identidades de raza, sexo, y género codificadas biométricamente son elles que rechazan categorizaciones pulcras además de elles cuyes cuerpos el estado cree que son una amenaza.”⁵⁹ Los algoritmos son diseñados para señalar cosas que no caben es sus categorizaciones estereotípicas. Alguna cosa señalada es una amenaza potencial – un criminal, un terrorista…una persona negra, una travesti. Elles son las personas paradas por la seguridad en el aeropuerto porque el escáner corpóreo no podía “analizar” su cuerpo correctamente. Son las personas identificadas falsamente en imágenes borrosas de la cámara de seguridad por un algoritmo “de última generación.”

Estas tecnologías – al final del día – sostienen el imperialismo alrededor del mundo. Por ejemplo, de manera muy descarada, los algoritmos de reconocimiento mantienen el colonialismo y la limpieza étnica de palestines por israelíes sionistas. El gobierno israelí ha desarrollado “Blue Wolf,” “una tecnología de smartphone que captura imágenes de palestines en la Cisjordania ocupada y luego las empareja con un conjunto de datos operado por el ejército y la inteligencia israelíes.”⁶⁰ Además, otra tecnología – “White Wolf” – ha reclutado colonizadores israelíes para contribuir fotos ilegales de las caras de adultes y niñes palestines. Esta tecnología se use para rastrear y restringir el movimiento palestino.^{61 62}

Los algoritmos de reconocimiento facial no son los únicos algoritmos que castigan cuerpos travesti y trans. Algoritmos médicos que analizan y categorizan los cuerpos y las enfermedades de personas travesti y trans también tiene prejuicio inerente. Por ejemplo, un algoritmo diseñado a optimizar colas de la sala de emergencias usando algoritmos de “inteligencia artificial” por accidente despriorizaba pacientes con condiciones preexistentes.⁶³ Con el problema ya desenfrenado de la discriminación de pacientes travestis y trans por proveedores de asistencia médica, no necesitamos algoritmos que refuercen esta misma violencia médica – disfrazados como una colección lógica de instrucciones. Esto tiene consecuencias directas para la muerte prematura de individuos travesti y trans, porque elles pueden ser desproporcionadamente afectades por la SIDA y otros ETS debido a la marginalización, racismo, y pobreza, a menudo obligándoles al trabajo sexual.⁶⁴

III. Conclusión

Une de mis científiques favorites, Abeba Birhane, recientemente escribió sobre los algoritmos de opresión. Ella los llamaba un nombre nuevo – “inteligencia artificial barata.”⁶⁵ Ella explica que “elles que la producen [la inteligencia artificial barata]…sufren poco, mientras las personas que se utilizan como campos de prueba, frecuentemente elles en los márgenes de la sociedad, pagan el precio más pesado.”⁶⁶

¿Qué aprendemos de este análisis? La tecnología no solo sirve como otros medios de producción de la agenda global capitalista; es una herramienta de la agenda global capitalista. De hecho, es el arma favorito nuevo de los imperialistas – construído cuidadosamente y oculto meticulosamente.

Lo que empeda todo es la falta de visibilidad, la simplificación excesiva y la distorsión de los algoritmos que usan nuestros gobiernos y corporaciones. Es su truco – para que la gente no la vea como la amenaza que sí son. No nos perdamos en la trampa de abstracción algorítmica. Podemos estudiar estos algoritmos, podemos desafiarlos y, últimamente, podemos rechazarlos.

Terminaré con una advertencia de Birhane:

Se necesitaron atrocidades de la era nazi, esterilizaciones forzadas y otras torturas inhumanas para que le frenología, la eugenesia, y otras pseudociencias fueran relegadas de la corriente principal de la ciencia a su periferia. No debería requerir injustica en masa para que la inteligencia artificial barata sea reconocida como similarmente dañina…nosotres mismes…tenemos una responsabilidad a desafiar y denunciar a inteligencia artificial barata, y elles que la producen.⁶⁷

Notas al pie