Recomiendo:
2

Sesgo racial y abuso de la tecnología, desde Henrietta Lacks hasta Porcha Woodruff

Fuentes: Democracy Now! - Imagen: Porcha Woodruff estaba embarazada de 8 meses cuando fue arrestada por un falso "reconocimiento facial", que evidencia discriminación racial.

Joy Buolamwini (Liga por la Justicia Algorítmica) afirmó: “En 2019 el Gobierno de EE.UU. compartió un estudio que mostraba que los rostros de personas afroestadounidenses y de origen asiático tenían entre diez y 100 veces más probabilidades de ser identificados de manera incorrecta».

La tecnología suele ser celebrada como un motor del progreso. Sin embargo, si se la desarrolla sin una supervisión transparente y democrática, puede ocasionar grandes daños. La inteligencia artificial, o IA, es el ejemplo más reciente. A fines de mayo, la organización Centro para la Seguridad de la IA emitió una declaración de tan solo una frase en la que más de 250 expertos en tecnología advirtieron: “Mitigar el riesgo de extinción que la inteligencia artificial [plantea a la humanidad] debería ser una prioridad global, junto con otros riesgos de alcance social, como las pandemias y la guerra nuclear”. Este grupo de expertos está preocupado por la posibilidad de que, en el futuro, la inteligencia artificial termine por superar a la humana y contribuya a nuestra desaparición como especie.

Pero, para muchas personas, los abusos de la tecnología no suponen una mera posibilidad de riesgo futuro. Consideremos los casos de Henrietta Lacks, quien falleció de cáncer de cuello uterino en 1951, y un ejemplo más contemporáneo, ocurrido en 2023, de otra mujer negra, llamada Porcha Woodruff. Esta joven madre de la ciudad de Detroit fue detenida de manera injusta bajo cargos de robo a mano armada y robo violento de vehículo, después de ser incorrectamente identificada por un software de reconocimiento facial que funciona mediante inteligencia artificial.

En conversación con Democracy Now!, Porcha Woodruff dio detalles acerca de su detención: “Seis policías tocaron a la puerta [de mi casa con] una orden de arresto en mi contra por el robo de un automóvil. En el medio de la conversación, abrí un poco más la puerta para que [los agentes] vieran que estaba embarazada de ocho meses. […] Estuve un buen rato hablando con los policías, intentando convencerlos de que se habían equivocado de persona”.

Porcha Woodruff fue esposada delante de sus dos hijas pequeñas, que estaban aterrorizadas, y luego llevada a prisión. El rostro de la persona que efectivamente perpetró el crimen fue capturado por una cámara, pero el programa de reconocimiento facial identificó incorrectamente a Porcha. Woodruff es la primera mujer de la que se tiene registro que ha sido detenida de manera injusta en base a información deficiente proporcionada por un programa de detección de rasgos faciales. Al menos cinco hombres también han sido arrestados injustamente debido a deficiencias en el funcionamiento de esta tecnología. En los seis casos, las víctimas fueron personas negras. Porcha permaneció detenida durante once horas y fue puesta en libertad con una fianza de 100.000 dólares. La joven empezó a tener contracciones dentro de la cárcel y, tras ser liberada, tuvo que ser trasladada de inmediato al hospital, donde recibió tratamiento debido a que sufría un cuadro de deshidratación.

Joy Buolamwini, fundadora de la Liga por la Justicia Algorítmica, expresó a Democracy Now!: “En 2019, el Gobierno [estadounidense] compartió un estudio que mostraba que los rostros de personas afroestadounidenses y de origen asiático tenían entre diez y 100 veces más probabilidades de ser identificados de manera incorrecta. De manera reiterada, el desempeño más deficiente [del sistema de reconocimiento facial] ocurre en relación con los rostros de mujeres negras. Si nos fijamos en los datos y en lo que hemos registrado sobre el funcionamiento de las tecnologías de reconocimiento facial, vemos que las personas de color, las mujeres de color —y las mujeres negras, en particular— corren un riesgo aún mayor de sufrir este tipo de identificaciones erróneas”.

Porcha Woodruff tiene 32 años. Por su parte, Henrietta Lacks era una mujer de 31 años, madre de cinco hijos, que acudió a tratarse al hospital de la Universidad Johns Hopkins, el único centro hospitalario de la ciudad de Baltimore que atendía a pacientes negros a principios de la década de 1950. Rebecca Skloot es la autora del exitoso libro biográfico “La vida inmortal de Henrietta Lacks”, que también tuvo su versión cinematográfica, protagonizada por Oprah Winfrey. En conversación con Democracy Now!, Skloot explicó: “[Henrietta] fue anestesiada porque debían hacerla una biopsia del cuello del útero. Fue entonces cuando el médico cogió un trocito de más, lo puso en un recipiente y se lo envió a George Gey, que era el jefe de investigación de cultivos de tejidos y llevaba décadas intentando cultivar células. En el pasado habían podido mantener las células vivas durante 24 horas, pero [las de Henrietta] no solo no morían, sino que empezaban a duplicar su número cada 24 horas. Crecían con una intensidad increíble que nadie había visto antes”.

Henrietta Lacks murió a causa del cáncer poco después de la biopsia, pero sus células perduraron y se convirtieron en la piedra angular de la investigación biomédica. Las células tomadas de Henrietta Lacks, sin su consentimiento, han ayudado a curar o tratar innumerables enfermedades, como la polio, el VIH o el virus del papiloma humano. Asimismo, sus células han contribuido a desarrollar vacunas y otros medicamentos y a cartografiar el genoma humano. El personal médico del hospital universitario Johns Hopkins también actuó de mala fe con los familiares de Henrietta. Los sometieron a estudios para intentar averiguar por qué sus células eran capaces de sobrevivir tanto tiempo.

El hospital denominó a las células de Henrietta Lacks como “células HeLa” y afirmó falsamente que procedían de una persona ficticia llamada Helen Lane. Muchas empresas utilizaron las células de Henrietta y se beneficiaron comercialmente de ellas. El 1 de agosto de este año, la familia de Lacks llegó a un acuerdo de indemnización con la empresa Thermo Fisher Scientific.

Uno de los nietos de Henrietta, Alfred Lacks Carter Jr., anunció: “Nuestro familiar, nuestro ser querido, nuestra querida Henrietta Lacks, cumpliría hoy 103 años […]. No podría haber sido un día más apropiado para que se hiciera justicia para ella, para que su familia tenga alivio. Fue una larga lucha, fueron más de 70 años. Y Henrietta Lacks obtuvo hoy justicia”.

Esperemos que Porcha Woodruff también tenga su oportunidad de obtener justicia. La joven ha entablado una demanda contra la ciudad de Detroit, en la que sostiene que fue detenida y encarcelada de manera injusta, además de haber sido víctima de una persecución judicial malintencionada. Asimismo, Porcha denuncia en su demanda el empleo de un programa de reconocimiento facial basado en inteligencia artificial que evidencia un notorio sesgo racial. La experiencia de Porcha bien podría servir de estímulo para la aprobación de la Ley de Moratoria de Tecnología Biométrica y Reconocimiento Facial que se encuentra en proceso de debate en el Congreso de Estados Unidos.

Desde el caso de Henrietta Lacks hasta el ejemplo actual de Porcha Woodruff, es hora de reconocer y repudiar el uso racista de la tecnología.


© 2023 Amy Goodman

Traducción al español de la columna original en inglés. Edición: Democracy Now! en español, [email protected]

Amy Goodman es la conductora de Democracy Now!, un noticiero internacional que se emite diariamente en más de 800 emisoras de radio y televisión en inglés y en más de 450 en español. Es co-autora del libro “Los que luchan contra el sistema: Héroes ordinarios en tiempos extraordinarios en Estados Unidos”, editado por Le Monde Diplomatique Cono Sur.

Fuente: https://www.democracynow.org/es/2023/8/11/sesgo_racial_y_abuso_de_la