El 80% de las fotos de la red que utiliza el FBI para su tecnología de reconocimiento facial son registros no criminales, incluidas imágenes de carnés de conducir y pasaportes. Los algoritmos utilizados para identificar coincidencias son incorrectos en alrededor del 15% de los casos
Las fotografías de aproximadamente la mitad de los adultos estadounidenses están almacenadas en bases de datos de reconocimiento facial a las que puede acceder el FBI sin su conocimiento o su permiso en la búsqueda de criminales sospechosos. Alrededor del 80% de las fotos de la red del FBI son registros no criminales, incluidas imágenes de carnés de conducir y pasaportes. Los algoritmos utilizados para identificar coincidencias son incorrectos en alrededor del 15% de los casos y es más probable que identifiquen erróneamente a un afroamericano que a un blanco.
Estos son solo algunos de los hechos irrefutables presentados la semana pasada en la audiencia de un comité de la Cámara de Representantes. Allí, políticos y activistas en defensa de la privacidad criticaron al FBI y pidieron una mayor regulación de la tecnología de reconocimiento facial en un momento en el que entra sigilosamente en las fuerzas de seguridad y en las empresas.
«La tecnología de reconocimiento facial es una poderosa herramienta que pueden utilizar las fuerzas de seguridad para proteger a la gente, su propiedad, nuestras fronteras y nuestra nación», declaró el presidente del comité, el congresista republicano Jason Chaffetz, que añadió que en el sector privado puede ser utilizada para proteger las transacciones financieras y prevenir el fraude o el robo de identidad.
«Pero también puede ser utilizado para perseguir y acosar a otras personas. Se puede usar para limitar la libertad de expresión y asociación atacando a las personas que acudan a determinados encuentros políticos, protestas, iglesias u otro tipo de lugares públicos», explicó Chaffetz.
La tecnología de reconocimiento facial a tiempo real -que permite a cámaras de vigilancia o dispositivos en los uniformes de los agentes escanear las caras de la gente que camina por la calle- es, de acuerdo con el presidente del comité, «más preocupante». «Por estas y otras razones, debemos llevar a cabo una supervisión adecuada de esta tecnología emergente», añadió.
«Ninguna ley federal controla esta tecnología y ninguna decisión judicial la limita. Esta tecnología no está bajo control», señala Álvaro Bedoya, director ejecutivo del centro de privacidad y tecnología de la Facultad de Derecho de la Universidad de Georgetown.
El FBI lanzó su innovadora base de datos biométrica, llamada Identificación de Siguiente Generación, en 2010, dando mayores capacidades, incluido el reconocimiento facial, a la vieja base de datos de huellas dactilares. La agencia no informó al público de sus nuevas capacidades y tampoco publicó en cinco años una evaluación -exigida por ley- del impacto en la privacidad.
Fallos contra los afroamericanos
A diferencia de lo que ocurre con la recogida de huellas dactilares y ADN, que se realiza tras una detención, las fotos de civiles inocentes se recogen de manera proactiva. El FBI ha llegado a acuerdos con 18 estados diferentes para obtener acceso a sus bases de datos de fotos de carnés de conducir.
«Estoy realmente horrorizado», afirma Paul Mitchell, congresista de Michigan. «Cuando renové mi carné de conducir no se me informó de que mi fotografía iba a estar en un archivo que podría ser consultado por las fuerzas de seguridad en todo el país».
El año pasado, la oficina de rendición de cuentas estadounidense (GAO) analizó el uso del FBI de la tecnología de reconocimiento facial y halló una falta de rendición de cuentas, de precisión y de supervisión y realizó algunas recomendaciones para solucionar el problema.
Una de las preocupaciones clave es cómo mide el FBI la precisión de su sistema, particularmente el hecho de que no revisa los falsos positivos ni el margen de error racial. «No sabe con qué frecuencia el sistema identifica al sujeto equivocado», explica Diana Maurer, de GAO. «Gente inocente puede enfrentarse a una falsa acusación e incluso a tener investigadores federales en su casa o su lugar de trabajo».
El reconocimiento impreciso afecta desproporcionadamente a las personas negras, de acuerdo con los estudios. Los algoritmos no solo son menos precisos en la identificación de caras de afroamericanos, sino que estos son objeto de reconocimiento facial por parte de la policía en una proporción dispar.
«Si eres negro, es más probable que seas sometido a esta tecnología y es más probable que la tecnología se equivoque», aseguró Elijah Cummings, congresista por Maryland que pidió al FBI que examine el sesgo racial de su tecnología. El FBI afirma que esto es innecesario porque el sistema es «no está condicionado por cuestiones raciales».
«Esta respuesta es muy preocupante. En lugar de llevar a cabo un examen que demuestre si estas preocupaciones tienen o no credibilidad, el FBI prefiere ignorar las crecientes evidencias de que la tecnología tiene un impacto desproporcionado en afroamericanos», afirmó Cummings.
La tecnología comercial, mucho más desarrollada
Kimberly Del Greco, subdirector adjunto de información de justicia criminal del FBI, explicó que el sistema de reconocimiento facial del FBI «ha mejorado la capacidad de resolver delitos» y destacó que el sistema no es utilizado para identificar sospechosos con total seguridad, sino para generar «investigaciones».
Hasta las empresas que desarrollan tecnología de reconocimiento facial creen que esta tiene que estar más controlada. Brian Brackeen, consejero delegado de Kairos, señala a the Guardian que no está «cómodo» con la falta de regulación. Kairos ayuda a los estudios de cine y a las agencias de publicidad a estudiar la respuesta emocional a su contenido. También facilita reconocimiento facial en parques temáticos para permitir a la gente encontrar y comprar sus fotos.
Brackeen explica que los algoritmos utilizados en el espacio comercial están «a cinco años» de los que utiliza el FBI y que son mucho más precisos. «Tiene que haber protecciones a la privacidad de los individuos», indica.
Debería haber normas estrictas sobre cómo pueden las empresas privadas trabajar con el Gobierno, señala Brackeen, especialmente cuando las empresas como Kairos están creando buenas y abundantes bases de datos de rostros. Kairos se niega a trabajar con el Gobierno por sus preocupaciones sobre cómo su tecnología podría ser utilizada para vigilancia biométrica. «Actualmente, la única razón que impide a Kairos trabajar con el Gobierno soy yo», añade.
Traducido por Javier Biosca Azcoiti