La doctora en Informática y Modelización Matemática Marta Beltrán publica un ensayo sobre la falta de perspectiva de género en el diseño de la tecnología y su aplicación: “Se creyó que la tecnología iba a favorecer la igualdad, pero el resumen es negativo para nosotras”
Los más puristas dirían que Internet no tiene género. Que la tecnología es neutra. Sin embargo, casos como el de las niñas víctimas de los deepfakes sexuales ilustran cómo las mujeres, en muchas ocasiones, no navegan por la red sino que intentan evitar el naufragio. Nadan como pueden para no ahogarse entre ingentes cantidades de estereotipos, acoso sexista y violencia misógina. “La tecnología iba a favorecer la igualdad, pero el resumen es negativo para nosotras”, resume la doctora en Informática y Modelización Matemática Marta Beltrán.
Las carreras tecnológicas siguen copadas por hombres mientras continúa con el relato de que a ellas no se les da bien, no les interesa la tecnología. Los puestos directivos de estas empresas siguen perteneciendo a ellos. Beltrán ha escrito un ensayo que da las claves para responder a la pregunta. ¿Acaso Internet tiene género? Sí que lo tiene. Y es masculino, razona en Mr. Internet (Next Door Publishers).
Beltrán incide en el poder cada vez mayor de la tecnología, en quién tiene ese poder y, todavía más importante, quién no. “Mr. Internet ha exiliado a las mujeres, las ha desterrado a la periferia o las ha tolerado solo como turistas”, describe la experta. También advierte sobre el peligro de dejar a los menores solos y solas ante la red: “Si te tomas un medicamento, normalmente lees el prospecto, quieres saber qué riesgos corres por tomarlo, cuáles son los efectos adversos. Con la tecnología no hacemos eso, no le preguntamos a nadie si es adecuada, cómo usarla o en qué condiciones, no nos informamos sobre los riesgos que asumimos al incorporarla a nuestra vida cotidiana”.
¿La tecnología es neutra?
La gente cree que la tecnología no tiene nada que ver con género o raza, que todo es objetivo, cuantitativo. Dicen que lo subjetivo es quien toma las decisiones pero hay una parte muy importante, que es el diseño. Muchas veces consumes tecnología sin darte cuenta de que, a lo mejor, no está hecha para ti. En el caso de las mujeres, somos la mitad de los clientes y muchas veces las que tomamos las decisiones de consumo de la otra mitad. Se ha estudiado cómo se ha silenciado a las mujeres de los descubrimientos científicos y el precio que pagan por no ser tenidas en cuenta. Pero la tecnología no es ciencia exactamente. La ciencia acaba impregnando la vida cotidiana con el paso de los años, pero en el caso de la tecnología es inmediata.
¿Por qué Alexa y Siri [los asistentes virtuales de voz de Amazon y Apple] son mujeres, aunque ellas digan que no?
Estereotipos. Si tú generas una herramienta que tiene ese rol de asistente, además, muchas veces circunscrito al entorno doméstico, necesariamente por estereotipos lo relacionas con lo femenino. La ayuda, la asistencia, el ámbito privado, el ámbito doméstico. Es inevitable ponerle nombre y voz de mujer. Sin embargo, hay estudios que dicen que los usuarios de esos asistentes no se sienten más cómodos por el hecho de que sea mujer y con una voz de hombre trabajan igual de bien con el asistente. Sin embargo, como comento en el libro, con el concepto de inteligencia artificial que lo sabe todo, que es un sistema experto al que puedes preguntar, involuntariamente lo vas a asociar a lo masculino. Por no ser tan obvio, le han puesto acrónimos: ChatGPT, Dall-E… Pero si preguntas a la gente cuando se relaciona con ese tipo de agentes, si se imagina que es un hombre o una mujer, te contestan que es un hombre.
El acoso sexista en línea es otro de los temas que parece que siguen sin resolverse, ahora empeorado por el streaming [transmisión en directo]. ¿Cuál es el primer paso para intentar atajar ese problema?
Las campañas de odio y en este caso las misóginas en Internet normalmente hacen que alguien gane dinero, por eso nos separan. La mayor parte del modelo de negocio que hay detrás de la web tiene que ver con los clics y la publicidad. Habría que pensar maneras en las que ese tipo de contenidos no generaran negocio. Hay una parte ahí de subir a bordo a los proveedores y tiene que ver en parte con regulación, aunque eso es muy complicado, y con la retirada de incentivo económico, que no puedan ganar dinero. Y para eso hay que trabajar también con los anunciantes, con el tema de la publicidad responsable y que no vean asociados sus nombres con plataformas o proveedores que no paran esas campañas.
Soy un poco pesimista porque lo único que estamos observando es en el mundo virtual una amplificación de lo que se observa en el mundo real
Por otro lado, tiene mucho que ver con los usuarios que están detrás de esa violencia y de esa misoginia, que tendrían que ser expulsados y educados. Muchas veces no son conscientes de cómo están participando en una campaña organizada de acoso contra alguien. Sí los líderes, pero no las personas alrededor. Para eso se necesita mucha concienciación, saber qué implica participar, que puede ser leer, viralizar o simplemente dar like o pinchar en un link. Hay mucho de intentar generar comunidades seguras para las mujeres que sufren ese tipo de de campañas y de acoso, que tengan plataformas y foros donde puedan expresar su opinión, denunciar o pedir ayuda. Normalmente quien perpetra violencia o acoso misógino está en comunidad y quien lo sufre es una persona individual que se siente muy sola. Soy un poco pesimista porque lo único que estamos observando es en el mundo virtual una amplificación de lo que se observa en el mundo real.
¿Es buena idea dejar en manos de los propietarios de esas empresas el tema de hacer la web un lugar más seguro o agradable para todos los usuarios y usuarias o debe legislarse y que la UE tome cartas en el asunto?
Hay un problema, que es el de conciliar distintos derechos y libertades. Cualquier iniciativa que intente hacer de la red y las plataformas un lugar más seguro y cómodo tiene que conciliar con esos derechos y libertades tradicionalmente europeas, hay libertad de expresión y de información. El problema es que muchas veces las fronteras entre los derechos y las libertades de unos y de otros quedan difuminadas y es complicado conciliarlo. Hay situaciones donde se ve más claro, pero luego hay multitud de escenarios. ¿Dónde ponemos el límite?
Hay que demostrar a esas empresas que si tienen en cuenta estas diferencias de género y empiezan a mejorar sus productos y la manera en la que desarrollan tecnología, van a ganar más dinero
Nosotros pensamos en el contexto europeo con regímenes democráticos pero esto es a nivel planetario. ¿Lo dejamos en manos de las plataformas o siempre hay que recurrir al Poder Judicial? ¿Y en regímenes autoritarios? Cualquier solución tiene que ser válida a escala global. Sobre la regulación, es muy complicado. Llega cuando la tecnología ya está implantada, y cuando hablamos de brechas de género estas están desde el diseño. Hay que demostrarle a esas empresas que si tienen en cuenta estas diferencias de género y empiezan a mejorar sus productos y la manera en la que desarrollan tecnología, van a ganar más dinero.
Es inevitable hablar de tecnología y no mencionar a los jóvenes y el uso que hacen ellos de esta. Habla en el libro de la difusión de imágenes sexuales sin permiso y en los últimos meses hemos visto casos de imágenes sexuales falsas de niñas creadas a través de inteligencia artificial. ¿Estamos enfocando bien este tema?
Está claro que no. Si no, no estarían pasando estas cosas y a la escala que están pasando y que van a pasar. La tecnología no es neutra. Tú tienes una empresa que entrena un modelo de inteligencia artificial que cuando llega a los usuarios es capaz de, con una foto de una menor vestida, generarte una foto de una menor desnuda creíble. Primera pregunta: ¿con qué datos se ha entrenado ese modelo? No van a ser fotos de aviones. Ha aprendido a desnudar el cuerpo de una menor y a hacerlo creíble.
Segunda pregunta: ¿cuál era la función de ese modelo? ¿Era genérico? Porque está realizando una tarea específica con un nivel de precisión bastante alto. ¿Cuál era su intención? ¿Por qué ese modelo acaba siendo utilizado por terceros para construir servicios cuya principal misión es desnudar a quien se quiera? ¿Qué relación de negocio hay entre el tercero que monta esa plataforma que desnuda a quien tú quieras y la empresa que ha construido ese modelo de IA y que lo ha entrenado? Porque hay ahí algo que se nos escapa.
¿Por qué en chats de videojuegos o en canales de Discord, en sitios donde se sabe que hay conectadas personas muy jóvenes y probablemente menores es donde se hace una publicidad masiva de este tipo de servicios? ¿Cuál es el modelo de negocio y por qué ha deducido que iba a ganar más dinero ofreciéndolo en esos sitios? Hay una parte enorme que tiene que ver con quién prueba la tecnología y la diseña, pero también hay otra que tiene que ver con las casas. ¿Qué hace un chaval de 12 años con acceso descontrolado a un móvil con conexión a internet, a fotos de sus compañeras menores vestidas, a canales para difundirlas? ¿Quién controla el uso que hace de la tecnología ese chaval? ¿Quién pone los límites? No deberían poder acceder a esas páginas de ‘desnuda a quien tú quieras’ sin que nadie en su casa se enterara de que eso está pasando.
¿Y utilizan chats de videojuegos?
Sí, Discord, Twitch, Youtube, chats de videojuegos online… Algunos de esos chats ni siquiera son solo texto, también son con cámara y con voz. Estás dejando que tu hijo hable con desconocidos todos los días, y en los colegios no se proporciona educación sobre un uso responsable de la tecnología, y cuando se hace ya tienen 16 años, pero hay que empezar con 6. Cada vez se les da un móvil antes, aunque en sí no es un problema, el problema es si tiene conexión a internet y ningún tipo de control parental, y cuando crean cuentas en sitios donde hasta los 16 no deberían crearlas.
Normalmente quien perpetra violencia o acoso misógino [en internet] está en comunidad y quien lo sufre es una persona individual que se siente muy sola
Cuando se habla de tecnologías se incide mucho en el bullying, que está muy bien, pero no se habla más allá. La mujer está cada vez más sexualizada, más cosificada, desde antes se puede ejercer sobre ella cada vez más control y más violencia. Nosotros hemos tenido actividades en Secundaria con grupos bastante grandes de chicos y chicas y ellas veían normal en general que ellos les controlaran el móvil. La primera vez que observé esto me puse enferma físicamente.
¿Qué pueden hacer desde las familias para evitar que sus hijos o hijas corran peligro en ese sentido?
Si te tomas un medicamento, normalmente lees el prospecto, quieres saber qué riesgos corres por tomarlo, cuáles son los efectos adversos. Con la tecnología no hacemos eso, no le preguntamos a nadie si es adecuada, cómo usarla o en qué condiciones, no nos informamos sobre los riesgos que asumimos al incorporarla a nuestra vida cotidiana. Y sin embargo, tiene o puede llegar a tener unos impactos mucho mayores en nuestra salud y en nuestra vida que los medicamentos. Es una herramienta transformadora muy potente y puede tener efectos muy positivos pero nunca con riesgo cero. Y hay un interés por muchos agentes de que no los valoremos y no lo pensemos, pero también hay mucha desidia: para muchos padres es cómodo darles a los hijos cada vez antes un móvil. Es a la vez entretenimiento y una fuente de acceso a conocimiento, eso se podría ver como un impacto positivo, pero siempre con un mayor acompañando.
Probablemente haya más mujeres que generan contenido de las que creemos. Pero en general se sabe que un 60% de las que consumen contenidos en internet son en gran medida mujeres
Una cosa es lo que decimos y otra es lo que hacemos y como también hay muchos problemas de gestión de la tecnología en los adultos hoy en día, aunque los adultos intenten decirles a los hijos que no hagan algo, si luego ellos lo hacen, los hijos aprenden lo que ven. Por otro lado, el apoyo que debería haber desde centros educativos y otras comunidades, no está. Quien debería estar insistiendo e informando, no lo está haciendo. También en casa se puede decir que la tecnología es cosa de hombres y de mujeres, pero ¿solo usa tecnología el padre? ¿Se asocia a la madre con unas tareas y al padre con otras?
Imagino que esta división de estereotipos en el mundo virtual puede ser incluso más pronunciada. ¿Lo que ven los jóvenes en línea fomenta todavía más esa división? Por ejemplo, el contenido que crean streamers. Hay algunos con contenidos directamente misóginos, pero ¿hay además diferencias de creación entre hombres y mujeres?
Más de la mitad de las personas que consumimos contenido somos mujeres y sin embargo, no generamos contenidos ni muchísimo menos en esa proporción. Hay un desequilibrio muy fuerte. Ahí hay que tener en cuenta que a veces las cifras están falseadas porque no se puede saber si genera contenido una mujer, si se esconde detrás de un seudónimo. Probablemente haya más mujeres que generan contenido de las que creemos. Pero en general se sabe que un 60% de las que consumen contenidos en internet son en gran medida mujeres.
Las creadoras de contenido de salud, belleza o maternidad lo hacen seguras porque nadie las va a atacar por divulgar temas ‘femeninos’. Las pocas que generan contenido como política o deportes son anónimas o soportan constantes campañas de odio
Las creadoras de contenido en temas como salud, belleza o maternidad, son mayormente mujeres. Se sienten seguras y lo hacen con su nombre y su cara porque nadie las va a atacar por ser mujeres divulgando sobre estos temas etiquetados como femeninos. Las pocas que generan contenido asociado a lo masculino, como política o deportes, lo hacen con seudónimos, son anónimas o soportan constantes campañas de odio. Normalmente acaban siendo expulsadas de esas comunidades. Es un ciclo maligno donde desde muy pequeñas ya percibimos que la creación de contenidos no va con nosotras, y si percibimos que sí son temas donde se nos deje tener un discurso. Hay que preguntarse: ¿esto es solo tecnológico o virtual? No. Es que el mundo real es así. No estamos representadas en la misma proporción que los hombres.
¿Le estamos dando importancia a esas campañas de odio machistas en Internet, teniendo en cuenta que la gente joven cada vez va a relacionarse más en espacios virtuales?
No, pero creo que se le acabará dando. Es un poco lo que pasó en el mundo real. Cuando yo empecé a trabajar en eventos tecnológicos tenía reacciones muy hostiles por parte de compañeros por verme como ponente. Eso se empezó a modular o si pasaba era más sutil. Espero que en el mundo virtual pase lo mismo, y si una streamer tiene a alguien que intenta tirarle su directo, la gente lo rechace y tenga algún tipo de sanción. También habrá que buscar una manera de que no se puedan escudar en el anonimato esos comportamientos, ya que a veces son delitos de odio tipificados y no tienen nada que ver con la tecnología. La injuria o las amenazas son delito, independientemente del medio. Cada vez va a haber más medios para perseguirlos y que mucha gente se lo piense dos veces. Aunque no se le dé ahora mismo esa importancia, sí ocurrirá poco a poco porque si no se expulsará a muchas mujeres de comunidades y de canales.
¿Qué consecuencias puede tener esa expulsión de las mujeres de estos espacios, teniendo en cuenta que lo virtual cobra cada vez más importancia?
Al principio éramos muy optimistas. De hecho, el ciberfeminismo y el tecnofeminismo fue súper optimista y creían que iba a ser la herramienta que nos iba a hacer iguales, ya que tiene acceso sencillo y podemos estar en el anonimato. Se consideró que iba a ser algo que iba a favorecer la igualdad, que iba a ayudar y es verdad que en ciertas cuestiones sí lo ha hecho, pero el resumen de todos estos años es negativo para nosotras. La tecnología no está resolviendo nuestros problemas. Y cuando intentamos que lo resuelva, en muchos casos acaba generando otros. Además, también hay otros temas, como la diversidad funcional o el racismo. Si se diseña la tecnología siempre pensando en que el usuario es una persona joven, hombre blanco y sano, se deja fuera a la mayor parte de la población. Y teniendo en cuenta que cada vez es más imprescindible, se paga en impactos muy importantes y lesivos.
Al principio se consideró que la tecnología iba a favorecer la igualdad, pero el resumen de todos estos años es negativo para nosotras. La tecnología no está resolviendo nuestros problemas
Creo que ya empieza a dar conciencia de que esto es así y lo que tenemos que empezar es a desde esa conciencia, recopilar datos, y no se pueden proponer soluciones a ciegas, sobre todo con algo que ya está tan extendido como la tecnología. Hay que ver qué impactos negativos está teniendo esta tecnología en estos grupos de personas. Y a partir de estos datos, pensar soluciones globales y qué papel tiene cada uno en esa solución.
¿Por qué crees que todavía no existen esos datos?
Nos sacarían los colores. Si no hay voluntad real por cambiar las cosas es mejor no sacar los datos. Si de verdad hubiera datos, serían devastadores. Por ejemplo, me sorprendí cuando vi que en todos los continentes del planeta hay menos mujeres que hombres con teléfono móvil personal. También son menos las que tienen tarifa de datos contratada. En muchas casas cuando hay que hacer sacrificios por temas económicos, son ellas las que lo sufren, sobre todo en relación con la tecnología: si se puede comprar un móvil, es para él y los hijos, y si hay que contratar tarifas de datos, son para ellos.