Ecologistas en Acción muestra su rechazo a Chat Control, el proyecto de vigilancia automatizada de las aplicaciones de mensajería y servicios en línea de la Unión Europea, y reclama al Gobierno de España que vote en su contra.
La organización ecologista celebra la jurisprudencia creada en la reciente sentencia del Tribunal Supremo para garantizar la transparencia en la interpretabilidad de algoritmos y programas informáticos usados por las Administraciones públicas.
El 14 de octubre el Consejo de Ministros de Justicia e Interior de la Unión Europea podría votar el proyecto denominado Chat Control, con el que la Unión Europea busca tener un acceso automático a todas las comunicaciones digitales privadas, con la justificación de prevenir y combatir el abuso sexual en menores.
De ser aprobado, los teléfonos móviles (y otros dispositivos en línea) de la ciudadanía europea deberán incluir obligatoriamente un software espía con capacidad de escanear mensajes, correos, audios y vídeos para compararlos algorítmicamente con bases de datos de imágenes y modelos globales automatizados antes de ser cifrados y enviados.
La recolección, el almacenamiento y el control técnico de los datos recaerá sobre grandes empresas tecnológicas en las que la Unión Europea externalizará la gestión de la información. La vigilancia automatizada se convertiría así en una nueva rama del negocio de las telecomunicaciones que, al tiempo, podría debilitar las garantías y libertades democráticas amparadas por los marcos legales actuales europeo y español.
Para la organización ecologista, con este proyecto, “se incrementará la ya enorme huella ecológica de esta industria (como el gran consumo de agua y energía, extractivismo minero, contaminación electromagnética,…), así como el riesgo de sesgos de género, etnia y otros, propios del uso automatizado de la información de los sistemas de Inteligencia Artificial.”
Según Ecologistas en Acción, este sistema de vigilancia generalizada e indiscriminada vulnera directamente derechos fundamentales de la Constitución Española y de la Unión Europea, como el secreto de las comunicaciones y el derecho a la intimidad y a la protección de datos, que exigen una resolución judicial y prohíben la vigilancia indiscriminada.
El Comité Europeo y el Supervisor Europeo de Protección de Datos, en su dictamen conjunto de 2022, alertan de sus riesgos y falta de proporcionalidad: “El cifrado de extremo a extremo [de las comunicaciones interpersonales] es una herramienta crucial para garantizar la confidencialidad de las comunicaciones electrónicas”. Por tanto, la alteración de este proceso, “debilitaría la función del cifrado en general y socavaría el respeto por los derechos fundamentales de la ciudadanía europea”.
En la misma línea, Ecologistas en Acción apoya la reciente declaración conjunta de más de 700 personas expertas del ámbito de la ciencia y de la investigación sobre esta propuesta de la Presidencia de la Unión Europea, donde se denuncia la creación de “capacidades sin precedentes de vigilancia, control y censura, y conlleva un riesgo inherente de usurpación de funciones y abuso por parte de regímenes menos democráticos”.
La declaración señala que “esta propuesta socava por completo las protecciones de seguridad y privacidad que son esenciales”, y que, en todo caso, no supone “ninguna garantía de una mayor protección para los niños”. Asimismo critica a los responsables políticos por no haber logrado “establecer un diálogo abierto con expertos sobre este tema en los últimos dos años”, ya que, “a pesar de las serias dudas sobre la eficacia de las tecnologías de detección, no se ha producido ningún debate, análisis ni evaluación pública de estas tecnologías que justifique el enfoque adoptado en el reglamento propuesto”.
La organización ecologista subraya que, además de pasar por alto principios legales como la presunción de inocencia y el derecho a la privacidad, el proyecto Chat Control entra en contradicción con una reciente y relevante sentencia del Tribunal Supremo, garante de la transparencia en los procesos informáticos.
Explicabilidad de los algoritmos
En dirección contraria al espíritu del proyecto Chat Control, la reciente sentencia del Tribunal Supremo obliga al Gobierno a otorgar acceso al código fuente del algoritmo BOSCO que gestiona la asignación del bono social eléctrico a la ONG Civio, previamente denegado por el Ministerio de Transición Ecológica y Reto Demográfico.
Esta decisión judicial crea jurisprudencia: los poderes públicos deben garantizar la transparencia y fiscalización de los procesos informáticos de las aplicaciones digitales en la toma de decisiones públicas automatizadas, con la obligación de “explicar de forma comprensible el funcionamiento de los algoritmos que se emplean en la toma de decisiones que afectan a los ciudadanos para permitirles conocer, fiscalizar y participar en la gestión pública”.
Ecologistas en Acción subraya la relevancia de dicha sentencia que afectará a cualquier algoritmo o programa que usen las Administraciones públicas y que repercuta en la ciudadanía, máxime cuando en la normativa actual “no existen autoridades de supervisión independientes que garanticen el correcto funcionamiento de dichas aplicaciones telemáticas”.
Por todo lo anterior, Ecologistas en Acción enfatiza que el proyecto Chat Control posee un sentido contrario al de la sentencia del Tribunal Supremo, “frente a la arbitrariedad o los sesgos discriminatorios en la toma de decisiones total o parcialmente automatizadas”, que entregan la interpretabilidad de los datos y la de sus potenciales consecuencias a las empresas tecnológicas y sus sistemas de IA como depositarios subsidiarios de la gestión.
Julio Carmona, portavoz de Ecologistas en Acción, alude a la mencionada sentencia y apela al Gobierno de España a modificar su posición inicial, tal y como han hecho otros países, así como a votar en contra de la normativa vinculante del proyecto Chat Control. “De lo contrario, con el voto positivo, el Gobierno estaría vulnerando la legalidad estatal vigente”.
Asimismo, el representante de la organización ecologista llama a mostrar rechazo públicamente a través de cualquiera de las distintas iniciativas (Stop Chat Control, Fight Chat Control) en esta dirección, “para abrir un debate secuestrado en el Estado español y en Europa, que facilite la defensa de la ciudadanía en la vulneración de sus derechos fundamentales”.