Hablemos de privacidad: ¿podría aumentar la vigilancia masiva gracias a la IA?
La Unión Europea (UE) no vio cómo las tecnologías de Inteligencia Artificial (IA) ganaban fuerza sin pensar inmediatamente en una forma de regularlas. Sin embargo, hay organizaciones de la sociedad civil que señalan que, aun así, el uso de sistemas tecnológicos de reconocimiento facial podría aumentar, constituyendo un problema.
Como ya hemos visto, el uso de la IA en la UE estará regulado por la Ley de IA. Se trata de la primera ley integral de tecnología del mundo y establece obligaciones para proveedores y usuarios en función del nivel de riesgo.
Para las organizaciones de la sociedad civil, el reglamento que prepara la UE, y que se considera el primero del mundo, tiene demasiadas lagunas en cuanto al uso de sistemas tecnológicos de reconocimiento facial.
Aunque el reconocimiento facial debe utilizarse en contextos muy concretos bajo autorización judicial, como puede ser el caso de una amenaza terrorista, la advertencia surge por el posible descontrol consecuente.
La policía tiene condiciones muy amplias para utilizar estos sistemas.
Lo que tememos es que esto tenga un efecto legitimador. Estos sistemas, que hasta ahora hemos podido desafiar, diciendo que no los queremos en una sociedad democrática, serán más difíciles de desafiar. En otros países pueden decir que la UE ha aprobado estas tecnologías.
Así lo explicó Ella Jakubowska, del movimiento "Rescata tu rostro", en una entrevista con euronews.
El Parlamento Europeo defendió la prohibición de estos sistemas, pero acabó cediendo durante las negociaciones a las demandas de algunos Estados miembros para crear excepciones. El gobierno francés, por ejemplo, tiene la intención de utilizar IA para monitorear actividades sospechosas durante los Juegos Olímpicos de este año.
Para Ella Jakubowska, las excepciones refuerzan el miedo a las prácticas de vigilancia masiva, porque podemos esperar "un aumento potencial del uso de sistemas de reconocimiento facial en nuestros espacios públicos, especialmente cuando estos sistemas se utilizan en vivo".
Por ejemplo, cuando estás caminando en un espacio público, yendo a las tiendas, de camino a la escuela o al médico, participando en una manifestación; Es posible que los agentes encargados de hacer cumplir la ley tengan mayores poderes para utilizar esta tecnología de reconocimiento facial en tiempo real, rastreando a cualquier persona, en cualquier lugar.
Para la UE, el reglamento sobre IA garantiza el equilibrio
A pesar de las preocupaciones expresadas por las organizaciones de la sociedad civil, el Parlamento Europeo sostiene que el reglamento garantiza un equilibrio entre la promoción de la seguridad y los derechos civiles.
Si hubiésemos prohibido esta técnica pasarían dos cosas. En primer lugar, la sociedad se preguntaría ¿por qué la integridad de un terrorista debería ser más importante que la seguridad de nuestros ciudadanos? En segundo lugar, esta técnica seguiría siendo desarrollada por otros países, especialmente China.
El eurodiputado sueco Arba Kokelari afirmó a euronews que "la ley propuesta es una buena manera de equilibrar la integridad, pero también la seguridad".
