L’état des lieux du discours « ville intelligente » à RightsCon 2019

par

Ma semaine à RightsCon 2019

RightsCon s’agit d’une réunion annuelle de militants des droits de l’homme, de membres de la société civile, de responsables gouvernementaux, de chercheurs et des individus provenant du secteur privé. Cette année, la conférence s’est tenue à Tunis, en Tunisie, un milieu d’accueil à la fois opportun et approprié, compte tenu de la révolution tunisienne qui a pris racine à Tunis en 2011. La révolution a ouvert la voie à la démocratisation du pays, tout en incitant d’autres pays avoisinants de lancer leurs propres révolutions. Ces manifestations, collectivement appelées le Printemps arabe, ont été marquées par la grande utilisation des médias sociaux dans la mobilisation des manifestations citoyennes.

Au cours de ma semaine à Tunis, j’ai eu l’occasion d’apprendre des militants qui luttent pour la défense des droits de la personne et les droits numériques connexes, en promouvant la liberté d’expression en ligne et le respecte de la vie privée vis-à-vis la protection des données personnelles. Cette expérience m’a permis d’apprécier beaucoup plus, un bon nombre de droits que je tiens pour acquis en tant que résidente du Canada, un pays riche et démocratique.

Ma semaine m’a également permis de constater à quel point des acteurs en position de pouvoir peuvent encadrer, influencer ou manipuler des concepts et des idées dans l’objectif de faire progresser leurs intérêts personnels. Ce thème figurait dans plusieurs des discussions de la conférence, notamment dans des séances au sujet de la prolifération de contenu extrémiste en ligne ainsi que dans les séances concernant l’abus de pouvoir gouvernemental et le contrôle des espaces civiques en ligne.

Pendant mon séjour à Tunis, j’ai été particulièrement intéressée par le terme « ville intelligente ». Nord Ouvert a étudié ce concept avec soin dans le contexte canadien, à travers son projet de recherche collaborative qui a abouti avec la création du Guide des villes intelligentes ouvertes. Nord Ouvert est également associé à des projets locaux en tant qu’organisme-partenaire de l’Observatoire international sur les impacts sociétaux de l’AI et du numérique. À ce titre, nous visons à progresser la réflexion critique sur l’utilisation des technologies dans les villes d’une manière éthique et responsable.

Dans cette optique, j’ai voulu analyser comment le terme « ville intelligente » figurait dans les discussions à RightsCon, pour enfin comprendre comment ce concept est utilisé à l’extérieur du Canada. Alors que les discussions se déroulaient, il est devenu clair que les participants détenaient des interprétations différentes du terme « ville intelligente ». J’ai pu remarquer comment leurs interprétations s’inscrivaient dans leurs expériences personnelles relatives à l’introduction des technologies numériques dans leurs communautés. En tirant profit de leurs expériences personnelles, un grand nombre de participants ont lié le terme « ville intelligente » avec la présence de caméras, de capteurs ou de technologies de reconnaissance faciale dans les espaces publics. De nombreux participants ont indiqué qu’ils craignent que ces technologies présentent à l’État la possibilité de connaître en tout temps les mouvements et les comportements de leurs citoyens, ouvrant ainsi la voie à la surveillance et le contrôle gouvernemental.

Perspectives sur les technologies « intelligentes » présentées par des intervenants provenant des villes du Sud global

Pendant la séance « “Smart” Cities in the Global South: Should “smart” people trust them? » animée par Juliana Novaes, Chef de projet au Youth Observatory, des experts ont partagé avec les participants leurs témoignages par rapport à l’introduction des technologies « intelligentes » dans leurs villes. Je partage ci-dessus quelques-unes de leurs présentations, en commençant avec la ville de São Paulo, Brésil.

São Paulo a récemment adopté une technologie de reconnaissance faciale dans une de ses lignes de métro. Selon un article de CityLab, les plateformes numériques intégrées aux stations de métro reconnaissent les expressions faciales de ceux qui passent devant les publicités et catégorisent les expressions saisies en quatre catégories : heureux, insatisfait, surpris ou neutre. Lors de la séance, l’expert Caio César de Oliveira, Avocat à Pinheiro Neto Advogados, a indiqué que la technologie de reconnaissance faciale a été également intégrée à un système qui sert à détecter si les passagers utilisent la carte de métro qui leur a été attribuée. En identifiant ceux qui utilisent des cartes de métro qui ne leur appartient pas, le système peut refuser l’entrée aux passagers sur place. À première vue, ce système paraît comme un moyen simple et efficace de permettre aux fournisseurs de transport en commun de protéger leur source de revenus. Toutefois, ce système soulève des préoccupations liées à la précision de la technologie de reconnaissance artificielle. Le système pourra également mener à la criminalisation de certains citoyens, parce qu’il offre aux policiers un moyen simplifié d’identifier certains individus et de les pénaliser pour un acte criminel qui est relativement anodin.

Par la suite, Sigi Waigumo Mwanzia, Digital Policy Fellow à Article 19, a parlé de la situation au Kenya. Mwanzia a exprimé ses préoccupations concernant les systèmes d’identification numérique, car le gouvernement de Kenya a indiqué ses intentions de saisir des informations biométriques des citoyens et de les héberger dans une base de données centralisée. Elle a indiqué que le système proposé est désormais déployé très rapidement, laissant peu de temps aux tribunaux de considérer quelles mesures peut être mises en place pour protéger les données des citoyens. En outre, certaines grandes villes du Kenya prennent part à l’usage des technologies de surveillance. Les villes de Nairobi et Mombasa emploient des systèmes de surveillance constitués de caméras de vidéosurveillance qui se connectent directement aux postes de police locaux. Dans l’ensemble, les commentaires de cette intervenante m’ont rappelé que, le rythme auquel les gouvernements acquièrent et adaptent les nouvelles technologies diffère grandement de celui des citoyens, dans leur capacité d’étudier ces technologies et d’identifier leurs impacts sociétaux.

En dernier lieu, lors la séance « You’re not Just a Pretty Face: Biometric surveillance has moved beyond facial recognition - how do we stop it? » la modératrice Jennifer Lynch, Surveillance Litigation Director, Electronic Frontier Foundation, a invité aux participants de partager leurs témoignages concernant l’usage des technologies de surveillance de la part des gouvernements. Une grande partie de la discussion était axée sur la surveillance de l’État dans certaines villes chinoises de la région de Xinjiang. À travers la collecte de données de sources multiples, l’identification biométrique, la saisie d’adresses IP et la reconnaissance faciale, le gouvernement détient la capacité de suivre les activités des citoyens à travers des différents systèmes et espaces physiques. Selon un article publié par le New York Times, le gouvernement renvoie à ces technologies pour surveiller la population minoritaire musulmane, ce qui constitue essentiellement un système de profilage racial.

Les gouvernements à la recherche de l’efficacité

Les exemples ci-dessous, soulèvent non seulement une multitude de préoccupations concernant le droit à la vie privée, la protection des données personnelles et le traitement égal devant la loi, mais ils donnent également un aperçu sur la façon dont les gouvernements justifient l’usage des technologies pour renforcer et exercer leur pouvoir. D’une part les autorités publiques affirment que ces technologies vont améliorer la sécurité des citoyens en permettant au service de police d’identifier et d’atténuer les menaces à la sécurité. D’autre part, ils justifient l’achat et l’utilisation de ces systèmes aux fins de rendre la vie des citoyens plus simple et efficace. Effectivement, en faisant partie de cette vision des « villes intelligentes », les citoyens sont obligés d’échanger leur droit à la vie privée contre la promesse d’une meilleure sécurité publique et une société plus efficace.

Et l’état du discours « villes intelligentes » dans le Nord global ?

Les villes des pays du Nord ne sont pas à l’abri de ces préoccupations liées à la protection de la vie privée et la risque d’amorcer un état de surveillance – il suffit de regarder le plan de développement urbain proposé par Sidewalk Labs dans le cadre de renouvèlement du quartier Quayside à Toronto et la controverse qui s’en ai suivi.

Dans ce contexte, le sujet des « villes intelligentes » a jusqu’ici été abordé et examiné avec scepticisme par un groupe considérable d’acteurs académiques, politiques et de la société civile. Cette réponse collective, qui profite de l’appui des cadres juridiques et réglementaires établis, a créé les conditions favorables pour faire avancer la réflexion critique sur les « villes intelligentes » auprès d’un large éventail de parties prenantes, y compris le gouvernement. Par conséquent, le discours de « villes intelligentes » dans les villes des pays du Nord, peut être décrit comme optimiste, accompagné par un grand degré de prudence et de scepticisme. Prenons quelques exemples.

Au Canada, Nord Ouvert a dirigé un projet de recherche collaborative, le premier de son genre à étudier les pratiques des villes intelligentes canadiennes. Dans notre Guide des villes intelligentes ouvertes, nous encourageons les villes à mobiliser leurs données et leurs technologies : « d’une manière à la fois éthique, responsable et transparente. Seulement ainsi la ville pourra-t-elle être gouvernée comme un bien commun juste ».

Dans le contexte européen, les initiatives en faveur des villes intelligentes sont souvent accompagnées d’un renforcement des cadres juridiques. Prenons l’exemple du Règlement général sur la protection des données (RGPD), une loi qui vise à protéger les données et la vie privée des citoyens de l’Union européenne. En outre, les villes de Barcelone et Amsterdam abordent la question de collecte de données personnelles sous l’angle des droits de l’homme, vis-à-vis des initiatives telles que le mouvement Cities for Digital Rights qui dit : « (…) nous sommes déterminés à éliminer les obstacles à l’exploitation des possibilités technologiques qui améliorent la vie de nos électeurs ».

Aux États-Unis, la ville de San Francisco a été la première ville au pays d’avoir interdit l’utilisation de la technologie de reconnaissance faciale. Pourtant, selon un article publié par le New York Times, certains critiques soutiennent que : « plutôt que de se concentrer sur les interdictions, la ville devrait trouver des moyens de rédiger des règlements qui reconnaissent l’utilité de la reconnaissance faciale ».

Dans les cas mentionnés ci-dessous, l’utilisation de la technologie dans le contexte urbain suscite de vives inquiétudes. Par contre, il subsiste encore une conviction, voire un espoir, que la technologie pourrait être utilisée pour faire du bien – ainsi sa valeur publique potentielle pour les citadins ne peut être complètement refusée. Cependant, les conditions préalables à la réalisation de cette valeur publique de la technologie dans les villes sont nombreuses, commençant avec la mise en vigueur des lois qui visent à protéger les données personnelles, suivi par l’élaboration des cadres d’éthique et de responsabilisation appropriés. Tout cela devrait se reposer sur une participation significative des citoyens et l’engagement d’un grand éventail d’intervenants. Dans n’importe quel contexte – que ce soit dans les villes du Nord ou du Sud – il ne s’agit pas d’une tâche facile.

Conclusions

Au cours de RightsCon 2019, les discussions sur les « villes intelligentes » ont soulevé les manières dont ce concept peut servir à justifier la mise en place des systèmes de surveillance de l’État, faisant partie d’un programme de contrôle gouvernemental. Ces cas doivent être étudiés en profondeur afin de continuer de signaler des abus de pouvoir qui se produisent sous le nom de « villes intelligentes », commençant avec des enquêtes sur la technologie elle-même, en vue de dévoiler ses risques potentiels, ses méfaits et ses implications aux niveaux individuels et sociétaux.

Heureusement, pendant ma semaine à RightsCon j’ai eu la chance de rencontrer plusieurs chercheurs et militants qui se consacrent à la tâche de dévoiler les véritables intentions derrière des acquisitions de technologies par des gouvernements corrompus et autoritaires, en sensibilisant les citoyens et en mobilisant des réseaux d’acteurs locaux. Leurs efforts m’ont convaincu que même si les concepts et le discours sont importants, en fin de compte ce qui importe le plus, c’est l’action sur le terrain.

En dernier lieu, j’aimerais exprimer ma gratitude à LOJIQ pour offrir son soutien à ma participation à RightsCon 2019. J’aimerais également inviter les participants de RightsCon 2019 et d’autres lecteurs à découvrir le travail de l’équipe du Laboratoire de recherche appliquée de Nord Ouvert. Nous sommes impatients de poursuivre ces discussions ensemble.

Notre infolettre