Cliss XXI

La vidéo-surveillance algorithmique, un outil de contrôle au service de la fuite en avant sécuritaire

Cliss XXI — 2023-04-19T12:44:26Z

Sous couvert de « protéger les jeux olympiques », l'Assemblée Nationale vient de voter l'utilisation de la vidéo-surveillance algorithmique, à large échelle pour des « manifestations sportives, récréatives ou culturelles »

La vidéo-surveillance algorithmique est devenue l'un des outils préférés de gouvernements, de plus en plus nombreux, pour imposer leur politique de sécurité et de contrôle sur les populations. Les caméras installées dans les rues, les gares, les aéroports ou les centres commerciaux ne sont plus simplement des outils de surveillance, elles sont désormais équipées d'algorithmes sophistiqués qui leur permettent de détecter automatiquement les comportements suspects ou anormaux. Mais qu'est-ce que la norme ? Qui la définit ? Cette technologie ne sert pas à protéger les populations, elle sert à les contrôler.

La vidéo-surveillance est un leurre, une illusion de sécurité. Selon différentes études, elle ne permet pas de prévenir les actes terroristes ou de réduire la délinquance [1]. Elle permet rarement d'identifier les sources des incidents (1 à 3 % [2] des enquêtes sur la voie publique par exemple). Elle souhaite rassurer les populations en leur donnant l'impression que quelque chose est fait pour leur sécurité. Mais en réalité, elle ne fait que renforcer un sentiment de méfiance en créant une ambiance anxiogène où chacun est potentiellement suspect.

La vidéo-surveillance algorithmique ne vise pas seulement à capter des images, elle les analyse en temps réel avec des algorithmes d'« intelligence artificielle » issus d'« apprentissages profonds ». Ces algorithmes, de par leur conception initiale, ne peuvent être vérifiés ni par les citoyens ni même par leurs concepteurs. Ils échappent donc forcément à tout contrôle éthique.

On sait déjà que la vidéo-surveillance algorithmique entretient des biais racistes [3], et d'autres dispositifs basés sur ces technologies entretiennent des biais sexistes [4] ou transphobes [5]. C'est facile à expliquer : les algorithmes utilisés ont été entraînés sur des données humaines qui reflètent les biais des personnes (majoritairement des hommes blancs, cisgenres, de classes supérieures) qui les ont produits : ils vont discriminer certaines populations. On peut donc légitimement penser que ces IA seront susceptibles de réponses homophobes, classistes (basés sur le milieu d'origine de la personne), etc.

Ces IA définissent un usage « normal » de l'espace public (comme se déplacer d'un point A à un point B), et ciblent de fait les personnes qui en ont un usage différent. Qui sont celles et ceux qui y passent le plus de temps ou l'occupent d'une manière différente ? Un SDF, trop statique ? « zou, anormal ! ». Trans non-binaire ? Pas identifiable femme ou homme ? « zou anormal·e » ! Alcoolisé·e ou en train de prendre une pause dans l'espace public ? Encore là, anormal·e... Les personnes les plus précaires, les minorités et les migrants seront les premières victimes de cette technologie.

La dégradation de nos libertés est telle que le ministre de l'Intérieur a éprouvé le besoin d'énoncer 28 garanties pour encadrer son projet de loi. Un article de David Libeau [6] détaille pourquoi ça ne tient pas : ces garanties ne sont pas clairement définies, ou floues (à définir dans des décrets qui n'existent pas à l'heure actuelle), elles reprennent des dispositions déjà en vigueur du RGPD (elles-mêmes pas toujours appliquées), ou irréalisables (les institutions exerçant ces garanties ont des budgets sous-dotés).

L'argument de l'usage expérimental de cette mesure semble peu fiable dans la mesure où, dans l'histoire récente, des dispositions dites exceptionnelles ont été intégrées au droit commun. On peut citer le fichage génétique, au départ réservé aux délinquants sexuels, et qui peut maintenant toucher n'importe quel manifestant interpelé. Des dispositions autoritaires de l'état d'urgence sanitaire ont aussi été intégré de la même manière.

La vidéo-surveillance algorithmique est un exemple de solutionnisme technologique. Quelques décideurs [7] dépensent des millions d'euros dans des équipements au lieu d'investir l'humain. C'est également une idée stupide d'un point de vue écologique [8]. Il serait plus sain d'utiliser ces budgets pour renforcer les liens sociaux, améliorer les conditions de vie des populations, favoriser la prévention et la réduction des inégalités.

La vidéo-surveillance algorithmique est une nouvelle étape des virages autoritaires pris année après année. Les gouvernements ont laissé les entreprises privées développer et utiliser ces technologies sans le consentement de la population. Or, le code des algorithmes de surveillance est opaque et ne fait l'objet d'aucun contrôle démocratique. Quand nous déciderons-nous à reprendre le contrôle de notre vie privée et des décisions qui nous concernent et nous impactent ?
D'autres pays d'Europe comme la Suisse ont refusé la surveillance algorithmique [9]. Il est temps pour nous aussi de nous opposer fermement à cette dérive et de défendre nos libertés individuelles et collectives.

[1] https://archivesic.ccsd.cnrs.fr/sic_00125570/document

[2] https://www.lemonde.fr/societe/article/2021/12/22/une-etude-commandee-par-les-gendarmes-montre-la-relative-inefficacite-de-la-videosurveillance_6106952_3224.html

[3] https://www.lemonde.fr/pixels/article/2018/02/12/une-etude-demontre-les-biais-de-la-reconnaissance-faciale-plus-efficace-sur-les-hommes-blancs_5255663_4408996.html

[4] https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-lutte-discours-sexistes-biais-algorithmiques-96996/

[5] https://www.arte.tv/fr/videos/101914-000-A/algorithmes-vers-un-monde-manipule/ (à 1min 4s)

[6] https://blog.davidlibeau.fr/debunkons-les-28-garanties-de-darmanin-sur-la-videosurveillance-algorithmique/

[7] Les députés ayant voté l'article de loi ont montré voire assumé leur incompétence sur le sujet.

[8] Pour donner une idée approximative de l'empreinte carbone d'une intelligence artificielle, elle correspond à 125 vols New-York → Pékin, rien que pour l'énergie nécessaire à la phase d'apprentissage d'un modèle de langage naturel. On ne compte pas ici ni la fabrication des machines (serveurs, terminaux…) qui pose d'énormes soucis environnementaux au-delà des émissions carbone, ni le traitement ultérieurs des flux vidéos, qui consomme aussi une énergie importante. cf. Emma Strubell, Ananya Ganesh, Andrew McCallum : Energy and Policy Considerations for Deep Learning in NLP.

[9] https://www.20min.ch/fr/story/rejet-de-la-reconnaissance-faciale-et-biometrique-117421966590

Contre la loi « sécurité globale », défendons la liberté de manifester

Valentin — 2020-11-24T22:02:31Z

Nous signons aux côtés de 159 organisations la lettre ci-dessous pour nous opposer à la loi de sécurité globale.

Nous nous opposons à la proposition de loi « sécurité globale ». Parmi les nombreuses propositions dangereuses de ce texte, trois articles risquent de limiter la liberté de manifester dans des proportions injustifiables, liberté déjà fortement restreinte sur le terrain et de nouveau remise en cause par le Schéma national du maintien de l'ordre.

L'article 21 concerne les caméras portables qui, selon les rapporteurs du texte, devraient équiper « toutes les patrouilles de police et de gendarmerie […] dès juillet 2021 ». S'il est voté, le texte autorisera donc la transmission des flux vidéo au centre de commandement en temps réel. Cela permettra l'analyse automatisée des images, et notamment la reconnaissance faciale des manifestants et des passants, en lien avec les 8 millions de visages déjà enregistrés par la police dans ses divers fichiers.

Ces nouveaux pouvoirs ne sont justifiés par aucun argument sérieux en matière de protection de la population et ne s'inscrivent aucunement dans une doctrine de gestion pacifiée des foules. L'effet principal sera de faciliter de façon considérable des pratiques constatées depuis plusieurs années en manifestation, visant à harceler des opposants politiques notamment par des placements en « garde à vue préventive », par l'interdiction de rejoindre le cortège ou par des interpellations arbitraires non suivies de poursuites. Ces pratiques illicites seront d'autant plus facilement généralisées que l'identification des militants et des militantes sera automatisée.

L'article 22 autoriserait la surveillance par drones qui, selon le Conseil d'État, est actuellement interdite. Ici encore, la police n'a produit aucun argument démontrant qu'une telle surveillance protégerait la population. Au contraire, nous avons pu constater en manifestation que les drones sont avant tout utilisés pour diriger des stratégies violentes contraires à la liberté de manifester : nassage, gaz et grenades lacrymogènes notamment. Comme pour les caméras mobiles, la reconnaissance faciale permettra ici aussi d'identifier des militantes et militants politiques.

En clair, le déploiement massif des caméras mobiles et des drones, couplés aux caméras fixes déjà existantes, entraînerait une capacité de surveillance généralisée de l'espace public, ne laissant plus aucune place à l'anonymat essentiel au respect du droit à la vie privée et ne pouvant avoir qu'un effet coercitif sur la liberté d'expression et de manifestation.

L'article 24 vise à empêcher la population et les journalistes de diffuser des images du visage ou de tout autre élément d'identification de fonctionnaire de police ou militaire de gendarmerie. Autrement dit, les images des violences commises par les forces de l'ordre ne pourront dés lors plus être diffusées. Le seul effet d'une telle disposition sera d'accroître le sentiment d'impunité des policiers violents et, ainsi, de multiplier les violences commises illégalement contre les manifestantes et manifestants.

Nous appelons les parlementaires à s'opposer à ces trois dispositions qui réduisent la liberté fondamentale de manifester dans le seul but de faire taire la population et de mieux la surveiller.
Signataires

ACAT France
Action Antifasciste NP2C
Action Climat Paris
Action Droits des Musulmans
AG des Gilets Jaunes de Versailles
Agir ensemble pour les droits humains
Aix Solidarité
Alliance Slow Food des Cuisinières et Cuisiniers
Alternatiba
Alternatiba Marseille
Alternatiba Paris
Alternatiba Rhone
Alternatiba Nevers
Alternatiba Caen
Antanak
ANV-COP21
ANV-COP21 Aix
ANV-COP21 Groupe de Nevers
ANV-COP21 Marseille
ANV-COP21 Vallée de l'Arve
Association Coopération Solidaire
Association des Journalistes de l'Environnement (AJE)
Article 19
Association Dédale
Assodev-Marsnet
Attac Flandre
ATTAC
Bas Les Masques
BDS 34
Bee-home
BEN' ARTs
Bibliothèque Associative de Malakoff, bam !
Canal-D
CECIL
CercLL (Cercle d'Entraide et Réseau Coopératif autour des Logiciels Libres)
CGT des Cadres et professions intermédiaires (UGICT-CGT)
Cliss 21
CNNR
CNT 31
CNT
Collectif ADN – Arrêt Du Nucléaire
CCPA – Collectif Climat Pays d'Aix
Collectif Gilets Jaunes contre les violences policières en Région PACA
COLL•E•C – Collectif d'Échanges Citoyens du Pays d'Aix
Collectif Contre Les Abus Policiers – C.L.A.P33
Collectif Jaunes Etc 33
Comité d'animation du Collectif anti-nucléaire Ouest
Coordination des Intermittents et Précaires
CREIS-TERMINAL
CTRL-A
DONUT Infolab
Europe Ecologie Les Verts (EELV)
Europe Solidaire sans Frontières
Extinction Rebellion Marseille et Pays d'Aix
Extinction Rebellion Nantes
Extinction Rebellion Paris Centre
Extinction Rebellion Paris Est
Extinction Rebellion Paris Nord
Extinction Rebellion Paris Ouest
Extinction Rebellion Rer-B SUD
Extinction Rebellion Lille
Extinction Rebellion Montgeron
Extinction Rebellion Val de Marne
FAIbreizh
FAImaison
FDN
Fédération Syndicale Unitaire
FELINN
FFDN
Force Jaune
Franciliens.net
FSU 72
FSU 73
Gilets Jaunes du Pays d'Aix et de la Barque
Gilets Jaunes Marseille-Centre
GISTI
Globenet
Handi-social
Hoga
Illyse
Iloth
Indie Hosters
INP-net
L'Auberge des Migrants
La Boussole
La Quadrature du Net
Le Bib Hackerspace
L'enfant bleue
Le Collectif Savoyard contre la Répression
Le Collectif des Hiboux
Les Amis de la Terre France
Les Amis de la Terre 74
Les infiltrés
Les Jeunes Ecologistes
Les-Tilleuls
Ligue des droits de l'Homme
Ligue des droits de l'Homme d'Aix
Ligue des droits de l'Homme Marseille
L'Ouvre-Tête, association étudiante de l'Université de Montpellier
La France Insoumise – groupe thématique numérique
Mailden
Marseille Féministe
Marseille révoltée
Minga
MODE 83
Moutons Numériques
Mouvement Écologiste Indépendant
Mouvement Utopia
MRAP
Numericatous
Nebulae
Négajoule !
Observatoire des Libertés et du Numérique
Observatoire des Libertés
Open Atlas
Orchestre Poétique d'Avant-guerre – O.P.A
Parti Pirate
Plein le dos
Ploss Auvergne Rhone Alpes
PRIMCODE
Rap Marseille
Radiaction
ReAct
RESINE média
RevLibre
ritimo
RSF
Sciences Critiques
Sherpa
SNJ-CGT
Solidaires Union Syndicale
Solidaires 35 Union Syndicale
Solidaires 05 Union Syndicale
Solidaires Informatiques Union Syndicale
SOS Racisme
Stop Fuelling War
SUD éducation Loiret
SUD éducation 03
SUD éducation 63
SUD éducation Bourgogne
SUD éducation 77
Sud CT 33
Syndicat des Avocats de France
Syndicat National des Journalistes
Taramada
Toile-Libre
TV Bruits
Union Communiste Libertaire – Tarbes
Union des étudiants de Toulouse
Union syndicale Solidaires
VeganCorporation
Vélorution Paris-Île-de-France
Youth for Climate Avignon
Youth for Climate Lyon
Youth for Climate Marseille
Youth for Climate Orléans
Youth for Climate Paris
Youth for Climate Toulouse
Xenos jacobienne d'hymocrate

HelloAsso, au bonheur des associations ?

Cliss XXI — 2020-02-16T17:56:27Z

La plate-forme HelloAsso a le vent en poupe, et touche de plus en plus d'associations. Elle se présente comme pouvant simplifier l'organisation de vos conférences – festivals – boutiques – voyages – soirées – cours – compétitions – tournois – ateliers – stages – cotisations – courses – financements – projets… au travers d'outils tels que la gestion des dons, la mise en place de crowdfunding, la gestion des adhésions ou la billetterie.

L'équipe de HelloAsso c'est actuellement 65 salarié⋅es : des directeurs⋅trices, des chargé·es d'accompagnement, de communication, de développement, une équipe de développeurs·ses… Elle connaît une expansion très forte : en un an, le nombre de salarié⋅es a doublé. 100 000 associations seraient inscrites sur la plate-forme, et fin 2019, ce sont 210 millions d'euros qui ont été collectés pour les associations !

L'usage du numérique et des données

Disons-le d'emblée : les services proposés sont sympas, HelloAsso est experte dans le paiement en ligne. C'est beau, c'est moderne, modulable, ergonomique, facile à intégrer, à utiliser…

Mais… les logiciels développés par HelloAsso sont privateurs. À l'inverse des logiciels libres, nous n'avons pas connaissance de ce qu'ils font ni comment. Nous ne pouvons pas non plus les installer ni les exécuter sur notre ordinateur, ou mettre en place un HelloAsso bis, que l'on administrerait. La notion de logiciel est d'ailleurs rendue archaïque, puisque l'utilisateur·trice n'a plus à s'en soucier : désormais, tout passe par des services en ligne, dans le « cloud » [1]. Nous voilà donc privé⋅es de toute liberté sur ces services et logiciels, seuls leurs propriétaires (les dirigeants de HelloAsso, donc) en ont le contrôle. Par ailleurs, HelloAsso choisit d'héberger ses applicatifs chez Microsoft.

Le monde du Libre regorge d'autres pratiques, plus éthiques, avec des engagements forts pour et par les utilisateur·trices. Rester dans ce modèle centralisé et fermé, en se drapant dans de beaux discours sur l'éthique et l'intérêt général, ne masquerait-il pas plutôt un intérêt pour la rente ? À minima, cela permet de détenir et assurer le monopole de ses services, collectant au passage les données du monde associatif.
À l'ère du Big data, où la donnée c'est de l'or, en posséder une telle masse, qualifiée et ciblée, peut aisément donner des idées de valorisation, au sens strictement marchand du terme. L'exploitation commerciale d'un fichier unique des associations ne peut manquer d'intéresser des entreprises fournisseurs de biens et de services, de même que l'exploitation du fichier des donateurs peut séduire nombre d'intermédiaires en placements financiers. En y regardant de plus près, une telle exploitation (à l'instar du modèle économique choisi par d'autres géants du Web) serait cohérente avec le code NAF de la société : Activités des agences de publicité (7311Z).

Même si HelloAsso déclare dans ses conditions générales d'utilisation ne pas utiliser les données personnelles des particuliers à des fins commerciales, cela nécessite en l'état de faire confiance aveuglément, y compris dans les années à venir. En ce qui concerne les données des associations, à l'heure du capitalisme de surveillance, elles pourraient notamment devenir la cible d'entreprises fort éloignées des préoccupations et des valeurs du monde associatif. Si par ailleurs il n'existe pas d'alternative, les usagers⋅ères seront lié⋅es à une politique à laquelle elles et ils pourront difficilement se soustraire.

Enfin, l'économie de la surveillance n'intéresse pas forcément que les entreprises, et peut offrir de grandes facilités aux services de renseignement. Cela pose d'autant plus question à l'heure où notre société installe progressivement une surveillance de masse généralement acceptée.

La récupération des émotions

Il convient de s'interroger sur le modèle de « pourboires » – rebaptisé « contributions volontaires » depuis – appliqués aux paiements, et sur lequel repose HelloAsso.

Que ce soit un « pourboire », qui par définition fait référence à une gratification donnée à une personne, ou une « contribution », qui laisse imaginer quelque chose de collectif, le registre utilisé renvoie aux relations humaines. Il contribue à faire perdre de vue qu'il s'agit ici d'une entreprise capitaliste.

Le montant défini par défaut est relativement élevé (environ 20 % sur un don de 20 euros) comparé à d'autres plate-formes (parfois 3 %, mais sans forcément le savoir). Dans le contexte d'une entreprise à but lucratif, ce modèle lui impose de chercher à manipuler toujours plus les donateur·rice⋅s afin qu'elles et ils augmentent leur « pourboire ». Il n'est par exemple pas possible de le baisser sous un certain seuil sans devoir cocher une phrase culpabilisante, en nous rappelant que HelloAsso est une « entreprise solidaire d'utilité sociale ».

Comme on ne découvre ce montant qu'à la fin, cela permet à HelloAsso de bénéficier du travail sur les émotions que peuvent pratiquer les associations. Par exemple, après avoir vu la photo du bébé phoque en train de mourir, nous cliquerons tou·te·s sans trop regarder le détail des petites cases. HelloAsso recycle enfin à son compte la bienveillance que nous portons à l'égard des acteurs associatifs, et profite de leur travail et de leur image pour se développer.

Au final, cela n'a rien à voir avec un prix libre qui nécessite transparence et adhésion en connaissance de cause. Même en laissant le bénéfice du doute sur la réalité du destinataire des profits engendrés par la plate-forme, le but de HelloAsso n'est pas de rentrer dans ses frais mais bien de mener une politique ouvertement expansionniste, revendiquée pour le bien du monde associatif.

Statuts, vertu et perspectives

HelloAsso, contrairement à ce que présupposent la plupart des associations utilisatrices, n'est elle-même pas une association. C'est une société par actions simplifiée (SAS), détenue jusque-là pour l'essentiel par une personne.

Même s'il est coutume de dire « statut n'est pas vertu », une SAS est avant tout caractérisée par la grande liberté laissée aux associés fondateurs, notamment dans les règles d'organisation de la société (comme la nomination des dirigeants). Alors que HelloAsso est déterminée à « agir ensemble », pourquoi ne pas associer les usagers dans la vie démocratique de l'entreprise ? Et puisqu'elle se veut « au service des associations », avec comme ambition « d'aider au développement du monde associatif » – allant parfois jusqu'à vouloir le représenter – pourquoi n'ont-elles aucun pouvoir de décision ?

Ces choix ne peuvent que nous faire poser la question des intentions des fondateurs, notamment concernant leurs perspectives. Soulignons que même les associations – les premières concernées – n'en ont pas connaissance, et n'ont évidemment pas voix au chapitre. Ce n'est pas faire un procès d'intention aux fondateurs que d'imaginer que HelloAsso pourrait, à court ou moyen terme, devenir un gros opérateur commercial du secteur associatif. L'influence de l'entreprise sur le monde associatif serait alors indéniable, en le modelant au travers de leur activité déployée. Des plateformes comme BlaBlaCar, détenue par la société Comuto, ont par exemple mené avec succès une stratégie d'enfermement commercial d'un service qui se présentait comme communautaire, en le rendant payant après quelques années.

En guise de conclusion…

Il nous semble tout d'abord essentiel que le monde associatif, ses réseaux, ses militant·es, bénévoles, salarié·es, posent un regard critique sur la réalité du système HelloAsso. Au-delà, c'est toute la question des outils numériques utilisés par les associations qui est posée. Ils sont souvent considérés et présentés comme neutres et sans enjeux. Or, cette fausse neutralité recouvre à la fois de réelles considérations marchandes, et de forts enjeux en matière de sécurité et de confidentialité.

Pour que HelloAsso soit crédible dans ses valeurs de solidarité, il faudrait qu'elle libère déjà ses outils, afin de permettre leur décentralisation et leur appropriation par les collectifs impliqués. L'entreprise pourrait aussi s'inspirer de son manifeste pour changer de modèle de gérance : privilégier le collectif à l'individuel. Les associations doivent avoir leur mot à dire sur un outil qui concerne leur quotidien.
Nous sommes bien conscient·es, qu'actuellement, il n'y a pas d'alternatives recommandables au service de dons de HelloAsso. Notre propos n'est pas d'inciter à quitter HelloAsso au profit d'un autre modèle dominant. Au contraire, nous appelons le monde associatif à définir lui-même ses besoins, et à s'auto-organiser, le cas échéant, pour se doter d'un éco-système numérique de confiance, contrôlé et maîtrisé par les associations elles-mêmes.

Enfin, nous appelons le monde associatif à se questionner sur ce recours aveugle aux outils numériques : n'est-il plus possible de s'associer sans avoir recours à ces géants de la technologie ? Ne pouvons-nous pas simplement se voir, échanger, tisser du lien social ? C'est moins « rapide » et plus « exigeant », mais, à minima, cela renforce le projet associatif.

[1] Pour en savoir plus sur les services se substituant au logiciel : https://www.gnu.org/philosophy/who-does-that-server-really-serve.html

Ce texte est sous licence Creative Common (CC BY 4.0), nous vous invitons à le copier, le partager et le modifier librement. Dans l'optique d'enrichir ce texte de vos retours, nous vous proposons de nous faire parvenir vos modifications.

Signature de la lettre contre la reconnaissance faciale sécuritaire

Cliss XXI — 2019-12-19T11:00:00Z

Avec plus de 80 organisations, nous avons signé une lettre commune appelant le gouvernement et le Parlement à interdire toutes les pratiques de reconnaissance faciale sécuritaire présentes et à venir. La liste des signataires relève d'une vraie diversité de type d'organisations et d'engagements qui témoignent du profond rejet de la population envers ces dispositifs et ces volontés politiques liberticides. On y retrouve par exemple l'Observatoire des Libertés Numériques, dont fait partie La Quadrature du Net à l'initiative de cette lettre.

Nous, organisations, collectifs, entreprises, associations et syndicats, demandons au Parlement et au gouvernement français d'interdire tout usage sécuritaire de dispositifs de reconnaissance faciale actuels ou futurs.

Nous constatons que de telles technologies sont aujourd'hui déjà largement déployées en France. Outre les portiques « Parafe » présents dans plusieurs aéroports et gares, le fichier de traitement des antécédents judiciaires permet depuis 2012 à la police et à la gendarmerie de recourir à la reconnaissance faciale à partir d'images prises dans la rue par des caméras, ou encore obtenues sur les médias sociaux. D'autres expérimentations ont déjà été menées ou sont programmées.

La multiplicité des dispositifs déjà existants, installés sans aucun véritable encadrement juridique, transparence ou réel débat public, ne satisfait pourtant pas nombre d'acteurs publics et industriels. En se fondant sur le fantasme d'un développement inéluctable de la technologie et sur des arguments purement sécuritaires et économiques, ils souhaitent accélérer et faciliter le déploiement de ces dispositifs, au détriment des conséquences pour nos libertés et notre modèle de société.

La reconnaissance faciale est une technique exceptionnellement invasive et déshumanisante qui permet, à plus ou moins court terme, la surveillance permanente de l'espace public. Elle fait de nous une société de suspect·es. Elle attribue au visage non plus une valeur de personnalité mais une fonction de traceur constant, le réduisant à un objet technique. Elle permet un contrôle invisible. Elle impose une identification permanente et généralisée. Elle abolit l'anonymat.

Aucun argument ne peut justifier le déploiement d'une telle technologie : au-delà de quelques agréments anecdotiques (utiliser son visage plutôt que des mots de passe pour s'authentifier en ligne ou activer son téléphone…), ses seules promesses effectives sont de conférer à l'État un pouvoir de contrôle total sur la population, dont il ne pourra qu'être tenté d'abuser contre ses opposant·es politiques et certaines populations. Puisque l'utilisation de la reconnaissance faciale à des fins sécuritaires est par essence disproportionnée, il est vain d'en confier l'évaluation au cas par cas à une autorité de contrôle qui échouerait en pratique à suivre chacune de ses nombreuses nouvelles applications.

C'est pourquoi nous vous demandons d'interdire tout usage sécuritaire qui pourrait en être fait. De telles interdictions ont déjà été décidées dans plusieurs villes des États-Unis. La France et l'Union européenne doivent aller encore plus loin et, dans la lignée du règlement général sur la protection des données personnelles (RGPD), construire un modèle européen respectueux des libertés.

Il conviendra par ailleurs de renforcer les exigences de protection des données à caractère personnel et de limiter les autres usages de la reconnaissance faciale : qu'il s'agisse d'authentification ou d'identification privée, l'ensemble de ces dispositifs ne sont pas assez protecteurs des atteintes à la vie privée ; ils préparent, et banalisent une société de surveillance de masse.

Nous appelons à l'interdiction de tout usage sécuritaire de la reconnaissance faciale.

Voir en ligne : https://www.laquadrature.net/2019/1...