L’Allemagne, pour lutter contre les Violences qui se Développent un peu partout, veut étendre la Surveillance Biométrique par l'Intelligence Artificielle sur Internet !
L’Allemagne est un leader en matière de protection de la vie privée et des données, de nombreux Allemands étant particulièrement sensibles au traitement de leurs données personnelles – en raison de l’histoire totalitaire du pays et du rôle de la surveillance dans l’Allemagne nazie et l’Allemagne de l’Est.
Il est donc décevant de constater que le gouvernement Allemand tente de faire passer au Parlement, à une vitesse record, un "paquet sécurité" qui renforcerait la surveillance biométrique à une échelle sans précédent.
Les mesures proposées vont à l’encontre de l’accord de coalition conclu par le gouvernement lui-même et portent atteinte au droit européen et à la constitution allemande.
En réponse à l’agression au couteau perpétrée dans la ville de Solingen, dans l’ouest de l’Allemagne, à la fin du mois d’août, le gouvernement a présenté un "paquet sécurité" composé d’un ensemble de mesures visant à renforcer les règles en matière d’asile et à conférer de nouveaux pouvoirs aux autorités chargées de l’application de la loi.
Parmi ces mesures, trois se distinguent par leur effet potentiellement désastreux sur les droits fondamentaux en ligne.
Surveillance biométrique !
Le gouvernement Allemand souhaite permettre aux autorités répressives d’identifier les suspects en comparant leurs données biométriques (données audio, vidéo et images) à toutes les données accessibles au public sur l’internet.
Outre les nombreux préjudices liés aux logiciels de reconnaissance faciale, cela signifierait que toute photo ou vidéo téléchargée sur l’internet ferait partie de l’infrastructure de surveillance du gouvernement.
Il s’agirait notamment de matériel particulièrement sensible, comme les photos prises lors de manifestations politiques ou dans d’autres contextes directement liés à l’exercice des droits fondamentaux.
Ce matériel pourrait être utilisé de manière abusive pour suivre les individus et créer des profils nuancés de leurs activités quotidiennes.
Le gouvernement Allemand souhaite permettre aux autorités répressives d’identifier les suspects en comparant leurs données biométriques (données audio, vidéo et images) à toutes les données accessibles au public sur l’internet.
Outre les nombreux préjudices liés aux logiciels de reconnaissance faciale, cela signifierait que toute photo ou vidéo téléchargée sur l’internet ferait partie de l’infrastructure de surveillance du gouvernement.
Il s’agirait notamment de matériel particulièrement sensible, comme les photos prises lors de manifestations politiques ou dans d’autres contextes directement liés à l’exercice des droits fondamentaux.
Ce matériel pourrait être utilisé de manière abusive pour suivre les individus et créer des profils nuancés de leurs activités quotidiennes.
Les experts ont souligné les nombreuses questions techniques qui restent sans réponse dans le projet de loi du gouvernement.
La proposition est en contradiction avec l’accord de coalition du gouvernement, qui s’engage à empêcher la surveillance biométrique en Allemagne.
La proposition est également contraire à la loi européenne sur l’IA récemment adoptée, qui interdit l’utilisation de systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale.
Bien que l’Acte sur l’IA prévoie des exceptions pour des raisons de sécurité nationale, les États membres peuvent interdire les systèmes biométriques d’identification à distance au niveau national.
Compte tenu de l’accord de coalition, les groupes de la société civile allemande espéraient une telle interdiction, plutôt que l’introduction de nouveaux pouvoirs.
Ces nouveaux pouvoirs ne seraient pas seulement accordés aux autorités chargées de l’application de la loi : l’Office fédéral des migrations et de l’asile serait autorisé à identifier les demandeurs d’asile qui ne portent pas de carte d’identité en comparant leurs données biométriques à des "données Internet".
Au-delà de la disproportion évidente de ces pouvoirs, il est bien connu que les logiciels de reconnaissance faciale sont entachés de préjugés raciaux et que leurs performances sont nettement moins bonnes sur les images de personnes de couleur.
Le projet de loi ne prévoit aucune mesure significative de protection contre les résultats discriminatoires et ne reconnaît pas non plus les limites de la reconnaissance faciale.
La proposition est en contradiction avec l’accord de coalition du gouvernement, qui s’engage à empêcher la surveillance biométrique en Allemagne.
La proposition est également contraire à la loi européenne sur l’IA récemment adoptée, qui interdit l’utilisation de systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale.
Bien que l’Acte sur l’IA prévoie des exceptions pour des raisons de sécurité nationale, les États membres peuvent interdire les systèmes biométriques d’identification à distance au niveau national.
Compte tenu de l’accord de coalition, les groupes de la société civile allemande espéraient une telle interdiction, plutôt que l’introduction de nouveaux pouvoirs.
Ces nouveaux pouvoirs ne seraient pas seulement accordés aux autorités chargées de l’application de la loi : l’Office fédéral des migrations et de l’asile serait autorisé à identifier les demandeurs d’asile qui ne portent pas de carte d’identité en comparant leurs données biométriques à des "données Internet".
Au-delà de la disproportion évidente de ces pouvoirs, il est bien connu que les logiciels de reconnaissance faciale sont entachés de préjugés raciaux et que leurs performances sont nettement moins bonnes sur les images de personnes de couleur.
Le projet de loi ne prévoit aucune mesure significative de protection contre les résultats discriminatoires et ne reconnaît pas non plus les limites de la reconnaissance faciale.
Police prédictive ?
L’Allemagne souhaite également introduire l’exploration par l’IA de toutes les données détenues par les autorités chargées de l’application de la loi, qui sont souvent utilisées à des fins de police prédictive.
Cela inclurait les données de toute personne ayant déposé une plainte, ayant servi de témoin ou s’étant retrouvée dans une base de données de la police parce qu’elle a été victime d’un délit.
Au-delà de ce dépassement évident, l’extraction de données à des fins de police prédictive menace des droits fondamentaux tels que le droit à la vie privée et il a été démontré qu’elle exacerbe la discrimination raciale.
Les graves conséquences négatives de l’exploration de données par les autorités chargées de l’application de la loi ont été confirmées par la plus haute cour d’Allemagne, qui a jugé inconstitutionnelles les pratiques de deux États allemands fondées sur Palantir.
Quoi qu’il en soit, le projet de loi vise à introduire des pouvoirs similaires dans l’ensemble du pays.
L’Allemagne souhaite également introduire l’exploration par l’IA de toutes les données détenues par les autorités chargées de l’application de la loi, qui sont souvent utilisées à des fins de police prédictive.
Cela inclurait les données de toute personne ayant déposé une plainte, ayant servi de témoin ou s’étant retrouvée dans une base de données de la police parce qu’elle a été victime d’un délit.
Au-delà de ce dépassement évident, l’extraction de données à des fins de police prédictive menace des droits fondamentaux tels que le droit à la vie privée et il a été démontré qu’elle exacerbe la discrimination raciale.
Les graves conséquences négatives de l’exploration de données par les autorités chargées de l’application de la loi ont été confirmées par la plus haute cour d’Allemagne, qui a jugé inconstitutionnelles les pratiques de deux États allemands fondées sur Palantir.
Quoi qu’il en soit, le projet de loi vise à introduire des pouvoirs similaires dans l’ensemble du pays.
Accès de la police à davantage de données sur les utilisateurs !
Le gouvernement souhaite exploiter une disposition déjà controversée de la loi sur les services numériques (DSA) récemment adoptée.
Cette loi, qui régit les plateformes en ligne dans l’Union européenne, a été critiquée parce qu’elle exige des fournisseurs qu’ils partagent proactivement les données des utilisateurs avec les autorités chargées de l’application de la loi dans les cas potentiels de crimes violents.
En raison de sa définition peu claire, cette disposition risque de porter atteinte à la liberté d’expression en ligne, car les fournisseurs pourraient être incités à partager plus de données que moins pour éviter les amendes prévues par la loi sur la protection des données.
Frustré par le faible nombre de cas transmis par les fournisseurs, le gouvernement allemand propose maintenant d’étendre la DSA pour inclure des infractions pénales spécifiques pour lesquelles les entreprises doivent partager les données des utilisateurs.
Bien qu’il ne soit pas réaliste de mettre à jour une réglementation européenne aussi complexe que l’ASD si peu de temps après son adoption, cette proposition montre que la protection des droits fondamentaux en ligne n’est pas une priorité pour ce gouvernement.
Le gouvernement souhaite exploiter une disposition déjà controversée de la loi sur les services numériques (DSA) récemment adoptée.
Cette loi, qui régit les plateformes en ligne dans l’Union européenne, a été critiquée parce qu’elle exige des fournisseurs qu’ils partagent proactivement les données des utilisateurs avec les autorités chargées de l’application de la loi dans les cas potentiels de crimes violents.
En raison de sa définition peu claire, cette disposition risque de porter atteinte à la liberté d’expression en ligne, car les fournisseurs pourraient être incités à partager plus de données que moins pour éviter les amendes prévues par la loi sur la protection des données.
Frustré par le faible nombre de cas transmis par les fournisseurs, le gouvernement allemand propose maintenant d’étendre la DSA pour inclure des infractions pénales spécifiques pour lesquelles les entreprises doivent partager les données des utilisateurs.
Bien qu’il ne soit pas réaliste de mettre à jour une réglementation européenne aussi complexe que l’ASD si peu de temps après son adoption, cette proposition montre que la protection des droits fondamentaux en ligne n’est pas une priorité pour ce gouvernement.
Prochaines étapes !
Entre-temps, des milliers de personnes ont protesté contre le paquet sécurité à Berlin.
De plus, les experts présents à l’audition du Parlement et les groupes de la société civile allemande envoient un signal clair : les projets du gouvernement sapent les droits fondamentaux, violent le droit européen et reviennent sur les propres promesses des partis de la coalition.
L’EFF est aux côtés des opposants à ces propositions.
Entre-temps, des milliers de personnes ont protesté contre le paquet sécurité à Berlin.
De plus, les experts présents à l’audition du Parlement et les groupes de la société civile allemande envoient un signal clair : les projets du gouvernement sapent les droits fondamentaux, violent le droit européen et reviennent sur les propres promesses des partis de la coalition.
L’EFF est aux côtés des opposants à ces propositions.
Nous devons défendre les droits fondamentaux avec plus de détermination que jamais.
~ Svea Windwehr
Source
https://www.etresouverain.com/lallemagne-sempresse-detendre-la-surveillance-biometrique/
~ Svea Windwehr
Source
https://www.etresouverain.com/lallemagne-sempresse-detendre-la-surveillance-biometrique/