Quand l'IA décide qui meurt : les premiers Drones Tueurs ont apparemment déjà Tué des Personnes sans Contrôle Humain !
Ce qui était considéré depuis des années comme une vision dystopique pourrait déjà être une réalité.
Selon des articles de New Scientist et Tom's Hardware, les forces armées ukrainiennes auraient déployé des drones entièrement autonomes dès 2024, capables de tuer des soldats Russes sans intervention humaine.
Si cela se confirme, une ligne rouge aurait été franchie, une ligne rouge contre laquelle scientifiques, éthiciens et les Nations Unies mettent en garde depuis des années. ( Tom's Hardware )
D'après les informations recueillies, les drones étaient en mode "Terminator".
Dix quadricoptères pilotés par intelligence artificielle auraient été envoyés à plusieurs kilomètres derrière les lignes ennemies.
Après le lancement, aucun contact n'a été établi avec les appareils : plus de flux vidéo, plus d'opérateur, et aucune possibilité d'interrompre l'attaque.
Les machines ont recherché leurs cibles de manière autonome et ont pris des décisions cruciales de façon indépendante.
Un développeur ukrainien a expliqué : "Tout ce qu'ils voyaient était anéanti."
•• La dernière décision humaine disparaît !
Jusqu'à présent, la plupart des systèmes d'armes modernes étaient régis par un principe fondamental : la décision finale d'utiliser la force létale revient à l'humain.
Même dans le cas des drones armés, un opérateur, assis devant un écran, donne l'ordre de tirer.
Les systèmes décrits ici fonctionnent différemment.
Les humains se contentent de définir la mission.
Ensuite, la machine prend le relais.
Elle identifie les cibles, évalue les situations et exécute les attaques de manière autonome.
Les experts parlent alors de "désactivation humaine" : les humains ne participent plus au processus décisionnel.
Cela soulève une question à laquelle personne n'a encore été en mesure de répondre : qui est responsable si une machine tue un être humain ?
Le programmeur ? Le commandant ? Le fabricant ? L'État ?
•• La fin de la guerre humaine ?
Le véritable choc n'est pas que des drones tuent des gens.
Cela se produit depuis des années.
La nouveauté réside dans le fait que, apparemment pour la première fois, des machines ont décidé elles-mêmes qui tuer.
Ce qui est présenté aujourd'hui comme un test isolé pourrait devenir une pratique courante demain.
Des entreprises ukrainiennes développent déjà des essaims autonomes de plus grande envergure, tandis que les États-Unis, la Chine, la Russie et d'autres pays investissent massivement dans les systèmes d'armes dotés d'intelligence artificielle.
L'armée de l'air américaine est en train d'acquérir de nouveaux drones de combat autonomes, et de nombreuses armées occidentales travaillent sur des programmes similaires. ( Wall Street Journal )
L'Ukraine prévoit désormais le déploiement de dizaines de milliers de systèmes sans pilote et remplace de plus en plus ses soldats par des robots sur le champ de bataille.
•• Le seuil chute de façon spectaculaire !
L'association de l'intelligence artificielle et de la production de masse à bas coût est particulièrement dangereuse.
Auparavant, les armes modernes étaient coûteuses et réservées à quelques États.
Les drones autonomes, en revanche, coûtent souvent seulement quelques milliers de dollars. Ils peuvent être produits en grand nombre et déployés en essaims.
Les critiques mettent donc en garde contre le risque que les armes autonomes deviennent une sorte "d’arme nucléaire du pauvre".
Un État, une milice, voire un groupe terroriste, pourrait à l’avenir avoir accès à des milliers de machines à tuer contrôlées par l’IA.
•• La politique arrive trop tard !
Alors que la technologie progresse à un rythme toujours plus rapide, les lois et les réglementations internationales sont à la traîne.
À ce jour, il n'existe aucune interdiction internationale contraignante des systèmes d'élimination autonomes.
L’ONU réclame une réglementation depuis des années.
De nombreux scientifiques mettent en garde contre les robots tueurs.
Mais sur le terrain, leur développement semble avoir largement dépassé les débats politiques. ( smallwarsjournal.com )
•• Ce que cela signifie pour le citoyen !
Le véritable tournant n'est pas qu'un drone attaque un soldat de manière autonome. La question essentielle est : où cette technologie s'arrêtera-t-elle ?
Les systèmes capables de reconnaître des cibles, d'analyser leurs déplacements et de prendre des décisions de manière autonome pourraient également servir à l'avenir à la surveillance des frontières, à la sécurité intérieure ou à la surveillance de masse.
La reconnaissance faciale, l'analyse comportementale et les systèmes autonomes se développent actuellement en parallèle.
Ce qui est testé aujourd'hui sur le champ de bataille se retrouve souvent des années plus tard dans le secteur civil.
Le véritable message de ces rapports n'est donc pas que des soldats ont été tués par des drones.
Il est que l'humanité vient peut-être de franchir le seuil où, pour la première fois, les machines décident elles-mêmes qui vit et qui meurt.
Et une fois ce seuil franchi, il n'y aura peut-être plus de retour en arrière.