La ville de San Francisco a rétropédalé sur son projet de « robots tueurs », censés aider la police pour certaines interventions à haut risque. Le débat n’est néanmoins pas terminé.
Il n’y aura pas de « robots tueurs » dans la police à San Francisco. Du moins, pas pour l’instant. Le conseil municipal de la ville a décidé début décembre de stopper ce projet pour le moment, après une vive levée de boucliers outre-Atlantique, fait savoir le San Francisco Chronicle dans son édition du 6 décembre 2022. Cependant, le débat n’est pas encore achevé.
Initialement, la ville avait validé la perspective d’autoriser les forces de l’ordre à mettre en œuvre des robots capables d’abattre une cible. Sur le papier, le texte prévoyait de n’accorder un feu vert que pour les cas extrêmes, pour neutraliser un terroriste, un tueur en série ou un kamikaze prêt à se faire exploser. Il n’était pas question de s’en servir au quotidien.
Le revirement du conseil municipal est une situation rare, observe le journal de la ville. D’ordinaire, le second vote requis pour adopter une nouvelle politique publique est censé être une formalité. Le vote survenu le 6 décembre aurait dû confirmer celui survenu une semaine plus tôt. Mais, la vague de protestations chez la société civile comme chez certains membres du conseil a tout remis en cause.
La précision juridique du texte avait aussi fait l’objet d’une controverse. Dans la première version, l’Electronic Frontier Foundation, une ONG de défense des droits humains et de la liberté sur Internet avait justement pointé des formulations larges, pouvant en réalité autoriser l’emploi de ces robots dans des situations courantes.
Vers un cadre plus resserré… ou un abandon pur et simple
La prochaine étape doit survenir au milieu du mois, avec une nouvelle analyse de la mesure. En l’état, deux hypothèses existent. Soit le conseil municipal conserve l’idée de mobiliser ces machines — télécommandées par les forces de l’ordre –, mais en fixant des règles d’emploi encore plus strictes, soit la ville renonce une fois pour toutes à ce projet.
L’expression de « robot tueur », largement utilisée dans les débats aux USA, mais aussi au conseil municipal et dans les médias, est elle-même source de discussion, en ce qu’elle véhicule une image nécessairement connotée. Elle renvoie à l’idée de machines potentiellement autonomes, capables de choisir elles-mêmes leurs cibles et d’attaquer sans supervision humaine.
L’imaginaire collectif est aussi susceptible d’influencer la réflexion. On pense aux images de Skynet, de Terminator ou de HAL 9000 dès que l’on parle de ce genre de machines ou bien de systèmes d’intelligence artificielle. Les appareils en question ici ne sont pas des systèmes d’armes autonomes. Ils sont contrôlés par les policiers et ce sont eux qui décident l’ouverture du feu.
C’est une situation analogue aux drones armés : ils sont pilotés à distance et c’est un opérateur qui déclenche le tir d’un missile ou la chute d’une bombe. Le drone ne prend pas la décision seul, même s’il peut comporter des mécanismes automatiques pour remplacer ou orienter certaines actions humaines. La différence, néanmoins, est qu’il s’agit d’un emploi militaire.
Au-delà des questions sémantiques, loin d’être anodines, le débat autour de ces systèmes pouvant être létaux renvoie également à la situation singulière des États-Unis. Dans cette société, la violence par arme à feu s’exprime fortement, du fait du droit à être armé, mais aussi de la police américaine, dont l’encadrement du feu est plus relâché et l’usage de la force plus courant.
Actuellement, la police de San Francisco dispose de 17 robots, mais qui ne sont pas équipés pour des missions offensives. Ils servent plutôt à des opérations de déminage ou pour servir d’éclaireur, afin de ne pas exposer les forces de l’ordre. Fabriqués par QinetiQ et Remotec, ils disposent de bras pour manipuler des objets et de caméras pour voir ce qu’il se passe.