France
This article was added by the user . TheWorldNews is not responsible for the content of the platform.

Enquête. Derrière l’intelligence artificielle « made in France », des exploités à Madagascar

Carrefour, Monoprix, Super U ou encore Franprix se sont lancés fièrement dans l’expérience : pour lutter contre les vols en magasin, une intelligence artificielle scrute les comportements de leurs clients et salariés, via la vidéosurveillance, et lance l’alerte auprès du service de sécurité en cas d’agissement équivoque. En tout cas, telle est la promesse de start-up françaises – elles sont au moins trois – qui leur vendent ces solutions de « repérage des gestes suspects en temps réel », y compris ceux du personnel, car 35 % des larcins seraient commis en interne, précise l’une d’elles.

Mais voilà, derrière la prouesse technologique, des travailleurs en chair et en os s’activent pour tenir la promesse de service numérique. C’est ce qu’ont découvert Maxime Cornet et Clément Le Ludec. Ces deux sociologues de Télécom Paris ont enquêté sur le phénomène à Madagascar.

Dans une maison de la banlieue d’Antananarivo, la capitale, ils ont rencontré des travailleurs qui, entassés du garage au grenier, dans l’informalité la plus totale, regardent des vidéos de surveillance de magasins. « Ces travailleurs ne sont pas certains que les flux vidéo leur arrivent en direct, mais ils s’en doutent car leur consigne est, en cas de comportement suspect, de le signaler en moins de deux minutes », explique Clément Le Ludec.

Difficile de savoir si l’algorithme de détection fonctionne mal et a besoin d’être entraîné, ou même s’il y a une intelligence artificielle (IA) derrière. En tout cas, peu probable que cela soit transparent. « Sans parler des problèmes de confidentialité, ajoute le sociologue en levant les yeux au ciel. Légalement, les personnes ayant accès à ces vidéos doivent être déclarées en préfecture… »

« Chat girl » en entraîneur d'algorithmes

Avec leur directeur de thèse Antonio Casilli, les deux chercheurs ont passé du temps sur l’île de l’océan Indien pour mettre en lumière le travail de ces « petites mains » de l’intelligence artificielle. Et pas n’importe quelle IA, celle « made in France ». « C’est une rencontre qui a lancé ce projet de recherche : quelqu’un qui travaillait à Madagascar pour l’une de ces sociétés. Il était à la fois “Chat Girl” – il se faisait passer pour une femme française entretenant des discussions coquines avec des Français qui payaient un site de rencontres – et travaillait en parallèle comme sous-traitant pour une start-up d’IA française », pointe Clément Le Ludec.

En interrogeant les entreprises du secteur dans l’Hexagone, les deux sociologues se sont aperçus qu’elles étaient vraiment nombreuses à pratiquer cette sous-traitance à Madagascar. Car les algorithmes doivent être entraînés pour fonctionner, ce qui nécessite des données correctement annotées. Ainsi, si certaines sociétés utilisent des stagiaires et des contrats étudiants pour le faire, beaucoup industrialisent les process dans des pays lointains.

Environ 100 000 travailleurs du secteur sur l’île

Les travaux d’annotations de données consistent, par exemple, à suppléer ou entraîner les algorithmes de reconnaissance vocale ou faciale, ou à détourer des objets sur une photo, des points d’intérêt sur des images satellites… Une application qui promet de calculer les calories contenues dans une assiette, à partir d’une simple photo de plat envoyée par l’utilisateur, nécessite que des travailleurs aient au préalable identifié un à un tous les aliments possibles, les aient détourés et annotés un à un. Pour la gastronomie française, cela revient à faire identifier tous les fromages tricolores par des sous-traitants souvent très lointains.

Selon l’Organisation mondiale du commerce, Madagascar fait partie des trois premiers pays africains à proposer ces services. Maxime Cornet et Clément Le Ludec affirment que le nombre de travailleurs du secteur se compte aujourd’hui en dizaines de milliers sur l’île : 20 000 sont employés dans des entreprises ayant pignon sur rue et peut-être 80 000 triment dans le secteur informel. On les trouve sur des groupes Facebook, dont certains regroupent jusqu’à 30 000 membres, qui servent tant à l’entraide entre membres qu’à répondre à des annonces.

Tous ne travaillent pas à l’entraînement des intelligences artificielles, mais la plupart exercent dans la sous-traitance de services numériques. « Certains sont recrutés par des services clients de grandes entreprises et répondent à nos questions comme “chats bots”, ces robots conversationnels qu’on nous promet automatisés mais qui ne le sont jamais entièrement. D’autres modèrent des contenus francophones. Ce sont eux aussi qui numérisent des notes de frais, des actes d’état civil ou le cadastre français. Certains participent aussi aux arnaques liées aux comptes personnels de formation ! », s’amuse Clément Le Ludec.

Ultime étape de la sous-traitance francophone

Derrière toute solution présentée comme automatisée, il y aura toujours quelque chose que la machine ne parviendra pas à lire, une question à laquelle elle ne saura répondre. Mais impossible pour une start-up de vendre un service de traitement automatique de seulement 80 % des factures et notes de frais… « Alors, en dernier recours, si le problème est en français, il y a de bonnes chances qu’il arrive chez un Malgache », résume Maxime Cornet. Madagascar est ainsi devenue l’ultime étape de la sous-traitance francophone globalisée dans les services.

L'Humatinale

Du lundi au vendredi, l’actu essentielle décryptée par la rédaction de l’Humanité.

Merci ! Nous vous avons envoyé un email de confirmation.

Depuis l’externalisation massive des centres d’appels au Maghreb dans les années 1990, les travailleurs s’y sont organisés, syndiqués, les salaires ont augmenté. À Antananarivo, leur rémunération mensuelle se situe entre 93 euros et 126 euros. Soit plus que le salaire minimum, mais en dessous du coût de la vie dans la capitale. Tous les travailleurs rencontrés par les chercheurs sont allés à l’université, même s’ils n’en sont pas forcément sortis diplômés. Et ceux qui ont des contrats ne sont pas beaucoup plus protégés que les autres, le droit du travail malgache étant peu protecteur. « Du jour au lendemain, une start-up qui entraînait une IA sur la gestion des stocks en supermarché est partie. Ses 1 000 employés se sont retrouvés sans rien », dénonce Maxime Cornet.

Le premier enjeu est donc de rendre visibles ces travailleurs, afin que la loi française de 2017 consacrée au « devoir de vigilance des sociétés-mères et des entreprises donneuses d’ordres » soit appliquée à cette forme de sous-traitance. Pour l’heure, ces relations de donneurs d’ordres à employés restent sous silence. Bercy a ainsi commandé à Capgemini une intelligence artificielle capable de détecter les piscines non déclarées sur des images satellites. Le géant français du numérique a sous-traité le projet à une start-up spécialisée. Mais, tout au bout de cette chaîne de production, on retrouve à Madagascar des travailleurs occupés à détourer des piscines sur des images satellites pour entraîner l’algorithme…

Ce flou est même savamment entretenu. « Une ancienne directrice des ressources humaines d’une grosse entreprise du numérique nous a expliqué qu’il ne fallait pas que les sous-traitants comprennent ce qu’ils faisaient. Il ne fallait surtout pas qu’ils se rendent compte du caractère essentiel de leur travail pour le donneur d’ordres, se souvient Clément Le Ludec. Les start-up françaises ont besoin d’une force de travail pas chère. Elles n’ont clairement pas intérêt à ce que leurs sous-traitants apprennent à développer des outils d’annotations. »

Depuis Mechanical Turk...

Le développement de la sous-traitance de l’IA n’est pas nouveau. Amazon avait lancé, en 2005, la pionnière des plateformes de microtravail, Mechanical Turk, pour entraîner des algorithmes à faire la chasse aux doublons sur le tentaculaire site d’e-commerce. Près de vingt ans après, le phénomène a muté et pris de l’ampleur. Ce ne sont plus des femmes au foyer états-uniennes qui accomplissent ces tâches, mais des Philippins ou des Bangladais.

« L’automatisation ne consiste pas à remplacer l’humain, mais à le placer toujours plus bas dans la chaîne de valeur », expliquait Mohammad Amir Anwar, en octobre, lors du colloque « Intelligence artificielle et globalisation ». « On nous dit que, grâce à la technologie et à l’intelligence artificielle, on va se rassembler dans un village global, mais la division entre le Nord et le Sud est maintenue, entretenue. On retrouve même une véritable structure de sous-traitance issue de l’histoire coloniale », assure ce chercheur en développement économique du secteur numérique à l’université d’Édimbourg.