«Être un mouton» n’est ni un métier, ni une vocation

Le mouvement prend de l’ampleur chez Google.
Le journal Le Monde du 05 Avril nous informe qu’environ 3 100 employés de Google ont réclamé, dans une lettre dévoilée jeudi par le New York Times, que l’entreprise mette un terme à son partenariat avec le Pentagone. Début mars, Google avait en effet admis dans les colonnes du magazine Gizmodo qu’il mettait à la disposition du Ministère Américain de la Défense, certaines technologies d’intelligence artificielle (IA).
«Ce partenariat s’inscrit dans le projet Maven, un programme lancé en avril 2017 avec l’objectif, expliquait le Pentagone dans une note, de «rendre rapidement intelligible l’énorme volume de données accessibles au ministère de la défense ».
Dans un communiqué transmis en mars à la presse américaine, Google avait expliqué fournir au Pentagone des accès à son logiciel ouvert d’apprentissage automatique TensorFlow. L’objectif : l’aider à analyser des images de drones, à des fins de renseignement. L’outil peut par exemple être utilisé pour identifier de manière automatisée des bâtiments, véhicules ou humains figurant sur des photos ou vidéos. Cela permet de surveiller des lieux, ou d’identifier des cibles».

Les employés signataires ont ainsi invité Sundar Pichai, le PDG de la firme, à «annuler immédiatement» le partenariat établi avec le Pentagone.
«Nous estimons que Google ne devrait pas être impliqué dans le business de la guerre. C’est pourquoi nous demandons à ce que le projet Maven soit annulé, et à ce que Google dessine, publie et mette en place une politique claire, qui précise que ni l’entreprise ni ses partenaires ne fabriqueront jamais de technologies de combat».

Le partenariat aurait, estiment les signataires, «causé des dommages irréparables à la marque Google».
«L’argument selon lequel d’autres entreprises comme Microsoft et Amazon participent également ne rendent pas l’opération moins risquée pour Google, est-il écrit dans la lettre. (…) Nous ne pouvons pas [non plus] nous dédouaner de la responsabilité de nos technologies et la laisser peser sur les tiers».

Plusieurs employés ont été indignés du fait que leur entreprise puisse offrir des ressources à l’armée.
En effet, Maven soulève des questions éthiques sur le développement et l’utilisation de l’apprentissage automatique (machine learning). Eric Schmidt, collaborateur de chez Google, s’est exprimé à ce sujet : «Il y a une inquiétude générale dans la communauté de la technologie sur la façon dont le complexe militaro-industriel utilise leurs «trucs» pour tuer les gens de manière incorrecte».

Certains services de renseignements des États-Unis sont bien connus pour l’espionnage massif de la population. L’intelligence artificielle leur permettra d’aller beaucoup plus loin dans leurs démarches. En effet avec Maven, il serait possible de suivre une personne à la trace d’un point A vers un point B sans intervention humaine. C’est l’un des aspects du projet qui inquiète particulièrement chez Google. Google est un élément clé dans la stratégie du gouvernement. «Avant Maven, personne dans le département n’avait la moindre idée de comment acheter, aligner et mettre en œuvre correctement l’IA», écrit Greg Allen, un spécialiste de l’utilisation de l’IA par les militaires.

Reconnaissons que cette «mobilisation éthique» des salariés de Google fait plaisir et c’est bien parce qu’elle est rare, qu’il fallait la souligner.
Là où bien souvent, même devant les évidences, les salariés acceptent soit une cécité spontanée, soit un lâche détournement du regard, soit un désintérêt total y compris moral devant les malversations ou manquements graves à la loi dont ils peuvent être les témoins directs ou alertés par des lanceurs, reconnaissons que la réaction rapide et forte des employés du géant américain de l’Internet laisse de l’espoir.

Il n’est pas inutile de rappeler à certains que «être un mouton» n’est ni un métier, ni une vocation. Ce n’est qu’un comportement lâche qui conduit souvent le lanceur d’alerte à se battre seul là où une action collective -le cas de Google nous le démontre- permettrait de peser à la fois sur l’employeur, les structures de contrôle et de sanction du métier, et la justice.
Combien de lanceurs d’alerte, seuls dans leur combat pendant de longues années, auraient apprécié que leur dénonciation soit appuyée et relayée par plusieurs milliers de collègues de travail?
Beaucoup d’alertes n’auraient sans doute même pas eu besoin de sortir des murs de l’entreprise si les salariés s’étaient détachés de leur peur et de leur lâcheté.
Quoi qu’il arrive, les lanceurs n’oublieront pas de sitôt le nom des moutons qui firent partie de leur troupeau, ceux restés au bord de la route…

MM.

En référence à l’article du journal Le Monde du 05 Avril 2018 «Intelligence artificielle : 3 100 employés pressent Google d’arrêter d’aider le Pentagone», ici.

Intelligence artificielle : tu auras les honneurs mon fils

Nous en parlions sur MetaMorphosis dans une récente tribune : parmi les grands défis de la société française, le développement de l’intelligence artificielle tient une place fondamentale, aux côtés des problématiques liées au réchauffement climatique.
Nous rappelions également que sur des sujets d’avenir importants, le nouveau gouvernement ne répondait pour l’instant que par d’anciennes solutions surannées, marque de son incompréhension des enjeux qui viennent confronter son avenir, celui du pays et ses propres certitudes. A l’occasion de la présentation des axes de sa politique en matière d’intelligence artificielle, suite au rapport Villani (un grand mathématicien, fait-il pour autant malgré toute la bonne volonté, un grand politique et un visionnaire?), Médiapart porte sous la plume de Romaric Godin (ici) un regard critique mais lucide.

Débarrassons-nous tout de suite de l’habillage promotionnel de la chose, pratique désormais courante de la politique macronienne, mais nécessaire pour replacer le débat dans toute sa dimension.
«Comme souvent, l’exécutif fait de bons constats. Mais ces bons constats sont souvent le paravent communicationnel d’une action au bout du compte décevante et fondamentalement classique de l’État français. Jeudi 29 mars, le chef de l’État, Emmanuel Macron, a prononcé un discours ampoulé sur le sujet. Un seul chiffre en est ressorti : 1,5 milliard d’euros supplémentaires d’ici à 2022, tous dispositifs confondus. En moyenne, c’est 3,75 % d’augmentation de l’ensemble des dépenses publiques d’innovation. Cet argent était déjà promis par François Hollande. En réalité, il n’y a rien de nouveau. Il est difficile de voir là les moyens d’une véritable percée dans un domaine où l’on gagne du terrain à coups de milliards. Les investissements de recherche d’Amazon, à lui seul, s’élèvent à 16 milliards d’euros par an».

Effet d’annonce, vide de toute réalité, mais rien d’étonnant. Faisons un petit détour : à sa décharge comme ses prédécesseurs depuis une vingtaine d’années, ce gouvernement n’a qu’un seul mot à la bouche, «réforme», «réformer». Un petit détour par l’épistémologie grâce au Littré. «1625 : rétablissement de l’ancienne discipline dans une maison religieuse» ; «1690 : suppression des abus» ; «1762 : fait d’écarter de l’armée un homme… reconnu inapte au service» ; «1837 : mettre à la réforme, au rebut (Balzac )».
Nous en sommes bien là : réformer c’est mettre au rebut tout ce que l’on considère inapte, pour revenir aux anciennes disciplines et pratiques. A-t-on vraiment besoin de réformer, ne doit-on pas plutôt adapter?
Reformer donc c’est faire table rase de ce qui existe, de ce qui a été lentement construit, et regarder vers le passé (une bonne définition en somme de la politique actuelle du gouvernement), alors qu’adapter c’est prendre en compte l’existant et chercher à le faire coïncider à l’avenir avec les nouveaux enjeux.
Au final, en matière d’intelligence artificielle, tout ceci ne semble pas si éloigné de la politique gouvernementale actuelle.

Continuons la lecture de l’article de Médiapart, après le renoncement français que traduit l’inexistence d’un budget digne de ce nom : «Dans la chaîne de valeur de l’IA, la France n’a pas d’autres ambitions que de devenir un lieu de sous-traitance de certaines fonctions. En soi, pourquoi pas. Sauf que le pouvoir de décision ne sera pas maîtrisable par la France ou l’UE, mais par les géants privés. Or les conséquences de cette absence de pouvoir ne sont pas maîtrisables : les grands groupes privés feront leurs choix d’implantation en fonction de leurs intérêts. La place de la France dépendra ainsi de trois critères : le coût du travail, un niveau d’imposition faible et un flux de subventions publiques déguisées. Pour conserver les si précieux investissements, la France devra accepter ces trois conditions».
Puis «Mais il y a davantage. L’IA est aussi un enjeu éthique. C’est aussi pour cela que les représentants de l’intérêt général sont hautement concernés et devraient s’interroger sur la nécessité d’un développement autonome de la recherche publique dans l’IA. Là encore, Emmanuel Macron n’a pas manqué de recourir dans son discours à ses habituels termes ronflants sur le sujet. «Quand la technique sert le bien commun, tout va bien. Mais le jour où une start-up ne se référera pas à la préférence collective, nous aurons un problème», a-t-il affirmé … «La stratégie du gouvernement n’est pas étonnante : elle traduit cette confiance fondamentale de l’exécutif dans les mécanismes du marché et sa défiance envers l’action de l’État. Mais dans le cadre de l’IA, cette vision est à très haut risque : elle place la France dans un état de dépendance vis-à-vis des géants privés du secteur, conduit au renoncement sur la question de l’éthique, et risque de placer le pays sur un créneau de moyen de gamme qui a déjà prouvé ses limites dans d’autres secteurs ».

Comme en matière d’écologie, ce gouvernement est-il à la hauteur des enjeux? Ce gouvernement prend-t-il en compte les expériences passées et actuelles, a-t-il tiré les conséquences des échecs, des insuffisances des politiques d’aide à la recherche et développement ? Assurément non.

Ce gouvernement est-il toujours aussi obsédé par cette nécessité de casser, de réformer pour parler «start-up France», sans voir que les acquis actuels nécessitent d’être adaptés aux nouveaux enjeux ? Assurément oui.
La France débloque déjà, tous dispositifs confondus, 10 milliards d’euros par an dans l’innovation, sans que cette politique ait permis à la France de se hisser sur la scène mondiale du numérique.
Plus que miser sur une politique de subventions à l’ancienne, le chef de l’État dit vouloir solliciter l’investissement privé avec tous les risques que cela représente. M. Macron s’est démené pour pousser des fleurons de la technologie tels que Deepmind, Google, Samsung, Fujitsu, Microsoft ou IBM à annoncer ces deux derniers jours un centre de recherche, une chaire ou un plan de formation, mais à quel prix…

Également au cœur du plan présidentiel, la recherche. Elle constitue, en France comme ailleurs, le nerf de la guerre. Pour retenir les chercheurs français attirés comme des aimants par la Silicon Valley, Emmanuel Macron lance un «programme national», coordonné par l’Institut national de recherche en informatique et en automatique. L’objectif est de faire émerger «un réseau d’instituts dédiés localisés dans quatre ou cinq endroits en France», accompagné par un programme de chaires individuelles, afin «d’attirer les meilleurs chercheurs mondiaux et de doubler les capacités de formation en IA».

En revanche, le président de la République n’a pas voulu doubler les salaires des chercheurs du secteur public en France, alors que la faiblesse des rémunérations doublée de la difficulté de faire carrière en tant que doctorant dans l’Hexagone, décourage les vocations et pousse les meilleurs hors de nos frontières.

Chers doctorants, Chers chercheurs,
Vous avez le choix entre:
Des Honneurs Académiques, si vous travaillez pour la «start-up France» – avec peu voire pas de salaires et sans conditions de travail valorisantes.
ou la totale (salaire, conditions, honneurs…) si vous décidez d’aller travailler pour Google ou Microsoft…

Espérons qu’à terme, l’Intelligence artificielle puisse remédier au manque de bon sens qu’a perdu la France.
Les seuls honneurs pour seule motivation, ont très rarement nourri et incité l’homme à rester pour peu qu’il soit un minimum ambitieux.

Mais vu ainsi, nul doute que la France sera gagnante… ou pas.

MM.

En référence à l’article de Romaric Godin paru dans Médiapart, 30 Mars 2018- «Intelligence artificielle : la stratégie perdante du gouvernement» ici