Stephen Hawking : « la montée de l’Intelligence Artificielle pourrait être la pire ou la meilleure chose qui soit jamais arrivée à l’humanité ». C’est déjà ce que nous vivons aujourd’hui !

Stephen Hawking pensait que « la montée de l’Intelligence Artificielle pourrait être la pire ou la meilleure chose qui soit jamais arrivée à l’humanité ».

Mais c’est en fait ce que nous vivons déjà aujourd’hui !

Le professeur Stephen Hawking, un des plus célèbres scientifiques contemporains, est surtout connu pour ses travaux sur l’astronomie et plus particulièrement sur les trous noirs et sur l’expansion de l’univers. Les dernières années de sa vie pourtant, il s’est exprimé à plusieurs reprises sur l’Intelligence Artificielle.

L’une de ses premières interventions sur le sujet a été faite en décembre 2014 à la BBC : il exprimait alors ses craintes à ce que « le développement d’une intelligence artificielle ‘complète’ puisse mettre fin à l’humanité… [Qu’] une fois que les hommes auraient développé l’intelligence artificielle, celle-ci décollerait seule, et se redéfinirait de plus en plus vite… [Que] les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés ».

Cette déclaration avait eu un retentissement d’autant plus important que quelques mois plus tard il signait, à côté de plus d’un millier de personnes dont une majorité de chercheurs en IA et en robotique, un appel pour faire interdire les armes létales autonomes ; à savoir les robots tueurs, les armes capables de sélectionner et d’attaquer des cibles, quelles qu’elles soient – y compris donc humaines – de façon autonome, sans l’intervention d’aucun être humain. Parmi les autres signataires, on trouve notamment le dirigeant de Tesla, Elon Musk, le cofondateur d’Apple, Steve Wozniak et le fondateur de DeepMind, entreprise travaillant sur l’intelligence artificielle qui a été rachetée par Google, Demis Hassabis.

A côté des problèmes éthiques et juridiques que le développement de cette technologie suscite, les signataires posaient « la question clé de l’humanité, aujourd’hui, [qui] est de savoir s’il faut démarrer une course à l’armement doté d’IA ou l’empêcher de commencer ». Ils pointaient aussi les risques de dissémination de ces armes « dans les mains de terroristes, de dictateurs souhaitant contrôler davantage leur population et de seigneurs de guerre souhaitant perpétrer un nettoyage ethnique ».

Mais Stephen Hawking reconnaissait dans le même temps que les formes ‘primitives’ d’intelligence artificielle développées jusqu’à présent se sont déjà révélées très utiles. Il n’a ainsi pas hésité à déclarer en octobre 2016 que « l’IA pourrait être le plus important événement de l’histoire de notre civilisation ». Il indiquait notamment « qu’avec les outils de cette nouvelle révolution technologique, nous serons capables de défaire certains dégâts sur la nature de la précédente – l’industrialisation. Et nous pouvons espérer éradiquer enfin la maladie et la pauvreté ». En effet, l’IA rend notre vie plus aisée, plus facile, plus confortable ; nous en connaissons tous de multiples exemples.

Mais les inconvénients que constitue l’Intelligence Artificielle, même aujourd’hui où elle n’a pas atteint le niveau de complétude craint par Stephen Hawking, sont multiples.

Un des inconvénients qui vient rapidement à l’esprit est le remplacement de l’homme – et donc la progression du chômage. Et pas seulement pour des tâches mécaniques et répétitives mais pour des travaux parfois très complexes. Jusqu’à maintenant, il est toutefois admis que, globalement, le développement de l’utilisation de l’IA a créé plus d’emplois qu’il n’en a détruit.

Le premier exemple qui me vient à l’esprit est le répondeur automatique de notre fournisseur d’énergie ou d’accès à Internet ou de notre e-commerçant favori – et parfois honni – ou … ; nous avons tous été en contact à de nombreuses reprises avec ces ‘agents conversationnels’, ces ‘chatbot’. On peut aussi citer comme exemple les Transactions à haute fréquence – High Frequency Trading – réalisées sur les marchés boursiers par des algorithmes informatiques sans intervention humaine. Mentionnons également les avocats et l’arrivée dans leur métier de nouveaux acteurs tels que les LegalTech qui, certes, peuvent faciliter leur travail mais qui proposent aussi des offres de services juridiques en ligne, sans que l’un de ces professionnels du droit n’intervienne en chair et en os. Si on se projette dans le futur (proche ?), le développement des Camions Autonomes pourrait mettre au chômage une partie plus ou moins importante de toute une profession. La liste est longue !!!

Mais l’Intelligence Artificielle est aussi à la base de la reconnaissance faciale. Avec tous les problèmes que cela induit !

Amazone a annoncé ces derniers jours, interdire à la police pendant un an l’utilisation de son logiciel de reconnaissance faciale. Cette technologie utilisée aux USA depuis des années l’était en l’absence de tout cadre légal fédéral.

Mais ce qui a principalement motivé ce retrait, dans le contexte tendu suivant la mort de Georges Floyd, c’est le taux d’erreur important – à savoir le rapport entre les personnes identifiées comme criminelles du fait de leur ressemblance avec des photos présentes dans la base de données mais qui se sont révélées être totalement ‘innocentes’. Ce taux est tout sauf négligeable et selon les communications faites par des services de police aux USA mais aussi en Grande-Bretagne, il dépasse les 80% et peut atteindre 96% comme l’a reconnu il y a quelques jours le chef de la police de Détroit ! Il faut préciser en outre que la fiabilité de ces systèmes de reconnaissance faciale est moindre quand il s’agit de personnes non blanches.

Son utilisation potentielle pour cibler les minorités et pour envahir la vie privée est aussi mis en avant par Amazone. D’autres géants des hautes technologies de l’information et de la communication dont Google, Microsoft et IBM, se positionnent eux-aussi sur la même ligne.

Les possibilités de la reconnaissance faciale sont immenses. Elle peut être utilisée pour surveiller l’entrée de certains lieux. De nouvelles formes de paiement par reconnaissance faciale ont fait leur apparition il y a maintenant deux ans. Le système est déjà utilisé dans certains magasins pour détecter les émotions des clients et prévoir – et orienter – leurs comportements d’achat. On peut / pourra repérer certaines maladies sur le visage. On peut / pourra lire sur les lèvres. On peut / pourra détecter des « comportements suspects ». Etc., etc., etc…

Mais tous les gouvernements ne font pas preuve de la même retenue que les Etats-Unis. En Chine en particulier où on estime à plus de 200 millions le nombre de caméras en service, la reconnaissance faciale est présente dans le quotidien de chaque citoyenne et de chaque citoyen. Et elle peut se révéler très intrusive ; même quand elle n’est pas utilisée comme un instrument de surveillance et de répression. Il est inutile de rappeler l’usage qui en est fait au Xinjiang contre la population Ouïghour ou à Hong-Kong contre les manifestants. Faut-il aussi rappeler le Crédit social ? Ce système vise à surveiller, évaluer, réglementer, sanctionner le comportement social, moral, financier et éventuellement, politique des citoyens chinois ; il repose pour une part significative sur la reconnaissance faciale.

Et en France ? On assiste à la mise en place de dispositifs de reconnaissance faciale à travers tout notre pays ! Plusieurs projets ont émergé à Nice, à Toulouse, à Valenciennes, à Metz. A Marseille et à Nice, la CNIL a rejeté deux projets de portique virtuel de contrôle d’accès dans des lycées tout comme à Saint-Etienne, elle n’a pas autorisé le projet de surveillance de certains quartiers. A Paris, la région Ile-de-France souhaite utiliser la reconnaissance faciale dans les transports en commun pour lutter, officiellement, « contre la menace terroriste ». Par ailleurs, des systèmes de reconnaissance faciale sont utilisés par des entreprises à des fins privées.

Ces utilisations de la reconnaissance faciale – dont, rappelons-le, la fiabilité est régulièrement remise en question – se déroulent dans un cadre juridique notoirement insuffisant pour protéger nos libertés individuelles et collectives, privées et publiques, de ces dispositifs de surveillance de masse.

En outre, le Règlement général sur la protection des données (RGPD) interdit « l’’utilisation de la reconnaissance faciale sans le consentement des personnes qui y sont soumises ». Ce qui veut dire, me semble-t-il, que seuls les individus qui ont donné leur accord peuvent être identifiés par ces systèmes. Mais quid de l’utilisation que prônent certains, du fichier des Titres électroniques sécurisés qui concentre les données personnelles et biométriques de toutes les françaises et tous les français possesseurs d’une carte nationale d’identité ou d’un passeport ? Quid aussi de celle du fichier de traitement d’antécédents judiciaires qui regroupe plusieurs millions de français ? Ceux-ci n’ont pas forcément été condamnés mais il suffit pour y être inscrit qu’un agent de police judiciaire les suspecte d’être les auteurs ou les complices d’un crime ou d’un délit.

Le gouvernement français envisage par ailleurs de lancer, à l’instar de la ville de Londres il y a quelques années, une expérimentation de la reconnaissance faciale dans les lieux publics pour une durée de six mois à un an.

Il faudra que nous soyons tous très attentif à cette expérimentation, surtout dans sa dimension sécuritaire, et à l’évolution du cadre légal qui devrait la suivre.

En fait, je crains que, in fine, nous ne devions clamer haut et fort notre total refus de la société de surveillance que d’aucuns souhaitent nous imposer sous des motifs tous plus nobles et plus généreux les uns que les autres !

.

.

.

PS : pour finir cet article sur une note un peu plus gaie, une citation empreinte de l’humour dont Stephen Hawking savait faire preuve : « la meilleure preuve que nous ayons que le voyage dans le temps n’est pas possible et ne le sera jamais, c’est que nous n’avons pas été envahis par des hordes de touristes venus du futur ».

A moins que la reconnaissance faciale n’ait pas fonctionné !