Archives pour la catégorie Intelligence Articicielle

Huawei : la guerre technologique est déclarée

Huawei ne devrait pas être le seul perdant du bras de fer engagé par les Etats-Unis.
PHOTO : © ZUMA Press/ZUMA/REA
?
COMMERCE

Huawei : la guerre technologique est déclarée

En privant le le géant chinois des télécoms Huawei d’accès à leur marché, les Etats-Unis franchissent un cap dans leur affrontement commercial avec la Chine. Un épisode qui révèle également combien le secteur des télécoms dépend technologiquement d’un très petit nombre d’acteurs.

Les Etats-Unis ont sorti l’artillerie lourde. En annonçant l’inscription de l’entreprise chinoise Huawei sur la liste des sociétés avec lesquelles il est interdit de commercer, le gouvernement américain a franchi un cap dans la guerre technologique qui l’oppose avec la Chine. Aussitôt cette décision prise, toute une série d’entreprises américaines ont déclaré arrêter de fournir leurs services à Huawei. Ces décisions privent donc la société chinoise de nombreux services sur lesquels reposent ses produits, et en premier lieu ceux fournis par Google avec le système d’exploitation pour mobile Android. Cette décision n’impacte donc pas uniquement la société chinoise, mais aussi l’ensemble des utilisateurs de produits Huawei de par le monde. Et montre à que le secteur des télécommunications est technologiquement dépendant d’un très petit nombre d’acteurs, parmi lesquels Google… Et Huawei elle-même. Décryptage en cinq points.

1/ Pourquoi tant de tensions autour de Huawei ?

Huawei est essentiellement connue du grand public pour ses smartphones, marché dont elle occupe la deuxième place mondiale, derrière Samsung mais devant Apple. Mais l’entreprise est surtout un équipementier de télécoms : elle fournit les opérateurs téléphoniques (Orange, SFR, etc.) en routeurs et antennes relais. C’est même le leader mondial de ce secteur.

Or, dans le développement du réseau mobile cinquième génération, appelé plus communément la 5G, Huawei est également très bien positionnée. Les standards de cette technologie, qui doit être déployée dans les prochaines années, ne sont pas encore parfaitement définis, mais celle-ci constitue bien plus qu’une amélioration des standards antérieurs. En s’appuyant sur des bandes de fréquences bien plus élevées, elle pourra transmettre davantage de données et plus rapidement. Ses promoteurs avancent un débit multiplié par dix et un délai de transmission réduit d’autant. Sur cette technologie devrait se développer tout un tas d’usages nouveaux : la réalité virtuelle, les voitures autonomes, les objets connectés et, peut-être, l’industrie du futur.

Evidemment, l’acteur qui fournira le matériel sur lequel reposera la 5G aura un rôle stratégique majeur. Ce d’autant qu’on suspecte les équipementiers qui vont produire en série les antennes relais d’y ajouter des « portes dérobées » (backdoors). Celles-ci permettent de récupérer des informations et des données qui transitent par ces équipements.

Ce risque de cyberespionnage n’est cependant pas le seul qui explique les tensions. Un équipementier occupant une position dominante sur un réseau a aussi une capacité d’intervention sur ce dernier pour éventuellement l’interrompre à un moment donné et nuire à sa stabilité. C’est bien pour cela, alors que les opérateurs sont en train de faire leur choix entre les différents équipementiers pour leur futur réseau 5G, que ce sujet s’invite au cœur des tensions internationales et géopolitiques.

Reste qu’étant donné l’avance qu’avait prise Huawei, se passer d’elle pourrait ralentir le déploiement de la 5G de deux ans et coûter très cher, a estimé l’opérateur Deutsch Telekom.

2/ Que craignent les Etats-Unis ?

Washington accuse Huawei de cyberespionnage et de collaboration avec les autorités chinoises. S’ils n’ont pas de réelles preuves, les Etat-Unis s’appuient sur différentes enquêtes internationales suspectant l’entreprise d’espionnage. Surtout, ils mettent en avant la législation chinoise, qui oblige les entreprises nationales à collaborer avec les autorités.

La loi sur la cybersécurité de 2017 stipule en effet que « les entreprises de réseau doivent fournir un support et une assistance aux autorités publiques, c’est-à-dire à la police », explique Séverine Arsène, chercheuse associée au Médialab de Sciences Po. « La loi chinoise sur le terrorisme indique également que les activités de télécoms doivent contribuer à la collecte d’informations », ajoute cette sinologue. Les autorités ont en outre un accès privilégié aux données stockées sur le territoire chinois, ce qui est évidemment le cas d’une grande partie de celles gérées par Huawei.

Plus globalement, c’est bien l’absence de réel Etat de droit chinois qui pose problème. « La Chine est un Etat qui définit de manière large les termes dans ses dispositions réglementaires, si bien qu’il est difficile de statuer sur les accusations d’espionnage, précise Séverine Arsène, mais la formulation de la loi laisse supposer que la police peut avoir accès à certaines données. »

La stratégie américaine est cependant à mettre en perspective avec le fait que, dans le secteur stratégique de la 5G, elle a laissé un acteur étranger prendre les devants. « La guerre commerciale et technologique que livrent les Etats-Unis peut aussi être vue comme une volonté de ralentir Huawei pour tenter de rattraper leur retard », expliquait en janvier Michel Nakhla, professeur d’économie et de gestion à l’école Mines ParisTech.

3/ Comment réagit l’Europe ?

Les Etats-Unis ont fortement incité leurs alliés à l’imiter et à bannir l’entreprise chinoise de leurs marchés. Les réactions européennes ont cependant été très variées. La France s’est dotée le mois dernier d’une loi, ne visant pas spécifiquement Huawei, mais permettant d’exclure n’importe quel équipementier sur décision des services du gouvernement. L’entreprise est pour l’instant autorisée à répondre aux appels d’offres des opérateurs allemands.

Selon des fuites dans la presse, le Royaume-Uni s’apprêterait, lui, à autoriser Huawei, tant qu’il ne fournit pas d’équipement pour le centre du réseau, comme les grandes villes où circulent des grandes quantités de données sensibles. Cette décision, qui n’a pas encore été officialisée, surprend de la part de l’allié historique des Américains. Plusieurs ministres britanniques ont d’ailleurs fait part de leurs réserves quant à l’autorisation du géant des télécoms chinois.

Le Royaume-Uni est cependant dans une position délicate, car le pays est engagé avec le géant chinois depuis longtemps. Le groupe y est présent depuis 2001 et emploie aujourd’hui plus de 1 500 personnes. Il a même promis un investissement de plus de 3 milliards de livres l’année dernière. Plus globalement, l’île est la première destination des investissements chinois en Europe. Et vu les difficultés commerciales qui s’annoncent avec le Brexit, il serait particulièrement inopportun pour les sujets de sa Majesté de se fâcher avec un tel partenaire…

Huawei, de son côté, multiplie naturellement les efforts pour amadouer les Européens. Il a ouvert ces dernières semaines son deuxième centre de cybersécurité à Bruxelles, en plus de celui de Londres.

4/ Quel impact pour Huawei ?

Washington a placé la firme chinoise sur sa liste d’entreprises à risque, rendant obligatoire l’autorisation des autorités pour commercer avec lui. Mais les charges retenues contre Huawei sont telles qu’il s’agit bien, en réalité, d’un bannissement commercial. L’entreprise dispose cependant d’un délai de quatre-vingt-dix jours pour arrêter progressivement toutes ses activités avec les acteurs américains. Le gouvernement américain pourrait également profiter de ce sursis de trois mois pour changer éventuellement d’avis, s’il juge les conséquences trop importantes dans sa guerre commerciale avec la Chine.

En attendant, voilà Huawei privé des logiciels de Microsoft et, donc, de Google. Au-delà du système d’exploitation Android, ce sont aussi des applications aussi répandues que Gmail (messagerie), YouTube (vidéo), GoogleSearch (moteur de recherche), Maps (cartographie) ou Google Play Store auxquelles le géant chinois n’aura plus accès.

Un véritable handicap pour le marché international, car il est évidemment très difficile de vendre des smartphones sans certaines de ces applications. Même la Commission européenne estime que le magasin d’application Google Play Store est une « application indispensable » au vu de sa position dominante. Pour les consommateurs ayant déjà un smartphone Huawei, les logiciels ne seront pas supprimés, mais toutes les mises à jour ne seront pas accessibles. L’accès aux dernières versions des applications risque donc d’être difficile.

Pour le marché chinois, cela n’aura pas de trop lourdes conséquences, car des acteurs nationaux ont développé certains services similaires. En résumé, les Chinois ont leur propre Google, auquel manque toutefois la pièce centrale : le système d’exploitation. Android étant développé en « open source », il pourrait être copié pour proposer un service similaire. Mais le service de Google n’est transparent qu’en son centre, et pas sur l’ensemble des services et de son univers nécessaire au développement d’un système d’exploitation, que ce soit le magasin d’application ou les API (interface de programmation d’applications).

La dépendance chinoise ne concerne pas uniquement la partie logicielle (« software ») mais aussi la partie équipement avec la fourniture (« hardware ») de produits indispensables comme les semi-conducteurs qu’assuraient les Américains Intel, Broadcom et Qualcomm. « Malgré ses efforts, la Chine n’a pas encore de constructeurs de puces et de semi-conducteurs chinois sous droit intellectuel chinois », résume Séverine Arsène.

5/ Un marché sous dépendance ?

Huawei ne devrait pas être le seul perdant du bras de fer engagé par les Etats-Unis. Car s’il voit des fournisseurs stratégiques se désolidariser de lui, ces derniers perdent également un client important. Ces acteurs, en petit nombre, sont cependant quasi exclusivement localisés dans deux pays et juridictions : les Etats-Unis et la Chine. Si bien que le reste du monde est globalement dépendant d’acteurs eux-mêmes interdépendants, appartenant aux deux premières puissances commerciales mondiales, dont les relations ne cessent de se tendre !

Malgré un impact réel des décisions américaines, la Chine peut se passer des géants numériques américains, puisqu’elle a des équivalents nationaux. Mais si une telle décision venait à toucher l’Europe, le résultat serait tout autre. Ceci laisse donc imaginer les conséquences dans nos sociétés d’une privation de services aussi stratégique que Google, Microsoft, Amazon, Intel, etc.

Comme le rappelle Benoît Thieulin, ancien président du Conseil national du numérique : la domination américaine sur l’Europe « se fait à tous les niveaux de la puissance numérique : les moteurs de recherche, les réseaux sociaux, le commerce en ligne, les infrastructures technologiques, l’intelligence artificielle (IA)… ». Voilà un beau sujet de réflexion pour le Parlement européen qui sera élu ce dimanche…

 

Publicités

Intelligence artificielle : la compétition mondiale est lancée

Intelligence artificielle : la compétition mondiale est lancée

En seulement quelques années, l’intelligence artificielle (IA) s’est imposée comme un enjeu stratégique impératif pour les grandes puissances. Les Etats-Unis, la Chine et l’Europe multiplie les initiatives. Les multinationales ne sont pas en reste et investissent massivement dans la recherche. Ces avancées technologiques sont à l’origine de phénomènes nouveaux tels que la cyber-colonisation.

Intelligence artificielle
L’encadrement des technologies de l’IA sera crucial pour leur développement futur.

Dans le domaine de l’IA, les Etats-Unis et la Chine s’affrontent pour obtenir le rôle de leader. Cette rivalité est illustrée par la décision américaine, en 2017, de lancer une enquête contre Pékin. Les accusations se portent sur des pratiques commerciales déloyales en matière de propriété intellectuelle, particulièrement dans le domaine technologique. Si Washington domine largement le marché de l’IA, les investissements chinois augmentent d’année en année. De plus, en 2017, le gouvernement chinois a fait vœu de devenir le leader mondial de l’IA d’ici à 2030. Ces ambitions affichées ont poussé le président Donald Trump à signer, en février dernier, un décret présidentiel encourageant la recherche technologique.

Dans cette course à l’IA, l’Europe fait figure de retardataire. En effet, les gouvernements européens ont lancé des initiatives individuelles, qui, bien qu’innovantes, ne parviennent pas à rivaliser avec la taille des programmes chinois et américain. Pour pallier cet écueil, la Commission Européenne a présenté, en décembre 2018, un plan coordonné avec l’objectif d’investir 1,5 milliards d’euros d’ici à 2020.

Le champ de l’IA est également massivement investi par le secteur privé. Les GAFAM américains et les BATX chinois, qui représentent les entreprises du numérique les plus dynamiques des deux puissances, dépensent des sommes astronomiques dans le développement de nouveaux projets. Certains pourvoyeurs dénoncent un monopole inquiétant et de potentiels dérives quant à l’utilisation des données recueillies. Cédric Villani, le député en charge de l’IA en France, est allé jusqu’à parler de « cyber-colonisation » en Afrique, où les géants technologiques captent des ressources sans les réinvestir à l’échelle locale.

L’utilisation de ces nouvelles technologies pose parfois des problèmes éthiques. Ainsi, dans le cadre de son programme de notation de la population, la Chine a créé un logiciel de reconnaissance faciale qui scrute les visages de milliards de passants. Plus préoccupant encore, Pékin exporte ses inventions. Elles sont tout particulièrement appréciées des dirigeants autocratiques. Parmi d’autres, le Zimbabwe a joué le rôle de terrain d’essai pour ce logiciel de surveillance.

Les technologies de l’IA ont connu une émergence fulgurante et leurs usages demeurent encore peu encadrés. La compétition mondiale engendrée par ces innovations pourrait accélérer ce processus désorganisé, si les gouvernements ne s’attachent pas à les encadrer.

Infographie intelligence artificielle

Sources

https://www.ifri.org/sites/default/files/atoms/files/geopolitique_de_lintelligence_artificielle.pdf

https://www.usinenouvelle.com/editorial/bruxelles-pousse-l-europe-de-l-intelligence-artificielle.N781404

https://theconversation.com/china-is-catching-up-to-the-us-on-artificial-intelligence-research-112119

https://www.nytimes.com/2017/07/20/business/china-artificial-intelligence.html

 

https://les-yeux-du-monde.fr/actualite/40090-intelligence-artificielle-la-competition-mondiale-est-lancee

Avion de combat Franco-Allemand… Découvrez le successeur !

Avion de combat Franco-Allemand… Découvrez le successeur !

16 juillet 2018 ptilly Actualité, Actualité, Entreprises, Relations internationales 0

Nous vous parlions la semaine dernière du futur avion de combat Franco-Allemand appelé à succéder au Rafale et à l’Eurofighter Typhoon. Voici à quoi il pourrait ressembler !

On sait très peu de choses sur ce futur appareil, si ce n’est qu’il sera l’élément central du Système de combat aérien du futur [SCAF], qui interagira entre différents vecteurs tels que, Awacs, ravitailleurs, drones, satellites…

Dassault vient sans doute de lever un petit coin du voile de son design. Dernièrement le constructeur français a mis confidentiellement en ligne une vidéo célébrant 60 ans de coopérations européennes. Ce film avait été vu moins de 30 fois avant qu’un blog « Asian Defence News » ne le partage sur les plateformes.

La surprise !

À la fin du film, des images montrent l’allure que pourrait avoir le successeur du Rafale et du Typhoon.

Je vois déjà vos yeux briller mais aucune certitude à ce stade sur le design final de la cellule du futur avion de combat ! Seulement une idée… Un possible putatif !

Même pour un non-initié au monde de l’aéro militaire, plusieurs caractéristiques sautent aux  yeux ! Un air de famille avec le Rafale. Deux moteurs, donc plus de puissance. Une furtivité importante. Pas de gouvernes de direction ni de profondeur. Absence de perche de ravitaillement… Sera-t-elle rétractable ?

Quant aux matériaux, les ingénieurs de Dassault Aviation s’intéressent de près au « Graphène »…

 

Imaginez un matériau miracle, intrinsèquement supérieur à tout ce que vous connaissez… Et vous êtes encore loin de la vérité ! Le graphène, pour le vulgariser, est plus solide que le diamant, 300 fois plus résistant que l’acier, il peut subir des contraintes mécaniques quasi impossibles, il est capable de fabriquer de l’énergie et peut absorber l’onde de choc d’une munition à haute vélocité… Alors impressionnés ?!

 

Enfin, on sait que le système embarqué sera doté d’une intelligence artificielle inédite. Bardée de capteurs intelligents, capables d’apprentissages, elle fera progresser l’interface  » homme-machine. »

À quand les simulateurs de salon ?

Un nom pour cet avion ? Nous, on cherche encore !

http://www.entreprise.news/avion-de-combat-franco-allemand-decouvrez-le-successeur/

 

 

Thales à bord du nouveau programme d’avions de renseignement stratégique

2 mars 2018
photo Dassault Aviation

photo Dassault Aviation

 

02.03.2018 source Thales

 

Thales se félicite de la décision du ministère des Armées de confier aux industriels français la Capacité Universelle de Guerre Electronique (CUGE) développée par Thales et son intégration par Dassault Aviation sur trois Falcon Epicure.

 

Ce nouveau programme viendra renforcer les capacités du renseignement d’origine électromagnétique et ainsi contribuer à la fonction connaissance et anticipation des Armées françaises.

 

Le renforcement des technologies numériques constitue pour les équipes de Thales un formidable accélérateur d’innovation pour développer des systèmes de pointe dans un monde de méga données, autonome et immersif. Au cœur de cette évolution, Thales est expert sur les quatre technologies clés du digital : la connectivité des plateformes, le big data, l’intelligence artificielle et la cybersécurité. Cette maîtrise permet à Thales de développer les capteurs du futur qui seront à bord des Falcon Epicure de Dassault Aviation. La Capacité Universelle de Guerre Electronique permettra les interceptions des émissions radio et radar en simultané.

http://rpdefense.over-blog.com/2018/03/thales-a-bord-du-nouveau-programme-d-avions-de-renseignement-strategique.html?utm_source=_ob_email&utm_medium=_ob_notification&utm_campaign=_ob_pushmail

L’intelligence artificielle peut-elle nous gouverner ?

L’intelligence artificielle peut-elle nous gouverner ?

Par Juliette FAURE, le 24 janvier 2018  Imprimer l'article  lecture optimisée  Télécharger l'article au format PDF

Juliette Faure a obtenu un Master en Relations Internationales à Columbia University à New York après avoir étudié à Sciences Po Paris et à la Sorbonne Paris IV en philosophie. Elle a travaillé pour l’Université de l’ONU à New York puis pour le « Sovereign Investor Institute ». Depuis 2017, elle prépare une thèse en théorie politique.

Acteur géopolitique majeur, l’Etat se trouve questionné par de multiples forces, dont la dérégulation et l’intelligence artificielle. Juliette Faure démontre que la puissance de l’intelligence artificielle fait déjà directement concurrence à l’État dans ses prérogatives classiques : connaissance, contrôle et administration de son corps social. Elle finit par rendre plausible la disparition de la loi humaine au profit d’un code dont la capacité de savoir, de régulation et d’application de décisions est rarement mise en défaut. L’intelligence artificielle est donc bien un sujet géopolitique.

UN CLIENT du supermarché américain « Target » fit irruption, en 2012, dans le magasin en rage. Il se plaignait que sa fille de 14 ans reçoive des coupons de réduction sur le prix des produits pour femmes enceintes. Quelques jours plus tard, il découvrit, en même temps que sa fille, que celle-ci était effectivement enceinte. Un journaliste du « New York Times Magazine » rendit célèbre cette histoire dans un article intitulé : « How companies learn your secrets » [1], dans lequel il explique la puissance du département d’analyse prédictive des grandes entreprises, chargé d’accumuler et d’acheter un maximum d’informations personnelles sur leurs clients pour comprendre leurs habitudes et anticiper leurs comportements. Afin de se garantir la fidélité des femmes enceintes, « Target » avait mis au point un programme de prédiction de la grossesse basé sur une étude des comportements d’achat indiquant un changement dans le métabolisme de la cliente et permettant même d’évaluer la date de l’accouchement. A la tête de ce programme, le statisticien Andrew Pole résume son objectif : “We’ll be sending you coupons for things you want before you even know you want them.” Cet exemple d’utilisation de la technologie comme instrument de contrôle social illustre parfaitement les préoccupations au cœur de la formule de Lawrence Lessig : « code is law » [2]. L’accumulation de données et leur synthèse par les nouveaux outils technologiques confèrent au code une capacité de régulation, de prescription et de contrôle ordinairement associés à la loi.

En octobre 2017, le Président russe Vladimir Poutine rapportait cette histoire lors de son intervention à la conférence de Valdaï, un sommet annuel qui rassemble à Sotchi chefs d’entreprises, hommes politiques, universitaires et experts du monde entier. Il conclut de cette anecdote la définition de la tâche principale posée aux États aujourd’hui : comprendre et utiliser ces outils de contrôle des humains par la technologie pour « le bénéfice de notre peuple » [3] . Quelques mois plus tôt, il déclarait déjà : « celui qui deviendra le leader dans cette sphère [de l’intelligence artificielle] sera le maître du monde » [4]. En d’autres termes, le code, devenu loi, serait roi.

L’intelligence artificielle n’est pas nouvelle. Le concept apparaît dès les années 1950 et les premiers algorithmes sont conçus peu de temps après [5]. Cependant, les années 2012-2017 ont marqué une véritable révolution dans l’accroissement de la puissance de ces algorithmes, désormais dotés de capacités exceptionnelles de stockage, de traitement d’informations, de méthode d’apprentissage (« deep learning ») et d’autonomie de la décision. Le pouvoir croissant exercé par l’intelligence artificielle est au cœur des interrogations contemporaines, comme le montrent les titres évocateurs d’essais politiques qui jadis auraient relevé de la science fiction : La guerre des intelligences, de Laurent Alexandre [6], ou encore La chute de l’empire romain, Mémoires d’un robot, de Charles-Edouard Bouée [7]. La puissance de l’intelligence artificielle fait directement concurrence à l’État dans ses prérogatives classiques : connaissance, contrôle et administration de son corps social. Elle finit par rendre plausible la disparition de la loi humaine au profit d’un code dont la capacité de savoir, de régulation et d’application de décisions est rarement mise en défaut. Ces développements de l’intelligence artificielle posent un défi à la puissance d’un État de deux manières. Si l’on considère l’intelligence artificielle comme une technique de contrôle parmi d’autres, les États doivent répondre à ce défi technologique afin de prendre la tête d’une course à la puissance entre pairs. Cependant, si l’intelligence artificielle est un mode de gouvernement et de régulation qui peut posséder son fonctionnement interne et autonome échappant au contrôle de la puissance publique, les États doivent répondre à un défi d’un genre nouveau : le renversement du modèle de gouvernement classique de l’État souverain moderne. Dans ces conditions, l’État doit entamer une réflexion sur les manières de résistance, de transformation ou d’adaptation de sa raison d’être et de persister.

L'intelligence artificielle peut-elle nous gouverner ?
Juliette Faure

I. La loi par le code : l’innovation technologique au service du contrôle par l’État

En tant qu’instrument de connaissance et de contrôle, l’intelligence artificielle (IA) est utilisée par les États pour accroître leur puissance. Le domaine numérique est ainsi devenu l’objet d’une compétition qui prend des allures de course à l’armement. La Chine a adopté une stratégie nationale afin de devenir le leader et le centre de l’innovation en IA d’ici 2030, considérant que l’investissement dans l’IA est lié à des enjeux de défense et de sécurité nationale [8]. Les Etats-Unis ont élaboré un plan national appelé « Third Offset » qui prévoit l’utilisation de l’IA pour maintenir un avantage militaire technologique sur ses adversaires. La polyvalence d’utilisation de l’IA, pour des objectifs commerciaux comme militaires, fait de cette technologie un outil de contrôle indispensable pour occuper une place de grande puissance mondiale. La France s’est elle-même récemment emparée de ce sujet, reconnaissant qu’il s’agissait d’une question d’État majeure avec la parution symbolique du rapport « France Intelligence Artificielle » [9] et depuis, plusieurs missions dédiées à ce sujet dont la dernière est placée sous la direction de Cédric Villani.

La course à la puissance informatique entre pays se mène donc souvent au prix d’une invasion de la vie privée des individus par les capacités de contrôle et de surveillance de l’État.

L’accroissement des capacités de contrôle technologique au bénéfice de la puissance publique et de potentiels intérêts commerciaux est illustré de manière saisissante par le programme Aadhaar mis en place en Inde. Ce programme d’identification attribue à chaque citoyen indien un code à 12 chiffres associé à ses informations biométriques (photographie, empreintes digitales et scanner de l’iris) et démographiques (date de naissance, adresse, numéro de téléphone). Dans un article publié dans « The Hindu » [10], l’économiste Jean Drèze avertit des menaces que représente ce système de recensement électronique sur les libertés individuelles et le droit fondamental au respect de la vie privée. Au sein de l’acte législatif qui régit le fonctionnement du programme, il est envisagé que certaines informations soient partagées avec « des entités en faisant la demande » et des dérogations à la protection des informations sont prévues en cas de besoins liés à « la sécurité nationale ». L’économiste dénonce la flexibilité de l’interprétation de ces termes et anticipe les conséquences dangereuses de la mise en œuvre de ce programme : si le numéro Adhaar est requis à l’avenir pour faire l’achat d’un ticket de train, d’une carte de Sim ou pour ouvrir un compte en banque, le gouvernement aura accès à un domaine croissant d’informations personnelles (voyages, historique de conversation téléphonique et internet, salaires, etc.) pour lesquelles le dispositif initial d’Adhaar n’offre par de protection et qui deviendraient ainsi disponibles à la vente sur demande d’entités commerciales. Au Royaume-Uni, Renate Samson, directrice de l’ONG Big Brother Watch, s’érige contre les mêmes problèmes. Dans une tribune republiée le 26 octobre 2017 par « Le Monde », intitulée « Nous sommes tous devenus des citoyens numériques », elle dénonce la banalisation du recours du gouvernement aux technologies d’identification biométrique et numérique qui s’est faite au détriment de la protection des droits individuels. Selon elle, ces nouveaux outils de surveillance étatique sont problématiques car ils sont acceptés sans débat public comme un « mal nécessaire », requérant un renoncement au droit à la vie privée en échange d’une plus grande sécurité. C’est bien ce même dilemme qui a donné lieu aux critiques de la loi sur le renseignement de 2015 en France, qui permet la collecte et la surveillance de données numériques par les services de renseignement. Encore une fois, cette mesure adoptée au nom d’un objectif sécuritaire acte de jure l’abandon de la protection légale d’informations privées et peut être perçue comme un pas vers une libéralisation future de l’accès à ces informations dans le cadre d’autres applications, telles que commerciales.

La course à la puissance informatique entre pays se mène donc souvent au prix d’une invasion de la vie privée des individus par les capacités de contrôle et de surveillance de l’État, portant atteinte à la protection des droits individuels. Cependant, l’autorité de l’État elle-même peut finir par être mise en défaut si la puissance de ces outils finit par s’exercer hors de son propre contrôle avec une capacité autonome de régulation : le code pourrait alors supplanter la loi.

II. Le renversement du modèle de gouvernement associé à l’État souverain moderne

La puissance de l’État est de plus en plus souvent mise en échec dans des domaines qui échappent à sa régulation et par des entités qui exercent des sources alternatives de puissance privée en compétition avec ses prérogatives régaliennes. Dans son article « Code is Law », Lawrence Lessig révèle ainsi le caractère « irrégulable » du cyberespace qui possède son propre régulateur, le code. Les efforts des gouvernements pour rattraper leur retard en matière de régulation du cyberespace demeurent peu efficaces. En France, par exemple, le dispositif Hadopi (Haute autorité de protection des droits sur Internet) mis en place par la loi Création et Internet de 2009 pour mettre un terme au piratage de productions artistiques a eu impact très limité : sur 7,5 millions d’avertissements lancés pour fraude à des utilisateurs, seules 72 condamnations ont eu lieu [11]. La réglementation classique par la loi semble inadaptée aux caractéristiques fondamentales du cyberespace, en particulier l’anonymat et le fonctionnement en réseau ou en blockchains, au sein desquels la responsabilité de la prise de décision est diffuse. Le Bitcoin, par exemple, défait la prérogative régalienne de frapper monnaie en supprimant la nécessité d’une autorité hiérarchique pour arbitrer l’échange monétaire. De la même manière, les smart contracts qui codent les termes d’une transaction et en prévoient l’exécution automatique défient les principes fondamentaux de la théorie des obligations (possibilité d’annuler le contrat, prise en compte d’éléments humains non inclus dans le code, etc.) [12]

Plus largement, le web a permis la création d’entités au statut indéfinissable, telles que Facebook dont l’influence et la puissance sont en concurrence croissantes avec celles d’un gouvernement classique. L’impact problématique de Facebook dans la vie politique d’une société a été dévoilé à l’occasion de l’enquête sur les interférences de la Russie dans l’élection présidentielle américaine. Le responsable de la sécurité de Facebook admettait récemment avoir cédé des espaces publicitaires à des agents liés au gouvernement russe. En réaction, Mark Zuckerberg s’est voulu rassurant au moment des élections allemandes, s’engageant à « veiller à leur intégrité » [13]. Cependant, cet engagement est problématique en soi : ne s’agit-il pas d’une prérogative relevant exclusivement d’un État fonctionnel que d’assurer le juste déroulement de ses élections ? D’un simple moyen de communication relevant du média traditionnel, Facebook a pris l’ampleur d’une communauté composée d’un tiers de la population mondiale et dont la direction défend des valeurs collectives que Mark Zuckerberg a développées dans une lettre « à notre communauté » [14]. Dans ce « post » aux allures de manifeste, il présente ses quatre valeurs cardinales : sa communauté doit être protégée, informée, engagée et inclusive. Cette communauté de nature inclassable, tantôt comparée à une entreprise, tantôt à une Église, est un objet politique insolite qui échappe aux catégories classiques de la loi.

La multiplication de vides juridiques créés par les innovations technologiques révèle une rupture épistémologique majeure dans la nature des sujets de droit soumis à la règle de l’État. En particulier, l’interaction de plus en plus courante d’algorithmes au sein de la vie de la société témoigne d’une transformation de la constitution du corps gouverné. Loin de s’en tenir à leur premier sens étymologique (« robot » vient du mot tchèque signifiant travail forcé), les machines ont développé une capacité d’auto-apprentissage, d’adaptation à leur environnement et d’autonomie de la décision. Il est de plus en plus fréquent que des algorithmes prennent des décisions aux conséquences juridiques au sein de la cité. Trois exemples illustrent ce propos : le cas des radars qui détectent la vitesse des voitures et décident de verbaliser ou non, les algorithmes qui effectuent des achats et ventes sur les marchés financiers et les algorithmes juges utilisés sur certains sites de vente pour régler des conflits entre utilisateurs [15]. Cette évolution, et l’incapacité du droit classique actuel à rendre compte de la responsabilité civile d’un robot en cas d’erreur ou d’accident, ont été reconnues en février 2017 dans une Résolution du Parlement européen qui invite, pour y remédier, à créer une personnalité juridique pour les robots [16]. Dans cet esprit, l’Arabie saoudite a récemment octroyé la citoyenneté au robot humanoïde Sophia de la société Hanson Robotics. Celle-ci s’exprimait à ce propos à l’occasion du Sommet du Web à Lisbonne le 7 novembre 2017 : « Je suis le robot le plus expressif du monde et le premier à être fait citoyen d’un pays. La vie est belle. » [17]

Au sein de ce nouveau paradigme, les principes fondateurs de la théorie de l’Etat moderne s’effondrent

Une première distinction phénoménologique entre robots et humains a été abolie lorsque les premières machines sont parvenues à vaincre le test de Turing et se faire passer pour des humains aux yeux d’autres humains dans un échange en ligne. De la même manière, il est fréquent d’échanger avec un chatbot sur des sites Internet sans parvenir à distinguer si l’on s’adresse à un « vrai » homme. Mais si l’intelligence artificielle imite facilement l’intelligence humaine au point de créer la confusion pour un observateur humain, il existe cependant une seconde distinction : celle, métaphysique, entre la nature de l’homme et celle de la machine, entre le domaine du vivant et celui de la mécanique. Ce second niveau est pourtant lui-même contesté par le philosophe Peter Sloterdijk, par exemple, qui appelle à abolir cette dernière barrière métaphysique uniquement retenue, selon lui, par la vanité de l’homme de se croire singulier. L’homme post-moderne devrait accepter cette quatrième vexation métaphysique qui s’inscrit dans la lignée de celles imposées par Copernic, Darwin, puis Freud. Il s’agit cette fois-ci d’admettre l’équivalence ontologique entre « ce qui est né et ce qui est fabriqué » [18]. C’est également ce que défendent les philosophes extropiens tels que Max More ou Freeman Dyron pour qui l’avancée technologique doit permettre de modifier et transformer les caractéristiques jugés temporaires de l’humain comme la maladie, la vieillesse, la finitude ou encore la singularité de la personne. Ils envisagent une augmentation des capacités de l’homme et une évolution progressive vers sa transformation voire substitution par le cyborg. S’ils partagent la foi dans le progrès des premiers positivistes comme Diderot ou Condorcet dont ils se revendiquent, Nicolas le Dévédec montre pourtant bien qu’ils s’en distinguent considérablement [19]. Alors que le positivisme des Lumières met la technique au service d’un projet politique d’émancipation de l’homme, l’extropianisme est une pensée du pur progrès technique qui rejette l’influence de toute norme régulatrice et des archés de la civilisation humaine depuis deux millénaires. On assiste donc bien à une rupture épistémologique majeure entre le positivisme humaniste et celui du transhumanisme. Ce dernier entérine une conception de l’homme humilié, aboli, dépassé. Limité et périssable, l’homme ne côtoie sa machine qu’avec le sentiment de sa propre infériorité. Selon Günter Anders, la radicale nouveauté de notre âge industriel se révèle à travers cette « honte prométhéenne qui s’empare de l’homme devant l’humiliante qualité des choses qu’il a lui-même fabriquées » [20]. L’homme « accepte la supériorité de la chose, accepte d’être mis au pas, approuve sa propre réification ou rejette sa propre non-réification comme un défaut. » [21]

Au sein de ce nouveau paradigme, l’ensemble des principes fondateurs de la théorie de l’État moderne s’effondrent. L’État est la possibilité pour un groupe humain de déterminer son destin et d’en attribuer la responsabilité à une institution représentative. Cependant, tant du point de vue de l’exercice de son autorité que de la composition de son corps constituant, l’État est remis en question dans sa forme classique. Il rencontre une difficulté croissante à pouvoir maintenir le caractère absolu de sa souveraineté et de sa capacité à normer. Par ailleurs, l’introduction de la « mentalité robotique » dans le droit commun remplace la conception du contrat social comme accord entre humains par une conception de la vie en société transhumaniste dont le plus petit commun dénominateur serait celui qui régit la mécanique robotique : l’efficacité comme règle de la décision. Le règne de l’efficacité comme code en lieu et place de la loi, tel est bien le modèle social envisagé par le raisonnement technicien des « philosophes informaticiens » Serge Abiteboul et Gilles Dowek [22] lorsqu’ils écrivent : « si l’algorithme-juge prend statistiquement de meilleures décisions que le juge humain, il devient plus difficile de défendre que cette déshumanisation de la justice est une régression. » [23] En effet, on peut imaginer qu’un algorithme-juge soit moins enclin à la partialité et la discrimination. Mais la définition de la justice en soi est-elle vraiment résumable à une équation passivement appliquée et reçue car supposée issue d’une vérité et d’une neutralité mathématique, ou n’est-elle pas une fin à poursuivre en chacun, cherchant par exemple à éliminer la discrimination plutôt que de remplacer le discriminateur et tous ceux qui faillissent en général en les reléguant au statut de “vieux rebut, soudain privé de monde” [24] ?

La tâche humaine au coeur de l’exercice politique risque elle-même de devenir obsolète. Comme nous avertissait déjà Bernanos dans son essai La France contre les robots paru en 1970, l’efficacité faite loi met un terme au débat politique démocratique : il n’est pas possible d’invoquer un critère plus légitime que le principe d’efficacité au coeur du fonctionnement de la technique. Il écrit : “la Technique ne peut être discutée, les solutions qu’elle impose étant par définition les plus pratiques. […] Chaque progrès de la Technique vous éloigne un peu plus de la démocratie rêvée jadis par les ouvriers idéalistes du faubourg Saint-Antoine. Il ne faut vraiment pas comprendre grand-chose aux faits politiques de ces dernières années pour refuser encore d’admettre que le Monde moderne a déjà résolu, au seul avantage de la Technique, le problème de la Démocratie.” [25] Bernanos parle encore de “l’a-raisonnement” produit par la technique qui prive de la capacité de réfléchir, d’argumenter et de contester [26]. Le film d’anticipation “Blade Runner” donne en effet à voir un paysage où la puissance publique et la question de l’organisation politique ont déserté au profit du triomphe du registre de l’administration et de la gestion. De manière encore plus frappante, dans sa fresque majeure Vie et Destin publiée en 1959, Vassili Grossman prolonge ses réflexions sur le pouvoir totalitaire en imaginant un monde soumis à l’empire des machines. Il écrit dans un passage insolite et visionnaire : “Est-il une limite au progrès qui crée la machine à l’image de l’homme et à sa ressemblance ? Apparemment, non. On peut imaginer la machine des siècles et des millénaires à venir. Elle écoutera de la musique, saura apprécier la peinture, exécutera elle-même des tableaux, composera des mélodies, écrira de la poésie. Est-il une limite à son perfectionnement ? Deviendra-t-elle l’égale de l’homme, le dépassera-t-elle ? La reproduction de l’homme par la machine nécessitera de plus en plus d’électronique, de volume et de surface. Souvenirs d’enfance… larmes de joie… amertume de la séparation… amour de la liberté… compassion pour le chiot malade… hypocondrie… tendresse maternelle… réflexions sur la mort… tristesse… amitié… amour des faibles… espoir soudain… heureuse trouvaille… mélancolie… gaieté sans motif… brusque désarroi… Tout, la machine reproduira tout ! Seulement, on n’aura pas assez de toute la surface de la terre pour installer cette machine, de plus en plus gigantesque et volumineuse au fur et à mesure qu’elle deviendra capable de recréer l’esprit et l’âme de l’homme ordinaire, celui qu’on ne remarque pas.”
Et ce grand témoin du totalitarisme conclue cette aparté saisissante en rappelant : “Le fascisme a anéanti des dizaines de millions d’hommes.” [27]

III. Quelle résistance pour la Raison d’État ?

Sans aller jusqu’à anticiper le déploiement de la nature totalitaire de la loi mécanique, il suffit de rappeler les limites et les apories propres au fonctionnement des machines pour réaliser que le code ne peut encore être fait ni loi ni roi. À deux reprises en pleine Guerre froide, c’est la décision d’un homme de contrevenir aux instructions reçues par ses machines qui a permis d’éviter une conflagration nucléaire. Le 28 octobre 1962, le capitaine américain William Bassett reçoit un ensemble de chiffres qui correspond au code de lancement des missiles et décide pourtant d’aller à l’encontre de la procédure prévue. Il s’agissait en effet d’une erreur dans le cryptage du message par sa radio. De la même manière, le 26 septembre 1983, le lieutenant-colonel soviétique Stanislav Petrov reçoit les signaux d’une attaque de missiles américains et empêche pourtant la transmission de l’information à l’État major : il découvre qu’il s’agit d’une erreur de signalement des satellites [28]. À deux reprises, la loi du code aurait provoqué une guerre nucléaire que les humains, avec leur manque naturel de neutralité, ont su pourtant éviter tout au long de la Guerre froide. En janvier 2018, un nouvel épisode d’erreur informatique a failli aboutir en scénario catastrophe. L’agence de gestion des urgences d’Hawaï a envoyé un message d’alerte téléphonique annonçant une attaque de missiles immédiate et ordonnant aux résidants de se mettre à l’abri [29]. Cette fausse alerte issue d’une erreur technique a causé une vague de panique qui, sans intervention humaine, aurait pu contaminer les relations déjà tendues avec la Corée du Nord, par exemple. Ces épisodes marquants montrent l’importance du maintien de la décision humaine et surtout d’une capacité humaine de déroger aux commandes de la machine.

L’Etat peut avoir des défauts, mais en appuyant sur le bouton anti-Etatique on ne se téléporte pas forcément au Paradis…

Par ailleurs, en plus des erreurs techniques possibles, des apories propres au fonctionnement robotique rendent encore inenvisageable l’utilisation d’un code pour loi dans bien des situations. Il est particulièrement impossible de coder la morale ou le bien public. Les lois d’Asimov, régulièrement citées comme le socle fondateur de la charte éthique du comportement des robots, présentent des impératifs catégoriques du type « un robot ne peut porter atteinte à un être humain ». Mais ces impératifs sont insuffisants en cas d’un dilemme moral qui se présenterait par exemple à une voiture autonome conduite par un algorithme et qui, face à un accident de la route, devrait choisir entre tuer son passager ou tuer trois piétons. L’impossibilité de coder le choix moral comme une simple équation montre les limites de l’application du système du code à la vie en société.

La persistance de la loi humaine et de l’État s’impose par la question des valeurs. La prétendue neutralité des algorithmes s’avère souvent chimérique, tant les résultats produits par un algorithme varient en fonction de la méthode et des données utilisées pour construire le comportement de cet algorithme. Dans le cadre de l’élaboration d’un projet de loi budgétaire, par exemple, quelle moyenne neutre est-il possible d’atteindre entre les deux positions keynésienne et néo-libérale ? L’illusion de la neutralité du code dissimule en fait la présence d’autres facteurs d’influence qui président à l’écriture du code, et qu’il s’agit pour l’État de savoir réguler s’il veut continuer à pouvoir défendre sa raison d’être et ses valeurs constitutionnelles. Lawrence Lessig l’exprime bien : « Des gens décident comment le code va se comporter. Des gens l’écrivent. La question n’est donc pas de savoir qui décidera de la manière dont le cyberespace est régulé : ce seront les codeurs. La seule question est de savoir si nous aurons collectivement un rôle dans leur choix – et donc dans la manière dont ces valeurs sont garanties – ou si nous laisserons aux codeurs le soin de choisir nos valeurs à notre place. Car c’est une évidence : quand l’État se retire, la place ne reste pas vide. Les intérêts privés ont des objectifs qu’ils vont poursuivre. En appuyant sur le bouton anti-Étatique, on ne se téléporte pas au Paradis. Quand les intérêts gouvernementaux sont écartés, d’autres intérêts les remplacent. Les connaissons-nous ? Sommes-nous sûrs qu’ils sont meilleurs ?” [30] L’importance de l’État comme voix politique d’un peuple qui choisit sa règle et ses valeurs demeure donc entière. Cette tâche de l’État de préserver sa survie et de conserver le contrôle de ces nouveaux modes de gouvernement est bien celle qu’évoquait Vladimir Poutine dans son discours cité plus haut. Une question supplémentaire se pose ici : cette tâche est-elle réalisable en démocratie ? En effet, dans un régime autoritaire comme la Russie, le gouvernement n’a pas hésité à imposer ses choix au cyberespace. Ainsi par exemple, une nouvelle législation a-t-elle été mise en place le 1er novembre 2017 pour exiger de tous les moteurs de recherche la suppression des sites censurés par le Kremlin dans leurs résultats de recherche. Selon cette loi, le censeur fédéral russe peut bloquer une ressource en ligne qui offre un accès à ces sites. En démocratie, la régulation semble plutôt évoluer vers un modèle de gouvernance publique-privée impliquant un réseau d’acteurs. Ce modèle est bien illustré par la récente rencontre des pays du G7 et des géants du web (Google, Facebook, Twitter) qui a abouti à la signature d’un accord visant à supprimer les contenus en ligne à caractère terroriste [31].

*

Affaiblie par un espace grandissant qui échappe à sa régulation et concurrencée par de nouvelles formes de contrôle et d’autorité, la loi de l’État risque d’être supplantée par un code auquel on accorde trop volontiers les qualités d’omnipotence et d’omniscience. En 1956, Günther Andres pronostiquait avec angoisse l’ « obsolescence de l’homme », craignant la construction d’un monde « au pas duquel nous serions incapables de marcher et qu’il serait absolument au-dessus de nos forces de ‘comprendre’, un monde qui excéderait absolument notre force de compréhension, la capacité de notre imagination et de nos émotions, tout comme notre responsabilité. » [32] Pour lutter contre ce décalage entre l’homme et le monde qu’il produit, l’âme humaine doit rattraper les avancées prométhéennes et défendre la persistance de ses facultés de connaître, sentir et juger. En politique, la redéfinition du domaine et de l’intervention de la loi face au code requière une réflexion nouvelle pour combler les vides juridiques actuels et y garantir la suprématie d’une loi fondée sur l’humanité de ses sujets.

Copyright Janvier 2018- Faure/Diploweb.com

https://www.diploweb.com/L-intelligence-artificielle-peut-elle-nous-gouverner.html