Inconvénients de l’intelligence artificielle – bayanealyaoume

À l’exception des voix individuelles émises par des sociologues, des analystes politiques ou des organisations de la société civile, le monde fasciné par la révolution de l’information et l’intelligence artificielle ne s’est pas arrêté longtemps pour étudier les effets que ces technologies avaient sur la société en général et la démocratie en particulier.
Ce que nous entendons encore aujourd’hui, en particulier de la part des politiciens, ce sont des avertissements selon lesquels l’intelligence artificielle soutenue par l’apprentissage automatique fournira aux dictatures tyranniques des outils qu’elles n’auraient jamais imaginés, leur permettant de surveiller les sujets, de suivre leurs mouvements et de savoir ce qui se passe dans l’esprit des chacun de ses membres.
Mais suffit-il que la société soit aussi démocratique qu’elle prétend être à l’abri des effets négatifs de cette technologie ?

Les fruits de la concurrence

Il semble que nous soyons tous tombés dans le piège, et considéré que la démocratie suffit à assurer notre protection.
La course effrénée que nous avons tous acceptée comme une nécessité entre les pays démocratiques, menés par les États-Unis et les pays tyranniques, menés par la Chine, peut être nécessaire pour protéger la sécurité nationale, comme le disent les gouvernements de ces pays. Le vainqueur finira par posséder le pétrole du troisième millénaire et contrôlera le monde.
Et si la principale ressource des économies du futur sont les données, alors la Chine, avec ses plus de 1,5 milliard d’habitants et ses systèmes de protection laxistes qui permettent la surveillance de l’État, semble destinée à gagner la course.
Mais la population n’est pas le seul facteur déterminant, il y a le système éducatif et les compétences scientifiques, qui peuvent donner aux États-Unis une chance de sortir victorieux.
Selon les analystes et les experts, le vainqueur sera naturellement récompensé par l’intelligence artificielle et lui donnera un avantage économique et militaire global.
Les premiers « fruits de la concurrence » pour remporter le pari sont la déclaration de guerre à la mondialisation, et l’allumage du feu que l’on croyait apaisé entre les États-Unis et la Chine.
Cependant, limiter la réflexion quand on parle d’intelligence artificielle à la course à la domination ignore une dimension fondamentale, qui est la capacité de l’intelligence artificielle à créer un changement de pratique politique au sein des pays eux-mêmes.
Alors que le monde se concentre sur les implications de l’intelligence artificielle pour les relations politiques internationales, il ignore la capacité de la technologie à transformer un régime démocratique ou autoritaire.
À ce jour, le monde a été occupé à observer les implications de ces changements dans les régimes autoritaires. La Chine était le modèle préféré, car c’est l’économie la plus forte, et ce qui s’applique à elle peut être généralisé à d’autres régimes autoritaires dans le monde.
Les effets profonds de l’intelligence artificielle ont commencé plus clairement avec l’émergence de ce qu’on appelle aujourd’hui l’apprentissage automatique, dont le danger réside dans le fait de donner à la technologie de l’intelligence la capacité de s’auto-développer.
Il y a des craintes dans le soi-disant monde en voie de démocratisation que l’apprentissage automatique n’augmente la polarisation, ne renforce la division politique et ne diffuse largement une fausse rhétorique cachée derrière la désinformation.
Tout comme l’apprentissage automatique reflète et renforce les divisions de la démocratie, selon les analystes, il brouille les régimes autoritaires et « crée l’apparence d’un consensus et dissimule les fissures sociétales sous-jacentes jusqu’à ce qu’il soit trop tard ».
Bien que les premiers pionniers n’aient pas anticipé la façon dont l’apprentissage automatique dominerait l’intelligence artificielle, son évolution correspond à leur façon de penser. Nous trouvons cela clairement avec l’économiste américain Herbert Simon, (décédé en 2001) qui a reconnu que « la technologie de l’intelligence artificielle a plus en commun avec les marchés, les bureaucraties et les institutions politiques qu’avec de simples applications d’ingénierie ». Un autre pionnier dans le domaine de l’intelligence artificielle, Norbert Wiener, (décédé en 1964) a décrit l’intelligence artificielle comme un « cyber » système capable de réagir et d’adapter les réactions.

cyber-systèmes

Aujourd’hui, Facebook et Google utilisent l’apprentissage automatique comme moteur d’analyse d’un système autocorrecteur, mettant constamment à jour sa compréhension des données en fonction de la réussite ou de l’échec de ses prédictions. C’est cette relation entre l’analyse statistique et la rétroaction qui a fait de l’apprentissage automatique une force formidable, et c’est sur quoi se sont concentrés les travaux de Simon et Wiener.
La démocratie et la dictature sont aussi des cybersystèmes. Dans les deux formes, les gouvernements adoptent des politiques, puis essaient de savoir si ces politiques ont fonctionné ou échoué.
Dans les démocraties, l’analyse fournit un retour d’information puissant pour savoir si une approche particulière fonctionne vraiment. Dans les régimes autoritaires d’avant l’ère de l’information, les renseignements internes et les sondages d’opinion secrets étaient utilisés pour essayer de découvrir ce que les sujets croyaient.
Aujourd’hui, l’apprentissage automatique remplace les formes traditionnelles de rétroaction, car les nouvelles technologies facilitent la désinformation et exacerbent les biais existants, en prenant le biais caché dans les données et en le transformant en toute confiance en affirmations incorrectes.
Pour les dirigeants de régimes autoritaires pataugeant dans le noir, l’apprentissage automatique semble répondre à leurs prières. Cette technologie peut leur dire si leurs sujets sont satisfaits de ce qu’ils font sans les tracas des sondages ou les risques politiques des débats ouverts et des élections. Pour cette raison, de nombreux observateurs craignent que les progrès de l’intelligence artificielle ne fassent que renforcer et responsabiliser les dictateurs.
Mais la vérité est plus compliquée. De toute évidence, la partialité est également un problème pour les démocraties. Mais comme il est plus visible, les citoyens peuvent l’atténuer par d’autres formes de rétroaction. Par exemple, lorsqu’un groupe ethnique voit que les algorithmes de recrutement sont biaisés contre lui, il peut protester et rechercher l’équité avec une certaine chance de succès.
Que les régimes autoritaires soient moins ou plus sensibles aux préjugés que les démocraties, les préjugés dans les sociétés autoritaires sont souvent invisibles, en particulier pour les décideurs au sommet. Cela rend plus difficile la correction, même si les dirigeants voient que quelque chose doit être corrigé.
Contrairement aux méthodes traditionnelles, l’IA peut saper les régimes autoritaires en promouvant leurs propres idéologies et fantasmes au détriment d’une compréhension plus précise du monde réel. Et les démocraties pourraient découvrir que le principal défi du XXIe siècle en matière d’IA n’est pas de gagner la bataille pour la domination technologique. Au lieu de cela, il devra faire face à des pays autoritaires qui se retrouvent au milieu d’un vortex d’illusions alimenté par l’IA.
La plupart des discussions sur l’IA sont liées à l’apprentissage automatique et à sa relation avec les algorithmes statistiques qui explorent la relation entre les données. Ces algorithmes sont basés sur des suppositions : cette stratégie d’échecs gagnera-t-elle la partie en dix coups ? Quel est le mot suivant dans cette phrase à moitié terminée ? Une fonction dite objective, une manière mathématique d’enregistrer les résultats, peut être équivalente à un algorithme si elle devine correctement. En termes simples, ce processus est le fonctionnement des systèmes d’IA commerciaux.