Gouvernement auto-programmé

12 janvier 2022

Un réseau de neurones peut répondre à une question, ou effectuer une tâche, s’il a été entraîné avec un jeu de données qui permet de répondre à cette question, ou d’effectuer cette tâche. L’IA [1] donnera une réponse en se basant sur une approximation statistique sur ses données. Si l’IA a appris à reconnaître les "bons CV" pour une entreprise, elle fera le même tri qui a déjà été fait, avec les mêmes biais, sexistes ou racistes, s’ils existent dans les données. En pur programmeur, je pourrais répondre qu’on peut corriger les biais statistiques par une couche programmée, et par exemple imposer à l’IA de recruter selon des quotas, mais c’est ajouter une couche biaisée par-dessus un système bancal. On ne s’en sort pas.

Et si je demande à une IA de légiférer ? De gouverner ? Tout dépendra du jeu de données que je lui fournis. Imaginons une IA destinée à gouverner, quotidiennement prendre les bonnes décisions. Quelles données lui fournir ? Et quelle attente avoir d’elle ? Imaginons que je lui donne des données qui permettent d’apprendre l’Histoire de l’humanité, de la philosophie politique, l’économie etc. Toutes ces données seront biaisées par un simple fait : qu’il est impossible d’en tirer la moindre information sur le bonheur. On aurait beau lui demander, aucune base ne saurait lui proposer les données nécessaires pour atteindre cet objectif. Ou alors l’IA essaierait, statistiquement, de s’en approcher, et ne pouvant le faire à 98%, ni même à 50%, y parviendrait peut-être à 9%, satisfaction des classes les plus riches généralement constatée en ses bases ? Je ne sais pas ce que nous dirait l’histoire de l’exercice du Pouvoir à travers les âges. Les données trahiraient la satisfaction des Puissants ayant un jour exercé le pouvoir, guidés les uns et les autres par ce qui guidait les Princes selon leurs époques : avarice, goût du pouvoir, score dans les sondages, contentement ou mécontentement d’une classe, tout ça à la fois, d’autres choses. Le tout dans le but final, après obtention, de conserver le pouvoir. L’IA pourrait très bien produire une série de mesures, de décrets, de lois, de déclarations, de nature à se rapprocher de ce qui a toujours semblé avoir convenu, à ce qui s’est transmis à travers les âges politiques, et qui lui assurerait la conservation du pouvoir, indépendamment des politiques mises en place, puisque c’est ce qui s’est toujours passé. Ces décisions mèneraient sans doute au chaos complet par autoritarisme, avec actions répressives ici et militaires là-bas, méthode éprouvée, le but serait atteint : gouverner et prolonger son gouvernement.

Image d’illustration : This MP does not exist, portrait d’un député qui n’existe pas, formé par apprentissage à partir de bases de représentants élus.
Ci-dessous, portrait de This Person does not exist, le hasard ayant ici produit un phénomène rare : un visage triste, les bases d’apprentissage n’en étant pas principalement faites (on le suppose au nombre écrasant de sourires habituels, et on peut le comprendre en parcourant des répertoires de telles images où les gens se mettent en valeur, sourient pour la photo etc).