Un premier pas vers l’IA-cratie ?
La vieux fantasme cybernétique d’un gouvernement opéré par des machines, devient progressivement une réalité… en tous cas aux Émirats Arabes Unis.
Un premier pas vers l’IA-cratie ?
Pourquoi les humains devraient-ils se fatiguer à légiférer si l’IA peut le faire de façon plus efficiente à leur place ?
On pointe souvent vers la délégation de notre réflexion et de nos décisions individuelles à l’IA, qui promet de nous délivrer du fardeau de penser, de construire des arguments, de synthétiser l’information, etc.
À mesure qu’elle nous connaît de mieux en mieux, l'IA semble aussi choisir à notre place plus efficacement que nous ne l’aurions fait nous-mêmes. Peu importe si nous ne comprenons pas les ressorts de ses décisions. C’est tellement pratique et rapide.
Quel film aller voir ce soir ? Demandons à l’IA.
Quel cadeau faire à un ami ? Demandons à l’IA.
(Souvent, même pas la peine de le lui demander : les systèmes de recommandation algorithmiques nous font des suggestions sans que nous n’en rendions forcément compte).
En déléguant à la machine notre intelligence, celle-ci s'érode.
En lui déléguant nos choix personnels, nous perdons notre autonomie individuelle.
Lui déléguer notre gouvernance ne pose pas seulement les problèmes de fiabilité, de biais, d'hallucinations, de manque de robustesse... C’est notre capacité à nous mettre d’accord à grande échelle à laquelle nous renonçons.
La tentation de l’IA est d’autant plus élevée quand il s’agit de faire des choix collectifs ou d’écrire des lois, à l’échelle d’un pays.
Sans surprise, les premiers États à demander à l’IA de revoir leur législation ne sont pas des hauts lieux de la délibération collective.
Mais les démocraties ne sont pas à l’abri de l’IA-cratie. Succomberons-nous à sa promesse d’efficience dans le champ politique comme nous sommes en train de le faire au niveau individuel ?
Chez nous, l’IA-cratie ne fera pas de coup d’État : elle risque de se présenter sur invitation. Elle viendra à la rescousse quand nous ne trouverons pas de majorité. Elle s’infiltrera doucement dans nos processus jusqu’à ce que nous ayons oublié comment nous faisions pour trouver des consensus.
À moins que nous ne lui envoyions jamais cette première invitation.
Vous souhaitez réagir à ce billet ou lire d’autres contenus sur les défis auxquels nous faisons face en lien avec le numérique ?
⮕ Rendez-vous sur LinkedIn.
⮕ Souscrivez à OFF, la newsletter pour reprendre le contrôle.