Nous ne parlons pas ici d’un avenir lointain, mes amis ! « Diella », en Albanie, devrait bientôt lutter contre la corruption dans les marchés publics en tant qu’IA ministérielle. Le ministre allemand de la Culture Weimer utilise déjà son « Weimatar » pour « prendre position rapidement et en plusieurs langues ». Suis-je le seul à qui la vidéo ci-dessous donne l’impression de sortir tout droit de la série Black Mirror ?
L’Estonie travaille également avec l’intelligence artificielle et fait l’expérience d’implémenter des IA en tant que juges. Dans divers pays, cela fait de toute façon depuis longtemps que les algorithmes décident de l’allocation des aides sociales, des avis d’imposition et des procédures administratives. Il ne s’agit donc plus là d’un simple projet de fer de lance, mais ni plus ni moins que le début d’une véritable révolution. Et tandis que nous nous demandons encore si nous avons véritablement envie de nous lancer dans cette voie, d’autres s’y sont aventurés il y a longtemps.
Il y a tant à faire… et personne ne sait comment organiser tout ça.
Alors oui, il y a de nombreux points sur lesquels il faut travailler avant de laisser l’IA s’immiscer dans la politique à grande échelle. Mais la bonne nouvelle, c’est que nous n’en sommes vraiment qu’au début de cette évolution. Dans le cadre de celle-ci, j’ai identifié les 4 points, ou « chantiers », suivants, sur lesquels il reste il nous faut encore travailler :
- Qu’en est-il de la transparence ? Jusqu’à présent, rien. Si l’on veut comprendre comment les décisions de l’IA sont prises, on se heurte rapidement à des limites. Même les experts ne peuvent souvent pas expliquer pourquoi un algorithme prend telle ou telle décision. Sans compréhension, comment le peuple peut-il juger s’il a été traité de manière équitable ?
- À qui (ou quoi) revient la responsabilité ? Ce n’est pas clair non plus. Si nous laissons la machine décider, qui sera responsable en cas d’échec ? Le programmeur à l’origine de l’IA ? Le ou les ministres ? Le Parlement ? L’IA participe déjà aux décisions, même si cette question reste sans réponse.
- L’IA est-elle vraiment légitime, et si oui, qu’est-ce qui lui donne sa légitimité ? Voilà une question véritablement problématique. La démocratie se nourrit du vote, mais une IA n’est pas élue. L’opposition en Albanie le résume ainsi : « Un ministre doit être un être humain ». Mais que se passe-t-il si jamais l’IA prend objectivement de meilleures décisions que les personnes élues ?
- Et qu’en est-il de l’acceptation par la population ? Actuellement, pas au beau fixe, j’imagine. Sommes-nous prêts à déléguer le pouvoir à une machine ? Pour de nombreux citoyens plus âgés et moins familiarisés avec la technologie, une décision politique prise par une IA doit sembler aussi arbitraire qu’un numéro tiré au sort à la loterie.
Selon moi, il ne s’agit pas là de problématiques théoriques, ce sont les chantiers pour lesquels nous n’avons pas (encore) de règles, mais qui en auraient tant besoin.
Les questions gênantes que nous devons nous poser
Voudriez-vous que l’homme le plus intelligent du monde se lance dans la politique ? Imaginez : peut-être serait-il capable d’imaginer des solutions très différentes, de comprendre les problèmes beaucoup mieux et beaucoup plus rapidement ? Maintenant, posez-vous la question de savoir si vous voulez que l’être le plus intelligent du monde fasse de la politique, et ce même s’il n’est PAS humain.
Vous préférez confier cette responsabilité à un humain plutôt qu’à une machine ? Il nous faut nous demander alors pourquoi. Parce que l’être humain a plus d’empathie ? Précisément parce qu’il est humain ? Oui, un humain est plus à même de prendre une décision humaine. Mais un être humain est également plus à même qu’une machine de vous faire croire qu’il a de bonnes intentions lors de la campagne électorale et qu’il croit réellement en ce qu’il raconte.
Regardons honnêtement ce que font les hommes et les femmes politiques en chair et en os : Trump ne cesse de répandre des mensonges et travaille à l’instauration d’une autocratie, Orban sabote la démocratie en Hongrie et nos coalitions en Europe échouent par vanité et se plient de plus en plus au virage à droite. Une IA pourrait-elle vraiment faire pire ? Ou notre opposition à la gouvernance par des machines n’est-elle que du romantisme nostalgique ?
Les hommes et femmes politiques vont-ils disparaître d’eux-mêmes ?
Les politiques accepteront-ils de manière proactive cette évolution ou empêcheront-ils l’IA de gagner en influence dans la politique ? Après tout, cela pourrait, dans le pire des cas, les rendre eux-mêmes obsolètes. C’est une question centrale, car la décision d’utiliser l’IA en politique revient paradoxalement à ceux-là mêmes qui sont concernés.
Mais peut-être ne posons-nous pas la bonne question : Il ne s’agit peut-être pas de remplacer les hommes politiques, mais de changer leur rôle. Si une IA propose la meilleure politique objective, les hommes politiques deviendront ce qu’ils devraient être depuis longtemps : des médiateurs, des personnes en charge d’expliquer les décisions, des personnalités dont le but est de créer une confiance collective. Ce serait peut-être la fin de la politique professionnelle telle que nous la connaissons, et le début d’une politique divisée selon des personnalités publiques au lieu de partis politiques.
Le problème du saut de mouton : les autres sont-ils plus rapides que nous ?
Des pays comme l’Albanie pourraient-ils nous distancer parce qu’ils sautent une étape ou vont nettement plus vite que « nous » ? Nous connaissons un exemple bien similaire : en Afrique, les smartphones se sont répandus à une vitesse fulgurante parce que l’infrastructure des téléphones fixes y était quasi inexistante. De même, peu de gens disposaient d’ordinateurs de bureau pour utiliser Internet ou d’un compte bancaire normal, car il n’y avait pas non plus d’infrastructure bancaire. Avec le smartphone, tout le continent a sauté cette étape : soudainement, presque tous les Africains étaient en ligne et payaient leurs factures par téléphone portable.
Les pays africains ont donc souvent non seulement rattrapé leur retard, mais parfois même dépassé les nations occidentales sur certains points. Il pourrait en être de même pour l’IA. Alors que l’Allemagne discute encore des réglementations de base sur la protection des données pour l’IA, l’Albanie expérimente déjà avec IA en tant que ministres. Tandis que nous nous penchons sur les problèmes éthiques, d’autres acquièrent une expérience liée à une approche pratique. Au final, nous nous retrouvons comme l’industrie de la musique qui n’a pas anticipé l’arrivée d’Internet.
Le « saut de mouton » n’est pas un problème en soi, mais un effet positif. Les raisons pour lesquelles ces pays peuvent soudainement nous dépasser sont plutôt à chercher du côté de nos systèmes inutilement alourdis.
La vérité que tout le monde refuse d’accepter
Avant d’aborder la fin de l’article, que diriez-vous d’une petite dose de réalité qui dérange ? Nous nous indignons contre les ministres fonctionnant par IA, mais nous oublions que nous sommes déjà gouvernés par des algorithmes : Facebook détermine ce que nous voyons. Google, ce que nous savons. Amazon, ce que nous achetons. TikTok, ce dont nous discutons.
La seule différence : ces algorithmes n’ont pas de légitimité démocratique. Cette IA en tant que ministre serait tout de même responsable devant le Parlement, ce qui est déjà mieux que les cas de Mark Zuckerberg ou d’Elon Musk. Nous vivons déjà dans une algocratie. Nous n’avons juste jamais voté pour son implémentation. Le compte en banque de Mark Zuckerberg est au beau fixe lorsque les gens discutent, et il y a beaucoup de discussions lorsqu’un sujet suscite l’excitation, la colère ou l’indignation.
Les algorithmes veillent donc à ce que ces thèmes soient plus visibles, ce qui génère à nouveau plus de contenu sur le sujet et renforce l’opinion publique en faveur des solutions soi-disant simples. Nous, les médias, nous parlons de ces sujets, car nous aussi – soyons honnêtes – nous sommes guidés par les clics et les algorithmes. Qui peut sérieusement prétendre savoir qu’une décision politique prise par une IA ne ferait pas mieux ?
C’est maintenant que tout se joue, avec ou sans nous.
J’espère que vous ne vous attendiez pas à trouver ici une feuille de route précise sur la manière dont l’IA devrait s’intégrer dans la politique, ainsi qu’à quel moment et à quel endroit. Nous avons à peine commencé à explorer ce sujet. Considérez donc ce texte comme une réflexion à voix haute, et je vous invite expressément à participer avec moi à cette réflexion.
Il serait naïf de croire que nous pouvons tenir l’IA à l’écart de la politique. De toute façon, c’est déjà trop tard pour cela. Mais il serait dangereux de lui ouvrir grand les portes. Nous avons besoin de lignes directrices, de responsabilités clairement définies, d’obligations de transparence, et ce de toute urgence, avant que des expériences comme celle de l’Albanie ne deviennent un mauvais exemple suivi par d’autres.
Les jalons sont posés dès maintenant, aussi bien dans les ministères, les administrations, que dans les géants de la tech. La décision concernant le pouvoir que les algorithmes peuvent se permettre d’avoir sur nos vies sera prise dans les années à venir. Et elle sera prise quoiqu’il n’arrive, que nous y participions ou non.
Le débat ne doit pas rester dans les coulisses des entreprises de technologie ou des parlements. Il doit être ouvert au grand public. Il a sa place dans les écoles, les entreprises et les familles. Car au final, il s’agit de la question qui façonnera notre démocratie : voulons-nous que les machines décident pour nous ? Et si oui, à quelles conditions ?
Sinon, nous nous réveillerons dans dix ans en constatant que le choix le plus important de notre démocratie a été fait par d’autres, et que nous nous sommes contentés de les regarder faire. Il sera alors trop tard pour débattre. Nous vivrons alors dans un monde que d’autres auront programmé pour nous à notre place. C‘est maintenant qu’il faut agir. C’est maintenant qu’il faut débattre. C’est maintenant qu’il faut décider. Demain, il sera peut-être déjà trop tard.
0commentaire