Il est urgent de réguler l'IA, mais est-ce encore possible ?
Lire dans d'autres langues :
Les journaux et les entreprises de la technologie ont beau vous répéter à cor et à cri que l'Intelligence Artificielle représente l'avenir, il est important de rappeler qu'elle représente aussi un immense danger. Il ne s'agit pas là de scénarios de type Terminator ou la machine surpasse l'humain mais plutôt du bon vieux scénario où l'humain risque de faire n'importe quoi avec la machine. La gestion de l'armement va être l'un des points les plus problématiques.
L'IA peut théoriquement changer le monde tel que nous le connaissons, l'une des conséquences les plus positives serait par exemple d'arriver à guérir le cancer, mais comme toujours il faut accepter le revers de la médaille : elle change la manière dont nous faisons la guerre et son utilisation soulève parfois des problèmes sociaux, éthiques et même politiques, par conséquent les retombées peuvent également être économiques.
En revisitant un peu JFK nous pourrions dire que la situation actuelle se résume par "ne vous demandez pas ce que l'IA peut faire pour vous mais ce que vous pouvez faire pour l'IA" car, comme le dirait cette fois François Hollande, "le changement c'est maintenant" : il faut fixer dès maintenant des limites si l'on ne veut pas que la situation soit hors de contrôle. Cette technologie "pourrait être dangereuse pour le capitalisme et pour la démocratie elle-même", indique Forbes, et c'est le moins que l'on puisse dire car elle est soutenue par les plus grands acteurs économiques, fortement intéressés par son aspect particulièrement lucratif. Elle a réussi à s'immiscer dans de nombreux services publics, notamment les domaines de la médecine et de la sécurité nationale.
L'exemple le plus probant du besoin de régulation est sans nul doute celui de l'armement. Un ancien secrétaire d'État américain, Henry Kissinger, a concrètement expliqué qu'il sera "beaucoup plus difficile de contrôler le développement d'armes AI que d'armes nucléaires". Cette phrase en dit long sur l'approche qui est faite de cette technologie. Il ne faut pas oublier qu'il ne faut pas se laisser bercer par la technologie et ses acteurs qui veulent nous faire croire que tout le monde est gentil. L'usage de l'IA n'est pas uniquement pacifiste et le besoin de régulation est urgent.
Forbes indique que "ironiquement, la régulation de l'IA serait impossible sans une meilleure IA". En d'autres termes, que les machines devraient contrôler les humains. Une conclusion bien triste (ou bien étrange, selon le point de vue).
Qu'en pensez-vous ?
Source : Forbes
Un axe de réflexion particulier pour parler de souveraineté numérique si j'ai bien compris (private joke) mais au niveau supérieur de celui que j'attendais 😉
Il ne s'agit plus de savoir quel pays, quelle entité ou quelle volonté humaine va pouvoir dominer le monde mais de comprendre si l'humanité entière n'est pas en train de perdre, sans vraiment s'interroger son autonomie et sa volonté de dominer la nature et le monde au profit de l'innovation numérique majeure que représente l'IA.
L'innovation par la voie numérique qui devait assurer l'émancipation et le bonheur de l'homme par sa propre réflexion s'avèrerait finalement moins satisfaisante et glorieuse que ses promoteurs s'ingénient à nous l'affirmer.
Celle-ci pourrait effectivement prendre son autonomie complète par rapport à ses concepteurs humains, eux qui représentent en même temps probablement la seule puissance qui puisse contrecarrer ses projets de domination totale.
Frankenstein sortit par la porte rentrerait par la fenêtre.
La machine échapperait à ses concepteurs, un air pourtant déjà envisagé mais pas de cette manière.
Une ruse de la Raison qui dépasserait celui qui en était pourtant si fier...
L'autonomie nécessaire de l'IA pour donner l'intégralité de ses capacités suppose peut-être l'élimination pur et simple ou au moins la domination absolue de tout élément perturbateur et l'Homme ressemble bizarrement à ce portrait-robot.
C'est tout du moins ainsi que je traduis l'article.
Si en plus, cette IA est utilisée dans la production d'armes, la possibilité d'une domination totale de la Technique (Coucou Jacques Ellul !) semble encore bien plus facilement réalisable.
Au risque de me répéter, mon pessimisme habituel trouve dans cette création hyper-moderne une justification assez évidente.
Dire que je souhaite me tromper ainsi que les possibilités envisagées dans l'article devrait être superflu.
Bonne journée malgré tout...
je vous invite à aller lire le livre très récent: "l'IA va-t-elle aussi tuer la démocratie ?" . Cela vous expliquera que les politiciens (européens en tout cas) ne sont plus aptes depuis longtemps à donner une opinion crédible sur le sujet car la technologie avance bien trop vite maintenant. Et malheureusement les dictatures sont bien plus aptes que les démocraties à s'adapter à ces évolutions technologiques. La guerre a lieu depuis longtemps entre les sociétés américaines et chinoises.... et les européens ne voient pas qu'il y a une guerre.
Il est urgent que les gens soient informés des enjeux et qu'ils réagissent. Mais il faudra encore trouver un moyen de réagir efficacement...
Le fait que les hommes politiques soient dépassés par les répercussions du développement de la technologie numérique (mais tout autant par la "Technique" définie par J. Ellul ) et sont incapables de proposer des solutions viables pour éviter les catastrophes prévisibles n'est pas seulement une spécificité lié à ce développement anarchique de celle-ci mais tout autant à l'inadéquation des systèmes politiques incapables de comprendre et de "digérer" ces changements extrêmement brutaux se révélant sur une échelle qui dépasse leurs sphères d'influence originelle.
Les problèmes engendrés par les conséquences innatendues ce développement devront se régler au niveau mondial pour avoir une change d'être compris, dominés et réglés.
Mais aujourd'hui à un niveau national, nos responsables engoncées dans leurs habitudes et leurs certitudes seront incapables de seulement prendre conscience de l'ampleur de ses problèmes.
Les personnes maléfiques ont toujours existé, et pour elles les IA sont un moyen pour les y aider à assouvir leur terreur.
Réguler une IA, ça dépend des codes qu'on va lui programmer, etc
On se rapproche de plus en plus de la série "Person of interest" ou des IA se combattent et où l'humain est manipulé
N'ayant plus de TV hertzienne ou de box TV, je ne peux connaître cette série.
Mais si j'ai bien saisi la teneur de l'article, il s'agit ici d'un asservissement créé par la volonté et le choix de l'homme pensant se faciliter la vie par l'intermédiaire de technologies toutes puissantes (les différentes formes d'IA qui prennent forme aujourd'hui) qui pourraient finalement le soumettre à un totalitarisme complet jamais encore imaginé jusqu'ici.
La manipulation des corps et des esprits paraîtrait presque une douce chose par comparaison.