Chère lectrice, cher lecteur,
Depuis fin mars, une pétition est en ligne sur le site futureoflife.
Elle demande à tous les laboratoires d’IA d’interrompre pour au moins six mois la création de systèmes plus puissants que le fameux modèle GPT-4, développé par la société OpenAI.
Ce moratoire est demandé alors même que la courbe de développement des IA est exponentielle et semble inarrêtable…
La course incontrôlée aux cerveaux numériques les plus puissants
GPT-2, lancé en 2019, fonctionnait sur une base de 1,5 milliards de paramètres.
3 ans plus tard, en 2022, GPT-3 fonctionnait déjà sur une base de 175 milliards de paramètres.
(115 fois plus puissant !)
Et aujourd’hui, l’arrivée de GPT-4 dépasse tout, avec une base estimée à environ 170’000 milliards de paramètres !
(encore 950 fois plus puissant !)
Cette nouvelle version peut toujours interpréter du texte comme les versions précédentes, mais de façon encore plus performante.
Et en plus, elle peut intégrer et analyser des images complexes.
Nous en sommes donc déjà au stade où plus personne – pas même les créateurs – ne peuvent comprendre en totalité, prédire, ni contrôler de manière fiable ces outils…
… qui sont pourtant mis dans les mains du grand public, grâce à des interfaces ultra accessibles comme celle de Chat GPT !
C’est pourquoi plus de 5’000 experts mondiaux ont déjà signé la pétition en évoquant des “risques majeurs pour l’Humanité”.
Car même si la plupart des chercheurs pensent qu’une IA super-intelligente ne peut pas éprouver des émotions humaines telles que l’amour ou la haine…
Et qu’on ne peut donc pas lui attribuer des “intentions” bienveillantes, ou malveillantes.
Ils envisagent malgré tout deux scénarios qui pourraient être très risqués pour les humains.
Programmer pour tuer
C’est le cas le plus évident à imaginer.
Si une IA est programmée pour faire quelque chose de dévastateur, alors elle accomplira sa mission mieux que n’importe qui.
Et dans le domaine des armes autonomes, des progrès gigantesques sont en train d’être réalisés…
Ces armes pourraient être déployées sur les champs de bataille d’ici quelques mois.
Les drones aériens en sont déjà le premier niveau.
Aujourd’hui, il y a encore un “opérateur” humain derrière le joystick, mais demain c’est l’IA qui prendra elle-même la décision d’engager le combat si elle le juge nécessaire.
Il est donc envisageable que les humains perdent le contrôle de la situation face à des drones autonomes contrôlés par une IA qui a décidé d’accomplir des buts militaires.
D’autant plus que pour éviter d’être piratées par l’ennemi, ces armes sont conçues pour être très difficiles à “désactiver”.
Et plus le niveau d’intelligence embarquée augmente, plus ce risque s’accroît…
Atteindre son objectif… à n’importe quel prix
L’IA peut aussi être programmée pour faire quelque chose de bénéfique…
Mais dont la réalisation entraîne des catastrophes.
Imaginez par exemple que vous demandiez à une voiture autonome de vous conduire à l’aéroport avant le départ de votre avion.
Si l’IA est connectée aux horaires de vol et qu’elle calcule qu’elle doit rouler à 273 km/h sur l’autoroute pour réussir son programme, vous risquez d’avoir des ennuis…
Une IA super-intelligente pourrait donc causer des conséquences graves pour certaines personnes, mais sans aucune malveillance initiale.
Il faut donc réussir à aligner ses objectifs avec ceux des humains.
Les laboratoires d’IA et les experts indépendants devraient mettre en place des protocoles de sécurité partagés pour améliorer la transparence et la fiabilité des modèles qu’ils développent.
Cela ne signifie pas une pause dans le développement de l’IA en général, mais simplement un recul par rapport à la course dangereuse vers des modèles de boîtes noires toujours plus grands et imprévisibles, dotés de capacités qui dépassent nos propres cerveaux.
L’IA va révolutionner la médecine, le journalisme, l’agriculture, l’industrie militaire, le secteur du divertissement…
Il faut donc faire en sorte que ces outils permettent d’améliorer l’Humanité plutôt que de l’asservir encore un peu plus.
Le développement de ces nouveaux modèles va aussi générer des opportunités d’emplois et d’investissement encore inconnues aujourd’hui.
Certaines entreprises sont à la pointe du sujet et pourraient en profiter de façon massive.
Je vous propose de les découvrir en cliquant ici.
Amicalement,
Marc Schneider
