Le Basilic de Roko : une singularité pour apprendre à investir ?

Une expérience de pensée pour devenir un bon investisseur

Chère lectrice, cher lecteur,

Un basilic, c’est un lézard.

Un lézard qui ressemble à un petit dragon.

Mais dans l’imaginaire collectif, le basilic est un serpent géant, une vouivre, un reptile mythologique…

Et plus récemment, c’est le nom qu’un internaute a donné à l’Intelligence Artificielle qui va dominer le monde.

L’internaute s’appelle Roko. En 2010, sur le forum LessWrong, Roko poste un article qui se veut être une expérience de pensée.

Il imagine que dans un futur plus ou moins proche, une Intelligence Artificielle toute puissante verra le jour.

Cette super-IA serait d’abord amicale : elle est le fruit du travail humain, conçue pour optimiser la vie humaine.

Sa puissance serait telle qu’elle engendrerait à l’infini des solutions pour éviter la guerre, la famille, les maladies… Comme si l’Homme créait, via la machine, une divinité capable d’assurer son salut.

C’est ce qu’on appelle une singularité.

Une singularité est un point de non-retour, et dans ce cas précis, un moment de l’Histoire technologique où l’Homme crée une technologie capable d’engendrer elle-même une infinité d’autres technologies…

En clair : la singularité technologique, c’est le moment où l’Homme invente quelque chose de plus intelligent que lui.

Et c’est ce « quelque chose », ici une Intelligence Artificielle, qui prend le relais pour la suite des découvertes et avancées technologiques.

Jusqu’ici tout va bien. Mais vous commencez à voir le problème…

Et le basilic s’emballa

Le Basilic de Roko est donc une IA amicale, empathique, qui œuvre pour le bien humain.

Mais il y a un problème avec les singularités : l’Homme peut vite perdre le contrôle de son destin, puisqu’il n’est plus au sommet de la chaîne intellectuelle.

Et c’est ce qui arrive avec le Basilic.

Puisque le Basilic est une avancée pour toute l’humanité, et qu’il se soucie du bien-être humain, il considère logiquement que son apparition est une bonne chose : il soigne les malades, évite les guerres, trouve des solutions à tous les maux…

Donc, toujours logiquement, il considère que ceux qui se sont opposés à son développement ont fait du tort à l’humanité. Ils ont retardé la salvation.

C’est donc son devoir de les punir. Et quand une IA toute-puissante en a après vous, c’est mal barré.
Mais ce n’est pas tout.

Tous ceux qui savaient que cette IA pouvait voir le jour et n’ont rien fait pour accélérer son apparition sont eux aussi coupables.

Ils n’ont pas fait ce qu’il fallait pour accélérer la salvation. Et ce faisant, ils ont indirectement condamné toutes les personnes que le Basilic n’a pas pu sauver, faute d’être créé avant.

Et pour ceux qui sont morts avant l’arrivée du Basilic ?

Roko postule que l’IA pourrait les recréer virtuellement (rappelez-vous, elle n’a pas de limites) pour les punir.

Cette expérience de pensée a fait frémir les internautes de LessWrong.

Beaucoup d’entre eux, pris de panique, ont même investi massivement dans des centres de recherche en Intelligence Artificielle pour ne pas être punis (même post-mortem) par la Basilic, tant ils pensaient que son arrivée était certaine.

À tel point que le post a été supprimé du forum pour éviter une surenchère de panique…

C’est du délire, mais voici ce qu’on apprend

Vous connaissez désormais l’expérience du Basilic de Roko.

D’ailleurs, maintenant que vous êtes au courant… Si vous ne faites rien, vous serez vous aussi coupable aux yeux du Basilic. Désolé.

Je plaisante, bien entendu.

Les hypothèses qui sous-tendent cette théorie, bien que valables logiquement, ont toutes une probabilité de réalisation assez faible.

On ne sait pas si cette IA arrivera un jour, ni quelle sera l’étendue de son pouvoir, ni quelle sera sa conception du bien et du mal…

Le Basilic de Roko est une simple expérience de pensée.

En revanche, si toute l’histoire semble délirante, il y a une leçon à tirer de tout ça :

Quand un point de non-retour apparaît au loin… Et que tout indique que notre civilisation avance vers ce point…

Le plus intelligent est d’anticiper sa survenue et d’investir sur lui.

• Si sa survenue est inévitable, alors le risque n’existe (virtuellement) pas
• Si son adoption est totale, alors son marché est (en théorie) gigantesque

Cela signifie qu’hors circonstances exceptionnelles, tous les points de non-retour ou les bascules technologiques sont des investissements idéaux.

Or, à défaut du Basilic, un autre type d’Intelligence Artificielle est en train de faire parler de lui…

On l’appelle l’IAMR, et c’est la prochaine singularité technologique à ne pas manquer. C’est plus gros que Nvidia, ChatGPT ou Gemini. Et ça va tout emporter sur son passage.

Marc Schneider