Les 3 Ecoles de la Singularité Technologique

Qu'est-ce que la Singularité Technologique ?

Laissons de côté les conséquences positives ou négatives qu'elle peut impliquer et penchons nous sur la définition de ce concept. Lors du Singularity Summit 2007 le mois dernier, Eliezer Yudkowsky nous a clarifié différents aspects de la Singularité en distinguant les 3 Ecoles de la Singularité Technologique. Voici ma version de son exposé, +/- traduite de son article sur le blog de SIAI (avec son autorisation) :

Accélération des Changements (accelerating change)

C'est l'école de Ray Kurzweil et John Smart. Elle est fondée sur une analyse et une modélisation de l'histoire des changements depuis le Big Bang et notamment de l'évolution des technologies de l'information.

Proposition de base

Notre intuition nous ment en nous baignant dans l'illusion du progrès linéaire. On s'attend à voir autant de changement dans le futur que l'on en a connu dans le passé. Or nos innovations technologiques servent à la recherche de nouvelles innovations. Le progrès technologique s'auto-alimente et donc s'accélère. Il y aura donc plus de changement dans les années qui viennent que dans les années passées.

Proposition forte

Le changement suit une courbe prévisible, disons en exponentielle. On peut donc prédire l'arrivée de telle ou telle technologie, comme par exemple l'intelligence artificielle générale : il suffit de calculer quand un certain seuil sera franchi par l'exponentielle.

Horizon des Evènements (event horizon)

Terme inspiré des trous noirs en astrophysique. Le principe est celui d'une limite que l'on ne peut pas franchir par la pensée. On ne peut pas savoir ce qui se passe au-delà. C'est une thèse de Vernor Vinge.

Proposition de base

Depuis cent mille ans, les humains sont les êtres les plus intelligents sur cette terre. Ce sont les cerveaux humains qui ont permis nos avancées sociales et technologiques. Or la technologie va bientôt permettre d'améliorer l'intelligence humaine : soit sous la forme d'une intelligence artificielle, soit à l'aide d'interfaces entre cerveaux et ordinateurs. Cela va engendrer un futur bien plus étrange que la science fiction aie pu prédire. Bien au-delà des gadgets brillants qui font bip bip.

Proposition forte

Pour comprendre ce que ferait une intelligence supérieure, il faudrait avoir cette intelligence supérieure. Le futur après l'apparition de l'intelligence surhumaine est donc absolument impossible à prédire.

Explosion d'Intelligence

Thèse défendue par I. J. Good et Eliezer Yudkowsky.

Proposition de base

L'intelligence est source de technologie. Si la technologie permet d'améliorer significativement l'intelligence, alors la boucle est bouclée et nous obtenons un feedback positif. Que feraient des humains rendus plus intelligents grâce à des interfaces cerveau-ordinateur ? On peut parier qu'ils auraient l'idée d'utiliser leurs nouvelles capacités pour concevoir la génération suivante d'interfaces cerveau-ordinateur - de même pour des intelligences 100% artificielles. Plus vous êtes intelligent, plus vous avez le moyen de vous rendre plus intelligent encore.

Proposition forte

L'explosion d'intelligence s'emballe comme une réaction en chaîne - similaire au phénomène de l'explosion nucléaire. Chaque étape apporte une amélioration d'ordre supérieur à 1000, même si ce n'est pas une exponentielle parfaite. Les progrès de l'intelligence passent dans l'échelle du progrès des transistors au lieu de celui des neurones. L'évolution décolle à toute vitesse et nous amène à de nombreux ordres de grandeur au-dessus de l'intelligence humaine avant de heurter les barrières de la physique.

Distinguons ces 3 Logiques

Le truc c'est que ces 3 approches ont des logiques bien distinctes. Et, alors que les 3 propositions de base se soutiennent mutuellement, les 3 propositions fortes se contre-disent.

Voyez : si vous extrapolez votre loi de Moore préférée pour faire des prédictions au-delà de l'intelligence artificielle surhumaine, après 2099, alors vous êtes en contradiction avec l'horizon d'évènement (qui vous interdit de prédire au-delà de l'intelligence surhumaine) et avec l'explosion d'intelligence (qui voudrait que l'intelligence accélère encore plus une fois qu'elle sera dans le domaine des transistors).

Bref, pour avoir des discussions intelligibles à propos de la singularité, il est souhaitable de distinguer ces trois écoles de pensées.

Un dernier mot : si vous voulez savoir laquelle des 3 écoles est à l'origine du concept de Singularité, il s'agit de l'Horizon d'évènement, thèse de Vernor Vinge, qui a utilisé ce terme en premier.

Un sujet Majeur

Ce sujet vous intéresse ? Vous commencez à réaliser qu'il concerne non pas seulement les prochaines générations mais bien notre propre avenir à nous, de notre vivant.

Alors dites-moi ce que vous en pensez ici en commentaire. Sachez aussi que j'ai créé un groupe Facebook de "La Singularité Technologique FR" dans l'espoir d'augmenter l'exposition de ces problématiques dans la francophonie - les entrées sont libres.

Comments

[Rédigé par: Christine Choquel]

Eh bien oui, moi ça m'intéresse sur un plan théorique.

Mais comme beaucoup de gens sans doute, j'ai quand même du mal à réaliser que nous puissions être concernés à court terme par ces questions. Certes je conçois et même je constate bien que nous assistons à une accélération du progrès.
Mais je trouve que c'est un exercice très difficile de se projeter sur cette exponentielle.
C'est trop vertigineux pour mon esprit et ma vision peut-être un peu étriquée de notre futur.

Par ailleurs, je veux bien admettre ces 3 logiques, mais quant à prendre position en faveur de l'une ou de l'autre, alors là... Je doute d'avoir les armes pour le faire.
Mais si j'ai bien compris, ce n'est pas grave car les 3 logiques aboutissent au même concept de singularité technologique. Donc on n'a pas forcément de savoir laquelle des logiques est la bonne.

Bref, ce que je veux dire, c'est je trouve tout cela passionnant (on a déjà l'impression de vivre dans un film de science fiction et ça va s'accélérer ? cool..) mais je ne suis pas sûre de mesurer les implications profondes de la singularité technologique.

Est-ce que je peux (ou est-ce que je dois), moi à mon niveau, participer à cette réflexion ? En quoi est-ce important voire nécessaire que chacun d'entre nous se sente concerné et s'implique dans ce concept ?
Tout le monde a-t-il un rôle à jouer ?

[Rédigé par: Wangxiang Tuxing]

Au plan pratique, les travaux qui me semblent les plus intéressants pour l'atteinte rapide du point de singularité sont ceux qui visent à développer une intelligence artificielle générale au sein des mondes virtuels (cf. Ben Goertzel en particulier). Mais je ne suis pas un spécialiste...

[Rédigé par: Louis Choquel]

Entièrement d'accord, Wangxiang. J'adore l'approche de Ben Goertzel et du nouveau projet d'agents intelligents de Novamente.
http://www.novamente.net/product/