Qu'est-ce que la Singularité Technologique ?
Laissons de côté les conséquences positives ou négatives qu'elle peut impliquer et penchons nous sur la définition de ce concept. Lors du Singularity Summit 2007 le mois dernier, Eliezer Yudkowsky nous a clarifié différents aspects de la Singularité en distinguant les 3 Ecoles de la Singularité Technologique. Voici ma version de son exposé, +/- traduite de son article sur le blog de SIAI (avec son autorisation) :
Accélération des Changements (accelerating change)
C'est l'école de Ray Kurzweil et John Smart. Elle est fondée sur une analyse et une modélisation de l'histoire des changements depuis le Big Bang et notamment de l'évolution des technologies de l'information.
Proposition de base
Notre intuition nous ment en nous baignant dans l'illusion du progrès linéaire. On s'attend à voir autant de changement dans le futur que l'on en a connu dans le passé. Or nos innovations technologiques servent à la recherche de nouvelles innovations. Le progrès technologique s'auto-alimente et donc s'accélère. Il y aura donc plus de changement dans les années qui viennent que dans les années passées.
Proposition forte
Le changement suit une courbe prévisible, disons en exponentielle. On peut donc prédire l'arrivée de telle ou telle technologie, comme par exemple l'intelligence artificielle générale : il suffit de calculer quand un certain seuil sera franchi par l'exponentielle.
Horizon des Evènements (event horizon)
Terme inspiré des trous noirs en astrophysique. Le principe est celui d'une limite que l'on ne peut pas franchir par la pensée. On ne peut pas savoir ce qui se passe au-delà. C'est une thèse de Vernor Vinge.
Proposition de base
Depuis cent mille ans, les humains sont les êtres les plus intelligents sur cette terre. Ce sont les cerveaux humains qui ont permis nos avancées sociales et technologiques. Or la technologie va bientôt permettre d'améliorer l'intelligence humaine : soit sous la forme d'une intelligence artificielle, soit à l'aide d'interfaces entre cerveaux et ordinateurs. Cela va engendrer un futur bien plus étrange que la science fiction aie pu prédire. Bien au-delà des gadgets brillants qui font bip bip.
Proposition forte
Pour comprendre ce que ferait une intelligence supérieure, il faudrait avoir cette intelligence supérieure. Le futur après l'apparition de l'intelligence surhumaine est donc absolument impossible à prédire.
Explosion d'Intelligence
Thèse défendue par I. J. Good et Eliezer Yudkowsky.
Proposition de base
L'intelligence est source de technologie. Si la technologie permet d'améliorer significativement l'intelligence, alors la boucle est bouclée et nous obtenons un feedback positif. Que feraient des humains rendus plus intelligents grâce à des interfaces cerveau-ordinateur ? On peut parier qu'ils auraient l'idée d'utiliser leurs nouvelles capacités pour concevoir la génération suivante d'interfaces cerveau-ordinateur - de même pour des intelligences 100% artificielles. Plus vous êtes intelligent, plus vous avez le moyen de vous rendre plus intelligent encore.
Proposition forte
L'explosion d'intelligence s'emballe comme une réaction en chaîne - similaire au phénomène de l'explosion nucléaire. Chaque étape apporte une amélioration d'ordre supérieur à 1000, même si ce n'est pas une exponentielle parfaite. Les progrès de l'intelligence passent dans l'échelle du progrès des transistors au lieu de celui des neurones. L'évolution décolle à toute vitesse et nous amène à de nombreux ordres de grandeur au-dessus de l'intelligence humaine avant de heurter les barrières de la physique.
Distinguons ces 3 Logiques
Le truc c'est que ces 3 approches ont des logiques bien distinctes. Et, alors que les 3 propositions de base se soutiennent mutuellement, les 3 propositions fortes se contre-disent.
Voyez : si vous extrapolez votre loi de Moore préférée pour faire des prédictions au-delà de l'intelligence artificielle surhumaine, après 2099, alors vous êtes en contradiction avec l'horizon d'évènement (qui vous interdit de prédire au-delà de l'intelligence surhumaine) et avec l'explosion d'intelligence (qui voudrait que l'intelligence accélère encore plus une fois qu'elle sera dans le domaine des transistors).
Bref, pour avoir des discussions intelligibles à propos de la singularité, il est souhaitable de distinguer ces trois écoles de pensées.
Un dernier mot : si vous voulez savoir laquelle des 3 écoles est à l'origine du concept de Singularité, il s'agit de l'Horizon d'évènement, thèse de Vernor Vinge, qui a utilisé ce terme en premier.
Un sujet Majeur
Ce sujet vous intéresse ? Vous commencez à réaliser qu'il concerne non pas seulement les prochaines générations mais bien notre propre avenir à nous, de notre vivant.
Alors dites-moi ce que vous en pensez ici en commentaire. Sachez aussi que j'ai créé un groupe Facebook de "La Singularité Technologique FR" dans l'espoir d'augmenter l'exposition de ces problématiques dans la francophonie - les entrées sont libres.
