L'évolution de la robotique et de l'intelligence artificielle s'accélère. Comme nous l'annonce le SIAI, cette évolution pourrait s'emballer et donner lieu à la Singularité Technologique.
Dans son interview du 15/10/2007 sur ITworld.com, Ian Pearson, futuriste attitré de British Telecom depuis 1991 nous fait part de ses prédictions qui placent l'arrivée d'une intelligence artificielle consciente dès 2015, et dépassant l'intelligence humaine vers 2020.
En réponse au journaliste, Pearson commente les espoirs qu'on peut fonder sur ces avancées mais également les craintes qu'on peut avoir. En particulier la question revient comme souvent sur le risque de créer Matrix ou bien Terminator. Ces questions sont-elles bien pertinentes ?
Pour y voir plus clair, lisez ce post sur le blog "Overcoming bias" de Eliezer Yudkowsky : il y explique que c'est un faux raisonnement que de généraliser ainsi à partir de la fiction. Il faut reconnaître que son argumentation tient debout. La fiction n'est pas une base solide pour fonder des prédictions.
Alors parlons des faits : Noah Shachtman nous relate dans ce post une tragédie qui s'est déroulée en Afrique du Sud lors d'une séance d'exercice militaire la semaine dernière où un Robot Canon anti-aérien déréglé façon Robocop s'est mis à canarder dans tous les sens, tuant 9 soldats et en blessant 14 autres !
Donc je suis d'accord avec Eliezer Yudkowsky, il ne faut pas de prédire l'avenir uniquement en nous référant à la science fiction. Mais réalisons tout de même qu'en armant des robots avec des gros flingues, on joue avec le feu. Même avant d'avoir des intelligences artificielles générales (AGI) on a déjà à en découdre avec les bugs, même ordinaires, qui ne manquent pas de se glisser dans ce genre de systèmes...
Réalisons également que c'est une problématique d'arbitrage : les hommes aussi font des erreurs. Les robots militaires autonomes sont développés avant tout dans le but d'épargner les vies de nos soldats et des civils en général. Il est donc indispensable de comparer les risques de toutes les solutions envisageables.
Et vous, ça vous fait peur Matrix et Terminator ? Ou bien êtes-vous optimistes quant aux promesses de ces évolutions pour les 50 ans à venir ?