Discussions sur le Transhumanisme

Je suis un transhumaniste. Mais avant que vous ne commenciez à vous moquer, jetez un coup d'œil au blog de Michael Anissimov, Accelerating Future. Singularité, prolongation de la durée de vie, intelligence artificielle bienveillante, nanotechnologie, risque existentiel : il excelle dans l'introduction de ces concepts et l'étude des questions culturelles et technologiques qu'ils soulèvent. En tant que leveur de fonds pour le Singularity Institute for Artificial Intelligence, il sait de quoi il parle et publie souvent des références aux articles écrits pas les meilleurs futurologues.

En plus il est très intelligent et maitrise l'art de d'apporter des réponses calmes et posées aux basses attaques provenant de journalistes et bloggeurs anti-transhumaniste. Lisez ces réponses et faites-vous votre idée. Ce futur dont il parle n'est pas aussi loin que ça. Alors, qu'en pensez-vous?

Une Idée pour Faire Face aux Intelligences Artificielles Malfaisantes

Just a comment I dropped on a recent post by Michael Anissimov's on his blog Accelerating Future:

Michael, you write smart articles and ask tough questions. And there are many smart people reading you and posting comments.

But you know as well as I do that no one has come up with a clear and definitive answer to these problems. How could we solve these mysteries? Maybe we're not smart enough to find the answers.
I was just thinking: maybe a little (early-stage) intelligence enhancement could help us grasp what's in store for us when the subsequent generations of huge intelligence enhancements arrive.

We believe that once humans build smarter-than-human intelligence, it will engage a positive feedback loop and enhance itself, probably at an accelerating or even explosive rhythm. But right before it happens it would be nice if that smarter-than-human intelligence could join us, participate at SIAI, LifeBoat Foundation & other places and help us get ready to face rogue AIs.

Nous Sommes De la Viande qui Pense

Je viens de lire ce truc après l'avoir trouvé via un vieil article de Michael Anissimov. C'est une nouvelle très courte de Terry Bisson - 2 minutes à lire, très drôle et qui fait réfléchir :

THEY'RE MADE OUT OF MEAT

Matrix, Terminator, Robocop, Info ou Intox ?

L'évolution de la robotique et de l'intelligence artificielle s'accélère. Comme nous l'annonce le SIAI, cette évolution pourrait s'emballer et donner lieu à la Singularité Technologique.

Dans son interview du 15/10/2007 sur ITworld.com, Ian Pearson, futuriste attitré de British Telecom depuis 1991 nous fait part de ses prédictions qui placent l'arrivée d'une intelligence artificielle consciente dès 2015, et dépassant l'intelligence humaine vers 2020.

En réponse au journaliste, Pearson commente les espoirs qu'on peut fonder sur ces avancées mais également les craintes qu'on peut avoir. En particulier la question revient comme souvent sur le risque de créer Matrix ou bien Terminator. Ces questions sont-elles bien pertinentes ?

Pour y voir plus clair, lisez ce post sur le blog "Overcoming bias" de Eliezer Yudkowsky : il y explique que c'est un faux raisonnement que de généraliser ainsi à partir de la fiction. Il faut reconnaître que son argumentation tient debout. La fiction n'est pas une base solide pour fonder des prédictions.

Alors parlons des faits : Noah Shachtman nous relate dans ce post une tragédie qui s'est déroulée en Afrique du Sud lors d'une séance d'exercice militaire la semaine dernière où un Robot Canon anti-aérien déréglé façon Robocop s'est mis à canarder dans tous les sens, tuant 9 soldats et en blessant 14 autres !

Donc je suis d'accord avec Eliezer Yudkowsky, il ne faut pas de prédire l'avenir uniquement en nous référant à la science fiction. Mais réalisons tout de même qu'en armant des robots avec des gros flingues, on joue avec le feu. Même avant d'avoir des intelligences artificielles générales (AGI) on a déjà à en découdre avec les bugs, même ordinaires, qui ne manquent pas de se glisser dans ce genre de systèmes...

Réalisons également que c'est une problématique d'arbitrage : les hommes aussi font des erreurs. Les robots militaires autonomes sont développés avant tout dans le but d'épargner les vies de nos soldats et des civils en général. Il est donc indispensable de comparer les risques de toutes les solutions envisageables.

Et vous, ça vous fait peur Matrix et Terminator ? Ou bien êtes-vous optimistes quant aux promesses de ces évolutions pour les 50 ans à venir ?

Vie 2.0 - Craig Venter sur le Point de Créer la Vie Artificielle

Attention, il ne s'agit pas d'un jeu de simulation de la vie mais d'un vrai chromosome fait maison.

J'ai découvert ça dans The Guardian, via KurzweilAI.net.

Bientôt il y aura bien une start-up qui proposera d'envoyer la séquence ADN de son choix pour se faire livrer l'être artificiel à domicile...

Appelons ça la Vie 2.0 !

Et vous, si on vous donnait accès à la beta, vous créeriez quoi comme vie artificielle ?

Transhumanisme, IA, Nanotechnologie et Risque Existentiel

Voici un blog que vous devez lire absolument si vous voulez comprendre le futur de la technologie et pourquoi ça compte :

Accelerating Future - par Michael Anissimov

Je me demande pourquoi je ne l'ai pas ajouté plus tôt à mon blog-roll - la réponse c'est que j'étais si captivé par sa lecture que j'en ai même oublié que j'avais un blog-roll.

Alors je viens de l'ajouter juste après avoir lu cet excellent article intitulé Technological Transcension. Soyez juste assez intelligents pour comprendre que ses idées sont partagées par de grands penseurs et scientifiques reconnus et qu'il a raison : les gens doivent comprendre que ce futur arrive et nous devons nous y préparer, au meilleur comme au pire.

Humanité 2.0 - la bible du changement

Le futur de la technologie vous intéresse ?

Vous avez peut-être déjà entendu parler, au moins sur ce blog, de la Singularité technologique et des théories de Ray Kurzweil ?

... mais votre niveau d'anglais ne vous permet pas d'apprécier les exposés scientifiques et technologiques dans la langue de Newton... pas grave ! voilà enfin Ray Kurzweil traduit en français :

Humanité 2.0 - la bible du changement - édité depuis le 5 septembre 2007.

Merci à Laurent Hentz qui m'a annoncé ça il y a déjà quelques temps via ce lien. Et le livre est dispo sur amazon.fr par exemple. Je n'ai pas lu cette version VF mais je suis certain que ça vaut le détour.

Je ne suis pas forcément hyper convaincu par le choix du titre, mais il faut reconnaître que c'est du marketing dans l'ère du temps. En tout cas rassurez-vous, Ray Kurzweil fonde ses réflexions sur des modèles de progrès technologiques profonds et ancrés dans l'histoire de l'univers, et non sur les dernières tendances du Web 2.0.

Au passage, sachez aussi que le film tiré du livre sort en 2008 : "The Singularity is Near - a true story about the future". Je n'ai aucune idée de la forme que ça prendra. C'est en tout cas une bonne occasion de sensibiliser les masses aux promesses et aux menaces de la Singularité.

Pour en discuter vous pouvez me rejoindre sur le groupe "La Singularité Technologique FR" sur Facebook.

Faire Pousser des Intelligences Artificielles dans les Mondes Virtuels

Scientists are working on many different kinds of AIs.

So imagine you had programmed an AI which is starting to take shape and it's meant to be the brain of a pet or potentially a baby robot. But in order for the robot body to move around in the real world, see and touch things, you would need a few more years or decades of R&D just to make it work mechanically.

Meanwhile you wish your pet-brain AI wants to learn from interacting with other things and beings. Kind of a chicken and egg situation. But now you can get around it pretty easily: just plug your AI into a virtual world such as Second Life. No need for a robotic body, the virtual body will be your AI's interface into the virtual world...

Researchers at US firm Novamente are working in this direction according to this BBC article.

Found via Blogging the Singularity.

L'Humanité Risque de Disparaître Bientôt - Vous Y Avez Pensé ?

Are you aware of the existential risks that loom and threaten humanity?

Do you realize that the time frame for these threats is between 3-30 years, a much shorter time frame than global warming (I believe media attention will probably tire of global warming long before that)?

Michael Anissimov is one of those young thinkers who are aware of the existential risks for humanity, just as much as they're aware of the great potential for greater-than-human intelligence to emerge if we don't blow it before then. I wonder how many there are.

Read on his series of recent posts on the subject:

• Is it Possible to Get Non-Immortalists to Care about X-Risks?
• The Other Side of the Immortality Coin
• Looking Human Extinction in the Face

Then realize that it is not only about the lives of our children but really about our lives. And I even include my baby-boomer parents in the lot.

What can we do about it? Michael explains it so I will stress the easiest part: be aware, be conscious. That's what I am doing, I spread the word.

Do you understand these risks? Do you believe in them? Tell me.

Technorati Tags: Intelligence artificielle, Risques Existentiels, Transhumanism

Peut-être Vit-On dans une Simulation Logicielle - pfff! Geek is Sooo Cool

It makes perfect sense to imagine that the universe we live in is actually a computer simulation run by some superior intelligence in another universe. This hypothesis actually entails the only rational demonstration of the existence of God that ever convinced me.

Nick Bostrom, a philosopher at Oxford University, has a solid argument that sustains it. But it is still only hypothetical. As he puts it:

“My gut feeling, and it’s nothing more than that,” he says, “is that there’s a 20 percent chance we’re living in a computer simulation.”

Read John Thierny's article Our Lives, Controlled From Some Guy’s Couch on this subject in the New York Times. And read the follow-up discussions in his blog.

Technorati Tags: Geek, Intelligence artificielle, Simulation, Transhumanism, Universe

SIAI : Notre Ultime Défense Contre Terminator & Matrix

SIAI - The Singularity Institute for Artificial Intelligence.

Une association qui travaille sur la problématique la plus importante de toute l'histoire de l'Humanité : La Singularité. Qu'est-ce que ça veut dire ? SIAI a ouvert un blog et fait quelques efforts pour nous expliquer la Singularité.

• lisez une intro textuelle de 5 minutes
• ou regardez les deux vidéos ci-dessous

Je suis bien curieux de savoir ce que vous en pensez. Convaincu / Perplexe ? Dites-moi ça dans les commentaires.

Si vous me demandez mon avis, ces gars sont en train de former les premiers stades de notre ligne de défense la plus critique. Est-ce que l'intelligence surhumaine artificielle sera bienveillante ? ou bien va-t-elle décider de nous réduire en esclavage ou de nous exterminer ? Arrêtez de sourire une minute et prenez conscience que c'est le défi le plus important que nous ayons jamais eu à relever. Il pourrait en résulter une élévation spirituelle et la fin des contraintes matérielles. Mais si nous foirons le coup, cela pourrait aussi être fatal et l'enfer de Terminator et Matrix pourrait bien s'abattre sur nous.

Eliezer Yudkowsky is one of the world's foremost researchers on Friendly AI and recursive self-improvement. He created the Friendly AI approach to AGI, which emphasizes the importance of the structure of an ethical optimization process and its supergoal, in contrast to the common trend of seeking the right fixed enumeration of ethical rules a moral agent should follow. In 2001, he published the first technical analysis of motivationally stable goal systems, with his book-length Creating Friendly AI: The Analysis and Design of Benevolent Goal Architectures. In 2002, he wrote "Levels of Organization in General Intelligence," a paper on the evolutionary psychology of human general intelligence, published in the edited volume Artificial General Intelligence (Springer, 2006). He has two papers forthcoming in the edited volume Global Catastrophic Risks (Oxford, 2007), "Cognitive Biases Potentially Affecting Judgment of Global Risks" and "Artificial Intelligence as a Positive and Negative Factor in Global Risk."

Soyons Plus Intelligents

Soyons plus intelligents, ou au moins essayons de le devenir. C'est un véritable projet scientifique et technologique. C'est la seule voie qui a le potentiel de nous amener plus loin, plus haut. Et pour rester terre à terre, cette voie nous permet même d'espérer résoudre nos problèmes les plus persistants : la faim dans le monde, l'écologie, les maladies incurables.

Mon billet en anglais effleure cette question et renvoie à un billet récent de Michael Anissimov.

Mon Blog-Roll Enfin Complété

Il était grand temps. Depuis quelques mois que je me suis mis aux blogs, j'en ai découvert un certain nombre qui me plaisent particulièrement et que je voudrais partager avec vous. Je les lis régulièrement, lorsque les articles touchent mes centres d'intérêt, avec plaisir même si je ne suis pas toujours d'accord avec l'auteur.

La liste est à présent dans la colonne de gauche. J'en ai juste exclus les sites de news éditoriaux et les grands classiques que vous devez déjà connaître, du genre TechCrunch ou Slashdot.

Voici les nouveaux que je viens donc d'ajouter :

• Carnet Web de Cedric Giorgi
  Don't be famous, be useful !
• FrenchWeb
  Le blog des professionnels français du Web 2.0
• Gaduman's blog
  Online ad/marketing, buzz & advergames
• Guillaume Champeau
  Ailleurs qu'à Ratiatum
• Guy Kawasaki
  How to Change the World
• Jacques FROISSANT Altaïde
  Recrutement & RH en Start-up
• JDCh
  Aux innocents les mains vides
• Le Codorblog
  Is IT a Game or is IT real ?
• Leafar
  U.[lik]
• Louis Naugès
  Réussir ses Services d'Information Web 2.0
• Louis van Proosdij Duport
  There must be another way
• Marketing 2.0
  Le blog de YouToYou
• P2P Blog
• Pamela Slim
  Escape from Cubicle Nation
• Pictogame Blog
  Say it with games
• Revolution 3.0
  Après la révolution agricole (1.0), après la révolution industrielle, la 3.0 démarre. L'aventure va-t-elle continuer ?

Le Futur Est Prévisible - Ray Kurzweil Vous Met au Parfum

J'apprécie énormément le travail de Ray Kurzweil, son œuvre et ses prédictions futuristes. Disons que je suis un de ses grands fans. Vous pouvez découvrir sa carrière et ses récompenses sur Wikipedia (plus d'infos sur Wikipedia EN). Je vous recommande aussi fortement de lire son dernier ouvrage : The Singularity is Near (when humans transcend biology).

Ce qui me fascine le plus chez Ray Kurzweil, au-delà de ses inventions et de ses accomplissements en tant qu'ingénieur et entrepreneur, c'est le succès de ses prédictions du futur. Jadis dans les années 80 il a réussi à prédire l'émergence d'Internet au milieu des années 90 et il a prédit que les meilleurs joueurs d'échec au monde seraient battus par un ordinateur en 1998 - Kasparov s'est moqué de cette prédiction en 1993, et il a bien mangé ses dents en 1997 lorsque la prophétie s'est réalisée avec un an d'avance. En effet Kurzweil est souvent un peu pessimiste dans ses prédictions.

Ses méthodes sont fondées non pas sur le chamanisme ni sur les boules de cristal, mais profondément ancrées dans la science, l'ingénierie, et l'étude historique des technologies. Il analyse minutieusement les tendances et remarque que la technologie évolue de manière exponentielle. C'est vrai depuis la nuit des temps, c'est encore vrai aujourd'hui, et il existe de nombreuses raisons rationnelles pour être convaincus que ça va continuer sur cette tendance exponentielle. La loi qui régit cette évolution s'appelle "Law of Accelerating Returns".

Qu'est-ce que ça implique pour le futur ? A quel point cela impactera-t-il notre vie quotidienne d'ici quelques années ? Notez que nous sommes déjà habitués au progrès accéléré : après le PC, Internet, le haut débit, le sans-fil et la mobilité qui explosent dans des délais toujours plus courts...

Alors, pouvez-vous seulement imaginer que le progrès continue encore plus vite dans les 10 ans qui viennent ? 20 ans ?

Ray Kurzweil a construit un modèle qui prédit l'accession des machines au niveau d'intelligence d'un humain en 2029. Si ça vous intéresse d'en entendre parler, et de vous laisser convaincre par la pléthore de courbes exponentielles qu'il a à vous présenter pour corroborer ses thèses, alors lisez ses livres, ou commencez par regarder ci-dessus son récent exposé à la Killer App Expo. De plus, des liens de téléchargement en qualité HD et une transcription en texte sont disponibles sur technologyevangelist.com.

Protection des l'Innovation sur les Cyborgs

Si je vous parle de cyborg, vous vous dites c'est de la science fiction. Mais comme vous le savez si vous lisez ce blog depuis quelque temps, les œuvres de science fiction récentes et moins récentes dépeignent un monde dont nous nous rapprochons à grande vitesse. L'ambiance dans laquelle nous vivons, du point de vue des avancées scientifiques et technologiques, c'est la science fiction d'il y a 5 ans, 10 ans, 50 ans,... parfois c'est même celle des tous débuts.

Par exemple, la création des Cyborgs, mi-homme mi-machine, n'est plus seulement du domaine du fantasme : c'est un domaine de recherche actif qui fait des bonds importants depuis quelques années. On progresse en particulier sur la l'intégration de l'électronique avec les systèmes nerveux, et ça débouche sur des résultats concrets obtenus lors d'expériences édifiantes avec des anguilles, des chimpanzés, des pigeons, et même des humains.

Cependant, on reste dans le mon de réel. L'innovation a vocation à être appliquée, et souvent elle a pour but générer des avancées et des revenus. Ainsi, on commence à voir le dépôt de brevets sur les cyborgs. Il y en a surement d'autres mais c'est le premier que je vois passer : Amazon dépose un brevet sur une intégration hybride homme/machine.

J'ai trouvé cette news sur Slashdot. Et le brevet est consultable ici.

Demain Tous des Cyborgs

Continuons sur ce thème qui m'est cher : nous vivons dans un film de science fiction, qu'on se le dise !

Aujourd'hui je vous ai dégoté un récap des différents éléments existant ou en développement pour se transformer en l'homme qui valait 3 milliards, i.e. un cyborg.

L'article est sur DoctorsGadgets et je l'ai découvert via KurzweilAI.net.