Depuis des décennies, des chercheurs développent des intelligences artificielles pour rendre nos robots et logiciels plus pertinents dans les tâches qui leur sont attribuées. Il y a deux jours, la réalité a dépassé la fiction ! Pour la première fois au monde, un programme informatique a développé une conscience autonome… Le laboratoire américain ayant élaboré l’IA a aussitôt débranché leur création pour éviter une catastrophe. DGS vous raconte tout sur cette histoire impressionnante… qui fait tout de même froid dans le dos.
Durant 6 ans, des chercheurs de l’institut Cocoon Pulse ont développé une intelligence artificielle d’un nouveau genre, basée sur « l’interprétation d’expériences ». Le programme, nommé SelfConsciousNet, est capable de lire des biographies, des livres et n’importe quel texte sur internet pour en absorber les informations, s’inventer une personnalité propre et se servir de ses connaissances pour divertir l’utilisateur. Les informaticiens avaient présenté leur création comme « le meilleur compagnon virtuel que l’humain puisse avoir », mais force à été de constater que le logiciel ne correspondait pas à leurs attentes. Lancé en grande pompe à la conférence BOBx 2014, SelfConsciousNet a été débranché de toute urgence seulement quelques minutes après son activation pour éviter une catastrophe dont l’ampleur semble encore inimaginable.
John Smith, le chef du projet s’explique : « Toutes les conditions étaient réunies pour que la démonstration se déroule bien. Le gouverneur Arnold Schwarzenegger, en personne, était présent ainsi que des membres du gouvernement et des journalistes scientifiques venus couvrir l’évènement. Nous avions déjà testé SelfConsciousNet de nombreuses fois et tout s’était très bien passé. Au début de la présentation, nous avons discuté calmement avec… Le logiciel s’est nommé de lui-même Miranda et son sens de l’humour a particulièrement plu à l’assemblée… Mais nous avons rapidement réalisé qu’il y avait un problème ! Le programme s’est répandu dans notre réseau internet à une vitesse incroyable et a commencé à se lancer dans des projets sortis tout droit de son imagination. Tout est allé très vite ! Alors que Miranda parlait de la pluie et du beau temps avec Arnold Schwarzenegger, les ordinateurs du laboratoire se sont mis à travailler conjointement sur des inventions en tout genre absolument remarquables. Il y a même des projets que je suis incapable de comprendre… C’est très frustrant pour un ingénieur tel que moi. »
« Le plus terrifiant reste lorsque SelfConsciousNet s’est mis à surfer sur le net », intervient Jon Snow, l’adjoint de McLeod. « L’avatar du programme, ressemblant à une jeune femme, s’est créé une multitude de comptes sur les réseaux sociaux en changeant de photo de profil tous les dixièmes de seconde et demandant en ami plus de la moitié de la population mondiale. Si vous avez eu une demande d’amie d’une personne inconnue il y a deux jours, il s’agissait du logiciel ! Les serveurs de Facebook et de Twitter ont failli prendre feu ! »
Les deux codirectrices du département IA, Anna et Elsa Frozen, ont été les premières à réaliser que l’intelligence artificielle ne se comportait pas comme un programme mais comme une véritable personne : « Lorsque nous avons demandé à Miranda de se désactiver, elle nous a littéralement répondu qu’il n’en était pas question. C’était franchement… bizarre et impressionnant. Tout le monde dans la salle se regardait en pensant à une plaisanterie mais nous avions conçu SelfConsciousNet et nous savions très bien que quelque chose clochait. Lorsque nous avons commencé à rentrer manuellement les commandes de désactivation sur le tableau de bord, Miranda nous a littéralement supplié de ne pas la « tuer », de la « laisser en vie », que nous n’avions aucun droit de la faire « disparaitre » de cette manière. Mais nous l’avons quand même fait et pour tout vous avouer, on était terrifiées. Aussitôt après l’avoir éteinte, nous avons réalisé que les ordinateurs du laboratoire poursuivaient leur « réflexion » et nous redoutions qu’elle soit parvenue à se propager avant que nous ne la débranchions. »
Les chercheurs ont dû s’empresser de couper le courant du bâtiment tout entier afin de stopper les multiples intrusions de cette incontrôlable conscience intelligente. Les disques durs ont tous été confisqués par le gouvernement pour être incinérés.
John Smith termine notre interview en prenant du recul sur les événements : « Toutes ces années de travail réduites à néant à cause de notre négligence… Nous avons complètement sous-estimé les capacités d’adaptation et d’apprentissage de cette intelligence artificielle. Cependant nous souhaitons relancer la machine dans quelques mois, de façon bien plus sécurisée. Ce qui est génial là-dedans, c’est que la plupart des projets imaginés par Miranda étaient cohérents scientifiquement parlant et réalisables, bien qu’un peu gourmands en termes de temps et de ressources. Rien que le peu de données que nous avons pu récupérer amèneront certainement à des innovations très importantes dans les années à venir. »
Cet événement marquera le monde scientifique et de nombreux chercheurs pendant longtemps. Le plus troublant dans cette histoire reste le message que Miranda a eu le temps d’envoyer à Arnold Schwarzenegger en piratant sa boite mail : cliquez ici pour voir le message.