Le 26 septembre 1983, alors que le monde, celui de la guerre froide, baignait sous le poids de l’équilibre de la terreur, une désobéissance sauva le monde. Cette nuit-là, le système sophistiqué du matériel de détection soviétique signala le lancement de cinq missiles balistiques intercontinentaux américains vers l’U.R.S.S. L’officier soviétique Stanislav Petrov, usant de son libre arbitre qui n’est soumis à aucun programme informatique, décida d’aller à l’encontre du protocole militaire qui exigeait une riposte massive. Au lieu d’engager le monde dans un conflit nucléaire sans précédent, il préféra signaler une fausse alerte à ses supérieurs. L’histoire retiendra que sa décision de ne pas se fier à la machine, et de ne pas enclencher le processus fatal, fut la plus sage.
Ce qui était pour les ordinateurs un lancement de missiles s’avéra n’être que le reflet du soleil sur des nuages et que le système avait interprété comme des signatures infrarouges. Petrov eut l’intuition, que l’humain ne partage pas avec la machine, qu’une véritable offensive américaine inclurait des centaines de missiles, et pas seulement cinq. Accorder sa confiance à sa réflexion, au lieu de se laisser guider par la machine, fut donc la meilleure posture à adopter ce jour-là. Il a usé de cette capacité que nous devons préserver face aux machines : douter. Et peut-être aussi à certains autres moments de notre époque, marquée par l’omniprésence de l’intelligence artificielle, le doute doit être revalorisé.
Nos secondes, minutes, jours et semaines sont trop souvent influencés par des décisions qui n’émanent pas vraiment de nous. On risque ainsi de tomber dans certains pièges qui pourraient s’ouvrir dans les instants d’utilité de l’esprit critique, dont la sollicitation s’efface de plus en plus de la liste des réflexes fondamentaux chez beaucoup de nos contemporains. Comme Ulysse qui s’est fait attacher à un mât pour échapper à l’emprise des chants des sirènes, nous devons aussi nous raccrocher à un point d’appui qui nous permettrait d’entendre les machines sans y succomber.
Douter et garder active notre faculté à penser. Tel est peut-être le meilleur rempart face à ce que pourrait causer l’intelligence artificielle. Des millénaires auparavant, Socrate a fait de la conscience de notre ignorance le point de départ du savoir. Et aujourd’hui, les réponses à nos questions, obtenues en une fraction de seconde, méritent plus que jamais qu’on pose la question de leur véracité. Comme Socrate, à son époque, interrogeait les rhéteurs, notre rapport à l’intelligence artificielle doit être une conversation et non une capitulation. Car même si les outils informatiques actuels peuvent contribuer à enrichir notre pensée, il ne faut ni négliger ni abandonner notre rôle de gardien.