Qui décide : le silicium ou l'homme
Qui décide : le silicium ou l'homme
Parution dans dans Il Mondo Nuovo.
Retour sur le symposium AI4Peace 2026. À Rome est née l'Association mondiale AI4Peace. Mais la paix ne se perd pas seulement aux tables des traités. Elle se perd à l'instant où nous cessons de décider nous-mêmes.
Trois secondes et six dixièmes. C'est le temps nécessaire à un système de ciblage militaire, augmenté par l’IA, pour choisir une cible. Mille cibles en une heure. À cette vitesse, l'être humain, dans le processus, ne décide plus. Il signe. C'est ainsi que j'ai ouvert mon intervention à AI4Peace, la conférence qui a rempli pendant deux jours les salles de l'Université pontificale du Latran, un lieu qui, d’ordinaire, parle d'autre chose.
L'initiative est sérieuse et arrive au bon moment. En ouverture, un message du pape Léon XIV et les salutations des autorités civiles de Rome. Puis, les institutions qui ont tenu la table : le Vatican, l'Université pour la paix, l'Académie pontificale pour la vie, et des voix comme Jeffrey Sachs, Jeremy Rifkin, Antoinette Rouvroy et Guilherme Canela de l’UNESCO. Dario Amodei d'Anthropic et Dal Pino de Microsoft ont envoyé un message de soutien. Des chercheurs et des représentants de plus de quarante pays lors des sessions parallèles, une table ronde sur l'encyclique du pape. À la fin, après les conclusions de don Andrea Ciucci, l'assemblée a donné naissance à l'Association mondiale AI4Peace, dont la constitution s'achèvera dans les prochains mois.
L'idée est de Sergio Bellucci, directeur académique de l'Université pour la paix des Nations unies en Italie, et elle n'était pas évidente. Réunir dans la même salle le Saint-Siège, les Nations unies, quarante pays et ceux qui développent l'intelligence artificielle n'est pas un coup d'agenda.
Paix et machines relèvent de la même question : qui décide. Bellucci l'a vue avant qu'elle ne devienne évidente pour tous. Les rencontres qui restent naissent ainsi, de quelqu'un qui presse la bonne table un instant avant les autres. Et la preuve, ce ne sont pas les deux jours. C'est l'association qui demeure quand les deux jours sont passés.
Il le fallait. Quand nous parlons d'intelligence artificielle et de guerre, nous pensons presque toujours à un problème de matériel : quelles armes interdire, où tracer la ligne. C'est nécessaire, absolument, mais cela ne suffit pas. Car le déplacement véritable est plus silencieux, et aucun traité ne le voit.
La question que j'ai portée à ma table était différente. À qui donnons-nous le pouvoir de décider, au silicium ou à l'homme ? Non, ce n'est pas la machine qui se révolte : c'est de la science-fiction. La machine qui fonctionne très bien. Elle finit dans votre pensée avant que vous l'ayez formulée. Elle resserre vos options avant même que vous ne les ayez examinées. Elle agit un instant avant que la réflexion ne s'achève. Presque toujours la réponse est bonne : vous la prenez, soulagé. Puis, un jour, vous vous apercevez que vous n'écrivez plus, vous approuvez. Vous ne jugez plus, vous confirmez.
Il y a un instant précis où tout cela se produit. La réponse arrive, et vous décidez de la prendre ou de l'arrêter. Sans vous en rendre compte, parce que vous le faites de plus en plus vite. L'efficacité est devenue notre mantra. C'est le micro-moment.
C'est là que tout se joue, et c'est là que personne ne gouverne.
Aujourd'hui nous contrôlons l'IA de deux façons. La technique nous indique si la machine est capable d'effectuer une action. Les règles nous disent si cette action lui est permise. Mais il y a une troisième question, la seule qui touche à la paix et que personne ne pose : avant que la chose arrive, l'être humain devrait-il s'arrêter un instant ? Comment ?
Nous sommes aujourd'hui nombreux à travailler sur l'éthique et l'intelligence artificielle. Pendant des années, ce fut surtout de la pensée, et la pensée était nécessaire. Mais les outils pour la traduire en pratique existent désormais. Et une éthique qui reste sur la page ou dans les débats n'arrête rien. J'ai cessé de seulement théoriser. Je l'ai construit. Je l'ai appelé Pause Protocol et, depuis avril, il tourne dans le monde réel : il réintroduit un minimum de friction là où les machines l'ont retirée. Il ne ralentit pas la machine, il ralentit le moment humain de la décision. C'est peu, et cela change tout.
Pourquoi est-ce une question de paix, on le comprend en revenant là où nous avons commencé : à cette vitesse, aux mille décisions par heure. Les systèmes construits pour la guerre sont conçus pour courir. Écraser l'instant humain n'est pas un effet secondaire, c'est l'objectif. La machine décide, et l'homme signe ce qui est déjà décidé.
Une machine n'hésite pas. Elle ne sent pas que quelque chose cloche. Un être humain, si. Mais celui qui se tient derrière un système comme Maven, le système des 3,6 secondes, aujourd'hui, ce non, il ne peut presque plus le dire. La pause lui a été retirée dès la conception. Et qu'il y ait de la place pour un non, ce n'est pas celui qui appuie sur la touche à cet instant qui le décide, c'est celui qui a conçu le système, bien avant. Un choix fait en amont, par une culture. Si nous cessons d'exercer notre jugement dans les petites choses, mille « oui » faciles par jour, nous finissons par construire et accepter des machines qui ne laissent place à aucun « non ». Le non qui servirait dans l'extrême se prépare là, dans celui auquel nous disons oui chaque jour.
La dignité humaine était au cœur de la table ronde sur l'encyclique. Elle est aussi au cœur de mon travail. La paix est une architecture avant d'être un traité, et une architecture se dessine avant que le système n’existe. Si un niveau peut être construit pour comprimer le jugement humain, il peut l'être aussi pour le protéger. Ce n'est pas un choix technique. C'est un choix moral.
Reprenons nos 3,6 secondes.
