Armes autonomes, profilage, droit des robots : les cinq lignes rouges de Léon XIV

Face à l’essor fulgurant de l’intelligence artificielle, le Vatican appelle à transformer les principes éthiques en garde-fous concrets. Devant des experts internationaux réunis par l’Académie pontificale pour la vie le 30 octobre, le pape Léon XIV a exposé cinq axes cardinaux, plaidant avec force pour une régulation mondiale et le refus des armes autonomes.

Reconnaissant qu’il est légitime d’exprimer un certain « sentiment d’inquiétude » face à la révolution de l’intelligence artificielle (IA), le pape Léon XIV a proposé cinq pistes de réflexion, ce 30 octobre 2026. Recevant au Vatican des experts réunis à l’initiative de l’Académie pontificale pour la vie, il a en particulier insisté sur l’urgence de mettre en place un système de régulation international.

« Nous reconnaissons la direction que nous devrions prendre, mais nous n’en faisons pas encore assez pour avancer », a constaté Léon XIV dans son discours prononcé en anglais. Devant des participants venus de nombreux pays, et notamment de plusieurs universités américaines comme Berkeley ou le MIT, l’auteur de l’encyclique Magnifica humanitas a commencé par rendre hommage à son prédécesseur, rappelant qu’il s’était beaucoup investi sur le sujet.

Cinq impératifs pour préserver la responsabilité humaine

Le pape américano-péruvien a ensuite proposé cinq « considérations » à ses hôtes pour approfondir la question de l’IA. Il a d’abord insisté sur le fait que « le futur de l’intelligence artificielle n’est pas prédéterminé », et mis en garde « ceux qui regardent simplement cela comme une course à remporter en se concentrant seulement sur la ligne de fin, en oubliant ceux qui sont restés derrière ».

Ensuite, il a rappelé que « les machines sont des outils, pas des personnes ». Il a critiqué ceux qui « proposent de garantir à ces systèmes des droits, voire une personnalité légale » en prenant le risque d' »obscurcir la responsabilité humaine ».

Troisièmement, le pape a affirmé que « certaines décisions ne doivent jamais être déléguées ». Il a cité les cas où le nom d’une personne est intégré à une « liste de cibles » ou à une « base de données de contrôle d’une frontière ». Il a invité les pays participants à la réunion de la Convention sur certaines armes classiques (CCAC) à Genève, du 16 au 20 novembre prochain, à agir pour que soient bannies les armes mortelles autonomes.

Quatrièmement, le pape Léon XIV a insisté sur le fait que l’IA devait être orientée vers le bien commun. Pour cela, elle ne doit être ni « une fin en soi », ni servir « les intérêts de quelques privilégiés ».

« Enfin, je voudrais mettre en avant un défi qui est peut-être le plus urgent », a affirmé le pontife. « Nous connaissons déjà de nombreux principes éthiques qui devraient guider le développement de l’intelligence artificielle. Ce dont nous avons besoin en ce moment, ce sont des institutions capables de protéger », a-t-il affirmé. Il a insisté sur l’importance de développer des « normes partagées », une « supervision indépendante » et des « mécanismes clairs sur la responsabilité ».

ALETEIA