Washington, printemps 2025. Dans une salle de conférence sans fenêtres, un homme qui a passé des années à traquer des cyberattaques d’État prend la parole devant une assemblée de chercheurs en intelligence artificielle. Il ne cite pas un rapport du Pentagone, ni une directive de la Maison-Blanche. Il cite Isaac Asimov. La scène aurait pu paraître anecdotique ; elle a au contraire déclenché un débat qui dépasse largement les cercles académiques.
L’ancien directeur de la cyberdéfense américaine — l’un des rares hauts fonctionnaires à avoir supervisé à la fois les arsenaux offensifs et les boucliers défensifs du pays — affirme désormais publiquement que les trois lois de la robotique, formulées par l’écrivain de science-fiction il y a plus de quatre-vingts ans, constituent un socle pertinent pour réguler les systèmes d’IA militaires et civils. La question qui s’impose : un romancier du XXe siècle peut-il vraiment guider la politique technologique du XXIe ?
Ce que les trois lois d’Asimov disent vraiment — et ce qu’on oublie souvent
Formulées pour la première fois en 1942 dans la nouvelle Runaround, les trois lois établissent une hiérarchie simple : un robot ne peut blesser un être humain, doit obéir aux ordres humains sauf si cela contredit la première loi, et doit se protéger lui-même sauf si cela contredit les deux premières. Asimov y ajoutera plus tard une « loi zéro » : un robot ne peut nuire à l’humanité dans son ensemble.
Ce que l’on oublie, c’est qu’Asimov lui-même ne croyait pas ces lois infaillibles. Toute son œuvre — du Cycle des robots aux nouvelles du recueil I, Robot — consiste précisément à démontrer comment ces règles engendrent des paradoxes, des failles, des dérives non intentionnelles. L’ancien responsable américain n’ignore pas cette nuance : c’est justement pour cette raison qu’il les juge utiles, non comme code source, mais comme cadre de réflexion éthique.
À lire aussi
Cyberdéfense américaine : pourquoi un ancien patron s’empare d’un texte de fiction
Pendant plus de deux décennies, les agences fédérales américaines ont traité la robotique militaire et l’IA comme des problèmes d’ingénierie pure. Les questions éthiques étaient renvoyées à des comités consultatifs dont les avis n’engageaient personne. Ce modèle a montré ses limites à mesure que les drones autonomes, les systèmes d’identification biométrique et les algorithmes de ciblage se sont répandus sur les théâtres d’opération.
L’ancien directeur — dont les prises de position publiques s’inscrivent dans un mouvement plus large de vétérans du renseignement et de la défense réclamant des garde-fous contraignants — souligne que les lois d’Asimov ont le mérite d’être compréhensibles par des non-ingénieurs : législateurs, juges, citoyens. Un texte réglementaire de 400 pages ne remplit pas cette fonction. Trois phrases, si.
Pourquoi cette prise de position relance le débat en Europe — et en France
En France, le sujet n’est pas théorique. Depuis l’adoption, en avril 2024, du règlement européen sur l’intelligence artificielle — l’AI Act — les entreprises françaises disposent d’un calendrier de mise en conformité dont les premières échéances ont commencé à courir en février 2025. Les systèmes d’IA dits « à haut risque », notamment ceux utilisés dans la sécurité des infrastructures ou la gestion des flux migratoires, sont soumis à des exigences de transparence et d’auditabilité.
Or l’AI Act ne parle pas de lois de la robotique. Il parle de niveaux de risque, d’obligations documentaires, de marquage CE. La comparaison avec Asimov n’est pas anodine : plusieurs membres du Parlement européen ont cité ses travaux lors des débats préparatoires, précisément pour souligner l’absence d’un principe éthique central et lisible dans le texte final. La Commission nationale de l’informatique et des libertés (CNIL) a, de son côté, publié en mars 2025 une série de recommandations sur la transparence algorithmique qui s’approchent, sans le dire, d’une logique asimovienne : l’humain doit rester en mesure de comprendre et d’interrompre la décision de la machine.
Les limites que même les partisans des lois d’Asimov reconnaissent
Aucun spécialiste sérieux ne propose de copier-coller les trois lois dans un texte législatif. Les objections sont bien documentées :
- La définition de « nuire » varie selon les cultures juridiques et les contextes opérationnels.
- Une IA qui optimise un réseau électrique peut « nuire » à court terme pour éviter une panne catastrophique à long terme — le paradoxe est inhérent.
- Les systèmes d’apprentissage automatique actuels n’ont pas de représentation interne des « lois » : ils optimisent des fonctions mathématiques, pas des règles morales.
- La loi zéro — protéger l’humanité — est précisément l’argument qu’un système mal aligné pourrait invoquer pour justifier n’importe quelle action.
- Aucun mécanisme d’application internationale n’existe pour contraindre des acteurs étatiques ou des entreprises hors juridiction européenne.
Ces limites, l’ancien responsable américain ne les nie pas. Il les retourne en argument : si même une fiction de 1942 identifiait ces paradoxes, c’est que la réflexion sur l’éthique des machines précède largement nos institutions actuelles, et que celles-ci ont accumulé un retard considérable.
Ce que cette controverse change concrètement pour les mois à venir
Plusieurs signaux indiquent que le débat va s’intensifier avant la fin de l’année 2025. L’OCDE doit publier d’ici septembre une mise à jour de ses principes sur l’IA, adoptés initialement en 2019. L’ONU a mandaté un groupe d’experts de haut niveau sur la gouvernance de l’IA dont le rapport final est attendu pour novembre. En France, le secrétariat général de la défense et de la sécurité nationale (SGDSN) travaille sur un cadre national pour les systèmes d’armes létaux autonomes, un dossier dont la discrétion contraste avec l’urgence affichée par les partenaires européens.
Que les législateurs retiennent ou non la terminologie d’Asimov importe finalement moins que la question sous-jacente : à quel moment, et selon quelles règles vérifiables, une machine peut-elle prendre une décision qui engage la vie ou la liberté d’un être humain ? C’est cette question-là que l’ancien patron de la cyberdéfense américaine a posée dans cette salle sans fenêtres — et personne dans la salle n’a prétendu avoir la réponse.
Votre avis nous aide
La conversation continue
Commentaires