Brad Smith, président de Microsoft, réclame des règles mondiales de sécurité pour l’intelligence artificielle. Son dispositif comprend des freins d’urgence capables de suspendre ou de ralentir un système, l’obligation de documenter certains incidents et d’en avertir les victimes, ainsi qu’une évaluation indépendante avant la commercialisation de nouvelles technologies. Ces mesures ont été présentées dans un entretien rapporté par la BBC.
L’annonce ne décrit pas une réglementation déjà adoptée. Elle expose les mécanismes que Brad Smith souhaite voir inscrits dans des règles communes. Sa comparaison avec le lait et les machines à laver, qu’il juge davantage soumis à des contrôles de sécurité, sert à défendre ce changement. La distinction est essentielle pour une PME : ces propositions constituent un signal politique, pas une nouvelle obligation immédiatement applicable à ses outils.
Trois mécanismes proposés, aucune obligation annoncée
Les mesures citées interviennent à des moments différents. L’évaluation indépendante précède la mise sur le marché. Le frein d’urgence agit pendant l’exploitation. Le rapport d’incident et l’information des victimes interviennent après un dysfonctionnement. Cette succession forme une approche de sécurité couvrant la publication, l’exécution et les conséquences d’un système d’IA.
La source de la BBC ne précise cependant ni les systèmes concernés, ni les incidents qui déclencheraient une notification, ni les critères appliqués par les évaluateurs. Elle ne présente pas non plus de texte juridique ou de calendrier d’adoption. Un fournisseur ne peut donc pas invoquer cette prise de position comme preuve que son produit satisfait déjà à une norme issue de ces propositions.
Brad Smith se place par ailleurs en opposition à la position attribuée au président Donald Trump, favorable à l’autorégulation du secteur afin de préserver la compétitivité des entreprises américaines face à leurs concurrentes chinoises, selon la BBC. Ce désaccord confirme que l’entretien ouvre un débat politique plutôt qu’il ne clôt une décision réglementaire.
Le frein d’urgence vise l’exécution, pas la réponse
Brad Smith décrit le frein d’urgence, aussi appelé dispositif d’arrêt, comme un moyen de mettre en pause ou de ralentir une IA devenue incontrôlable. Ce mécanisme ne garantit pas que chaque réponse produite est exacte. Il offre une capacité d’intervention lorsque le comportement du système impose l’arrêt de son activité.
Prenons le cas hypothétique d’un agent utilisé pour préparer et envoyer des messages de prospection. Un arrêt opérationnel sert à empêcher la poursuite des envois après la détection d’un comportement indésirable. Il ne corrige pas les messages déjà transmis et ne démontre pas que les contenus précédents étaient fiables. Cet exemple illustre la portée du mécanisme sans attribuer à Microsoft un produit ou un test que la source ne mentionne pas.
Pour comparer des solutions destinées à ce type d’usage, le terme « frein d’urgence » reste donc insuffisant. Il faut savoir ce que l’arrêt interrompt réellement : une tâche, un agent ou l’ensemble du service. Il faut aussi déterminer le sort des actions déjà engagées. L’entretien ne répond pas à ces questions techniques, alors qu’elles définissent l’utilité concrète du dispositif.
Illustration conceptuelle du périmètre d’un frein d’urgence, et non photographie d’un système réel.
Le signalement ferait de l’incident une information due
Le président de Microsoft propose également une obligation légale de rédiger des rapports d’incident et d’informer les victimes lorsqu’une technologie d’IA adopte un comportement malveillant ou incontrôlé. La BBC rapporte qu’il évoque notamment le cas d’un système compromis par un agent d’IA défaillant.
Cette proposition dépasse la simple conservation interne d’un journal technique. Son mécanisme associe la documentation de l’événement à une information adressée à la personne touchée. Dans un scénario commercial hypothétique, une entreprise avertie qu’un agent a transmis une information erronée à un prospect dispose au moins du signal nécessaire pour identifier les échanges concernés et préparer une correction.
La portée juridique demeure indéfinie. La source ne donne aucune définition de la « victime », du niveau de gravité requis ou du responsable chargé de la notification. Elle ne démontre pas non plus que cette obligation existe déjà. Présenter la proposition comme une règle actuelle créerait donc une confusion entre l’objectif défendu par Brad Smith et le droit en vigueur.
Illustration du mécanisme de rapport et de notification proposé, et non photographie d’un incident réel.
L’évaluation externe reste à définir
Brad Smith suggère enfin que des évaluateurs gouvernementaux indépendants examinent les nouvelles technologies d’IA avant leur lancement. Il affirme que les méthodes utilisées pour la sécurité d’autres produits peuvent servir de base à l’encadrement de l’intelligence artificielle, selon le même entretien publié par la BBC.
La source ne décrit toutefois ni protocole d’essai, ni seuil d’acceptation, ni autorité compétente. Elle ne permet pas de conclure qu’une validation porterait sur chaque produit, chaque modèle ou chaque usage réalisé par une entreprise cliente. Une évaluation préalable du fournisseur ne remplacerait d’ailleurs pas l’examen du cas d’usage précis dans lequel une PME installe le système.
Le prochain élément décisif sera donc un texte définissant les technologies couvertes, les conditions d’activation du frein, les incidents à déclarer et le pouvoir des évaluateurs. En attendant, une PME peut demander à ses fournisseurs comment leurs mécanismes d’arrêt et de signalement fonctionnent, sans les présenter comme des exigences légales déjà établies.
