Souveraineté de l’IA : qui peut modifier le système ?

Un hôpital examine une application d’IA qui prépare des synthèses internes de documents techniques. Dans cet exemple fictif, le fournisseur affirme que les serveurs sont en Europe, que les poids du modèle sont disponibles et que le client garde la maîtrise de ses données. Trois questions restent pourtant ouvertes : une personne chargée de l’assistance peut-elle lire une entrée ? Qui peut remplacer le modèle ? Quelle organisation peut modifier les règles d’accès ? Chaque réponse pourrait changer la décision de l’hôpital, même si les serveurs restent dans le même bâtiment.

Pour les responsables européens de l’hôpital, de l’industrie pharmaceutique et des technologies médicales, je traduirais donc la souveraineté de l’IA en pouvoirs démontrables sur un service précis. Une affirmation utile désigne un acteur, une action, les circonstances qui l’autorisent et la preuve que cette limite fonctionne. La localisation en fait partie, ainsi que les droits, leur application technique et les personnes capables de les exercer.

Quelle décision l’autonomie doit-elle protéger ?

Cette réflexion part du discours de Sonya Huang chez Sequoia, Own Your Intelligence, publié le 11 août 2026. Elle souligne la maîtrise des poids et admet différentes frontières entre capacités internes et services externes. Cette perspective d’investisseuse sur le développement de produits n’apporte aucune évaluation clinique. [1]

Pour l’hôpital fictif, la question immédiate est plus précise : peut-il limiter les informations confidentielles à l’usage convenu et autoriser les changements touchant le travail déjà approuvé ? Une équipe de recherche pharmaceutique pourrait vouloir savoir qui peut réutiliser des résultats expérimentaux inédits. Un fabricant de dispositifs médicaux pourrait examiner qui peut modifier le modèle traitant les réclamations techniques. Ce sont des exemples de décisions proposés ici. Les informations et autorisations nécessaires dépendraient de l’activité réelle.

Formulez le pouvoir recherché dans une phrase : « Seule la personne responsable de la mise en service peut autoriser une nouvelle version du modèle pour ce travail. » Vérifiez ensuite si le contrat, les paramètres de l’application et son administration technique soutiennent cette phrase. Un bouton d’approbation a une portée limitée si une autre personne disposant de droits administratifs peut le contourner sans laisser de trace.

Suivre chaque copie pertinente des données

Utilisez un document artificiel pour suivre le service envisagé. Où son contenu entre-t-il, quels composants le traitent et où apparaissent des copies ou des informations dérivées ? Examinez l’index de recherche, l’historique des échanges, les journaux de diagnostic, les sauvegardes et les éléments éventuellement retenus pour améliorer le modèle. Il faut établir ce qui existe dans cette architecture. Un schéma générique laisse la question ouverte.

Le référentiel SecNumCloud 3.2 de l’ANSSI, daté du 8 mars 2022, distingue données du client, données techniques et administration. Sa section 19.2 autorise une assistance documentée hors UE, avec contrôle des accès et supervision depuis l’UE. La qualification porte sur un service délimité ; elle ne vaut pas approbation automatique de l’application d’IA hospitalière. [2]

J’en tire une question pratique pour chaque copie pertinente : qui peut lire le contenu, qui peut accorder cet accès et quelles conditions autorisent une exception ? Une demande d’assistance peut compter autant que le traitement principal si elle contient un extrait du document. Consignez aussi la finalité permise et les modalités de suppression de cette copie.

Le chiffrement mérite des questions aussi précises. Identifiez où les clés sont maîtrisées et à quel moment l’application a besoin d’informations lisibles. Une affirmation sur le stockage chiffré laisse l’étape de traitement à examiner. Demandez à l’équipe technique quels acteurs sont exclus à chaque étape et sur quelles preuves repose cette exclusion. Cela évite de transformer une désignation commerciale en propriété supposée de l’ensemble du système.

Distinguer possession du modèle et pouvoir de mise en service

Des poids disponibles donnent à l’examen un objet précis : les paramètres numériques utilisés par le modèle. L’organisation doit encore établir ses droits d’utilisation ou de modification de cette version, les logiciels nécessaires à son fonctionnement et la maîtrise de l’application environnante. Posséder une copie ne résout pas ces questions distinctes.

Le catalogue AIC4 du BSI de 2021 demande, dans la description d’un service d’IA, la fréquence d’apprentissage et les changements importants du modèle. Ces catégories d’information issues d’un ancien cadre technique restent utiles. Elles ne démontrent ni l’adéquation d’un modèle de langage actuel ni une obligation juridique pour cet hôpital. [3]

Je distinguerais trois droits : utiliser un modèle approuvé, l’adapter avec des éléments autorisés et mettre une version modifiée en service. Ils peuvent appartenir à des parties différentes. Le fournisseur peut réaliser l’adaptation tandis que l’hôpital conserve la décision de mise en service. Inversement, un modèle exploité localement peut changer par un mécanisme automatique que la personne responsable du métier n’a jamais examiné.

Demandez l’identifiant de la version utilisée, le nom de la personne qui l’a approuvée et la trace du dernier changement. Incluez les consignes, les sources d’information connectées et les composants logiciels susceptibles de modifier le résultat. Dans l’hôpital fictif, un nouveau répertoire documentaire pourrait transformer les synthèses malgré des poids identiques. La limite pertinente porte sur toute la configuration approuvée.

Rendre visibles les pouvoirs d’administration

Un compte utilisateur ordinaire ne montre qu’une partie du système. L’examen doit aussi identifier les acteurs capables de créer des comptes privilégiés, d’autoriser un accès exceptionnel, de modifier les connexions ou d’altérer la journalisation. Demandez au fournisseur de préciser ces pouvoirs dans son organisation et chez les sous-traitants participant au service.

Les critères C3A du BSI, version 1.0 du 27 avril 2026, distinguent gestion externe des identités, journaux d’accès et administration contrôlée. Ils couvrent aussi les échanges avec des tiers. Ce cadre, explicitement non contraignant, présuppose les critères de sécurité C5. Il fournit une base d’évaluation, sans constituer un certificat général de souveraineté. [4]

Je propose une démonstration supervisée avec des informations artificielles et des comptes d’essai autorisés. L’équipe accorde un droit étroitement délimité, montre sa trace, puis le révoque. Examinez si la révocation touche le chemin d’accès prévu, y compris une session déjà ouverte. Demandez séparément comment un accès exceptionnel du fournisseur devient visible pour l’hôpital. Une démonstration montre un comportement dans ces conditions. Elle ne prouve pas l’exclusion de tous les chemins cachés.

Il faut ici une personne qui comprend la réalisation technique et une autre capable d’apprécier la finalité professionnelle du droit. Les achats peuvent obtenir des preuves, mais la personne responsable du contrat peut ne pas savoir interpréter une exception technique. Consignez la question ouverte et la fonction chargée de la résoudre.

Des preuves aussi précises que l’affirmation

Le guide d’application publié par la Commission européenne le 1er juin 2026 demande d’examiner les couches techniques et les chaînes de fournisseurs. Il reconnaît l’effort nécessaire pour vérifier les autodéclarations. Ce cadre provient d’un marché de services en nuage destiné aux entités européennes. Les vérifications proposées ici n’attribuent aucun de ses niveaux d’assurance. [5]

Pour chaque pouvoir important, gardez quatre éléments : la règle annoncée, la preuve correspondante, la lacune restante et la personne responsable de la décision. Distinguez un engagement contractuel, une configuration observée et une évaluation indépendante. Chacun répond à une question différente. Vérifiez le service, la version et la période réellement couverts par l’évaluation avant de l’appliquer au système examiné.

La Commission a également proposé, en juin 2026, un texte distinct sur le développement de l’informatique en nuage et de l’IA. Sa page officielle, consultée le 14 septembre 2026, le présente comme une proposition législative. Ses niveaux d’assurance envisagés restent à distinguer du précédent cadre d’achat et des exigences déjà applicables à une organisation donnée. [6]

L’hôpital fictif pourrait ainsi limiter le premier usage aux documents techniques autorisés jusqu’à la résolution de la question des accès d’assistance, tout en exigeant la maîtrise des mises en service du modèle. Il aurait défini une limite explicite pour cette application. Le résultat utile est une décision explicable : quels pouvoirs l’organisation conserve, lesquels elle délègue et quelles preuves rendent cette délégation acceptable.