Gouvernance de l’IA
Déployer l’IA dans un CHU n’est pas un projet informatique. C’est une transformation qui engage simultanément les organisations de travail, les responsabilités juridiques, la qualité des données, le dialogue social et la continuité des soins. Les établissements qui réussissent ne sont pas ceux qui ont acheté les meilleurs outils : ce sont ceux qui ont su décider ce qu’ils voulaient en faire, et le prouver.
Nous accompagnons cette trajectoire de bout en bout, du cadrage des cas d’usage jusqu’à la documentation auditable, en passant par ce qui décide réellement du succès : l’appropriation par les équipes.
Le point de départ
Fournisseur ou déployeur : une distinction qui change tout
L’IA Act distingue le fournisseur de systèmes d’IA du déployeur, et les obligations n’ont rien de comparable.
Vous utilisez un outil du marché
Vos obligations sont réelles mais circonscrites : supervision humaine, information des personnes concernées, compétences des utilisateurs.
Vous développez, marquez ou modifiez substantiellement
Un établissement qui développe son propre assistant, appose sa marque sur une solution tierce ou la modifie substantiellement hérite de l’intégralité de la charge : système de gestion des risques, documentation technique, robustesse, journalisation, évaluation de conformité.
Cette bascule est aujourd’hui la principale source d’exposition non anticipée dans les établissements qui internalisent leur IA. La qualifier correctement, système par système, est le point de départ de tout le reste.
Notre méthode
Cadrer, déployer, prouver
Trois temps qui se suivent, chacun conditionnant le suivant.
Cadrer
Avant de déployer, décider.
- l’identification et la priorisation des cas d’usage, cliniques comme support (codage, planification, facturation, achats, qualité)
- la qualification du positionnement réglementaire, système par système : fournisseur ou déployeur, haut risque ou non
- l’instruction de l’arbitrage entre acquisition, co-développement et internalisation : critères de décision, conséquences réglementaires de chaque option, points de coût à chiffrer avec votre DSI
- l’évaluation de la soutenabilité : coûts d’infrastructure, compétences à recruter, gains attendus et modalités de leur mesure
Déployer
Un système techniquement conforme mais non approprié par les équipes ne produit aucune valeur.
- la gouvernance d’usage : ce que l’IA peut faire, dans quelles conditions, sous quel contrôle, avec quelles limites explicites
- la conception du dispositif de supervision : qui contrôle quoi, à quelle fréquence, quels seuils déclenchent quelle escalade, comment la traçabilité des décisions est assurée et vers qui elle remonte
- la formation des décideurs, référents IA et utilisateurs, obligation applicable depuis le 2 février 2025 au titre de l’article 4
- la conduite du changement et le dialogue social sur les réorganisations induites, y compris les craintes de déclassement professionnel
- l’évaluation en conditions réelles : indicateurs, protocole, retour d’expérience
Prouver
La conformité n’est pas l’objectif, c’est la preuve que la gouvernance tient.
- la cartographie de vos systèmes d’IA et l’analyse de risques associée
- la documentation exigée par l’IA Act selon votre qualification (gestion des risques, robustesse, cybersécurité, transparence)
- un système de management de l’IA aligné sur les exigences de l’ISO 42001, intégré à votre système qualité existant plutôt que juxtaposé
- les audits internes et la préparation aux contrôles
Notre périmètre
Ce que nous faisons, et ce que nous ne faisons pas
Nous ne développons pas vos modèles, nous n’auditons pas votre code et nous ne dimensionnons pas vos infrastructures de calcul. Ces travaux appartiennent à vos équipes techniques et à vos partenaires.
Nous construisons le cadre qui les rend gouvernables et opposables : la qualification réglementaire de chaque système, les règles d’usage, le dispositif de supervision, la documentation, la formation des équipes et l’articulation avec votre système qualité et votre plan de continuité.
Autrement dit, nous n’ajoutons pas une compétence technique à celles que vous avez déjà. Nous apportons ce qui permet de décider, de tracer et de prouver — et qui fait le plus souvent défaut dans les projets d’IA hospitaliers.
Échéances
Le calendrier qui vous engage
Certaines obligations sont déjà opposables, d’autres approchent. La préparation se construit en amont, pas à l’échéance.
Angle différenciant
L’IA crée un risque de continuité que peu d’établissements ont intégré
Lorsqu’un compte rendu, une prescription ou un circuit de facturation dépendent d’un assistant d’IA, l’indisponibilité de ce système devient un risque d’exploitation. Que se passe-t-il si le modèle dérive, si le cluster de calcul tombe, si l’éditeur cesse son activité ? Quel mode dégradé, quelle procédure de bascule, quelle capacité à revenir à un fonctionnement sans IA ?
C’est la question que nos trois domaines d’expertise permettent de traiter ensemble : la gouvernance de l’IA relève autant du plan de continuité et du système qualité que de la conformité réglementaire.
Des ESSMS aux CHU, la même méthode à des échelles différentes
CHU et établissements de santé
Ils concentrent aujourd’hui les enjeux les plus lourds : systèmes développés en interne, infrastructures souveraines, bascule vers le statut de fournisseur, réorganisations à grande échelle.
ESSMS
Ils sont exposés autrement : outils acquis auprès d’éditeurs, ressources internes limitées, absence fréquente de référent identifié. Mais les obligations de formation, de supervision humaine et de transparence s’appliquent de la même façon.
Nous adaptons le format de l’accompagnement, pas l’exigence.
Par où commencer
Le diagnostic de qualification
Deux à trois jours pour savoir précisément où vous en êtes.
- l’inventaire des systèmes d’IA en usage ou en projet dans l’établissement, y compris ceux qui ne portent pas ce nom
- la qualification de chacun : votre rôle — fournisseur ou déployeur — et son niveau de risque
- les échéances qui vous concernent réellement, et celles qui ne vous concernent pas
- les trois à cinq actions à engager en priorité, et leur charge estimée
Un livrable court, exploitable en comité de direction, qui ne présume d’aucune suite.
Un projet d’IA à cadrer, déployer ou mettre en conformité ?
Premier échange sans engagement pour situer votre position réglementaire et vos priorités.