La banque qui place un outil d’IA près d’une décision de crédit écrit trois dossiers à la fois : un pour l’AI Act, un pour DORA, un que le délégué à la protection des données tient déjà. L’essentiel de leur contenu dépend d’un seul fait : que détient le fournisseur, et qu’opère-t-il ? Un fournisseur qui ne détient rien et n’opère rien laisse au déployeur un dossier fait de faits dans sa propre infrastructure. Un fournisseur qui héberge laisse un dossier fait de clauses dans le contrat de quelqu’un d’autre.

Le déployeur, c’est la banque

L’AI Act range parmi les usages à haut risque les systèmes d’IA destinés à évaluer la solvabilité des personnes physiques ou à établir leur note de crédit, à l’exception de la détection de fraude.[1] La banque qui l’exploite est le déployeur, et l’article 26 dit ce que cela signifie : utiliser le système conformément à la notice du fournisseur, confier le contrôle humain à des personnes physiques ayant la compétence, la formation et l’autorité pour l’exercer, surveiller son fonctionnement, et conserver les logs qu’il génère pendant au moins six mois lorsqu’ils sont sous le contrôle de la banque.[2]

Le fournisseur doit l’autre moitié. L’article 12 exige qu’un système à haut risque permette l’enregistrement automatique des événements sur toute sa vie, et l’article 13 exige qu’il soit livré avec une notice d’utilisation.[3] Le dossier du déployeur s’ouvre sur deux documents du fournisseur : la notice, et ce que le système enregistre et où.

Sous son contrôle

Relisez l’article 26 : le déployeur conserve les logs dans la mesure où ils sont sous son contrôle.[2:1] Cette clause est la charnière du dossier. Si les logs sont dans le cloud du fournisseur, le contrôle du déployeur est une promesse contractuelle. S’ils sont sur ses disques, le contrôle est un fait qu’il montre au superviseur sans demander à personne.

Un enregistrement de prompts et de complétions est une transcription de ce que le modèle a dit. Un superviseur qui demande pourquoi un prêt a été refusé a besoin d’un enregistrement de ce qui a été fait : quelles données lues, quelle règle appliquée, qui a approuvé. Une trace qu’on peut rejouer est une preuve. Une trace qu’on peut seulement lire est un récit.

Le contrôle humain a besoin d’un nom

L’article 26 dit des personnes physiques, avec autorité.[2:2] Un humain qui valide plusieurs centaines de propositions par jour ne valide rien ; c’est un appareil à signature attaché à un processus qu’il ne peut pas examiner.[4] Le contrôle que la banque documente est une personne, nommée, avec le rang pour refuser la proposition et le temps de la lire. Une décision sans nom au bas de la page, c’est de la météo.[5]

Si chaque action porte déjà un nom par construction, la section sur le contrôle humain décrit ce que le système fait. Sinon, elle décrit un rituel de revue, et le superviseur demandera combien de fois le rituel est sauté.

DORA : le registre, le contrat, la sortie

DORA demande aux entités financières de gérer le risque lié aux tiers prestataires de services TIC et de tenir un registre d’informations sur chaque accord contractuel de services TIC avec un tiers.[6] Ces contrats portent des dispositions que le règlement nomme : où le service est fourni et où les données sont traitées et stockées, les droits d’accès, d’inspection et d’audit de l’entité, et la résiliation avec une stratégie de sortie.[7]

Pour un service hébergé, chaque disposition se négocie, parce que chacune décrit ce que le fournisseur détient. Pour un logiciel installé et opéré par la banque chez elle, l’entrée au registre existe toujours, et la fonction conformité décide comment classer l’accord. Ce qui change, c’est le contenu. La localisation des données est le datacenter de la banque. Le droit d’audit est l’équipe d’exploitation de la banque lisant ses propres logs. La stratégie de sortie est le runbook que l’équipe suit déjà, parce que le logiciel continue quand le fournisseur est parti.

Les fournisseurs d’infrastructure publient leurs propres réponses. CockroachDB soutient que la base de données sous un agent IA doit porter un stockage d’audit append-only, l’attribution d’identité et l’application de la résidence des données avant le déploiement, parce que rien de cela ne se rattrape devant un examinateur.[8] Teleport soutient que les systèmes agentiques exigent des événements d’audit liant chaque action à une identité unique et immuable, et qu’une documentation statique n’est pas une preuve.[9]

RGPD : le DPO décide

Quand un fournisseur traite des données personnelles pour le compte de la banque, l’article 28 du RGPD exige un contrat aux mentions que l’article liste.[10] Un logiciel installé et opéré par le responsable de traitement sur sa propre infrastructure, sans que le fournisseur détienne de données, est une position différente d’un service hébergé. Laquelle s’applique est la décision du DPO, prise sur un seul fait : le fournisseur détient-il, reçoit-il ou accède-t-il jamais aux données ? Le fournisseur utile donne une réponse que le DPO peut vérifier depuis le réseau de la banque plutôt qu’une clause à croire.

Qui écrit chaque ligne

  • Notice d’utilisation et description de l’enregistrement. Le fournisseur fournit, le déployeur conserve.[3:1]
  • Contrôle humain. Le déployeur l’écrit, un nom par décision, avec autorité pour refuser.[2:3]
  • Logs. Le système enregistre, le déployeur conserve, là où les logs sont sous son contrôle.[2:4]
  • Entrée au registre, localisation des données, droits d’audit, sortie. Le déployeur les écrit ; leur contenu dépend d’où le logiciel tourne.[6:1]
  • Analyse article 28. Le DPO.[10:1]

Chaque ligne s’écrit plus vite quand le fournisseur ne détient rien, n’opère rien, et que chaque action porte un nom. L’auditabilité se révélera une arme : ce que le monde exigera d’ici cinq ans est vendable aujourd’hui, et seul l’instinct européen de le traiter comme de la paperasse le gaspille.[11]

Ce que Galahad refuse

Nous n’hébergeons pas vos données. Nous ne faisons pas tourner un control plane dont votre déploiement dépend. Nous ne certifions pas votre conformité, parce que la conformité est le dossier du déployeur, et un fournisseur qui prétend le porter a mal lu le règlement. Le modèle de déploiement est ce qui porte la conformité : votre infrastructure, votre juridiction, votre homologation couvrant l’environnement dans lequel vous installez. Le RGPD et l’AI Act sont satisfaits à ces conditions, et chaque contrôle est nommé plutôt qu’affirmé.

Monarch s’installe dans votre infrastructure, sous vos comptes, vos clés et votre juridiction. Nous n’opérons aucun hébergement de vos données. Venez à la démonstration avec votre DPO et votre registre DORA. Voyez-le sur vos données.

  1. Règlement (UE) 2024/1689, annexe III, point 5, b). Source ↩︎

  2. Règlement (UE) 2024/1689, article 26, obligations incombant aux déployeurs de systèmes d’IA à haut risque. Source ↩︎ ↩︎ ↩︎ ↩︎ ↩︎

  3. Règlement (UE) 2024/1689, article 12, enregistrement, et article 13, transparence et fourniture d’informations aux déployeurs. Source ↩︎ ↩︎

  4. Machines de conséquence, thèse 8. Le lire ↩︎

  5. Machines de conséquence, thèse 11. Le lire ↩︎

  6. Règlement (UE) 2022/2554, article 28, principes généraux du risque lié aux tiers prestataires de services TIC, dont le registre d’informations. Source ↩︎ ↩︎

  7. Règlement (UE) 2022/2554, article 30, principales dispositions contractuelles. Source ↩︎

  8. Cockroach Labs, « DORA Compliance for AI Agents: Database Requirements Before Deployment ». Source ↩︎

  9. Teleport, « Guide: DORA Compliance Evidence for Agentic AI ». Source ↩︎

  10. Règlement (UE) 2016/679, article 28, sous-traitant. Source ↩︎ ↩︎

  11. Machines de conséquence, thèse 47. Le lire ↩︎