Une administration classe des demandes par ordre de priorité au moyen d’un système automatisé. Une entreprise décide quel contenu afficher, quelles opérations bloquer ou quels utilisateurs soumettre à des contrôles supplémentaires. Dans les deux cas, la technologie intervient dans des décisions qui touchent des personnes qui n’en connaissent pas les règles et n’ont pas participé à sa conception.
Un rapport de transparence technologique tente de réduire cette distance. Il expose quel outil est utilisé, à quoi il sert, qui en répond et quels éléments probants existent quant à ses résultats. Toutefois, la publication d’un document ne rend pas, en soi, une organisation transparente. Sa valeur dépend de la qualité de l’information, de la possibilité de la vérifier et des mécanismes disponibles pour contester une décision.
Idée clé : La transparence utile ne se mesure pas au nombre de pages publiées, mais à la capacité qu’elles offrent de comprendre, de vérifier et de contester l’usage d’une technologie.
Qu’est-ce qu’un rapport de transparence technologique
Il n’existe pas de définition juridique universelle. Au sens pratique, il s’agit d’un document public dans lequel une organisation décrit une technologie et les décisions institutionnelles qui l’entourent : finalité, portée, responsables, données, performance, risques, contrôles, modifications et limites.
Il peut porter sur l’intelligence artificielle, sans s’y limiter. Il peut également couvrir des plateformes numériques, des systèmes d’identification, des outils de surveillance, des services cloud, des processus de modération ou des infrastructures gérant des informations sensibles.
La norme britannique de transparence algorithmique en offre un exemple opérationnel : elle demande de décrire la finalité de l’outil, son champ d’application, les responsables, l’intervention humaine, les données, la performance et les mesures face aux risques. Cette norme concerne le secteur public britannique et les outils algorithmiques ; elle sert de référence, et non de modèle obligatoire pour toute organisation ou tout pays.
Quel problème cherche-t-il à résoudre
Quiconque développe, achète ou exploite une technologie en sait généralement bien plus à son sujet que la personne qui en subit les effets. Cette asymétrie d’information complique la détection des erreurs, la discussion des priorités et l’attribution des responsabilités. Elle permet également qu’une décision institutionnelle paraisse inévitable du seul fait d’avoir été présentée comme un simple résultat technique.
Le rapport peut rendre visibles des décisions qui resteraient autrement dispersées : qui a défini l’objectif, avec quelles données le travail a été mené, quelle marge conserve un être humain pour intervenir et ce qui se produit en cas de défaillance du système. Cela importe autant face à la puissance publique que face à des organisations privées capables de conditionner les opportunités, l’accès ou l’expression.
Dans une perspective libérale, l’information vérifiable aide à limiter l’exercice arbitraire du pouvoir. Elle n’impose pas de supposer que toute technologie soit suspecte. Elle exige, plus modestement, que l’entité ou la personne qui décide puisse fournir des justifications et assumer la responsabilité des conséquences.
Quelles informations devrait-il contenir
Le contenu approprié dépend de l’outil, de ses risques et du public qu’il concerne. En tant que bonne pratique, un rapport peut répondre à ces questions :
- Finalité et portée : quel problème cherche-t-il à résoudre et quels usages sont exclus ?
- Responsables : qui l’a développé, acquis, autorisé, qui l’exploite et le supervise ?
- Fonctionnement pertinent : quelles entrées utilise-t-il et comment influe-t-il sur une décision ?
- Données : d’où proviennent-elles, quelles sont leurs limites et comment sont-elles protégées ?
- Intervention humaine : qui peut examiner, corriger ou révoquer un résultat ?
- Performance et impacts : comment évalue-t-on les erreurs, les effets indésirables et les disparités entre groupes ?
- Risques et contrôles : quels préjudices ont été anticipés et quelles mesures les réduisent ?
- Période et modifications : à quelles dates correspondent les informations et quels changements ont eu lieu ?
- Limites : qu’est-ce qui n’est pas connu, n’a pas été mesuré ou ne peut pas être divulgué, et pourquoi ?
L’OCDE, dans ses principes sur l’intelligence artificielle, souligne que l’information doit être significative et adaptée au contexte, et que les personnes concernées doivent pouvoir comprendre et contester des résultats défavorables. Cet enseignement peut être formulé de manière plus générale : un vaste dépôt de données ou de code n’aide pas si le lecteur ne peut le relier à une décision concrète.
Idée clé : L’accès n’équivaut pas à la compréhension. L’information a besoin de contexte, d’un langage clair et d’un lien visible avec les décisions qui touchent les personnes.
Un exemple simple
Imaginons une entité qui utilise un système pour classer des demandes par ordre de priorité. Un rapport utile ne se contenterait pas de déclarer qu’elle emploie une « intelligence artificielle responsable ». Il expliquerait quelles demandes entrent dans le système, quels facteurs influent sur la priorité, qui a approuvé son utilisation, à quelle fréquence il est révisé et quelles erreurs ont été relevées.
Il indiquerait également si un agent peut modifier la recommandation, comment cette intervention est enregistrée et de quelles voies dispose une personne pour demander un réexamen. Si certains détails ne sont pas publiés pour des motifs de confidentialité ou de sécurité, le document devrait préciser la nature de la réserve et les contrôles alternatifs appliqués. Pour structurer cette analyse, il peut être utile d’élaborer un modèle de menaces numériques.
Ce qu’il ne faut pas confondre avec le rapport
Plusieurs concepts voisins remplissent des fonctions distinctes :
- Audit : le rapport expose ; l’audit vérifie à l’aide de critères, d’un accès aux éléments probants et, dans des conditions idéales, d’une indépendance suffisante. Un document auto-déclaratif ne remplace pas cet examen.
- Transparence algorithmique : elle se concentre sur les systèmes algorithmiques. La transparence technologique peut englober en outre la passation des marchés, l’infrastructure, la sécurité, les données et la gouvernance institutionnelle.
- Explicabilité : elle vise à clarifier le fonctionnement d’un système ou la manière dont il est parvenu à un résultat donné. Elle peut constituer une section du rapport, mais n’indique pas nécessairement qui a décidé de l’utiliser ni qui répond de ses effets.
- Code ou données ouverts : ils permettent des vérifications utiles, bien que leur seule publication puisse s’avérer inintelligible ou empiéter sur des droits. L’ouverture doit coexister avec la vie privée et le contrôle légitime sur les données personnelles ; cette tension se comprend mieux à la lumière des débats sur la propriété des données personnelles.
- Conformité : divulguer des pratiques ne démontre pas qu’elles soient légales, équitables ou efficaces. Cela dépend des règles applicables et des éléments de preuve.
Comment reconnaître un rapport crédible
Un lecteur n’a pas besoin d’être ingénieur pour évaluer les signaux fondamentaux de qualité. En premier lieu, il convient de rechercher la précision : le nom des systèmes, les responsables, les périodes et les champs d’application, plutôt que des promesses abstraites. Ensuite, la traçabilité : les sources de données, les méthodes d’évaluation, l’historique des modifications et le lien entre risques et mesures de contrôle.
La comparabilité d’une période à l’autre, l’accessibilité de la langue et une date claire de mise à jour comptent également. Un rapport sérieux admet les incertitudes, les résultats défavorables et les limites ; il ne sélectionne pas uniquement des indicateurs avantageux.
La possibilité de confronter les déclarations renforce leur crédibilité. Elle peut découler de données réutilisables, d’une documentation méthodologique, d’une supervision indépendante ou d’audits. Le cadre de gestion des risques liés à l’IA du NIST insiste sur l’attribution des rôles, la documentation des processus et l’examen des risques, tout en mettant en garde contre les tensions entre transparence, vie privée, sécurité et d’autres valeurs. Divulguer davantage n’est pas toujours préférable si cela expose des données personnelles ou facilite des attaques.
Avertissement : Dissimuler sans explication fait obstacle à l’examen ; divulguer sans discernement peut provoquer d’autres dommages. Une réserve légitime doit être délimitée, justifiée et accompagnée de contrôles alternatifs.
La transparence n’est pas une reddition de comptes complète
Même un rapport remarquable a ses limites. Il peut contenir des erreurs, passer sous silence des questions embarrassantes ou présenter des décisions discutibles dans un style rassurant. Il ne garantit pas que le système soit précis, sûr, impartial ou légal. Il n’offre pas non plus, à lui seul, de réparation à la personne qui a subi un préjudice.
La reddition de comptes exige davantage : des règles claires, des responsables identifiables, la conservation des éléments probants, une supervision dotée d’une capacité d’action réelle et des voies de recours pour contester les décisions. Le cas échéant, elle requiert en outre des audits et des conséquences en cas de non-respect.
C’est pourquoi la question finale n’est pas de savoir si une organisation « publie de la transparence », mais si les informations permettent de soumettre son pouvoir technologique à l’examen. Un bon rapport ouvre cette perspective. La confiance, quant à elle, ne peut naître qu’après avoir confronté les déclarations à la pratique et vérifié qu’il existe des limites effectives.
Partager