Dans un post précédent, nous vous parlions des raison pour lesquelles il était nécessaire de mettre en place une charte d’utilisation de l’IA au sein de sa PME.
Gérer les risques liés à l’IA : la sécurité et la qualité des données
- L’IA repose sur des données. Et dans une PME, ces données sont rarement structurées, encore moins auditées. C’est pourtant un point critique : une IA qui s’appuie sur des informations incomplètes, biaisées ou obsolètes produira inévitablement des résultats inexactes. La réflexion au sein d’une entreprise peut se baser sur les élément suivants :
Qualité et provenance des données
Les données utilisées pour entraîner ou alimenter un outil d’IA doivent être légales, impartiales, pertinentes. Cela suppose de clarifier leur source, leur actualité, et d’exclure les jeux de données contenant des biais manifestes (discriminations, informations erronées, etc.).
Traçabilité et documentation
Même si l’outil est développé par un prestataire externe, il est essentiel de demander une documentation claire : quelles données sont utilisées ? Quelle est la logique de fonctionnement ? Quels sont les critères d’évaluation ?
Robustesse technique et sécurité
Le stockage des données et le fonctionnement des outils doivent être résistants aux cyberattaques, aux erreurs, et aux manipulations. En pratique, cela signifie :
-
- ne pas utiliser n’importe quelle IA “gratuite” en ligne pour traiter des documents sensibles ;
- s’assurer que les données ne sortent pas du périmètre européen sans garanties (RGPD, etc.) ;
- prévoir des tests et validations réguliers, via des audits périodiques de qualité.
Ce travail de maîtrise des risques peut paraître ambitieux mais reste parfaitement accessible à une PME pour autant d’avoir mis en place, au préalable, une politique claire.
-
Transparence et supervision humaine
- Une IA opaque, c’est une boîte noire. Une boîte noire, dans une entreprise, ça finit toujours par générer de la défiance ou des erreurs qui peuvent ne pas être détectées rapidement. L’un des piliers d’une politique IA bien conçue, c’est donc la transparence du fonctionnement des outils, et leur explicabilité. Chaque outil devrait fournir une documentation claire sur comment il produit ses résultats. Dans une entreprise, cela implique au minimum de :
- Demander aux fournisseurs IA d’expliquer les bases de fonctionnement de leurs outils (modèle utilisé, logique de classement ou de recommandation, critères pondérés, etc.) (voir notre article sur les 7 questions à poser à un fournisseur de système d’IA) ;
- Informer les utilisateurs internes (collaborateurs, managers) des limites de l’outil, des biais potentiels, et des précautions à prendre ;
- Permettre à un humain de reprendre la main à tout moment : les systèmes ne doivent jamais produire seuls une décision engageant l’entreprise sans validation humaine.
Ce principe de supervision humaine est d’ailleurs l’un des fondements du règlement EU sur l’IA. Il faut garantir que la responsabilité reste humaine,
Dans une PME, cela peut se traduire par une règle simple : toute décision stratégique ou sensible assistée par une IA (ex. : analyse de contrat, tri de CV, segmentation client automatisée) doit être mentionnée puis relue, validée ou modifiée par un humain,
La transparence, c’est aussi une attitude : dire ce que l’on fait, expliquer pourquoi et être capable de justifier les choix technologiques. C’est ce qui permettra de construire une confiance durable autour des usages IA en interne comme vis-à-vis des clients ou des partenaires de l’entreprise.
Vers une charte IA à taille humaine : des principes concrets à formaliser
Tout l’enjeu, pour une PME, est de formaliser une charte IA qui ne soit ni trop vague ni trop technique. Une charte utile, c’est une charte qu’on peut relire quand une question se pose, qu’on peut transmettre à un prestataire, ou utiliser comme base de sensibilisation interne.
Il ne s’agit pas de réécrire le règlement européen sur l’IA. Mais de poser quelques principes, clairs et opérationnels, qui guideront les usages concrets au sein de l’entreprise : quels outils peuvent être utilisés, dans quel cadre, avec quelles limites, et sous quelle supervision.
Voici une grille de lecture possible, inspirée à la fois des exigences réglementaires à venir, et des bonnes pratiques déjà identifiées par les professionnels du numérique. Chaque principe peut faire l’objet d’une clause dans une charte IA interne :
| Principe | Définition | Question d’évaluation des risques |
|---|---|---|
| Confidentialité et sécurité | Les outils d’IA doivent respecter la confidentialité des données traitées. | L’outil peut-il exposer des données sensibles ou stratégiques (ex. : contrats, données clients) ? Est-il sécurisé ? |
| Fiabilité et robustesse | L’IA doit fonctionner de manière stable, prévisible, et testée. | Risque-t-elle de produire des erreurs non détectées ou de se dégrader sans contrôle ? |
| Équité | L’IA ne doit pas produire de discriminations ou de biais injustifiés. | Le modèle peut-il affecter certains profils (candidats, clients, etc.) de manière injuste ou non pertinente ? |
| Inclusivité | L’IA doit être pensée pour être accessible à tous et ne pas exclure certains usages. | L’outil prend-il en compte la diversité des utilisateurs internes ou des publics visés ? |
| Transparence | Le fonctionnement de l’outil doit pouvoir être expliqué en termes simples. | Sait-on comment l’IA prend ses décisions ? Peut-on expliquer ses résultats aux utilisateurs ou aux clients ? |
| Responsabilité humaine | Les décisions clés doivent rester sous contrôle humain. | Qui valide, modifie ou annule une décision automatisée ? Qui est responsable en cas de problème ? |
Cette grille peut être le point de départ au sein de votre entreprise. Chaque PME peut adapter ces principes selon son activité, ses outils, et ses enjeux. L’essentiel est de transformer ces notions en règles pratiques, connues des équipes, et applicables sans ambiguïté.
Mettre en place une charte d’usage de l’IA n’est pas un exercice de conformité pour la conformité. C’est un outil de gouvernance, de pédagogie et de maîtrise des risques. En posant quelques principes simples ( confidentialité, transparence, supervision humaine) une PME peut baliser son usage de l’IA de manière efficace sans tomber dans la technocratie.
Cette démarche peut aussi évoluer dans le temps : une charte n’est pas figée. Elle peut s’enrichir au fil des outils utilisés, des retours d’expérience internes, ou de l’évolution du cadre réglementaire européen.
Vous envisagez de cadrer les usages IA dans votre entreprise, ou de rédiger une charte claire à partager avec vos équipes ou vos prestataires ?
Notre cabinet peut vous accompagner pour traduire ces principes en clauses adaptées à votre contexte, avec un souci d’efficacité, de clarté et de conformité.
Avocat en droit des affaires, Florian conseille les entreprises et les start-ups à développer leur activité dans divers secteurs.
Florian a développé un savoir-faire dans le droit des technologies et plus particulièrement sur la technologie blockchain qu’il pratique quotidiennement. Il conseille régulièrement des start-up et des sociétés actives dans l’industrie blockchain. Grâce à sa formation, Florian offre un service complet aux entrepreneurs qui façonnent le monde de demain.
