Guide
Responsabilité du dirigeant face à une erreur de l'IA
Qui répond d'une erreur produite par l'IA devant clients et salariés : ce que dit la CNIL, ce qu'il faut prévoir par écrit, quand consulter un juriste.
Mis à jour le
Quand une réponse produite par l'intelligence artificielle (IA) est fausse, le client ou le salarié ne s'adresse pas à l'outil. Il s'adresse à l'entreprise, et donc à son dirigeant. Ce guide dit ce que la CNIL écrit sur ce point, ce qu'un dirigeant peut prévoir par écrit, et quand il faut consulter un juriste.
Ce n'est pas un avis juridique. Aucune règle de droit n'est tirée ici d'un texte qui n'a pas été lu pour cette page. Quand une question de responsabilité se pose, la réponse exacte dépend du contrat, des faits et du texte applicable : elle doit être donnée par un juriste.
Ce que dit la CNIL
La CNIL, dans sa foire aux questions sur les systèmes d'IA générative, pose trois points utiles au dirigeant.
| Point | Ce que dit la CNIL | Conséquence pour le dirigeant |
|---|---|---|
| Mauvaise utilisation | En cas de mauvaise utilisation par le personnel, « l'organisme utilisateur qui engagera sa responsabilité légale » | Le dirigeant ne peut pas renvoyer la faute sur l'outil ou sur le salarié seul |
| Vérification | Les utilisateurs doivent vérifier l'exactitude des sorties, l'absence de plagiat et l'absence de biais discriminatoires | La relecture est une obligation de fait, à écrire dans les règles d'équipe |
| Reproduction | Il ne faut jamais reproduire telles quelles les sorties de ces systèmes | Un texte envoyé sans relecture engage l'entreprise comme s'il était écrit à la main |
Qui répond de quoi
Trois personnes peuvent être concernées par une erreur : l'entreprise qui envoie le résultat, le salarié qui l'a utilisé, et le fournisseur de l'outil. La CNIL recommande d'encadrer le fournisseur par un contrat de sous-traitance et de clarifier les responsabilités. Sa page sur le sous-traitant indique que ce contrat doit comporter une obligation de transparence et de traçabilité, une obligation de garantir la sécurité des données, et une obligation d'assistance, d'alerte et de conseil.
Le contrat ne répond donc pas à toutes les questions. Il ne dit pas, à lui seul, qui supporte le coût d'une erreur envers un client. C'est pour cela qu'il faut le lire avec un juriste.
Ce qu'un dirigeant peut prévoir sans juriste
Quelques règles simples réduisent le risque, sans prétendre le supprimer :
- Une règle d'usage écrite. Précisez quels usages sont permis, lesquels sont interdits, et qui relit.
- Une relecture avant envoi. Tout ce qui sort vers un client, un salarié ou un partenaire est relu par une personne qui a le pouvoir de le corriger.
- Une trace. Gardez la demande, la version envoyée et la personne qui l'a validée, pour les contenus importants.
- Une procédure d'erreur. Décidez à l'avance qui prévient le client, qui corrige, et qui décide de la suite.
- Pas de décision seule. Un refus, une sanction, un licenciement ou un prix ne se décident pas à partir d'une sortie d'outil.
Un tableau pour décider qui consulte
| Situation | Premier réflexe | Qui consulter |
|---|---|---|
| Faute de frappe ou de mise en forme | Corriger et envoyer une version juste | Personne |
| Erreur sur un prix, un délai ou une garantie | Prévenir le client par écrit, arrêter la sortie | Juriste, et le contrat du fournisseur |
| Information fausse sur une personne | Retirer le contenu, noter les faits | Juriste |
| Décision sur un salarié | Ne pas décider sur la sortie de l'outil | Juriste et, si besoin, le service compétent |
Erreurs fréquentes
- Croire que l'outil « répond » à la place de l'entreprise.
- Laisser un salarié utiliser un outil sans règle écrite.
- Ne pas garder la trace de ce qui a été envoyé.
Liste de vérification
- Une règle d'usage écrite existe, et les salariés l'ont reçue.
- Chaque contenu sortant est relu par une personne désignée.
- Le contrat avec le fournisseur a été lu, avec ses clauses de données et de sécurité.
- Une procédure d'erreur est écrite, avec des noms et des fonctions.
- Un juriste a été consulté pour les cas qui touchent un client ou un salarié.
Ce qui reste au dirigeant
La responsabilité de l'entreprise est une décision de gouvernance : elle se prépare avant l'erreur, pas après. Les règles de décision sont dans la page décider. Les erreurs les plus courantes sont listées dans la page erreurs fréquentes, et ce qu'un dirigeant ne doit pas déléguer est dans la page limites.
Questions fréquentes
Si un salarié utilise l'IA et commet une erreur, qui en répond ?
Selon la CNIL, en cas de mauvaise utilisation par le personnel, c'est l'organisme utilisateur qui engage sa responsabilité légale. Le dirigeant doit donc prévoir des règles d'usage écrites, une formation et une relecture.
Le fournisseur de l'outil répond-il de l'erreur à ma place ?
Cette page ne le dit pas. Le contrat avec le fournisseur précise ses obligations, mais la répartition des responsabilités relève d'un juriste qui lira le contrat. Voir la source officielle de la CNIL sur le sous-traitant.
Un client peut-il réclamer après une réponse produite par l'IA ?
Oui, si la réponse engage l'entreprise. Ce guide ne donne pas la règle applicable à chaque cas : un juriste doit l'examiner. La règle de relecture avant envoi reste la protection la plus simple.
Sources
Pages consultées pour écrire cet article :