Guide
Décider d'utiliser l'IA : les questions à se poser
Quatre questions à trancher avant d'introduire l'IA dans son entreprise : problème, données, risque d'erreur et mesure du résultat. Grille à remplir.
Mis à jour le
Décider d'utiliser une IA dans son entreprise, c'est répondre à quatre questions avant d'ouvrir un compte ou de signer un contrat. Si l'une reste sans réponse, l'essai ne doit pas commencer. Ce guide donne la grille, puis le détail de chaque question.
La grille en une page
| Question | Réponse attendue | Signal d'alerte |
|---|---|---|
| 1. Quel problème précis ? | Une tâche, un temps perdu, une erreur répétée | « Pour être moderne » ou « les autres le font » |
| 2. Quelles données ? | Documents sans information personnelle, ou données traitées selon une règle écrite | Fiches clients ou dossiers salariés copiés dans l'outil |
| 3. Quel risque d'erreur ? | Le coût d'une erreur, et qui la voit avant le client | « L'outil ne se trompe pas » |
| 4. Comment mesurer ? | Un indicateur, une date, un point de comparaison | Aucun critère de réussite écrit |
Une décision se prend quand les quatre cases sont remplies et que le dirigeant peut dire, en deux phrases, ce qu'il attend et ce qu'il accepte de perdre si l'outil échoue.
1. Quel problème précis ?
Écrivez la tâche, pas l'outil. « Répondre aux demandes de devis qui arrivent le soir » est une tâche. « Avoir une IA » ne l'est pas. Demandez-vous combien de fois la tâche revient chaque semaine, qui la fait, et ce qui se passe quand elle est mal faite.
Une tâche qui revient souvent, qui ne demande pas de jugement engageant et qui se relit facilement est un bon candidat. Une tâche rare, ou qui engage une personne, ne l'est pas.
2. Quelles données ?
La CNIL demande aux utilisateurs de ne soumettre que les informations qu'ils sont autorisés à partager. Elle recommande d'éviter les données personnelles, surtout avec un service grand public, et d'exclure les données confidentielles, comme les secrets d'affaires.
Pour chaque tâche, listez les données utilisées : nom d'un client, adresse, dossier d'un salarié, données de santé, chiffres confidentiels. Si la liste contient des données personnelles, la décision ne se prend pas seul : elle passe par un examen de la protection des données de l'entreprise, et le choix de l'outil doit en tenir compte.
3. Quel risque d'erreur ?
Les modèles génératifs produisent le résultat le plus probable, qui peut être faux tout en paraissant plausible. La CNIL le rappelle : une confiance excessive, sans vérification, peut conduire à des décisions erronées.
Posez la question ainsi : si la réponse de l'outil est fausse et part chez le client, que coûte-t-elle ? Une erreur de mise en forme se corrige. Une erreur sur un prix, un délai, une garantie ou un salarié engage l'entreprise. Plus le coût est élevé, plus la relecture doit être humaine, et plus le périmètre doit rester petit.
Une décision qui touche une personne demande une règle plus stricte. Pour l'embauche, Service-Public indique que la discrimination peut se produire dès le recrutement, et qu'il existe 25 critères interdits par la loi. Un outil de tri ne peut pas écarter un candidat sur l'un de ces critères, même sans le vouloir.
4. Comment mesurer ?
Sans mesure, l'essai ne prouve rien. Fixez avant de commencer une tâche, un indicateur simple et une date de bilan. Par exemple : le temps passé à rédiger un devis, mesuré sur dix devis avant l'essai, puis sur dix devis pendant l'essai. Le guide indicateurs de pilotage donne quatre mesures à suivre.
La décision écrite
Une fiche de décision tient en une page :
- la tâche visée, et les personnes concernées ;
- les données utilisées, et celles qui sont exclues ;
- la personne qui relit chaque sortie, et la règle de relecture ;
- l'indicateur, la date de bilan, et la règle d'arrêt si le résultat est mauvais ;
- la personne qui répond de la décision.
Gardez cette fiche avec le compte de l'outil. Elle servira si l'équipe pose une question, ou si un client demande comment une réponse a été produite.
Erreurs à éviter
- Décider sur une démonstration, sans tester sur un cas réel de l'entreprise.
- Laisser l'outil fixer le périmètre, au lieu de le fixer soi-même.
- Oublier la personne qui devra utiliser l'outil au quotidien.
Liste de vérification
- La tâche est écrite en une phrase, avec sa fréquence.
- Les données utilisées sont listées, et les données personnelles exclues.
- Une personne relit chaque sortie avant envoi.
- L'indicateur, la date de bilan et la règle d'arrêt sont fixés.
- Le dirigeant a écrit qui répond de la décision.
Ce qui reste au dirigeant
Le choix de l'outil, l'acceptation du risque et l'arrêt d'un essai appartiennent au dirigeant. Un outil peut proposer des options, il ne peut pas décider à votre place. Pour les règles de responsabilité, voir la page responsabilité du dirigeant. Pour ce qui ne se délègue pas du tout, voir limites de l'IA pour un dirigeant.
Questions fréquentes
Faut-il un écrit avant de lancer un premier essai d'IA ?
Oui. La CNIL recommande de mener une analyse des risques et de définir une gouvernance claire avant tout déploiement. Une grille d'une page suffit pour commencer : le problème, les données, le risque, la mesure.
Peut-on confier à l'outil la sélection des candidats ?
Non. La décision d'embauche reste humaine. Service-Public rappelle qu'il existe 25 critères de discrimination interdits par la loi, et que les informations demandées à un candidat doivent uniquement permettre d'évaluer ses compétences.
Combien de temps garder une décision de ce type ?
Le dossier de décision doit pouvoir être retrouvé. Cette page ne fixe pas de durée de conservation : voir la source officielle de la CNIL sur les traitements de données, avant de fixer une règle.
Sources
Pages consultées pour écrire cet article :