L’IA générative en entreprise : trois garde-fous avant le premier pilote
La bonne question n’est pas « que peut faire le modèle », mais « quelle décision allons-nous lui confier, et à quelles conditions ».
Anaïs Lemoine
Associée · Directrice de l’Institut GRSCH·Lausanne
L’enthousiasme pour l’IA générative produit beaucoup de démonstrateurs et peu de valeur. Le schéma est connu : une preuve de concept impressionne le comité, puis rien ne passe en production. Le problème est rarement technique. Il est de gouvernance.
Premier garde-fou : partir de la décision, pas de la technologie. Un modèle n’a de valeur que s’il change une action — un devis mieux tarifé, une maintenance mieux planifiée. Si personne ne sait quelle décision changera, le pilote échouera, quelle que soit sa qualité.
Deuxième garde-fou : la traçabilité. En salle des marchés comme en production, une recommandation non explicable est une recommandation inutilisable. Nous imposons dès le pilote la capacité de dire pourquoi le modèle a proposé ce qu’il a proposé.
Troisième garde-fou : la responsabilité. Un modèle ne décide pas ; il assiste. Chaque cas d’usage doit nommer la personne qui reste responsable de l’issue. Sans cela, l’organisation délègue son jugement à un outil qu’elle ne contrôle pas.