IA et éthique : si vos valeurs ne sont pas traduites en règles, votre IA décidera sans elles
L’éthique de l’intelligence artificielle est souvent évoquée dans les chartes, les discours ou les communications institutionnelles. Mais dans beaucoup d’organisations, elle reste encore trop abstraite pour réellement orienter les décisions.
Or l’IA oblige à aller beaucoup plus loin qu’une éthique cosmétique.
Une entreprise qui déploie des outils d’intelligence artificielle doit répondre à deux questions différentes :
- Comment prévenir et gérer les tensions humaines et organisationnelles que l’IA va créer ?
- Et comment faire en sorte que les systèmes d’IA eux-mêmes agissent dans un cadre cohérent avec les valeurs et les responsabilités de l’entreprise ?
C’est là que l’éthique devient un outil de gouvernance.
Anticiper les tensions entre l’humain et l’IA
L’IA transforme progressivement les métiers, les responsabilités et les rapports au travail. Les tensions sont donc prévisibles.
Un collaborateur peut craindre d’être remplacé ou évalué par une machine. Un manager peut être tenté de déléguer une décision à un outil dont il ne comprend pas complètement le fonctionnement. Une direction peut rechercher des gains de productivité tandis que les équipes s’interrogent sur la perte d’autonomie ou la qualité du travail.
Ces tensions ne sont pas seulement techniques.
Elles concernent la confiance, la responsabilité, l’équité, l’autonomie, la reconnaissance du travail et parfois le sens même du métier.
C’est pourquoi la réflexion doit associer plusieurs acteurs.
La direction doit fixer ce qu’elle considère comme acceptable et souhaitable. Les collaborateurs doivent pouvoir exprimer les difficultés réelles rencontrées dans leur travail. Les représentants des métiers doivent préciser les situations dans lesquelles une décision humaine doit rester déterminante. Les tiers (clients, usagers, fournisseurs ou partenaires) peuvent également être directement concernés par les choix réalisés. Certains éditeurs logiciels risquent même de vous imposer leurs choix éthiques (ou non-choix).
Le consultant joue ici un rôle de structuration : faire émerger les tensions, confronter les points de vue et transformer des valeurs générales en règles utilisables.
L’OCDE rappelle d’ailleurs que les systèmes d’IA dignes de confiance doivent notamment respecter l’autonomie humaine, l’équité, la transparence et la responsabilité, et prévoir des mécanismes appropriés de supervision humaine.
L’éthique doit aussi entrer dans la conception de l’IA
Le deuxième niveau est encore plus important.
Il ne suffit pas de demander aux salariés d’utiliser l’IA de manière responsable. Il faut également préciser comment l’IA elle-même doit se comporter.
Une entreprise doit donc être capable de répondre à des questions très concrètes :
- Quels sont les règles générales qu’elle doit toujours suivre ?
- Quelles données l’IA peut-elle utiliser ?
- Quelles informations doit-elle exclure ?
- Quels critères doit-elle privilégier ?
- Quels arbitrages ne doit-elle jamais effectuer seule ?
- Quand doit-elle demander une validation humaine ?
- Quel degré d’explication doit-elle fournir ?
Cela signifie que l’éthique doit progressivement devenir une composante de la configuration du système.
Elle peut influencer le choix des modèles, les instructions système, les données utilisées dans un système RAG, les règles de décision, les seuils de confiance, les contrôles humains ou encore les critères d’évaluation des résultats.
Autrement dit :
Valeurs de l’entreprise → principes éthiques → règles d’usage → règles de fonctionnement de l’IA → données autorisées → supervision humaine
Le droit impose déjà certaines limites. Mais il ne répond pas à toutes les questions.
Deux entreprises juridiquement conformes peuvent faire des choix très différents sur le niveau d’autonomie accordé à une IA, sur les données qu’elles acceptent d’exploiter ou sur la place qu’elles souhaitent conserver à la décision humaine.
C’est précisément là que l’éthique devient stratégique.
De la charte éthique à l’architecture de décision
Une charte peut être utile. Mais elle n’a de valeur que si elle produit des effets concrets.
La démarche consiste donc à partir des principes portés par la direction, à les confronter aux réalités exprimées par les collaborateurs et les métiers, puis à les traduire en exigences opérationnelles.
Le consultant peut alors aider à formaliser ces choix et à les intégrer dans la gouvernance de l’IA.
Les tiers ne doivent pas être oubliés : un client ou un usager peut être affecté par une décision prise ou recommandée par une IA sans même savoir quelles règles ont guidé le système.
Cette capacité à transformer des principes en règles devient donc une compétence de gouvernance à part entière.
Une question simple à poser avant tout projet IA
Avant de demander : « Que peut faire cette IA ? », il devient nécessaire de demander également : « Que voulons-nous qu’elle puisse faire, dans quelles limites, selon quelles règles et sous quelle responsabilité ? »
Cette seconde question est probablement l’une des plus importantes pour les entreprises qui souhaitent déployer l’intelligence artificielle de manière durable.
L’éthique n’est alors plus un supplément de communication.
Elle devient un outil pour anticiper les tensions, sécuriser les décisions et construire des systèmes d’IA cohérents avec la culture et les responsabilités de l’entreprise.
Les travaux de l’OCDE sur l’IA au travail vont dans le même sens : ils mettent notamment en avant les enjeux de vie privée, d’équité, d’autonomie, de dignité, de transparence et de responsabilité liés à l’usage de l’IA dans les organisations.
Pour IA-Brest, c’est précisément l’enjeu : faire passer l’éthique de l’IA du discours à l’architecture de décision.
IA-Brest est née de notre expérience en qualité d’utilisateur de l’IA (depuis que ChatGPT a été commercialisé largement début 2023) mais aussi de notre réflexion plus académique en qualité d’enseignent sur l’éthique & IA à l’ISEN Ouest.
