IA responsable : principes et mise en oeuvre

AWS structure sa vision de l'IA responsable autour de plusieurs dimensions complémentaires. L'équité vise à limiter les traitements défavorables systématiques envers certains groupes de personnes. L'explicabilité cherche à rendre compréhensibles les décisions d'un modèle, en particulier dans des contextes à fort enjeu comme le crédit ou le recrutement. La robustesse garantit qu'un système continue à fonctionner correctement face à des données inhabituelles ou à des tentatives de manipulation.

La gouvernance encadre les processus de décision, de validation et de responsabilité autour d'un système d'IA tout au long de son cycle de vie. La transparence consiste à documenter clairement les capacités et les limites d'un système pour ses utilisateurs. La confidentialité et la sécurité protègent les données utilisées par le système, et la durabilité prend en compte l'impact environnemental des ressources de calcul mobilisées. Ces dimensions ne s'opposent pas à la performance d'un modèle, elles font partie intégrante d'un déploiement réussi et pérenne.

Un biais algorithmique désigne un écart de traitement systématique et non désiré entre différents groupes, qui peut apparaître à plusieurs étapes du cycle de vie d'un modèle. Le biais peut déjà exister dans les données d'entraînement, si celles-ci reflètent des inégalités historiques ou sous-représentent certains groupes. Il peut aussi venir du choix des variables utilisées par le modèle, si une variable corrèle indirectement avec une caractéristique sensible comme l'origine géographique ou le genre.

Le biais peut enfin apparaître lors de l'évaluation, si les métriques choisies ne mesurent pas la performance séparément pour chaque sous-groupe concerné. Un modèle peut afficher une excellente précision globale tout en se trompant beaucoup plus souvent pour un sous-groupe particulier, un phénomène invisible si l'on ne regarde que la métrique agrégée.

Amazon SageMaker Clarify s'intègre à plusieurs étapes du cycle de vie ML. Avant l'entraînement, il mesure des déséquilibres statistiques dans le jeu de données, par exemple une sous-représentation d'un groupe. Après l'entraînement, il calcule des métriques de biais sur les prédictions elles-mêmes et fournit des explications d'importance des variables, notamment via la méthode SHAP, pour comprendre quels facteurs pèsent le plus dans une décision.

Pour l'IA générative, Amazon Bedrock Guardrails permet de définir des règles de filtrage appliquées en entrée comme en sortie d'un modèle : blocage de sujets sensibles, filtrage de contenu toxique ou violent, masquage d'informations personnelles identifiables, et détection de tentatives de contournement des instructions du système (prompt injection). Ces garde-fous s'appliquent indépendamment du modèle sous-jacent choisi dans Bedrock.

Les AWS AI Service Cards sont des fiches publiques publiées par AWS pour certains services et modèles d'IA. Chaque fiche décrit les cas d'usage prévus, les cas d'usage déconseillés, les limites connues du système, ainsi que les considérations de performance et d'équité mesurées par AWS lui-même. Elles s'inspirent de la pratique des model cards popularisée dans la recherche en IA.

Ces fiches sont un outil concret de transparence envers les équipes qui construisent une solution sur AWS : elles permettent de vérifier, avant de choisir un service, qu'il correspond bien au cas d'usage envisagé et d'anticiper ses limites plutôt que de les découvrir en production. À l'examen, retenir qu'une AI Service Card documente un service existant, elle ne remplace pas une évaluation propre à l'application finale construite par l'entreprise.