Sécuriser et gouverner les solutions d'IA

Les données d'entraînement, les prompts envoyés à un modèle et les réponses générées sont des données sensibles à protéger comme n'importe quelle autre donnée d'entreprise. Le chiffrement au repos protège les données stockées, par exemple dans Amazon S3 ou dans une base vectorielle, à l'aide d'AWS Key Management Service (KMS) pour gérer les clés de chiffrement. Le chiffrement en transit protège les données lors de leur transmission entre services, via TLS.

AWS Identity and Access Management (IAM) contrôle précisément qui peut invoquer un modèle, consulter des données d'entraînement ou modifier une configuration, en appliquant le principe du moindre privilège. Un VPC (Virtual Private Cloud) permet d'isoler réseau les ressources de calcul utilisées par une solution d'IA, en évitant toute exposition directe à internet quand ce n'est pas nécessaire.

AWS applique le modèle de responsabilité partagée à ses services d'IA comme au reste de sa plateforme. AWS est responsable de la sécurité de l'infrastructure sous-jacente : les centres de données, le matériel, le réseau et la couche de virtualisation. Le client reste responsable de la sécurité dans le cloud : la configuration des accès IAM, le chiffrement des données qu'il y stocke, la classification de ses données sensibles, et la conformité de son usage aux réglementations qui s'appliquent à son secteur.

Cette distinction est régulièrement testée à l'examen sous forme de mise en situation : un client qui laisse un compartiment S3 public engage sa propre responsabilité, même si l'infrastructure AWS elle-même reste sécurisée.

Amazon Macie utilise le machine learning pour scanner automatiquement les données stockées dans Amazon S3 et identifier des informations sensibles ou personnellement identifiables, comme des numéros de carte bancaire ou des données de santé. Ce type d'outil est particulièrement utile avant d'utiliser un jeu de données pour entraîner ou personnaliser un modèle, afin de vérifier qu'aucune donnée sensible non anonymisée ne s'y trouve.

AWS CloudTrail enregistre l'historique des appels effectués sur les services AWS, ce qui permet de savoir qui a invoqué un modèle, modifié une configuration Bedrock ou accédé à un jeu de données, et à quel moment. AWS Config évalue en continu la conformité de la configuration des ressources par rapport à des règles définies, par exemple pour vérifier qu'un compartiment S3 contenant des données d'entraînement reste bien privé.

Une solution d'IA qui traite des données personnelles doit respecter les cadres réglementaires applicables, comme le RGPD en Europe, ainsi que d'éventuelles règles sectorielles plus strictes dans la santé ou la finance. Ces obligations concernent aussi bien les données d'entraînement que les données envoyées en inférence, et doivent être anticipées dès la conception de la solution plutôt que traitées après coup.

La gouvernance d'un système d'IA couvre l'ensemble de son cycle de vie : la traçabilité des versions de modèle utilisées, la documentation des décisions de conception, la définition claire des rôles et responsabilités entre les équipes data, sécurité et métier, et la mise en place de processus de revue avant chaque mise en production. Amazon Bedrock Guardrails et les AWS AI Service Cards, déjà vus dans le domaine de l'IA responsable, participent aussi à cette gouvernance en documentant et en encadrant le comportement des modèles utilisés.