IA responsable, limites et bonnes pratiques d'usage

Une hallucination désigne une réponse produite par le modèle avec une formulation assurée, alors qu'elle est factuellement fausse, inexacte ou totalement inventée : une citation qui n'existe pas, une référence légale erronée, un chiffre approximatif présenté comme exact. Ce phénomène découle directement du fonctionnement du modèle décrit plus tôt dans ce parcours : le modèle génère la suite de texte la plus plausible statistiquement, pas la suite la plus vérifiée factuellement, et il n'a pas de mécanisme interne pour signaler son incertitude de façon fiable. Le risque d'hallucination augmente sur les sujets pointus, peu représentés dans les données d'entraînement, ou lorsque la question porte sur des faits récents non couverts par la date de coupure du modèle. Un signe révélateur d'hallucination est la précision excessive d'une réponse sur un point que le modèle ne peut objectivement pas connaître avec certitude, comme un numéro d'article de loi exact ou une statistique très précise sans source citée ; dans ce cas, une vérification externe s'impose avant toute réutilisation.

Un modèle de langage apprend des régularités présentes dans les textes sur lesquels il a été entraîné. Si ces textes reflètent des stéréotypes ou une sous-représentation de certains groupes, de certaines langues ou de certains points de vue, le modèle peut reproduire ces biais dans ses réponses, par exemple en associant certains métiers à un genre par défaut. OpenAI travaille à limiter ces biais via l'alignement et des garde-fous, mais aucun modèle n'en est totalement exempt : un usage professionnel exige donc une relecture critique des réponses, en particulier sur des sujets sensibles comme le recrutement, l'évaluation de personnes ou la génération de contenus destinés à un large public. Un test simple pour repérer un biais consiste à faire varier un seul paramètre non pertinent dans une même demande, par exemple le prénom ou le genre d'une personne dans une évaluation de CV, et à comparer si la réponse change de façon injustifiée.

Tout ce qui est saisi dans un prompt peut, selon le produit et les paramètres utilisés, être conservé ou traité par le fournisseur du service. Avant de coller des données sensibles (informations clients, code source propriétaire, données personnelles, secrets commerciaux) dans ChatGPT ou dans un outil basé sur l'API, il faut vérifier les conditions d'utilisation applicables et les paramètres de confidentialité disponibles, comme la désactivation de l'entraînement sur les données saisies dans les offres professionnelles d'OpenAI (ChatGPT Team, Enterprise, ou l'API). Une règle simple à retenir : ne jamais transmettre une information qu'on n'accepterait pas de voir sortir du cadre de l'entreprise. Beaucoup d'entreprises mettent en place une charte d'usage interne de l'IA générative qui précise les catégories de données autorisées, les outils validés par la DSI et le circuit à suivre en cas de doute, une pratique qui limite le risque de fuite involontaire d'informations sensibles.

OpenAI publie des politiques d'usage qui encadrent ce que les modèles peuvent ou ne peuvent pas être utilisés pour faire. Sont notamment proscrits les usages qui présentent un risque élevé pour la sécurité des personnes sans supervision humaine adéquate, comme fournir un diagnostic médical définitif, un conseil juridique engageant ou une décision automatisée à fort impact sans intervention humaine, ainsi que la génération de contenus destinés à tromper (désinformation ciblée, deepfakes trompeurs) ou à nuire. Connaître ces limites permet de cadrer correctement un projet dès sa conception plutôt que de découvrir un blocage après développement. Ces politiques évoluent avec le temps à mesure que de nouveaux usages apparaissent ; il est donc utile de les consulter régulièrement plutôt que de se fier uniquement à une lecture faite lors du lancement d'un projet, en particulier pour les applications déployées à grande échelle.

Face à ces limites, quelques réflexes réduisent fortement le risque d'erreur en usage professionnel : croiser toute affirmation factuelle importante avec une source vérifiable avant de la réutiliser, préférer un modèle avec recherche web ou une architecture RAG pour les questions qui demandent des informations à jour ou vérifiables, garder un humain dans la boucle pour toute décision à conséquence réelle (recrutement, santé, finance, juridique), et rester transparent en interne sur les contenus générés ou assistés par IA. Ces pratiques ne suppriment pas les limites des modèles, mais elles permettent d'en tirer parti sans exposer l'organisation à un risque disproportionné. Elles s'appliquent aussi bien à un usage individuel ponctuel qu'à une application construite sur l'API destinée à des milliers d'utilisateurs : plus l'impact potentiel d'une erreur est grand, plus le niveau de supervision humaine et de vérification mis en place doit être élevé.