Erreur d'un chatbot : qui est responsable ?

Quand un assistant IA donne une réponse fausse et que quelqu'un en subit un dommage, il n'y a pas un responsable unique, mais une chaîne. Chaque maillon répond d'abord envers celui avec qui il a signé : l'entreprise qui a mis l'assistant sur son site envers ses propres clients, vous envers cette entreprise, l'éditeur envers vous. Ce sont les contrats, et ce que chacun a réellement fait, qui décident de qui supporte la perte à la fin.

Cette page décrit cette chaîne en termes généraux. Elle ne remplace pas l'analyse d'un avocat, indispensable dès qu'un dommage réel est en jeu, et utile avant, pour écrire les contrats.

La chaîne, maillon par maillon

Le code civil fixe le cadre : un contrat ne produit d'effet qu'entre ses parties, et les tiers ne peuvent pas en demander l'exécution (article 1199). Le visiteur trompé par une réponse n'a pas signé votre contrat. Votre client n'a pas signé celui de l'éditeur. Chaque recours passe donc d'un maillon au suivant, avec à chaque fois les limites du contrat concerné.

Ce que le contrat permet de réclamer

Entre deux parties liées par un contrat, le débiteur qui n'exécute pas son obligation doit des dommages et intérêts, sauf s'il justifie d'une force majeure (article 1231-1 du code civil). Deux limites jouent ensuite :

• seuls sont dus les dommages qui étaient prévus ou pouvaient être prévus lors de la conclusion du contrat, sauf faute lourde ou dolosive (article 1231-3) ;
• même en cas de faute lourde ou dolosive, seule la suite immédiate et directe de l'inexécution est réparée (article 1231-4).

Le contrat peut encore aménager cette responsabilité, dans les limites que la loi fixe : voir la page sur la clause limitative de responsabilité.

D'où vient l'erreur ? La question qui décide de tout

Une mauvaise réponse peut avoir plusieurs origines, et chacune pointe vers un maillon différent :

• un document faux ou périmé dans la base de connaissances : il a été fourni par le client ;
• un mauvais réglage (consignes, périmètre des questions, ton) : c'est souvent votre travail ;
• un défaut de la plateforme (panne, mauvaise lecture d'un document, réponse inventée sans lien avec les documents) : il relève de l'éditeur ;
• une question hors du périmètre prévu à laquelle l'assistant a répondu quand même : la question est de savoir qui devait fixer ce périmètre.

Le contrat doit dire qui fait quoi pour chacun de ces points. Les preuves aussi comptent : historique des conversations, version des documents à la date de la réponse, journal des modifications du réglage. Si personne ne conserve ces éléments, personne ne peut démontrer d'où vient l'erreur.

La directive européenne sur les produits défectueux

Une autre voie existe, hors contrat. La directive (UE) 2024/2853 sur la responsabilité du fait des produits défectueux élargit la notion de produit « aux fichiers de fabrication numériques et aux logiciels », selon le résumé publié par le Parlement européen. Elle doit être transposée dans chaque État au plus tard le 09/12/2026.

Selon ce même résumé :

• les dommages couverts sont le décès et les lésions corporelles (y compris l'atteinte médicalement reconnue à la santé psychologique), les dommages aux biens, et la destruction ou la corruption de données non utilisées à des fins professionnelles ;
• peuvent être responsables le fabricant, celui d'un composant défectueux, l'importateur ou le représentant dans l'Union d'un fabricant étranger, les plateformes en ligne agissant en cette qualité, et toute personne qui modifie substantiellement un produit hors du contrôle du fabricant puis le met sur le marché ou en service.

Deux points restent à faire trancher par un avocat dans votre situation : la date à partir de laquelle le texte français de transposition s'applique, et la question de savoir si votre travail de réglage peut être vu comme une modification substantielle.

Ce que vous pouvez prévoir dès maintenant

• Écrivez dans vos conditions que les réponses dépendent des contenus fournis par le client, et que celui-ci les tient à jour.
• Définissez avec le client le périmètre des questions auxquelles l'assistant doit répondre, et ce qu'il doit faire hors de ce périmètre (orienter vers un humain, par exemple).
• Prévoyez une procédure de signalement et de correction d'une réponse erronée, avec un délai.
• Conservez les éléments de preuve : versions des documents, historique du réglage.
• Vérifiez que vos engagements envers le client sont couverts par ceux de l'éditeur : voir le contrat back-to-back.
• Interrogez votre assureur sur la couverture de votre responsabilité civile professionnelle pour ce type d'activité.
• Faites relire l'ensemble par un avocat.