Blog · Protection des données

Fonctionnalités IA dans votre SaaS ? Ce que la loi IA de l'UE signifie pour vous

Résumé exécutif

Si votre produit SaaS utilise l’IA – qu’il s’agisse d’un chatbot, d’un moteur de recommandation ou d’une prise de décision automatisée – la loi IA de l’UE s’applique maintenant à vous. La bonne nouvelle : la plupart des entreprises SaaS ne construisent pas l’IA à partir de zéro. Elles l’intègrent. Cela fait de vous un « déployeur » selon la loi IA, ce qui s’accompagne d’un ensemble spécifique (et gérable) d’obligations.

Ce guide explique ce que la loi IA signifie pour les fondateurs de SaaS qui utilisent des services IA tiers comme ChatGPT, Claude ou Gemini. Vous apprendrez à déterminer votre rôle selon la loi IA, quelles obligations s’appliquent dès maintenant, et comment mettre à jour vos contrats SaaS pour rester conforme.

Pourquoi les fondateurs de SaaS doivent prêter attention maintenant

Presque tous les produits SaaS d’aujourd’hui ont des fonctionnalités IA. Peut-être avez-vous ajouté un assistant alimenté par GPT à votre support client. Il se peut que votre plateforme utilise l’apprentissage automatique pour la personnalisation ou la détection des fraudes. Ou vous avez intégré une API IA pour automatiser les flux de travail pour vos utilisateurs.

Voici le problème : beaucoup de fondateurs supposent que la loi IA n’affecte que les entreprises qui construisent les modèles d’IA. Ce n’est pas comme ça que ça fonctionne.

La loi IA de l’UE réglemente tout le monde dans la chaîne d’approvisionnement de l’IA – des entreprises qui entraînent les modèles fondamentaux aux entreprises qui les utilisent dans leurs produits. Si vous intégrez l’IA dans votre solution SaaS, vous avez des obligations légales. Certaines de ces obligations sont déjà en vigueur.

La date limite de février 2025 pour les pratiques d’IA interdites a passé. L’exigence de littératie en IA est désormais obligatoire. Si vous utilisez des modèles d’IA polyvalents tels que ChatGPT ou Claude, les obligations des déployeurs sont en vigueur depuis août 2025. L’application des règles augmente également, l’Agence fédérale allemande des réseaux (Bundesnetzagentur) agissant comme autorité compétente.

La loi IA a une portée extraterritoriale. Même si votre entreprise est basée en dehors de l’UE, la loi IA s’applique si :

  • Vous placez des systèmes d’IA sur le marché de l’UE
  • Vous déployez des systèmes d’IA dans l’UE
  • La sortie produite par votre système d’IA est utilisée dans l’UE

Si vous avez des clients dans l’UE, la loi IA s’applique probablement à vous.

Êtes-vous un « fournisseur » ou un « déployeur » ? Pourquoi cela importe

La loi IA attribue des obligations différentes selon votre rôle. Pour les entreprises SaaS, la distinction critique est entre les fournisseurs et les déployeurs.

Les fournisseurs sont les entreprises qui développent des systèmes d’IA (ou les font développer), puis les placent sur le marché ou les mettent en service sous leur propre nom ou marque. Pensez à OpenAI, Anthropic, Google, ou une startup qui a entraîné son propre modèle propriétaire.

Les déployeurs sont des personnes physiques ou morales qui utilisent des systèmes d’IA sous leur propre autorité – à l’exclusion de l’utilisation purement personnelle et non professionnelle. Pour les entreprises SaaS, cela signifie : si vous intégrez l’IA dans votre produit ou vos opérations commerciales, vous êtes un déployeur.

Le test pratique : Avez-vous entraîné le modèle vous-même, ou appelez-vous une API ? Si vous appelez une API d’OpenAI, Anthropic, Google, ou des fournisseurs similaires, vous êtes presque certainement un déployeur.

Quand vous pourriez devenir un fournisseur

Il existe une exception importante. Selon l’article 25 de la loi IA, vous pouvez devenir vous-même un fournisseur si vous :

  • Apportez une modification substantielle à un système d’IA à haut risque déjà sur le marché, ou
  • Modifiez un modèle d’IA polyvalent de façon à l’intégrer dans un système d’IA avec un nouvel objectif prévu non couvert par l’évaluation du fournisseur d’origine

Une « modification substantielle » signifie un changement non prévu par le fournisseur d’origine qui affecte la conformité à la loi IA ou modifie l’objectif prévu. L’ajustement fin standard, l’ingénierie des invites, ou les implémentations RAG (génération augmentée par récupération) ne franchissent généralement pas ce seuil – mais un réentraînement important qui change fondamentalement les capacités ou le profil de risque du modèle pourrait.

Cela importe parce que les obligations des fournisseurs sont considérablement plus exigeantes : documentation technique, évaluations de conformité, systèmes de gestion de la qualité, et surveillance post-marché. Avant d’entreprendre d’importantes modifications de modèles, demandez des conseils juridiques sur si vous franchissez la ligne entre déployeur et fournisseur.

Ce que les déployeurs doivent faire : votre liste de conformité

En tant que déployeur utilisant l’IA dans votre produit SaaS, voici ce que la loi IA exige :

1. Littératie en IA (obligatoire depuis février 2025)

L’article 4 exige que votre personnel et les autres personnes traitant des systèmes d’IA en votre nom possèdent un niveau suffisant de littératie en IA, approprié à leur rôle et au contexte d’utilisation. Cela signifie qu’ils devraient comprendre :

  • Comment le système d’IA fonctionne à un niveau basique
  • Ses capacités et ses limitations
  • Les risques potentiels associés à son utilisation
  • Comment interpréter correctement ses résultats

Étape pratique : Mettez en œuvre une formation pour les membres de l’équipe qui travaillent avec les fonctionnalités IA. Documentez cette formation. Ce n’est pas besoin d’être un programme de doctorat – mais votre équipe d’assistance client utilisant un chatbot IA devrait comprendre ce qu’il peut et ne peut faire de manière fiable.

2. Transparence envers les utilisateurs

Si votre système d’IA interagit directement avec des personnes, à partir d’août 2026, vous devrez les informer qu’elles interagissent avec l’IA. Ceci s’applique sauf s’il est évident d’après le contexte.

Étapes pratiques :

  • Ajoutez des divulgations claires dans votre produit. « Cette réponse a été générée par l’IA » ou « Vous chattez avec un assistant IA » est suffisant.
  • Mettez à jour vos conditions de service pour refléter l’utilisation de l’IA.

3. Supervision humaine

Pour les systèmes d’IA qui prennent ou soutiennent des décisions affectant les personnes, vous avez besoin de mécanismes de supervision humaine appropriés. Une personne compétente doit être capable d’examiner, d’intervenir dans, ou d’annuler les décisions de l’IA si nécessaire.

Étape pratique : Ne laissez pas l’IA prendre des décisions conséquentes automatiquement. Intégrez des flux de travail d’examen, en particulier pour les décisions affectant les droits, l’accès ou les intérêts importants des utilisateurs.

4. Qualité des données d’entrée

Cette obligation s’applique aux systèmes d’IA à haut risque – mais elle fonctionne différemment selon votre rôle. Les fournisseurs doivent s’assurer que les ensembles de données d’entraînement, de validation et de test répondent aux critères de qualité, y compris la pertinence, la représentativité et l’exactitude (art. 10). Les déployeurs, en revanche, sont responsables des données qu’ils introduisent dans le système pendant le fonctionnement : dans la mesure où vous contrôlez les données d’entrée, elles doivent être pertinentes et suffisamment représentatives pour l’objectif prévu (art. 26(4)). Notez que même en dehors de la loi IA, les exigences de qualité des données peuvent découler d’autres réglementations – notamment le RGPD (art. 5(1)(d)).

Étape pratique : Si vous utilisez les données des clients comme entrée pour les fonctionnalités IA, assurez-vous qu’elles sont exactes, à jour et appropriées au cas d’usage. Le principe est simple : des données d’entrée médiocres conduisent à des résultats médiocres – et pour les systèmes à haut risque, c’est maintenant une question de conformité.

5. Surveillance et signalement des incidents

Vous devez surveiller les opérations du système d’IA et signaler les incidents graves à votre fournisseur d’IA et, le cas échéant, aux autorités.

Étape pratique : Mettez en place la journalisation et la surveillance pour vos fonctionnalités IA. Si quelque chose tourne très mal – résultats discriminatoires, violations de sécurité, dommages importants – vous devez le savoir et le signaler.

IA à haut risque : quand les enjeux deviennent plus importants

La plupart des fonctionnalités IA SaaS relèvent de la catégorie « risque limité », où les obligations de transparence sont la principale préoccupation. Mais certaines applications déclenchent une classification « à haut risque », qui entraîne des exigences considérablement plus exigeantes.

Votre système d’IA peut être à haut risque s’il est utilisé pour :

  • Emploi et RH : Recrutement, dépistage des candidats, prise de décisions de promotion ou de licenciement, allocation des tâches, surveillance de la performance
  • Crédit et assurance : Évaluation de la solvabilité, fixation des primes d’assurance, évaluation des réclamations
  • Éducation : Détermination de l’accès à l’éducation, évaluation des étudiants, surveillance du comportement pendant les examens
  • Services essentiels : Évaluation de l’admissibilité aux prestations publiques, priorisation des services d’urgence

Si vos fonctionnalités IA SaaS relèvent de catégories à haut risque, les exigences de conformité augmentent considérablement. Pour la plupart des entreprises SaaS privées, cela signifie une documentation robuste, des mesures de supervision humaine et des obligations de surveillance.

Évaluations d’impact sur les droits fondamentaux

Les Évaluations d’impact sur les droits fondamentaux (EIDF) selon l’article 27 sont spécifiquement requises pour :

  • Les autorités publiques ou les entités privées fournissant des services publics
  • Tout déployeur utilisant l’IA pour l’évaluation du crédit (Annex III, point 5(b))
  • Tout déployeur utilisant l’IA pour l’évaluation des risques d’assurance vie et santé (Annex III, point 5(c))

La plupart des entreprises SaaS B2B privées ne sont pas tenues de mener des EIDF formelles. Cependant, même si vous n’êtes pas légalement tenus de le faire, réaliser une évaluation interne similaire est une bonne pratique pour les déploiements d’IA à haut risque – et peut devenir une exigence des clients pour les contrats entreprises.

Étape pratique : Classifiez vos fonctionnalités IA par rapport aux catégories à haut risque dans l’Annex III de la loi IA. S’il y a un doute sur votre classification, obtenez une évaluation juridique avant votre prochaine version de produit.

IA interdite : ce que vous ne pouvez pas faire

Certaines applications d’IA sont interdites catégoriquement. Depuis février 2025, ces interdictions sont applicables. Assurez-vous que votre produit n’inclut pas :

  • Notation sociale : Évaluation des personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles de manière menant à un traitement préjudiciable disproportionné au contexte
  • Reconnaissance biométrique des émotions sur le lieu de travail ou à l’école : Systèmes d’IA qui déduisent les émotions des employés ou des étudiants basées sur leurs données biométriques (expressions faciales, modèles de voix, signaux physiologiques). Des exceptions existent à des fins médicales et de sécurité. Remarque : l’analyse du sentiment basée sur du texte des commentaires clients ou des tickets d’assistance n’est pas couverte par cette interdiction.
  • IA manipulatrice : Systèmes conçus pour utiliser des techniques subliminales ou exploiter les vulnérabilités pour déformer matériellement le comportement de façons causant un dommage important
  • Capture faciale non ciblée : Création ou expansion de bases de données de reconnaissance faciale par capture non ciblée à partir d’Internet ou de CCTV

Étape pratique : Auditez vos fonctionnalités IA par rapport à la liste des pratiques interdites. Si vous construisez des technologies RH, de la technologie éducative ou des produits grand public, prêtez une attention particulière. Une fonctionnalité « d’analyse du sentiment » qui analyse les expressions faciales des employés lors d’appels vidéo serait interdite – mais analyser le texte des avis clients ne le serait pas.

N’oubliez pas le RGPD

La loi IA ne remplace pas les exigences de protection des données – elle s’ajoute à elles. Si vos fonctionnalités IA traitent des données personnelles, vous avez toujours besoin de :

  • Une base légale valide selon le RGPD pour le traitement
  • Des accords de traitement des données appropriés avec vos fournisseurs d’IA
  • La conformité avec les droits des personnes concernées (accès, suppression, portabilité)
  • Une base légale pour tout transfert international de données

Les décisions générées par l’IA concernant les individus peuvent également déclencher les exigences de l’article 22 du RGPD sur la prise de décision automatisée. Si votre IA prend des décisions qui affectent considérablement les utilisateurs sans implication humaine significative, vous devrez peut-être fournir des informations sur la logique impliquée et permettre aux utilisateurs de contester les décisions.

Étape pratique : Examinez vos accords de traitement des données avec les fournisseurs d’IA. Assurez-vous que votre politique de confidentialité décrit précisément le traitement des données lié à l’IA. Considérez si l’une de vos fonctionnalités d’IA constitue une « prise de décision automatisée » selon l’article 22 du RGPD.

Mise à jour de vos contrats SaaS pour la conformité à l’IA

La loi IA n’affecte pas seulement votre produit – elle affecte vos contrats. Voici ce qui nécessite une attention particulière :

Vos conditions de service

Mettez à jour vos conditions pour :

  • Divulguer l’utilisation de l’IA : Indiquez clairement quelles fonctionnalités utilisent l’IA et comment
  • Expliquer les limitations : Établissez les attentes appropriées quant à la précision et la fiabilité de l’IA
  • Allouer la responsabilité : Clarifiez que les résultats de l’IA nécessitent un examen humain pour les décisions conséquentes
  • Définir l’utilisation autorisée : Spécifiez ce que les clients peuvent et ne peuvent pas utiliser des fonctionnalités IA pour

Exemple de langage de clause :

« Les résultats générés par l’IA sont probabilistes et peuvent contenir des erreurs ou des inexactitudes. Le client est responsable de la révision et de la vérification de tous les résultats de l’IA avant de s’y fier pour les décisions commerciales. Le client ne doit pas utiliser les fonctionnalités IA pour [décisions à haut risque sans supervision humaine / objectifs interdits par la loi applicable / décisions critiques de sécurité]. »

Vos contrats avec les fournisseurs d’IA

Lorsque vous utilisez OpenAI, Anthropic, ou des services similaires, assurez-vous que vos accords traitent :

  • Engagements de conformité : Le fournisseur confirme que son modèle se conforme aux obligations du fournisseur selon la loi IA
  • Accès à la documentation : Vous pouvez obtenir la documentation technique nécessaire pour remplir vos obligations de déployeur
  • Notification des incidents : Le fournisseur vous notifiera des incidents pertinents, des problèmes de conformité, ou des changements matériels au modèle
  • Traitement des données : Termes clairs sur si les données des clients sont utilisées pour l’entraînement du modèle, comment elles sont traitées et où elles sont stockées
  • Indemnisation : Considérez qui assume la responsabilité si le modèle sous-jacent cause des dommages

Clauses de responsabilité selon la loi allemande

C’est ici que la loi allemande crée des défis spécifiques. Si vous vendez à des clients allemands, vos conditions standards (AGB) font face à un contrôle strict selon §§ 305-310 BGB.

Vous ne pouvez pas exclure la responsabilité pour :

  • L’intention ou la négligence grave
  • Les blessures à la vie, au corps ou à la santé
  • Le non-respect des obligations contractuelles essentielles (« obligations cardinales » – obligations fondamentales au but du contrat)

Vous pouvez limiter la responsabilité pour :

  • La négligence simple (sauf pour les obligations cardinales, où vous pouvez plafonnner mais pas exclure)
  • La responsabilité stricte dans certaines circonstances

Avertissement critique : Si vous utilisez un contrat de style américain avec des exclusions de responsabilité larges (« fourni en l’état », « aucune garantie », « aucune responsabilité pour les dommages indirects ») et simplement le traduisez pour le marché allemand, ces exclusions sont probablement inapplicables. Selon la loi allemande sur les AGB, les clauses invalides ne disparaissent pas simplement. Selon § 306 (2) BGB, elles sont remplacées par des dispositions statutaires – vous laissant souvent avec une responsabilité illimitée pour les matières que vous pensiez être plafonnées. Les tribunaux allemands ne réécriront pas les clauses invalides pour les rendre valides. Cela rend le rédaction appropriée essentielle dès le départ.

Étape pratique : Faites examiner vos contrats SaaS par un conseil familier à la fois avec les exigences de la loi IA et la loi allemande sur les AGB. Les services de révision des contrats de LEXR peuvent aider à assurer que vos accords sont conformes et applicables.

Votre feuille de route de conformité à la loi IA

Voici un plan d’action priorisé :

Immédiat :

  1. Auditez vos fonctionnalités IA : Listez chaque composant IA dans votre produit et identifiez le fournisseur sous-jacent
  2. Vérifiez les pratiques interdites : Assurez-vous que rien dans votre produit ne relève des catégories interdites
  3. Mettez en œuvre une formation en littératie IA : Documentez que le personnel pertinent comprend vos systèmes d’IA

Court terme (3 prochains mois) :

  • Mettez à jour les divulgations accessibles aux utilisateurs : Ajoutez des avis de transparence où l’IA interagit avec les utilisateurs
  • Examinez les contrats : Mettez à jour les conditions de service et les accords des fournisseurs pour la conformité IA
  • Évaluez l’exposition aux risques élevés : Déterminez si l’une des fonctionnalités déclenche une classification à haut risque
  • Alignement RGPD : Assurez-vous que le traitement des données lié à l’IA est couvert dans les politiques de confidentialité et les DPA

Moyen terme (l’année prochaine)

  • Construisez l’infrastructure de surveillance : Mettez en œuvre la journalisation et la détection d’incidents pour les fonctionnalités IA
  • Préparez-vous aux règles de haut risque : Les obligations complètes de haut risque s’appliquent à partir du 2 août 2026 (systèmes Annex III) et du 2 août 2027 (systèmes Annex II)

Points clés à retenir

La loi IA de l’UE est maintenant une réalité pour les entreprises SaaS. Si vous intégrez l’IA dans votre produit, vous avez des obligations de conformité – indépendamment du fait que vous ayez construit vous-même l’IA.

La bonne nouvelle : en tant que déployeur, vos obligations sont gérables. Concentrez-vous sur :

  • La littératie en IA pour votre équipe
  • La transparence envers les utilisateurs interagissant avec l’IA
  • La supervision humaine pour les décisions conséquentes
  • Les mises à jour de contrats pour les clients et les fournisseurs d’IA
  • L’alignement RGPD pour le traitement des données lié à l’IA

Connaissez votre catégorie de risque. Évitez les pratiques interdites. Et n’oubliez pas que la loi IA fonctionne aux côtés du RGPD, pas à sa place.

Les entreprises qui s’occupent de la conformité maintenant éviteront de devoir se précipiter plus tard – et pourraient trouver que « conforme à la loi IA » devient un avantage compétitif lors de la vente à des clients entreprises qui l’exigent de plus en plus.

Prochaines étapes

Naviguer à l’intersection de la réglementation de l’IA et du droit des contrats nécessite une expertise spécialisée. LEXR conseille les entreprises SaaS sur la conformité à la loi IA, les mises à jour des contrats, et les exigences spécifiques du marché allemand.

Contactez LEXR pour une consultation pour discuter de votre stratégie de conformité IA et vous assurer que vos contrats SaaS sont prêts pour le nouveau paysage réglementaire.

Réservez votre appel gratuit !

Ressources connexes

  • Loi IA de l’UE : Analyse complète et guide de conformité
  • Atelier juridique et de conformité IA
  • Services de révision des contrats LEXR

Réservez un premier appel, sans engagement