À une époque où l’intelligence artificielle (IA) s’intègre de plus en plus dans notre vie quotidienne et nos opérations commerciales, comprendre et respecter les cadres réglementaires est crucial. La loi IA de l’UE représente une étape pionnière de l’Union européenne (UE) pour établir une norme mondiale en matière de régulation de l’IA. Cette législation complète vise à garantir que les systèmes d’IA sont sûrs, transparents et opèrent dans le cadre de limites éthiques strictes. À mesure que les technologies d’IA évoluent et se multiplient, les entreprises, développeurs et utilisateurs devront rester à jour avec ces réglementations afin non seulement de favoriser l’innovation, mais aussi de protéger les droits humains fondamentaux et de respecter les normes de sécurité des produits à l’ère numérique.
La loi IA de l’UE est particulièrement importante car elle complète les lois existantes telles que la protection des données, les services numériques, le droit des contrats et les droits de propriété intellectuelle, avec un focus particulier sur les systèmes à haut risque et critiques pour la sécurité. Comprendre cette loi est essentiel pour tous les acteurs impliqués dans le développement et le déploiement d’IA dans l’UE et au-delà, car elle façonne le paysage dans lequel ils opèrent.
1 La loi IA : Ce que vous devez savoir
Dans cette section, nous explorons le cœur de la loi IA de l’UE, en examinant ses éléments fondamentaux. Vous acquerrez des connaissances sur les définitions et le champ d’application de la loi, en comprenant non seulement qui elle affecte mais comment elle façonne vos obligations. À travers un examen plus approfondi, nous explorerons les obligations essentielles et les garanties requises pour la conformité afin de naviguer dans la complexité de la loi.
1.1 Définition et champ d’application de la loi IA de l’UE
Pour comprendre les détails de la loi, il est important de comprendre les concepts clés qu’elle utilise. Pour cette raison, nous vous guiderons d’abord à travers la compréhension de savoir si et comment la loi IA s’applique à vous, pour assurer que vos applications d’IA ne sont pas seulement innovantes, mais aussi conformes et éthiques.
1.1.1 Systèmes d’IA
Les systèmes d’IA sont la pierre angulaire de la loi IA, ce qui signifie des systèmes qui remplissent cinq critères clés pour être qualifiés d’IA :
- Ce sont des systèmes basés sur une machine ;
- Ils sont conçus pour fonctionner avec des niveaux variés d’autonomie et peuvent faire preuve d’adaptabilité après le déploiement ;
- Ils sont conçus pour des objectifs explicites ou implicites ;
- Ils déduisent, à partir des entrées qu’ils reçoivent, comment générer des sorties ;
- Ils peuvent influencer les environnements physiques ou virtuels.
En termes pratiques, ces systèmes exploitent l’apprentissage automatique pour effectuer des tâches avec un certain degré d’autonomie. Un système d’IA peut aller d’un simple chatbot sur votre site Web à un algorithme complexe prédisant le comportement des consommateurs. La loi IA régule ces systèmes selon une approche basée sur le risque, où les différents acteurs de la chaîne d’approvisionnement seront soumis à des obligations différentes selon le risque inhérent au système mis à disposition ou utilisé dans le champ d’application territorial de la loi.
1.1.2 Modèles d’IA à usage général
Les modèles d’IA à usage général (GPAI) sont soumis à une régulation spécifique en vertu de la loi IA. Ils sont définis par les éléments suivants :
- Des modèles d’IA qui affichent une généralité significative et sont capables d’effectuer avec compétence un large éventail de tâches distinctes ;
- Des modèles d’IA qui peuvent être intégrés dans une variété de systèmes ou d’applications en aval ;
- Des modèles d’IA qui ont été entraînés, à savoir avec une grande quantité de données en utilisant l’auto-supervision à grande échelle.
De cette manière, la loi IA cible les modèles d’IA qui peuvent gérer plusieurs tâches, du traitement du langage à la reconnaissance d’images, suffisamment flexibles pour être utilisés et impacter considérablement divers secteurs.
Si votre entreprise utilise de tels modèles ou les intègre dans d’autres systèmes, vous devez être proactif en évaluant leur impact sur l’ensemble de leurs applications prévisibles. Cela implique de mener des évaluations d’impact et de vous assurer que l’adaptabilité du modèle ne compromet pas, par exemple, la confidentialité ou la sécurité de l’utilisateur, comme nous l’explorons ci-dessous.
1.2 Rôles en vertu de la loi IA
Si le logiciel utilisé est le premier concept clé de la loi IA, l’autre est le rôle joué par les entreprises utilisant ou mettant à disposition ce logiciel. De cette manière, les fournisseurs, les déployeurs, les importateurs et les distributeurs sont tous des acteurs clés en vertu de la loi IA. Chaque rôle porte des responsabilités spécifiques pour assurer que les systèmes d’IA sont sûrs et conformes avant d’atteindre le marché.
Cela signifie qu’après avoir conclu que vous faites face à un système d’IA ou à un GPAI, et afin de déterminer comment la loi IA influe concrètement sur vos opérations, vous devez être conscient du rôle dans lequel vous vous situez :
- Fournisseurs – Développent et proposent le logiciel sur le marché de l’UE. Ils répondent à ces critères : Ils développent un système d’IA/GPAI (ou le font développer) ;
Ils le mettent sur le marché de l’UE, le mettent en service sous leur propre nom/marque, ou le résultat produit par le système d’IA est utilisé dans l’UE ;
Ils peuvent être une personne physique ou morale, autorité publique, agence, etc. ;
Ils proposent le système/modèle soit contre rémunération, soit gratuitement.
- Déployeurs – Utilisent des systèmes d’IA et/ou des GPAI professionnellement et doivent remplir ces exigences spécifiques : Utilisent un système d’IA/GPAI sous leur propre autorité, ou le résultat produit par le système d’IA est utilisé dans l’UE ;
N’utilisent pas le système pour des activités non professionnelles (par exemple, utilisation privée) ;
Sont une personne physique ou morale, autorité publique, agence, etc.
- Importateurs – Mettent sur le marché de l’UE des systèmes d’IA tiers et doivent respecter les critères suivants :
L’entité est établie dans l’UE ;
L’entité est une personne physique ou morale, autorité publique, agence, etc.
L’entité met un système d’IA sur le marché de l’UE ;
Le système d’IA porte le nom/la marque d’une personne ou d’une entreprise établie dans un pays tiers par rapport à l’UE.
- Distributeurs – Mettent les systèmes d’IA à disposition sur l’ensemble du marché de l’UE et ne sont pas déjà couverts en tant qu’importateurs ou fournisseurs. Ils doivent respecter ces directives : Mettent le système d’IA à disposition sur le marché de l’UE ;
Ne sont pas responsables du déploiement (ne sont pas le fournisseur) ni de l’importation du système (importateur) ;
Sont une personne physique ou morale, autorité publique, agence, etc.
« Après avoir conclu que vous faites face à un système d’IA ou à un GPAI, et afin de déterminer comment la loi IA influe concrètement sur vos opérations, vous devez être conscient du rôle dans lequel vous vous situez, du fournisseur, du déployeur, de l’importateur et du distributeur »
2 Comprendre les exigences clés de la loi IA de l’UE
Ayant déterminé que la loi IA s’applique à vous, vous devez comprendre comment. La loi IA définit différentes obligations, allant d’un niveau plus général (alphabétisation en IA) aux obligations spécifiques au système d’IA, puis aux exigences de GPAI.
2.1 Alphabétisation en IA
À un niveau plus général, l’alphabétisation en IA est une première obligation énoncée par la loi IA, reconnaissant l’importance de la sensibilisation et de la compréhension parmi ceux qui déploient et interagissent avec les systèmes d’IA. Les entreprises auxquelles la loi s’applique sont tenues de s’assurer que leur personnel et tout utilisateur tiers sont adéquatement informés sur les systèmes d’IA qu’ils utilisent.
Cela implique une communication claire sur le fonctionnement de l’IA, ses limites et ses cas d’usage prévus. Les mesures pratiques incluent l’élaboration de programmes de formation et la fourniture de ressources accessibles qui démystifient les technologies d’IA.
Par exemple, une entreprise déployant un système d’IA pour la notation de crédit doit éduquer son personnel sur la façon dont le système évalue la solvabilité et les facteurs qu’il considère.
2.2 Catégorisation des systèmes d’IA et niveaux de risque
Les systèmes d’IA sont spécifiquement ciblés et catégorisés en vertu de la loi IA de l’UE en fonction des risques qu’ils présentent. Cette classification est critique car elle influence directement comment les entreprises doivent gérer et déployer les technologies d’IA.
La loi IA de l’UE identifie quatre catégories principales de risques pour les systèmes d’IA, chacune avec des exigences réglementaires spécifiques.
2.2.1 Systèmes d’IA à risque minimal
Les systèmes d’IA à risque minimal offrent la plus grande liberté mais exigent toujours l’adhésion aux lois existantes. Cette catégorie implique un faible niveau de préoccupation d’un point de vue de la loi IA, incluant des systèmes comme les filtres anti-spam qui peuvent être déployés sans charges supplémentaires. Cependant, les entreprises doivent toujours s’assurer que ces systèmes ne violent pas d’autres réglementations applicables, telles que les lois sur la protection des données. Des contrôles de conformité réguliers en matière de protection des données et des mises à jour des politiques de confidentialité peuvent être nécessaires pour rester alignés avec les normes légales.
Ceux-ci peuvent concerner, par exemple, les chatbots de service client automatisés, le tri des e-mails basé sur l’IA et les algorithmes de recommandation de contenu pour le contenu non sensible. Ces systèmes sont largement répandus dans divers secteurs, notamment la vente au détail, l’hôtellerie et les communications d’entreprise générales. Ils offrent de la commodité et de l’efficacité sans poser de risques significatifs pour les droits individuels ou la sécurité. Pour cette raison, la charge réglementaire imposée par la loi IA est limitée (par exemple, les obligations d’alphabétisation en IA).
2.2.2 Systèmes d’IA soumis à des obligations spécifiques
Pour les systèmes d’IA qui présentent des risques de transparence spécifiques, assurer la clarté envers les individus exposés à ceux-ci est critique. De tels systèmes peuvent influencer les décisions ou les comportements des individus, ce qui rend crucial d’informer les utilisateurs qu’ils interagissent avec l’IA. Par exemple, si votre entreprise emploie un chatbot pour les interactions avec les clients, il doit être explicitement étiqueté comme fonctionnant avec l’IA. Cela implique la mise à jour des interfaces utilisateur et des stratégies de communication claires. La transparence non seulement renforce la confiance, mais s’aligne également sur les exigences légales, protégeant contre les manipulations potentielles. En adoptant la transparence, les entreprises renforcent leur engagement envers l’utilisation éthique de l’IA.
Cette catégorie inclut les outils de création de contenu basés sur l’IA (comme ceux qui génèrent des articles de presse ou créent des œuvres d’art) et les assistants virtuels. Ces applications se trouvent dans des secteurs tels que le marketing, le service client, les médias et le divertissement. L’exigence clé ici est que les entreprises divulguent clairement l’utilisation de l’IA aux utilisateurs, en s’assurant que les gens savent quand ils interagissent avec une machine plutôt qu’un humain.
2.2.3 Systèmes d’IA à haut risque
Les systèmes d’IA à haut risque exigent des mesures complètes en raison de leur impact potentiel sur les droits fondamentaux et la sécurité. Cette catégorie inclut l’IA utilisée dans les infrastructures critiques, l’emploi et d’autres domaines sensibles. La conformité implique des évaluations de risque détaillées, de la documentation et l’adhésion à des normes réglementaires strictes. Par exemple, un système d’IA utilisé pour le filtrage des candidatures à un emploi doit être transparent, juste et ne doit pas discriminer les candidats. Les entreprises doivent établir des protocoles de test rigoureux et maintenir des registres détaillés du développement, du déploiement et des effets de leurs systèmes d’IA. Essentiellement, traiter avec l’IA à haut risque exige une approche proactive pour assurer que l’innovation ne se fasse pas au détriment des considérations éthiques ou de la sécurité.
Les systèmes à haut risque existent également dans plusieurs secteurs, même si la loi IA met un accent particulier sur des secteurs tels que les services publics, les ressources humaines et le recrutement, l’éducation, la finance et l’assurance. Ils peuvent inclure, par exemple, les applications d’IA dans la surveillance des infrastructures critiques (comme les systèmes de gestion du réseau électrique), les logiciels de recrutement analysant les candidatures, les outils d’IA utilisés dans les établissements d’enseignement pour surveiller les examens ou adapter les parcours d’apprentissage, et les systèmes d’IA évaluant la solvabilité ou déterminant les primes d’assurance.
2.2.4 Systèmes d’IA interdits
Enfin, la loi IA établit des limites non négociables avec un ensemble de systèmes d’IA interdits. Ceux-ci incluent les applications considérées comme trop nuisibles, telles que certains systèmes de surveillance biométrique en temps réel dans les espaces publics. Les entreprises doivent examiner leurs applications d’IA pour s’assurer qu’aucune ne viole ces interdictions. Éliminer ou modifier de tels systèmes n’est pas seulement une question de conformité ; c’est une question d’alignement avec les valeurs sociétales et de protection des droits fondamentaux. Le message ici est clair : l’innovation doit respecter les limites éthiques.
La loi IA cible principalement les secteurs fondamentaux qui peuvent être sujets à une surveillance, une manipulation ou un profilage invasif extensifs, comme dans l’application de la loi, le marketing et l’administration publique. Ici, nous pouvons inclure les systèmes de notation sociale utilisés par les entités publiques ou privées, les applications d’IA exploitant les vulnérabilités des individus ou employant des techniques subliminales pour manipuler les décisions, les systèmes d’identification biométrique à distance en temps réel dans les espaces accessibles au public (avec certaines exceptions), les systèmes qui catégorisent les individus en fonction de données biométriques pour déduire des informations sensibles, et les systèmes qui créent ou élargissent les bases de données de reconnaissance faciale par le raclage non ciblé d’images faciales provenant d’Internet ou de vidéos de surveillance.
2.3 Aperçu détaillé de la régulation des systèmes d’IA à haut risque
Au sein de ces catégories, les systèmes d’IA à haut risque sont les plus lourdement réglementés, car ils ont des implications importantes pour les droits individuels et les valeurs sociétales. En ce sens, les systèmes d’IA se qualifient comme à haut risque s’ils :
- Sont destinés à être utilisés comme un composant de sécurité d’un produit, ou sont eux-mêmes le produit, couverts par une législation spécifique d’harmonisation de l’Union (par exemple, Directive 2009/48/CE sur la sécurité des jouets, Règlement (UE) 2017/745 sur les dispositifs médicaux), et sont tenus de subir une évaluation de la conformité par un tiers afin d’être mis sur le marché ou mis en service conformément à cette législation ;
- Sont destinés à être utilisés dans des secteurs spécifiques inclus dans la loi IA (par exemple, biométrie, infrastructure critique, éducation et formation professionnelle, emploi), à moins qu’ils ne présentent pas un risque significatif de nuire à la santé, à la sécurité ou aux droits fondamentaux des personnes physiques.
Comme nous le verrons ci-dessous, les fournisseurs sont responsables des évaluations initiales de la conformité, assurant que leurs systèmes d’IA respectent les normes strictes de l’UE avant d’entrer sur le marché. Les déployeurs, en revanche, doivent s’assurer que les systèmes d’IA sont utilisés en conformité avec ces normes, en tenant compte du contexte opérationnel et des interactions des utilisateurs. Cela inclut la mise en œuvre d’interfaces utilisateur transparentes et la fourniture d’informations claires sur les capacités et la logique de prise de décision du système d’IA.
2.3.1 Évaluation des systèmes d’IA à haut risque
Les évaluations sont un élément particulièrement clé de la régulation des systèmes d’IA à haut risque. À travers un examen plus approfondi de ces processus, les entreprises peuvent acquérir des connaissances non seulement pour respecter les exigences légales, mais aussi pour intégrer des pratiques éthiques et transparentes dans leurs solutions d’IA.
En vertu de la loi IA, les systèmes d’IA à haut risque sont soumis à différentes évaluations que principalement les fournisseurs doivent respecter. Celles-ci incluent :
- Les évaluations de la conformité par un tiers en vue de la mise sur le marché du système d’IA ou sa mise en service conformément à d’autres législations sectorielles de l’UE, telles que le Règlement (CE) n° 300/2008 sur les règles communes en matière de sécurité de l’aviation civile et le Règlement (UE) 2018/858 sur l’approbation et la surveillance du marché des véhicules automobiles et de leurs remorques, ainsi que des systèmes, composants et unités techniques distincts ;
- L’évaluation effectuée par le fournisseur concluant que son système, initialement considéré par la loi IA comme à haut risque (Annexe III de la loi), n’est en fait pas un système à haut risque, avant la mise sur le marché ou la mise en service ;
- L’évaluation de la disponibilité, de la qualité et de la pertinence des ensembles de données qui sont nécessaires pour entraîner le système d’IA à haut risque ;
- Une stratégie de conformité réglementaire, incluant la conformité avec les procédures d’évaluation de la conformité et les procédures de gestion des modifications du système d’IA à haut risque.
Cependant, il y a deux évaluations particulières que les fournisseurs et les déployeurs doivent porter une attention particulière avant de déployer des systèmes d’IA à haut risque : les évaluations de la conformité et les évaluations d’impact sur les droits fondamentaux.
2.3.2 Évaluations de la conformité
Les évaluations de la conformité sont essentielles pour assurer que les systèmes d’IA à haut risque respectent les exigences strictes de la loi IA. Cette étape est cruciale car elle vérifie l’adhésion du système aux normes strictes de l’UE sur la qualité des données, la transparence et la sécurité.
La loi IA crée deux procédures pour l’évaluation de la conformité incluses dans les Annexes VI et VII. La première est basée sur le contrôle interne. Ici, le fournisseur doit vérifier :
- Que le système de gestion de la qualité établi respecte les exigences de la loi IA (voir article 17) ;
- Que les informations contenues dans la documentation technique sont conformes aux exigences pertinentes (voir Chapitre III, Section 2) ;
- Que le processus de conception et de développement du système d’IA et sa surveillance après la mise sur le marché sont cohérents avec la documentation technique.
La procédure incluse dans l’Annexe VII est basée sur une évaluation du système de gestion de la qualité et de la documentation technique qui doit être préparée avant que les systèmes à haut risque ne soient mis à disposition ou mis en service. En vertu de cette procédure, les deux éléments devront respecter les exigences y énoncées pour être, par la suite, évalués par un tiers (ce que la loi IA appelle l’« organisme notifié ») qui examine s’ils sont conformes ou non aux normes de la loi IA.
Il est également important de noter que les systèmes à haut risque qui ont déjà été soumis à une évaluation de la conformité doivent en subir une nouvelle en cas de modification substantielle.
2.3.3 Évaluations d’impact sur les droits fondamentaux
Dans certaines circonstances, les entreprises doivent également traiter l’impact de leurs systèmes d’IA sur les droits fondamentaux par un autre processus critique.
Il s’agit d’une évaluation que les déployeurs qui sont des organismes de droit public, ou des entités privées fournissant des services publics, ainsi que les déployeurs de systèmes d’IA à haut risque visés à l’Annexe III (points 5(b) et (c)) doivent exécuter, avant de déployer le système. Cette évaluation doit inclure :
- une description des processus du déployeur dans lesquels le système d’IA à haut risque sera utilisé conformément à son objectif prévu ;
- une description de la période au cours de laquelle, et de la fréquence à laquelle, chaque système d’IA à haut risque est destiné à être utilisé ;
- les catégories de personnes physiques et les groupes susceptibles d’être affectés par son utilisation dans le contexte spécifique ;
- les risques spécifiques de préjudice susceptibles d’avoir un impact sur les catégories de personnes ou les groupes de personnes identifiés ;
- une description de la mise en œuvre des mesures de surveillance humaine, conformément aux instructions d’utilisation ;
- les mesures à prendre lorsque ces risques se concrétisent, y compris les dispositions relatives à la gouvernance interne et aux mécanismes de plainte.
En d’autres termes, elle exige un examen détaillé de la façon dont le système d’IA fonctionnera, de la fréquence de son utilisation et des individus qu’il affectera. Par exemple, un système de reconnaissance faciale utilisé dans les espaces publics par une autorité publique doit évaluer son potentiel à violer les droits à la vie privée et décrire les mesures pour atténuer ces risques. Cela comprend la documentation de l’objectif de la technologie, les données qu’elle traitera et les protections contre l’abus. Le processus souligne la nécessité que les systèmes d’IA opèrent dans les limites éthiques établies par la société, en s’assurant qu’ils ne compromettent pas les droits humains fondamentaux.
2.4 Modèles d’IA à usage général
En ce qui concerne les GPAI, la loi IA fait une distinction basée sur leur risque systémique.
Premièrement, elle établit un ensemble initial d’obligations applicables aux fournisseurs de GPAI en général. Les fournisseurs visant à utiliser ces modèles doivent fournir des informations essentielles pour assurer la sécurité et la conformité avec la loi IA de l’UE. En particulier, elle oblige les fournisseurs à divulguer des informations critiques à ceux qui construisent des systèmes d’IA sur la base de ces modèles, favorisant la transparence et la compréhension. De plus, les fournisseurs de modèles sont tenus de mettre en œuvre des politiques respectant le droit d’auteur au cours de la phase d’entraînement du modèle.
En plus de cet ensemble de base d’obligations, la loi IA réglemente davantage les GPAI avec risque systémique, ce qui signifie le risque inhérent aux capacités à fort impact des modèles d’IA à usage général qui affectent de manière significative le marché de l’UE, la santé publique, la sécurité, la sécurité, les droits fondamentaux ou la société dans son ensemble, avec un potentiel de propagation à grande échelle.
Ces modèles sont identifiés en fonction de deux critères principaux : les capacités à fort impact évaluées via des outils et méthodologies techniques, ou une décision de la Commission. De plus, un modèle est présumé avoir des capacités à fort impact si la computation utilisée pour son entraînement dépasse 10^25 FLOP, indiquant un potentiel substantiel de risque systémique.
Si vous ne savez pas si la loi IA s’applique à vous, consultez notre ou réservez un appel gratuit avec l’un de nos experts pour commencer votre parcours de conformité à l’IA !
3 Comment se conformer à la loi IA de l’UE
3.1 Mesures pour assurer la conformité aux réglementations de la loi sur les systèmes d’IA à haut risque
Dans cette section, nous explorons les spécificités de ce qu’il faut pour se conformer à la loi IA de l’UE pour les entreprises impliquées dans la chaîne d’approvisionnement des systèmes d’IA à haut risque. Vous découvrirez les responsabilités critiques que les fournisseurs, déployeurs, importateurs et distributeurs doivent assumer pour aligner leurs opérations sur les réglementations de l’UE.
3.1.1 Obligations de la loi IA pour les fournisseurs
Assurer la conformité avec la loi IA
Les fournisseurs sont responsables de s’assurer que leurs systèmes d’IA sont conformes à la loi IA avant le déploiement. Cela inclut la conduite d’évaluations détaillées des risques, la mise en œuvre de mesures d’atténuation des risques et la maintien d’une documentation complète pour démontrer l’adhésion à la loi. En remplissant ces obligations, les fournisseurs peuvent garantir que leurs systèmes d’IA respectent les normes élevées de l’UE pour la sécurité, la transparence et l’accountability.
Adopter des systèmes de gestion de la qualité
Pour les fournisseurs de systèmes d’IA à haut risque, il est essentiel d’adopter des systèmes de gestion de la qualité robustes. Ces systèmes assurent une surveillance continue et l’amélioration, englobant les procédures de développement, de déploiement et de maintenance des systèmes d’IA. Les examens réguliers des performances et les mises à jour sont des éléments cruciaux de ces systèmes, aidant à prévenir les problèmes potentiels et à assurer la conformité continue avec la loi IA.
Documentation et maintien des registres
La loi IA exige que les fournisseurs maintiennent une documentation détaillée et des registres. Cela couvre toutes les phases allant de la conception et du développement au déploiement et à la surveillance après la mise sur le marché du système d’IA. La documentation doit être claire et accessible, fournissant des informations sur les opérations du système d’IA et sa conformité avec les normes légales. Les registres, en revanche, sont également vitaux pour maintenir la transparence et l’accountability, servant de registres importants en cas d’incidents ou de litiges.
Évaluations de la conformité et marquage CE
Les évaluations de la conformité sont critiques pour déterminer si un système d’IA respecte les exigences spécifiques de la loi IA. Les évaluations réussies permettent aux fournisseurs d’afficher le marquage CE sur leurs produits, indiquant la conformité avec les normes de l’UE. Cela non seulement facilite l’accès au marché, mais renforce également la crédibilité du produit auprès des utilisateurs.
3.1.2 Obligations de la loi IA pour les déployeurs
Aligner l’utilisation du système d’IA avec les normes légales et éthiques
Les déployeurs ont la tâche d’assurer que leur utilisation des systèmes d’IA à haut risque adhère aux instructions et lignes directrices fournies. Cela assure à la fois la sauvegarde des droits des utilisateurs et la sécurité publique. Crucial pour cet effort est la mise en œuvre de mesures techniques et organisationnelles appropriées qui maintiennent l’utilisation du système d’IA dans le cadre de ses limites légales et éthiques prévues. Par exemple, les examens réguliers des performances et l’existence d’une équipe dédiée pour surveiller la conformité sont vitaux pour assurer l’efficacité, la fiabilité et l’adhésion du système aux réglementations.
Assurer la surveillance humaine
Il est fondamental pour les déployeurs d’attribuer une surveillance humaine compétente aux opérations d’IA, particulièrement dans les scénarios critiques. Cette surveillance assure que les décisions prises par l’IA sont toujours sujettes à l’examen humain. Les individus choisis doivent être bien formés et compétents, avec un soutien continu et des mises à jour sur les derniers développements en matière d’IA et de considérations éthiques. Cette approche garantit l’utilisation responsable de l’IA et l’alignement avec les valeurs humaines.
Maintenir la qualité et la diversité des données d’entrée
Les déployeurs doivent également gérer la qualité et la représentativité des données d’entrée pour les systèmes d’IA. Des contrôles réguliers de l’exactitude et de la diversité des données sont essentiels pour produire des résultats d’IA fiables et éthiques. Cela aide à prévenir les risques associés aux prédictions d’IA biaisées ou inexactes.
Surveillance continue et signalement
La surveillance continue du fonctionnement du système d’IA est cruciale. Les déployeurs doivent rigoureusement suivre les instructions d’utilisation fournies par les fournisseurs de systèmes d’IA et signaler rapidement toute déviation ou problème au fournisseur ou à l’autorité compétente. Cela comprend la suspension du fonctionnement du système d’IA s’il pose un risque potentiel, comme l’affichage d’un comportement inhabituel qui pourrait compromettre la sécurité ou la confidentialité.
En résumé, les déployeurs jouent un rôle central dans l’exploitation sûre et responsable des systèmes d’IA à haut risque. En appliquant des mesures techniques et organisationnelles, en assurant une surveillance humaine, en maintenant l’intégrité des données et en menantune surveillance diligente, les déployeurs peuvent efficacement remplir leurs obligations en vertu de la loi IA de l’UE.
3.1.3 Obligations de la loi IA pour les importateurs
Les importateurs de systèmes d’IA à haut risque ont des responsabilités spécifiques en vertu de la loi IA de l’UE, qui sont cruciales pour assurer la conformité et la sécurité sur le marché. Ci-dessous, ces responsabilités sont détaillées pour plus de clarté et de facilité de compréhension :
Vérifier la conformité et la documentation
- Évaluation de la conformité : S’assurer que le système d’IA a réussi les contrôles de conformité requis ;




