Nous sommes heureux de présenter la deuxième vidéo de notre série sur la réglementation IA ACT, qui met en lumière les obligations cruciales des fournisseurs et des déployeurs d’intelligence artificielle à haut risque pour une utilisation responsable de cette technologie prometteuse.
En tant qu’avocats au sein du cabinet JUNCA & ASSOCIES, nous nous engageons à partager notre expertise sur les enjeux juridiques et éthiques liés à l’IA, et cette série de capsules vidéo réalisée dans le cadre du Think Tank NXU nous offre cette opportunité.
Obligations des fournisseurs et des déployeurs d’IA : Vers une gouvernance responsable
L’IA ACT met l’accent sur plusieurs obligations fondamentales pour les fournisseurs et les déployeurs d’IA à haut risque, qui sont essentielles pour assurer une gouvernance responsable de cette technologie innovante :
- Gouvernance des données conforme au RGPD : Les fournisseurs et les déployeurs d’IA devront se conformer aux exigences de la gouvernance des données, similaires à celles du Règlement général sur la protection des données (RGPD). Cela implique de garantir la confidentialité, la sécurité et l’intégrité des données collectées, stockées et traitées par les systèmes d’IA.
- Autoévaluation au stade du déploiement de l’IA : Les fournisseurs devront procéder à une autoévaluation approfondie de leurs systèmes d’IA avant le déploiement. Cette évaluation permettra d’identifier les IA à haut risque, les risques potentiels liés à l’utilisation de ces IA et de mettre en place des mesures correctives pour garantir une utilisation éthique et conforme à la réglementation.
- Politique de gestion des risques : Les fournisseurs et les déployeurs d’IA à haut risque devront élaborer et mettre en œuvre une politique de gestion des risques solide. Cette politique devra prendre en compte les risques techniques, juridiques, éthiques et sociaux liés à l’utilisation de l’IA et définir des mesures pour les atténuer efficacement.
- Transparence et traçabilité : Les fournisseurs et les déployeurs d’IA à haut risque devront assurer une transparence totale sur le fonctionnement de leurs systèmes et devront mettre à disposition des utilisateurs des informations claires et compréhensibles. Cela comprend notamment des déclarations sur les capacités et les limites des IA, une documentation complète des processus et une notice d’utilisation accessible à tous les utilisateurs. De plus, les informations sur l’IA devront être enregistrées dans des bases de données dédiées de l’Union européenne pour une traçabilité optimale.
- Contrôle humain de l’IA : L’IA ACT met en avant l’importance du contrôle humain dans les processus décisionnels des systèmes d’IA. Les fournisseurs et les déployeursdevront former les non-spécialistes qui auront la responsabilité de superviser ou d’intervenir dans le fonctionnement de l’IA, garantissant ainsi une surveillance humaine adéquate pour éviter les risques inattendus.
Restez connecté pour les prochaines vidéos, où nous continuerons à explorer ensemble les aspects spécifiques de cette réglementation.