AI Act 2026 : Implications pour les Systèmes Agentiques et

Votre organisation est-elle prête à faire face aux attaques basées sur l'IA ?

1 Introduction : l'AI Act entre en vigueur, impacts sur l'IA agentique

Le Règlement (UE) 2024/1689 sur l'intelligence artificielle, couramment désigné EU AI Act, est officiellement entré en vigueur le 1er août 2024, après sa publication au Journal officiel de l'Union européenne. Son déploiement suit un calendrier échelonné jusqu'en août 2027, mais l'essentiel de ses obligations s'est progressivement matérialisé depuis 2025. En 2026, les entreprises opérant dans l'espace économique européen font face à un double défi : comprendre précisément quelles dispositions s'appliquent à leurs systèmes d'IA, et adapter leurs processus de développement, de déploiement et de surveillance en conséquence. Ce défi est particulièrement aigu pour deux catégories émergentes de systèmes : les systèmes d'IA agentiques, capables d'agir de manière autonome et de prendre des décisions sans validation humaine à chaque étape, et les modèles multimodaux, capables de générer du texte, des images, du son et de la vidéo à partir de prompts en langage naturel.

L'AI Act a été conçu à une époque où les systèmes d'IA agentiques étaient encore essentiellement expérimentaux et où les modèles multimodaux avancés n'existaient pas dans leur forme actuelle. Le règlement a donc été rédigé avec des catégories pensées pour des systèmes plus conventionnels, créant des zones d'interprétation délicates pour les technologies les plus récentes. L'AI Office européen et les autorités nationales compétentes ont commencé à publier des orientations interprétatives en 2025 pour clarifier l'application du règlement aux cas difficiles, mais des incertitudes subsistent. Les systèmes agentiques, par exemple, posent des questions inédites sur la chaîne de responsabilité : qui est responsable quand un agent IA prend une mauvaise décision après une séquence d'actions autonomes impliquant plusieurs outils et sources de données ? La notion de supervision humaine significative — exigée pour les systèmes à haut risque — est-elle compatible avec l'autonomie multi-étapes par définition des agents IA ?

Pour les entreprises, l'enjeu de 2026 est de cartographier précisément leurs systèmes d'IA dans la taxonomie de l'AI Act afin de déterminer leurs obligations exactes. Une erreur de classification — sous-estimer le niveau de risque d'un système agentique utilisé dans les ressources humaines, par exemple — expose à des sanctions sévères et à des dommages réputationnels significatifs. À l'inverse, une sur-conformité coûteuse pour des systèmes à risque minimal représente un gaspillage de ressources qui handicape la compétitivité. La maîtrise de la logique de classification de l'AI Act est donc devenue une compétence stratégique pour tout responsable IA, CTO, DPO ou juriste d'entreprise en 2026.

2 Classification des risques : modèles GPAI, systèmes haut risque, usages interdits

L'AI Act organise sa réglementation autour d'une pyramide de risques à quatre niveaux, chacun entraînant des obligations proportionnelles. Au sommet, les pratiques d'IA interdites (Article 5) constituent une liste exhaustive d'usages bannis dès le 2 février 2025 : systèmes de manipulation comportementale subliminale ou trompeuse ciblant les vulnérabilités humaines, notation sociale généralisée par des acteurs publics ou privés, identification biométrique à distance en temps réel dans les espaces publics à des fins policières (sauf exceptions judiciaires strictes), profilage prédictif pour la commission d'infractions pénales, reconnaissance des émotions sur le lieu de travail ou dans les établissements scolaires, et catégorisation biométrique révélant des caractéristiques sensibles. Pour les systèmes agentiques, l'interdiction la plus pertinente est celle de la manipulation comportementale : un agent IA de vente qui utiliserait des techniques de persuasion s'appuyant sur des biais cognitifs identifiés chez l'utilisateur pour le pousser à l'achat serait en violation directe de l'Article 5.

Les systèmes à haut risque (Article 6 et Annexe III) constituent la catégorie la plus complexe et la plus impactante pour les entreprises. Ils se définissent par leur appartenance à un secteur critique et leur potentiel d'impact significatif sur les personnes. Les huit domaines listés à l'Annexe III couvrent l'infrastructure critique (énergie, eau, transport), l'éducation et la formation professionnelle, l'emploi et la gestion des ressources humaines, l'accès aux services essentiels (crédit, assurance, prestations sociales), la justice pénale et la sécurité publique, la migration et l'asile, l'administration de la justice et les processus démocratiques. Un point capital pour les concepteurs de systèmes agentiques : un agent IA qui automatise les décisions de recrutement, d'attribution de crédit ou d'accès à des services sociaux est classé haut risque, indépendamment de la sophistication de son architecture ou du degré d'autonomie de ses décisions. C'est l'usage final qui détermine la classification, pas la technologie sous-jacente.

La catégorie des modèles GPAI (General Purpose AI), introduite spécifiquement dans l'AI Act pour répondre à l'émergence des fondation models, est particulièrement pertinente en 2026. Tout modèle IA entraîné avec une grande quantité de données, capable de réaliser une large gamme de tâches distinctes et mis à disposition via des APIs ou intégré dans des produits tiers, est qualifié de GPAI model. Les exemples typiques sont GPT-4o, Claude Opus 4.6, Gemini 2.0 Ultra, Llama 3.1, Mistral Large. Ces modèles sont soumis à des obligations de transparence envers les déployeurs (documentation technique, politique d'usage acceptable, instructions de déploiement sécurisé) et envers le public (résumé des données d'entraînement, capacités et limites). Les modèles GPAI dépassant le seuil de 10^25 FLOPS de puissance de calcul d'entraînement sont qualifiés de modèles à risque systémique et soumis à des obligations renforcées décrites dans la Section 3 ci-dessous. Pour approfondir, consultez Kubernetes offensif (RBAC abuse,.

3 Obligations des modèles fondation : transparence, tests, rapports

Les fournisseurs de modèles GPAI — c'est-à-dire les entreprises qui entraînent et commercialisent des modèles fondation — sont soumis à un ensemble d'obligations spécifiques depuis août 2025. La première obligation, et sans doute la plus structurante, est la documentation technique exhaustive : le fournisseur doit maintenir un dossier technique détaillant l'architecture du modèle, les jeux de données d'entraînement (sources, taille, méthodes de filtrage, respect du droit d'auteur), les méthodes d'évaluation utilisées, les performances sur des benchmarks standardisés, les capacités connues et les limitations identifiées, ainsi que les mesures d'atténuation des risques implémentées. Cette documentation doit être mise à disposition de l'AI Office sur demande et, pour certains éléments, publiée publiquement. La politique d'utilisation acceptable du modèle — définissant les usages autorisés, restreints et prohibés — doit également être documentée et communiquée aux déployeurs qui intègrent le modèle dans leurs produits.

Pour les modèles à risque systémique (seuil 10^25 FLOPS), les obligations sont substantiellement plus lourdes. L'article 55 de l'AI Act impose quatre exigences supplémentaires : (1) réaliser des évaluations de modèle contradictoires (red-teaming, adversarial testing) avant la mise sur le marché et après chaque mise à jour majeure, potentiellement en coordination avec l'AI Office, (2) évaluer et atténuer les risques systémiques identifiés, incluant les risques pour la sécurité publique, la démocratie et la diffusion d'informations incorrectes, (3) signaler à l'AI Office tout incident grave ou dysfonctionnement susceptible de constituer un risque pour la santé, la sécurité ou les droits fondamentaux dans les 24 heures, (4) assurer la cybersécurité du modèle et des infrastructures physiques et numériques associées. Ces obligations concernent directement OpenAI, Google DeepMind, Anthropic et Meta qui commercialisent leurs modèles en Europe, mais aussi les acteurs européens développant des modèles frontière.

Un aspect souvent négligé est la responsabilité des déployeurs de modèles GPAI — c'est-à-dire les entreprises qui utilisent un modèle fondation pour construire un produit ou service. Le déployeur n'est pas exempt d'obligations sous prétexte qu'il n'a pas entraîné le modèle. Si le système final tombe dans la catégorie haut risque, le déployeur est responsable de la conformité de l'application — y compris de la documentation de l'usage spécifique, de l'évaluation de conformité, et de la mise en place de la supervision humaine requise. De plus, si le déployeur modifie substantiellement le modèle via du fine-tuning ou qu'il l'utilise d'une manière non prévue ou non autorisée par le fournisseur, il peut acquérir le statut de fournisseur au sens de l'AI Act et être soumis à l'ensemble des obligations correspondantes. La frontière entre déployeur et fournisseur est donc un enjeu juridique critique pour les entreprises qui fine-tunent des modèles fondation sur leurs propres données.

Comment garantir que vos modèles de machine learning ne deviennent pas des vecteurs d'attaque ?

4 IA agentique : prise de décision autonome et supervision humaine

Les systèmes d'IA agentiques — agents autonomes capables de planifier et d'exécuter des séquences d'actions multi-étapes sans validation humaine intermédiaire — posent des défis interprétatifs fondamentaux à l'AI Act. Le règlement, conçu pour des systèmes plus statiques, repose sur une logique de supervision humaine qui suppose qu'un être humain peut examiner et valider les décisions de l'IA avant qu'elles aient des effets irréversibles. Or, un agent IA opérant dans un pipeline automatisé peut enchaîner des dizaines d'actions — appels API, modifications de bases de données, envois d'emails, exécutions de code — avant que quiconque n'ait eu l'occasion d'intervenir. L'AI Office a publié en octobre 2025 des orientations sur l'IA agentique qui clarifient plusieurs points essentiels.

Pour les systèmes agentiques classés haut risque, la supervision humaine requise par l'Article 14 doit être réelle et efficace, pas symbolique. Cela signifie concrètement que les agents opérant dans des domaines haut risque doivent intégrer des points d'arrêt obligatoires (human-in-the-loop checkpoints) aux étapes critiques — par exemple, avant d'exécuter une décision d'embauche, de refus de crédit ou de signalement policier. La simple existence d'un tableau de bord de monitoring post-hoc ne satisfait pas l'exigence de supervision humaine si un humain n'a pas eu l'opportunité réelle de valider ou d'arrêter l'action avant son exécution. Le concept de human-on-the-loop — supervision globale sans validation action par action — peut être acceptable pour des agents à risque limité ou minimal, mais pas pour les systèmes haut risque. Les concepteurs d'agents IA doivent donc architecturer leurs systèmes en distinguant soigneusement les actions réversibles (pour lesquelles l'autonomie complète peut être acceptable) des actions irréversibles à fort impact (qui nécessitent une validation humaine préalable).

La question de la traçabilité des décisions agentiques est également critique sous l'AI Act. Les articles 12 et 13 imposent aux systèmes haut risque de générer des logs automatiques permettant de retracer les décisions et les actions post-incident. Pour un agent IA, cela implique de journaliser l'ensemble du raisonnement — les thoughts du modèle, les outils invoqués, les arguments utilisés, les résultats obtenus — avec suffisamment de granularité pour permettre une enquête ultérieure. Cette exigence de traçabilité pousse vers des architectures agentiques avec des mécanismes de chain-of-thought logging structurés, des identifiants de session uniques, et des systèmes de retention des logs conformes au RGPD. La combinaison AI Act + RGPD crée une tension délicate : l'AI Act exige de conserver les logs de décision pour la responsabilité, tandis que le RGPD impose des limites à la rétention de données personnelles et des droits d'accès et d'effacement pour les personnes concernées.

Outils et ressources complementaires

5 Contraintes multimodales : génération de contenu, deepfakes, watermarking

Les modèles d'IA multimodaux — capables de générer du texte, des images, de l'audio et de la vidéo à partir de descriptions en langage naturel — sont central dans deux ensembles d'obligations de l'AI Act particulièrement impactants en 2026. Le premier concerne la transparence envers les utilisateurs pour tout contenu généré par l'IA. L'Article 50 impose que les systèmes d'IA interagissant avec des humains (chatbots, assistants vocaux) informent les utilisateurs de la nature artificielle de l'interaction de manière claire et sans ambiguïté. De même, les contenus audio, image, vidéo et texte générés par des systèmes GPAI et susceptibles d'être perçus comme authentiques doivent être marqués comme générés par IA via un mécanisme technique fiable. Cette obligation de marquage s'applique aux fournisseurs de systèmes GPAI qui mettent ces capacités à disposition ; les déployeurs doivent à leur tour s'assurer que les interfaces utilisateur communiquent cette information de manière compréhensible.

Le second ensemble d'obligations concerne spécifiquement les deepfakes — contenus hyperréalistes représentant des personnes réelles dans des situations fabriquées. L'Article 50(4) impose que toute personne déployant un système d'IA pour générer des contenus deepfake divulgue clairement que ces contenus ont été générés ou manipulés artificiellement, sauf dans des contextes strictement délimités (oeuvres artistiques, satire explicite, sécurité nationale). Cette obligation de divulgation des deepfakes crée des exigences concrètes pour les plateformes de création de contenu, les studios de divertissement, les applications de médias sociaux et toute entreprise utilisant de l'IA générative pour produire du contenu audiovisuel. La non-divulgation d'un deepfake — même partielle, comme modifier subtilement la voix ou l'apparence d'une personne sans indiquer l'intervention de l'IA — constitue une violation directe du règlement.

La question du watermarking (tatouage numérique) est particulièrement complexe techniquement. L'AI Act impose un marquage fiable du contenu généré par IA, mais ne prescrit pas de technologie spécifique, laissant l'industrie développer des standards. En 2026, plusieurs approches coexistent : le watermarking invisible embarqué dans les pixels ou les fréquences audio du contenu (C2PA, SynthID de Google), les métadonnées standardisées associées aux fichiers (Coalition for Content Provenance and Authenticity C2PA, adopté par Adobe, Microsoft, Sony), et les marquages visibles textuels ou iconographiques. Chaque approche présente des compromis entre robustesse (résistance aux modifications du contenu), discrétion (impact sur la qualité perçue) et déployabilité. L'AI Office développe activement un cadre technique de référence pour le watermarking en coordination avec les organismes de normalisation, mais sa finalisation est attendue pour fin 2026. En attendant, les entreprises doivent implémenter les solutions disponibles en documentant leur choix technique et son niveau de fiabilité.

Perspectives et evolution

Calendrier des obligations EU AI Act 2024-2027 — cliquer pour agrandir