Intelligence artificielle : Amal El Fallah Seghrouchni appelle à renforcer l’imputabilité des algorithmes

Mardi 07 - 13:14

Par: ELMIR Barae

Intelligence artificielle : Amal El Fallah Seghrouchni appelle à renforcer l’imputabilité des algorithmes

Le Maroc a plaidé pour une évolution profonde des mécanismes de responsabilité applicables à l’intelligence artificielle (IA), estimant que l’essor des systèmes autonomes impose de nouveaux cadres juridiques et éthiques. Intervenant à Genève lors du Dialogue mondial sur la gouvernance de l’IA, la ministre déléguée chargée de la Transition numérique et de la Réforme de l’administration, Amal El Fallah Seghrouchni, a souligné que l’imputabilité des systèmes d’IA agentique constitue désormais l’un des principaux défis de la gouvernance numérique.

Prenant part à un panel de haut niveau consacré aux droits humains à l’ère de l’intelligence artificielle, la ministre a attiré l’attention sur la complexité croissante des systèmes d’IA reposant sur plusieurs agents autonomes. Selon elle, ces architectures rendent plus difficile l’identification d’un responsable unique lorsqu’une décision automatisée provoque un préjudice.

Une responsabilité devenue plus complexe

Amal El Fallah Seghrouchni a expliqué que les systèmes d’IA agentique fonctionnent grâce à une succession d’agents spécialisés intervenant à différentes étapes d’un même processus décisionnel. Dans un tel environnement, déterminer l’origine précise d’une erreur devient particulièrement délicat, notamment lorsque plusieurs modèles interagissent simultanément.

Cette complexité est renforcée par la taille des modèles d’intelligence artificielle actuels, qui reposent sur des milliards de paramètres et génèrent des chaînes de causalité difficiles à reconstituer.

Pour illustrer cette réalité, la ministre a rappelé que l’administration marocaine traite chaque année près de 52 millions de transactions administratives, un volume qui souligne l’importance de disposer d’outils capables d’identifier rapidement les causes d’un éventuel dysfonctionnement.

Une nouvelle approche fondée sur la traçabilité

Face à ces enjeux, la responsable gouvernementale a proposé le développement d’une approche reposant sur le concept de « débrayage » (throttling). Cette méthode permettrait de reconstituer le parcours décisionnel des systèmes d’IA afin de mieux identifier les responsabilités, de repérer les zones de risque et de vérifier le respect des droits fondamentaux à chaque étape du processus.

L’objectif est d’offrir une meilleure visibilité sur le fonctionnement interne des systèmes décisionnels tout en facilitant l’évaluation des risques potentiels pour les citoyens.

Trois principes pour renforcer l’imputabilité

Au cours de son intervention, Amal El Fallah Seghrouchni a présenté trois axes jugés essentiels pour garantir une gouvernance responsable de l’intelligence artificielle.

Le premier consiste à documenter précisément les chaînes d’intervention des différents agents afin de savoir qui intervient, à quel moment et dans quelles conditions, notamment dans les services publics.

Le deuxième prévoit la désignation systématique d’un responsable humain clairement identifié pour toute décision susceptible d’avoir un impact sur les droits des personnes.

Enfin, la ministre a insisté sur la nécessité d’assurer un droit à un recours effectif dans des délais compatibles avec la rapidité d’exécution des systèmes d’intelligence artificielle.

Selon elle, l’autonomie technique des algorithmes ne doit jamais conduire à une autonomie vis-à-vis du droit. Elle a ainsi appelé à une gouvernance anticipative fondée sur les droits humains, la transparence, la traçabilité, les audits réguliers et une supervision humaine adaptée aux réalités de chaque pays.

Les discussions organisées à Genève ont également porté sur la protection des populations les plus vulnérables, le contrôle humain des systèmes d’IA, la prévention des risques tout au long de leur cycle de vie ainsi que le renforcement des mécanismes internationaux de gouvernance numérique.