Bilel Jamoussi (UIT) : « Les agents d’IA manquent d’identifiants uniques et évoluent sans cadre d’action clairement établi »

Bilel Jamoussi (UIT) et l’urgence des identifiants uniques pour les agents d’IA : le déclic d’AI for Good à Genève

Au Palexpo de Genève, le Sommet mondial AI for Good s’est imposé comme un carrefour où l’intelligence artificielle n’est pas seulement célébrée, mais aussi confrontée à ses angles morts. Dans ce paysage, la voix de Bilel Jamoussi, directeur adjoint du Bureau de la normalisation des télécommunications de l’UIT et figure clé du programme, tranche par sa précision. Son constat est limpide : les agents d’IA, conçus pour agir à la place des humains, ne disposent pas d’identifiants uniques et évoluent sans cadre d’action clairement établi. Dit autrement : ils font, mais on peine encore à prouver “qui”, “pour qui” et “jusqu’où”.

Cette alerte résonne d’autant plus que l’UIT (Union internationale des télécommunications) n’est pas un acteur “en marge” du numérique. L’organisation, agence spécialisée des Nations Unies pour les technologies de l’information et de la communication, s’appuie sur une longue tradition de standards qui ont rendu possibles des usages massifs et sûrs : téléphonie, interconnexion, identités de réseau. Dans les échanges menés durant le sommet, l’idée revient comme un refrain : la confiance ne tombe pas du ciel, elle se construit sur des règles partagées.

La trajectoire d’AI for Good illustre cette montée en puissance. L’initiative est née en 2017 dans un format quasi artisanal, avec quelques centaines de participants mêlant chercheurs, entreprises et organisations internationales. En moins d’une décennie, elle a changé de dimension, rassemblant des milliers de personnes enregistrées, des responsables politiques de haut niveau et des régulateurs. Ce succès n’est pas seulement un record d’affluence : il signale que les sujets débattus, notamment l’IA appliquée à la santé, à l’éducation ou à l’agriculture, sont désormais perçus comme structurants pour la société.

Mais plus l’IA devient “opérationnelle”, plus elle change de nature. Les agents ne sont pas de simples chatbots : ils déclenchent des actions, orchestrent des tâches, sollicitent des services externes, parfois en chaîne. À ce stade, une question dérangeante surgit : comment distinguer l’action légitime d’un agent mandaté, d’une action imitée, détournée ou simplement mal attribuée ? Sans identifiant robuste, la frontière entre assistance et usurpation devient dangereusement poreuse. 🔎

Pour rendre le débat concret, une histoire typique circule dans les couloirs : celle d’une PME européenne, appelons-la HelvetiaLog, qui expérimente des agents pour fluidifier les déplacements de ses équipes. L’agent réserve des trains, gère des hôtels, propose des itinéraires selon des contraintes budgétaires. Tout fonctionne… jusqu’au jour où un fournisseur conteste une commande au motif qu’aucun “utilisateur” n’est clairement traçable. L’employé affirme n’avoir rien validé, l’agent assure avoir “agi dans l’intérêt”, le DSI constate l’absence de preuve simple et standardisée. Ce n’est pas un scénario de science-fiction : c’est le type de friction qui transforme un gain de productivité en incident de gouvernance.

À Genève, l’insight qui s’impose est que l’identité des agents n’est pas un détail technique : c’est la condition pour faire exister des responsabilités, des audits et des recours. Et c’est précisément cette bascule — du “ça marche” au “c’est gouvernable” — qui prépare le terrain de la normalisation annoncée. La suite logique porte un nom : définir une identité numérique et un champ d’action, sans brider l’innovation mais en rendant l’écosystème interopérable.

Identité numérique des agents d’IA : ce que l’UIT veut standardiser pour relier l’agent à la personne

Au cœur de la proposition portée par l’UIT, un principe simple apparaît comme une évidence une fois formulé : sur les réseaux, les humains sont identifiables par des repères partagés. Un numéro de téléphone, une adresse e-mail, des identifiants utilisés par une banque ou un professionnel de santé… Ces marqueurs ne sont pas parfaits, mais ils forment un langage commun. Or, dans l’univers des agents d’IA, l’écosystème a avancé à grande vitesse sans imposer l’équivalent : un identifiant numérique d’agent stable, vérifiable et relié à un mandant (la personne ou l’organisation qui délègue).

Pourquoi cette connexion est-elle cruciale ? Parce que l’agent agit “au nom de”. Sans lien standardisé entre l’identité de l’agent et celle du responsable, il devient difficile de prouver la chaîne de décision. Dans des secteurs régulés, cela se traduit par des blocages immédiats : un établissement financier ne peut pas accepter une instruction sans piste d’audit ; une administration ne peut pas traiter un dossier si l’auteur de la demande est flou ; un acteur de la santé ne peut pas intégrer une donnée si son origine n’est pas garantie. La promesse de l’automatisation se heurte alors à la réalité de la conformité.

Traçabilité de bout en bout : réservation, achat, signature, et après ?

Les exemples cités dans les discussions autour d’AI for Good ont un avantage : ils parlent à tout le monde. Lorsqu’un agent réserve un voyage (hôtel, avion, train), il interagit avec une constellation d’acteurs : plateformes, systèmes de paiement, programmes de fidélité, assurances, services d’annulation. Sans identifiant unique, chaque partenaire “voit” une requête automatisée, mais ne sait pas toujours comment l’attribuer proprement. Le résultat, ce sont des litiges, des contestations, et parfois des refus de service.

La traçabilité ne sert pas uniquement à “surveiller” : elle protège aussi l’utilisateur. En cas d’erreur, il faut pouvoir reconstruire le film : quel agent a agi, sous quel mandat, avec quels paramètres, à quel moment, via quel système. C’est une logique très proche des journaux d’audit en cybersécurité, mais avec une nuance : l’agent prend des initiatives. Il ne se contente pas d’exécuter une commande unique ; il planifie, arbitre et compose. D’où la nécessité de standards adaptés à cette autonomie relative. 🧩

Des signaux du marché : Estonie, Microsoft et l’émergence d’identités d’agents

L’argumentaire gagne en force parce que la demande ne vient pas uniquement des institutions. Certains États, connus pour leur avance en administration numérique, explorent déjà des mécanismes d’“immatriculation” des agents afin de clarifier les responsabilités. En parallèle, des fournisseurs mondiaux étendent leurs infrastructures d’identité vers les agents, en ajoutant des composants dédiés à leur authentification et à leur gestion. Ce mouvement est révélateur : l’identité de l’agent devient un produit… mais l’UIT vise une logique différente, centrée sur l’interopérabilité et la cohérence internationale.

Dans la pratique, une norme d’identification permettrait de faire dialoguer des agents de différentes origines au sein d’une même organisation, sans enfermer l’entreprise dans une seule pile technologique. Pour une DSI, c’est un point décisif : l’agent du service client, celui des achats et celui de la maintenance ne seront pas forcément fournis par le même éditeur. Sans standard, chaque agent arrive avec ses propres règles, ses propres traces, ses propres limites, et l’IT passe plus de temps à “recoller” qu’à innover.

La perspective mise en avant à Genève ressemble à une règle d’hygiène numérique : pas d’action sans identité. Et comme toute règle simple, elle ouvre sur un chantier immense — celui du champ d’action, autrement dit des permissions, des plafonds, des interdits. C’est là que la normalisation devient aussi une affaire de gouvernance d’entreprise, pas seulement de protocoles.

Cadre d’action des agents d’IA : comment éviter l’automatisation incontrôlée dans les entreprises

À mesure que les agents deviennent capables d’enchaîner des tâches, une inquiétude monte dans les directions informatiques : comment s’assurer que l’agent fera exactement ce qui est demandé — et uniquement cela ? Le parallèle souvent utilisé à Genève est parlant : un assistant humain peut accéder à un agenda, proposer des créneaux, envoyer des invitations. Il peut même, dans certains cas, lire des e-mails pour préparer une synthèse. Mais il existe des limites explicites, connues, contractualisées et, surtout, socialement comprises. Pour les agents d’IA, ces limites doivent être codées et standardisées, faute de quoi chaque organisation réinvente des règles, parfois fragiles.

Le point clé, c’est que le cadre d’action ne se réduit pas à un “oui/non”. Il s’agit d’un ensemble de permissions fines, de conditions, de seuils, et de contextes. Un agent peut être autorisé à modifier un document, mais pas à le supprimer. Il peut préparer une transaction, mais pas la valider au-delà d’un certain montant. Il peut demander un remboursement, mais seulement si le dossier contient une preuve donnée. Ces contraintes ressemblent à des politiques d’accès, sauf qu’elles s’appliquent à des entités capables d’initiative. ⚠️

Étude de cas : l’agent achats de HelvetiaLog face aux règles de dépense

Reprenons HelvetiaLog. L’entreprise déploie un agent pour automatiser la gestion des fournitures et des prestations récurrentes. Objectif : éviter les micro-achats dispersés et gagner du temps. Très vite, l’agent apprend à comparer des prix et à proposer des alternatives. L’efficacité est réelle, jusqu’à un incident classique : l’agent choisit un fournisseur “nouveau” offrant une remise agressive, mais dont la conformité n’a pas été vérifiée. Résultat : blocage par l’équipe conformité, tensions internes, et une question qui cloue tout le monde : “Qui a autorisé ce choix ?”

Un cadre d’action bien conçu aurait imposé une règle simple : tout fournisseur non référencé déclenche une validation humaine, ou reste hors périmètre. Mais pour que cette règle soit reproductible et partagée, elle doit pouvoir s’exprimer dans des standards, pas seulement dans un paramétrage maison. C’est le type de passerelle que cherche à construire l’UIT : transformer des bonnes pratiques de gouvernance en mécanismes interopérables.

Liste opérationnelle : ce que les DSI veulent contrôler dès maintenant 🧭

Dans les échanges entre responsables IT, régulateurs et industriels, certains contrôles reviennent sans cesse, car ils représentent la “ceinture de sécurité” minimale avant d’élargir l’autonomie des agents :

• 🔐 Actions interdites : suppression définitive de fichiers, changement d’administrateur, export massif de données.
• 💳 Plafonds de transaction : montants maximum, catégories d’achats autorisées, interdiction de certains moyens de paiement.
• 🧾 Justificatifs obligatoires : l’agent ne peut finaliser une demande sans pièce jointe ou preuve vérifiable.
• 👥 Validation humaine : escalade automatique dès qu’une règle est ambigüe ou qu’un risque est détecté.
• 🕵️ Journalisation : traces horodatées, contexte de décision, sources consultées, système externe contacté.
• 🧱 Segmentation : un agent par périmètre (RH, finance, IT) plutôt qu’un “super-agent” omnipotent.

Ce type de liste a l’air évident, mais la difficulté commence quand plusieurs agents, plusieurs éditeurs et plusieurs pays entrent dans la danse. Qui définit le format des logs ? Comment exprimer un plafond de dépense de manière portable ? Comment prouver qu’une validation humaine a bien eu lieu ? Sans cadre commun, l’entreprise se retrouve avec une mosaïque difficile à auditer. L’insight final s’impose : la confiance dans les agents ne sera pas une affaire de promesses, mais de permissions vérifiables.

Ce besoin de vérifiabilité pousse naturellement vers un dispositif collectif : un groupe de travail ouvert, capable d’agréger innovations et exigences. C’est précisément l’architecture annoncée autour d’AI for Good, avec une méthode conçue pour aller vite sans sacrifier la solidité.

Sur les plateaux et dans les ateliers, un même fil se dessine : l’agent doit pouvoir prouver ce qu’il est, et prouver ce qu’il a le droit de faire. La question suivante devient alors politique et industrielle : qui écrit les règles, et comment éviter que chaque région du monde parte dans une direction incompatible ?

Focus group UIT sur l’identité et le champ d’action des agents d’IA : une méthode ouverte pour créer des normes mondiales

L’un des aspects les plus enthousiasmants du chantier annoncé à Genève tient à son format : un focus group pensé pour rassembler rapidement un écosystème hétérogène. Là où certains organismes fonctionnent avec des cercles fermés, l’approche mise en avant est l’ouverture : la participation ne serait pas réservée aux membres historiques. Cette stratégie correspond à la réalité du terrain : les agents sont développés par des startups, des laboratoires, des géants du logiciel, mais aussi par des administrations et des universités. Exclure une partie de ce monde reviendrait à produire des règles élégantes… mais inapplicables.

Le mécanisme vise donc un équilibre délicat : accélérer la convergence, tout en conservant l’exigence des standards internationaux. À l’UIT, cet équilibre s’appuie sur une gouvernance multipartite : États, universités, entreprises privées, régulateurs. Cette diversité n’est pas décorative. Elle permet de confronter les cas d’usage concrets (réservation, achats, gestion de dossiers) aux contraintes légales (preuve, audit, responsabilité) et aux réalités techniques (authentification, gestion des clés, compatibilité avec l’existant).

Pourquoi l’idée a émergé après AI for Good 2025 : de l’atelier à la feuille de route

Le travail ne surgit pas d’une page blanche. Les discussions autour de la sécurité et de l’IA, intensifiées lors des ateliers de l’édition 2025, ont fait remonter une évidence : la question des agents ne pouvait plus être traitée comme un simple “module” de cybersécurité. Il fallait lui donner un cadre dédié, car les agents se trouvent au croisement de plusieurs domaines : identité numérique, politiques d’accès, droit de la délégation, responsabilité, et interopérabilité entre plateformes.

Une année de concertation plus tard, le périmètre se clarifie : l’identifiant de l’agent et son champ d’action deviennent des priorités. Cette formulation peut sembler administrative, mais elle est terriblement opérationnelle. Une norme réussie ne dira pas seulement “il faut identifier”. Elle précisera comment identifier, comment relier, comment prouver, comment révoquer, comment transférer un mandat. Et surtout, comment permettre à deux organisations différentes de se comprendre sans négocier un contrat technique de six mois.

Tableau : ce que vise la normalisation pour éviter la confusion agentique 🧱

🎯 Objectif	🛠️ Ce que cela implique	🏢 Exemple concret en entreprise
Identifiant unique d’agent 🔑	Format commun, preuve d’authenticité, gestion du cycle de vie	Un agent “Achats-01” est reconnu par l’ERP et par un fournisseur externe
Lien agent-mandant 🧾	Association vérifiable entre l’agent et la personne/organisation qui délègue	En audit, il est possible de remonter du bon de commande à l’autorisation
Périmètre d’action standardisé 🧭	Permissions, interdits, seuils, règles d’escalade exprimables de façon portable	L’agent peut planifier un voyage mais ne peut pas acheter une option premium
Traçabilité et logs interopérables 🕵️	Journaux d’événements compréhensibles entre systèmes, horodatage, contexte	La RSSI corrèle un incident agentique avec des logs réseau et applicatifs
Révocation et incident 🚨	Couper l’accès, suspendre le mandat, notifier les services concernés	En cas de dérive, l’agent est stoppé sans casser les autres workflows

Ce tableau met en évidence une idée forte : la norme ne cherche pas à “faire joli”, elle cherche à réduire les zones grises. Et dans un monde où les agents se multiplient, la zone grise est un accélérateur d’incidents. Le focus group devient alors une salle des machines : c’est là que les mots se transforment en mécanismes vérifiables.

À mesure que ces mécanismes prennent forme, une autre tension apparaît : comment éviter que le monde se fragmente en standards incompatibles selon les régions ? La réponse proposée repose sur l’expérience historique de l’UIT et sur une stratégie inattendue : l’implémentation ouverte.

Ce qui se joue ici dépasse la technique : il s’agit de créer un terrain commun où l’innovation circule sans perdre la confiance en route. Et pour y parvenir, la bataille des standards se gagnera autant dans les textes que dans les logiciels.

Norme internationale vs fragmentation : l’argument UIT pour une identité d’agent d’IA interopérable et déployable en open source

Quand les technologies se mondialisent, deux scénarios s’affrontent. Le premier ressemble à une tour de Babel : chaque pays, chaque région, parfois chaque grand fournisseur, impose ses définitions, ses formats et ses exigences. Le second privilégie la convergence : une grammaire commune, suffisamment souple pour accueillir des variantes, mais assez stable pour garantir la compatibilité. Dans le débat sur les agents d’IA, l’UIT défend clairement le second modèle, avec un objectif : éviter la fragmentation régionale ou nationale des règles d’identité et de mandat.

L’argument n’est pas théorique. Dans les télécommunications, la normalisation a permis une interconnexion à l’échelle planétaire : un numéro de téléphone fonctionne au-delà des frontières, les réseaux se parlent, les appareils s’alignent sur des standards. Cette mémoire industrielle sert de référence : si des milliards d’équipements ont pu partager des règles communes, pourquoi accepter que les agents d’IA, appelés à agir dans des systèmes critiques, restent coincés dans des silos ? 📡

Interopérabilité : le vrai besoin des organisations multi-fournisseurs

Dans une grande entreprise, l’agent n’est jamais seul. Il cohabite avec des annuaires d’identité, des outils de gestion des accès, des systèmes métiers, des solutions de sécurité. Il peut même dialoguer avec des agents externes : logistique, assurance, ressources humaines. Sans standard, chaque intégration devient un projet sur mesure. Et chaque projet sur mesure est une dette : maintenance, audit, mise à jour, gestion de crise.

À l’inverse, un identifiant d’agent normalisé permettrait d’unifier des briques aujourd’hui dispersées : authentification, attribution, traçabilité, révocation. Un RSSI pourrait définir une politique cohérente pour plusieurs outils. Un DSI pourrait changer de fournisseur sans perdre la capacité à prouver et à contrôler. Et, élément décisif, un régulateur pourrait évaluer des dispositifs sans se heurter à des formats opaques.

Le rôle de l’open source : accélérer l’adoption et réduire l’écart Nord-Sud

Un point a particulièrement retenu l’attention dans les échanges : la mise en œuvre via des logiciels open source peut accélérer la diffusion des normes. L’idée est simple : un texte normatif, aussi bon soit-il, met du temps à se traduire en produits. À l’inverse, une implémentation de référence accessible permet aux développeurs, aux administrations et aux entreprises d’expérimenter rapidement, de signaler les obstacles, et d’améliorer la robustesse.

Cette approche a aussi une dimension d’équité. Tous les États n’ont pas les mêmes moyens pour acheter des solutions propriétaires ou financer des intégrations longues. Une référence ouverte donne un point d’entrée plus accessible, favorise la montée en compétence, et limite la dépendance à un acteur unique. Dans l’esprit d’AI for Good, c’est cohérent : l’IA “pour le bien” suppose aussi des infrastructures de confiance disponibles au-delà des cercles les plus riches.

Une tension productive : ne pas figer l’innovation, mais imposer des garde-fous

Les critiques classiques de la normalisation sont connues : peur de ralentir, risque de standardiser trop tôt, danger d’étouffer des approches nouvelles. Pourtant, l’identité et le champ d’action des agents forment un type de standard qui, paradoxalement, peut libérer l’innovation. En fixant un socle commun — comment nommer un agent, comment prouver son mandat, comment exprimer une limite — on permet à une multitude de solutions de fleurir au-dessus, sans repartir de zéro.

Revenons à HelvetiaLog pour une dernière scène : l’entreprise souhaite ajouter un agent de support IT, distinct de l’agent achats. Sans cadre commun, elle devrait créer une politique différente, des logs différents, des alertes différentes. Avec un standard, elle peut répliquer une logique : identifiant, périmètre, escalade, audit. L’innovation ne disparaît pas ; elle change d’échelle. Et c’est là que la phrase de Bilel Jamoussi prend toute sa portée : sans identifiants uniques et sans cadre d’action, les agents avancent… mais la confiance, elle, reste à quai.

Le prochain enjeu, déjà palpable dans les discussions internationales, sera de transformer ces principes en exigences testables, comparables et adoptables. Autrement dit : faire en sorte que chaque nouvel agent puisse être évalué comme on évalue un composant critique, avec des preuves, pas des promesses. ✅