Les banques ont-elles donné trop tôt des responsabilités aux agents d’IA ?
Je pense que dans certains cas où il y a eu un peu d’expérimentation, nous l’avons probablement fait. Pour les secteurs que nous servons, qui sont fortement réglementés, nous devons nous assurer que nous avons mis en place les bonnes garde-fous. Nous devons nous assurer qu’il y a des éléments comme l’auditabilité et l’observabilité, et que pour toute opération agentique, l’humain est toujours impliqué et l’humain est toujours responsable. Cela est nécessaire non seulement d’un point de vue de responsabilité légale, mais c’est aussi une bonne pratique.
Les processus agentiques et autonomes ainsi que la technologie utilisés aujourd’hui peuvent certainement aider nos opérations, mais en fin de compte, nous devons nous assurer qu’un humain est toujours responsable.
Que signifie l’IA agentique pour la gouvernance ?
En fin de compte, ce que les opérations autonomes et agentiques font aujourd’hui, c’est que vous décrivez le ‘quoi’ et l’agent détermine le ‘comment’. Par conséquent, nous devons nous assurer que le ‘comment’ est encadré par des garde-fous, et c’est ainsi que nous devrions concevoir le système.
Je pense que cette combinaison de technologie traditionnelle, qui a des approches déterministes basées sur des règles, avec des opérations agentiques, qui ont des approches probabilistes, consiste réellement à trouver la bonne combinaison et le bon équilibre des deux. C’est là que nous verrons les meilleurs résultats.
Comment guider une main-d’œuvre aux compétences diverses dans l’utilisation de ces outils ?
En fin de compte, il s’agit de culture, et de la manière dont nous encourageons l’utilisation de ces outils et technologies, tant individuellement qu’à l’échelle de l’entreprise, pour obtenir les résultats dont nous avons besoin. L’année dernière a été largement consacrée aux pilotes et à l’expérimentation. Cette année, il s’agit vraiment de passer des pilotes à la production. Nous pensons que le point idéal à l’ère actuelle est l’intelligence humaine plus l’intelligence artificielle.
Quel conseil avez-vous pour passer du pilote à la production ?
Je pense toujours que les pilotes sont nécessaires. L’expérimentation est nécessaire, car c’est ainsi que l’on monte en puissance, que l’on découvre et explore ce qui est viable et ce qui est possible. Mais en fin de compte, tout doit avoir un cas d’usage commercial dans le monde où nous travaillons, et tout doit fonctionner selon des directives et des garde-fous. Les cas d’usage que vous choisissez déterminent réellement comment vous pouvez réussir. Si vous choisissez les bons cas qui produiront les bons résultats, cela vous mettra en bonne position.
Nous avons également besoin d’un état d’esprit où nous redessinons les processus et les approches existants. Des ajustements marginaux vous donneront un meilleur résultat, mais pas un résultat spectaculaire. Nous avons l’opportunité d’être très optimistes et d’obtenir des résultats spectaculaires, nous devons donc commencer par redessiner complètement ce à quoi nous pensons que le résultat ressemble et comment nous pourrions y parvenir.
Garde-fous et responsabilité pour l’IA agentique
Les banques passent des expériences d’IA aux opérations autonomes, et les industries fortement réglementées ne peuvent pas se permettre de sauter les contrôles. Dans cette interview de FinextraTV à Sibos 2026, Akber Jaffer, PDG de Smartstream, explique pourquoi l’auditabilité, l’observabilité et un humain qui est toujours « responsable » sont essentiels pour toute opération agentique.
Pour les entreprises explorant l’IA agentique Smart Agents pour les opérations financières, le principe est simple : décrire le résultat, laisser l’agent déterminer le comment, et concevoir des garde-fous autour de ce comment.
Équilibrer règles déterministes et agents probabilistes
Une gouvernance efficace ne remplace pas la technologie traditionnelle. Jaffer souligne une combinaison de systèmes déterministes basés sur des règles et d’approches agentiques probabilistes, ainsi que l’intelligence humaine plus l’intelligence artificielle comme le point idéal pour les opérations d’aujourd’hui.
Du pilote à la production : redessiner le processus
Les pilotes restent essentiels pour découvrir ce qui est viable, mais chaque cas d’usage a besoin d’un cas d’usage commercial et de garde-fous clairs. Jaffer soutient que les ajustements marginaux donnent un meilleur résultat, pas un résultat spectaculaire, et que les entreprises devraient commencer par redessiner le résultat qu’elles souhaitent. Regardez l’interview complète ci-dessus, ou parlez à Smartstream des cas d’usage de l’IA agentique.
