¿Han dado los bancos responsabilidad a los agentes de IA demasiado pronto?
Creo que, en ciertos casos en los que hay algo de experimentación, probablemente lo hemos hecho. Para los sectores a los que servimos, que están altamente regulados, tenemos que asegurarnos de contar con las protecciones adecuadas. Tenemos que asegurarnos de que existan aspectos como la auditabilidad y la observabilidad, y de que, para cualquier operación agéntica, la persona siempre esté en el circuito y siempre esté rindiendo cuentas. Esto es necesario no solo desde una perspectiva de responsabilidad legal, también es una buena práctica recomendada.
Los procesos agénticos y autónomos, y la tecnología que se utiliza hoy, sin duda pueden ayudar a nuestras operaciones, pero, en última instancia, tenemos que asegurarnos de que una persona siempre esté rindiendo cuentas.
¿Qué significa la IA agéntica para la gobernanza?
En última instancia, lo que hacen hoy las operaciones autónomas y agénticas es que usted describe el qué y el agente determina el cómo. Por lo tanto, tenemos que asegurarnos de que el cómo tenga protecciones, y así es como debemos diseñar el sistema.
Sí creo que esta combinación de tecnología tradicional, que tiene enfoques deterministas basados en reglas, junto con operaciones agénticas, que tienen enfoques probabilísticos, consiste realmente en lograr la combinación y el equilibrio adecuados de ambas. Ahí es donde veremos los mejores resultados.
¿Cómo guía a una plantilla con diferentes conjuntos de habilidades en el uso de estas herramientas?
En última instancia, se trata de la cultura y de cómo fomentamos el uso de estas herramientas y tecnologías, tanto de forma individual como en toda la empresa, para obtener los resultados que necesitamos. El año pasado se centró en gran medida en pilotos y experimentación. Este año se trata realmente de pasar de pilotos a producción. Creemos que el punto óptimo en la era actual es la inteligencia humana más la inteligencia artificial.
¿Qué consejo tiene para pasar del piloto a producción?
Siempre pienso que se necesitan los pilotos. Se necesita la experimentación, porque así es como se escala, se descubre y se explora qué es viable y qué es posible. Pero, en última instancia, todo tiene que tener un business case en el mundo en el que trabajamos, y todo tiene que operar dentro de directrices y protecciones. Los use cases que elija determinan realmente cómo puede lograr el éxito. Si elige los casos adecuados que aportarán los resultados adecuados, eso le sitúa en una buena posición.
También necesitamos una mentalidad en la que estemos rediseñando los procesos existentes y los enfoques existentes. Hacer pequeños ajustes en los márgenes le dará un mejor resultado, pero no le dará un resultado espectacular. Tenemos la oportunidad de ser muy optimistas y de lograr resultados espectaculares, así que tenemos que empezar por rediseñar por completo cómo creemos que es el resultado y cómo podríamos llegar hasta ahí.
Protecciones y rendición de cuentas para la IA agéntica
Los bancos están pasando de experimentos de IA a operaciones autónomas, y los sectores altamente regulados no pueden permitirse saltarse los controles. En esta entrevista de FinextraTV en Sibos 2026, Akber Jaffer, CEO de Smartstream, explica por qué la auditabilidad, la observabilidad y una persona que siempre esté “rindiendo cuentas” son esenciales para cualquier operación agéntica.
Para las empresas que exploran la IA agéntica Smart Agents para operaciones financieras, el principio es sencillo: describa el resultado, deje que el agente determine el cómo y diseñe protecciones en torno a ese cómo.
Equilibrar reglas deterministas y agentes probabilísticos
Una gobernanza eficaz no sustituye a la tecnología tradicional. Jaffer señala una combinación de sistemas deterministas basados en reglas y enfoques agénticos probabilísticos, y la inteligencia humana más la inteligencia artificial como el punto óptimo para las operaciones actuales.
Del piloto a producción: rediseñe el proceso
Los pilotos siguen siendo esenciales para descubrir qué es viable, pero cada use case necesita un business case y protecciones claras. Jaffer sostiene que hacer pequeños ajustes en los márgenes ofrece un mejor resultado, no uno espectacular, y que las empresas deberían empezar por rediseñar el resultado que quieren. Vea la entrevista completa arriba o hable con Smartstream sobre use cases de IA agéntica.
