Haben Banken KI-Agenten zu früh Verantwortung übertragen?
Ich denke, dass wir das in bestimmten Fällen, in denen experimentiert wird, wahrscheinlich getan haben. Für die Branchen, die wir bedienen und die stark reguliert sind, müssen wir sicherstellen, dass die richtigen Schutzmechanismen vorhanden sind. Wir müssen sicherstellen, dass Dinge wie Auditierbarkeit und Observability gegeben sind und dass bei jedem agentischen Vorgang der Mensch stets eingebunden ist und die Verantwortung trägt. Das ist nicht nur aus Sicht der rechtlichen Haftung erforderlich, sondern auch gute Best Practice.
Die agentischen, autonomen Prozesse und die heute eingesetzte Technologie können unsere Abläufe sicherlich unterstützen, aber letztlich müssen wir sicherstellen, dass stets ein Mensch die Verantwortung trägt.
Was bedeutet Agentic AI für Governance?
Letztlich funktionieren autonome und agentische Abläufe heute so, dass man das Was beschreibt und der Agent das Wie herausfindet. Daher müssen wir sicherstellen, dass das Wie mit Schutzmechanismen versehen ist, und genau danach sollten wir das System gestalten.
Ich bin tatsächlich der Ansicht, dass es bei dieser Kombination aus traditioneller Technologie mit deterministischen, regelbasierten Ansätzen und agentischen Abläufen mit probabilistischen Ansätzen wirklich darum geht, die richtige Kombination und Balance zwischen beidem zu finden. Dort werden wir die besten Ergebnisse erzielen.
Wie leiten Sie eine Belegschaft mit unterschiedlichen Fähigkeiten bei der Nutzung dieser Tools an?
Letztlich geht es um Kultur und darum, wie wir die Nutzung dieser Tools und Technologien fördern, sowohl individuell als auch unternehmensweit, um die Ergebnisse zu erzielen, die wir benötigen. Im vergangenen Jahr ging es größtenteils um Pilotprojekte und Experimente. Dieses Jahr geht es wirklich darum, von Pilotprojekten zur Produktion überzugehen. Wir sind überzeugt, dass der Sweet Spot in der heutigen Zeit menschliche Intelligenz plus künstliche Intelligenz ist.
Welchen Rat geben Sie für den Übergang vom Pilotprojekt zur Produktion?
Ich bin stets der Meinung, dass man die Pilotprojekte braucht. Man braucht die Experimente, denn so skaliert man, entdeckt und erkundet, was machbar und was möglich ist. Aber letztlich muss in der Welt, in der wir arbeiten, alles einen Business Case haben, und alles muss innerhalb von Richtlinien und Schutzmechanismen ablaufen. Die gewählten use cases entscheiden wirklich darüber, wie Erfolg erzielt werden kann. Wählt man die richtigen Fälle, die die richtigen Ergebnisse liefern, ist man gut aufgestellt.
Wir brauchen außerdem eine Denkweise, bei der wir bestehende Prozesse und bestehende Ansätze neu gestalten. Kleine Anpassungen an den Rändern führen zu einem besseren Ergebnis, aber nicht zu einem dramatischen. Wir haben die Chance, sehr optimistisch zu sein und dramatische Ergebnisse zu erzielen. Deshalb müssen wir damit beginnen, komplett neu zu durchdenken, wie das Ergebnis aussehen soll und wie wir dorthin gelangen können.
Schutzmechanismen und Verantwortlichkeit für Agentic AI
Banken bewegen sich von KI-Experimenten hin zu autonomen Abläufen, und stark regulierte Branchen können es sich nicht leisten, auf Kontrollen zu verzichten. In diesem FinextraTV-Interview auf der Sibos 2026 erklärt Akber Jaffer, CEO von Smartstream, warum Auditierbarkeit, Observability und ein Mensch, der stets „die Verantwortung trägt“, für jeden agentischen Vorgang unerlässlich sind.
Für Unternehmen, die Smart Agents Agentic AI für Finanzoperationen erkunden, ist das Prinzip einfach: Das gewünschte Ergebnis beschreiben, den Agenten das Wie herausfinden lassen und Schutzmechanismen rund um dieses Wie gestalten.
Deterministische Regeln und probabilistische Agenten im Gleichgewicht
Effektive Governance ersetzt die traditionelle Technologie nicht. Jaffer verweist auf eine Kombination aus deterministischen, regelbasierten Systemen und probabilistischen agentischen Ansätzen sowie auf menschliche Intelligenz plus künstliche Intelligenz als den Sweet Spot für die heutigen Abläufe.
Vom Pilotprojekt zur Produktion: den Prozess neu gestalten
Pilotprojekte bleiben unerlässlich, um herauszufinden, was machbar ist, doch jeder use case benötigt einen Business Case und klare Schutzmechanismen. Jaffer argumentiert, dass kleine Anpassungen an den Rändern zu einem besseren, aber nicht zu einem dramatischen Ergebnis führen, und dass Unternehmen damit beginnen sollten, das gewünschte Ergebnis neu zu gestalten. Sehen Sie sich das vollständige Interview oben an oder sprechen Sie mit Smartstream über use cases für Agentic AI.
