銀行はAIエージェントに責任を負わせるのが早すぎたのでしょうか？
一部の実験的なケースにおいては、その可能性があると考えています。当社がサービスを提供している規制の厳しい業界では、適切なガードレールを整備する必要があります。監査可能性やオブザーバビリティを確保し、いかなるエージェンティックな運用においても、常に人間がプロセスに関与し、最終的な責任を負う体制を整えなければなりません。これは法的責任の観点だけでなく、ベストプラクティスとしても不可欠です。
現在使用されているエージェンティックで自律的なプロセスやテクノロジーは、業務の効率化に確実に役立ちますが、最終的には常に人間が責任を負うことを保証しなければなりません。
エージェンティックAIはガバナンスにとって何を意味するのでしょうか？
結局のところ、現在の自律的かつエージェンティックな運用では、人間が「何を」記述し、エージェントが「どのように」を判断します。したがって、その「どのように」に対してガードレールを設ける必要があり、それがシステム設計のあるべき姿です。
決定論的でルールベースのアプローチをとる従来のテクノロジーと、確率論的なアプローチをとるエージェンティックな運用を組み合わせ、両者の適切なバランスを見つけることが重要だと考えています。それこそが、最善の成果を生む鍵となります。
スキルセットの異なる従業員に対し、これらのツールの活用をどのように導くべきでしょうか？
最終的には文化の問題であり、必要な成果を得るために、個人レベルおよび企業全体でこれらのツールやテクノロジーの活用をいかに促進するかが重要です。昨年は主にパイロット運用と実験の年でしたが、今年はパイロットから本番環境への移行が本格化します。現代における最適解は、「人間の知能」プラス「人工知能」であると確信しています。
パイロットから本番環境へ移行するためのアドバイスはありますか？
パイロット運用は常に必要だと考えています。何が実行可能で何が可能かを発見し、模索しながらスケールアップしていくためには実験が不可欠だからです。しかし、私たちの業界では、最終的にすべてにビジネスケースが必要であり、ガイドラインとガードレールの範囲内で運用されなければなりません。成功するかどうかは、選択するユースケースにかかっています。適切な成果をもたらす正しいケースを選択できれば、有利な状況を築けるでしょう。
また、既存のプロセスやアプローチを再定義するというマインドセットも必要です。表面的な微調整だけでは、多少の改善は見込めても、劇的な成果は得られません。私たちは非常に楽観的な展望を持ち、劇的な成果を得る機会を手にしています。そのためには、目指すべき成果の姿とそこに至るまでのプロセスを、ゼロから描き直すことから始めなければなりません。
エージェンティックAIのガードレールと説明責任
銀行はAIの実験段階から自律的な運用へと移行しつつありますが、規制の厳しい業界においてコントロールを疎かにすることは許されません。Sibos 2026でのFinextraTVのインタビューにおいて、SmartstreamのCEOであるAkber Jafferが、あらゆるエージェンティックな運用において、なぜ監査可能性、オブザーバビリティ、そして常に人間が責任を負うことが不可欠なのかを説明します。
金融業務向けのエージェンティックAI「Smart Agents」を検討している企業にとって、その原則はシンプルです。成果を記述し、その手法（how）はエージェントに任せ、その手法に対してガードレールを設計することです。
決定論的ルールと確率論的エージェントのバランス
効果的なガバナンスは、従来のテクノロジーに取って代わるものではありません。Jafferは、決定論的なルールベースのシステムと確率論的なエージェンティック・アプローチの組み合わせ、そして「人間の知能」プラス「人工知能」こそが、今日の業務における最適解であると指摘しています。
パイロットから本番環境へ：プロセスの再定義
実現可能性を見極めるためにパイロット運用は引き続き不可欠ですが、すべてのユースケースにはビジネスケースと明確なガードレールが必要です。Jafferは、表面的な微調整では劇的な成果は得られないと主張し、企業はまず望ましい成果を描き直すことから始めるべきだと述べています。インタビューの全編は上記からご覧いただけます。または、エージェンティックAIのユースケースについてSmartstreamにお問い合わせください。
