AIリスク管理と能力制御への移行

これは大きな「野心と現実のギャップ」です。表面的には、金融機関の人工知能に対する期待はかつてないほど高まっています。銀行各社は、開発者、調査担当者、リレーションシップ・マネージャー、コンプライアンス・アナリスト向けに支援ツールを導入しています。経営陣向けのプレゼン資料には、自動化、効率化、生産性向上の約束が溢れています。

特に生成AIは、高度な分析と実際の業務活用をつなぐ、待望の架け橋と見なされています。

しかし、この熱狂の裏には、実装との乖離が拡大しているという現実があります。多くの金融機関は、AIに何を達成させたいかを明確に説明できますが、一度導入された後、それらのシステムがどのように制御されているかを正確に説明することは困難です。

問題は、生成AIモデルが複雑であるとか不透明であるということだけではありません。もはやモデル自体が適切なガバナンスの対象ではないということですマンシ・グプタ