生成AIはモデラーにとって試練の時をもたらす

車や携帯電話、トースターを購入する際、製造元が製品の安全性と信頼性を確保するためのテストを実施していることを期待します。銀行のリスクモデルについても同様です。

これらのモデルは厳格な検証プロセスを経て、金融監督当局の監督を受けています。その上で初めて、その出力結果が意思決定に活用されるのです：融資の承認、信用限度の設定、または不審な取引の検知など。モデルは行動するに値する信頼を獲得しています。

大規模言語モデル（LLM）の登場は、その強力な深層学習能力にもかかわらず、その仕組みが不透明であるため、この信頼を損なう可能性があります。銀行は現在、生成AI（GenAI）をリスクモデルに安全に統合する方法を見出し、その動作を監督当局に説明するという難しい課題に直面しています。

この任務は、チャンドラカン・マヘシュワリのような人物に委ねられています。米国地域銀行フラッグスター