AIモデルが誤動作した際には、数字ではなく問題そのものに対処しよう

銀行のバリュー・アット・リスク（VaR）モデルがバックテストに失敗した場合、リスク管理担当者は対応策を熟知しております。問題の原因を特定コンポーネント（例えば、陳腐化したリスク要因の時系列データや、性能が不十分な再評価モデルなど）まで遡及し、的を絞った修正を施します。この分解可能性は、数十年にわたり従来のモデルリスク管理の基盤となってまいりました。

しかし大規模言語モデル（LLM）や生成AIシステムは、このような仕組みでは機能しません。これらは識別可能な歯車を持つ機械式時計ではありません。むしろ、数十億のパラメータが相互作用する複雑な適応システムであり、その相互作用を完全に分解したり予測したりすることは不可能です。私が最近の論文で論じているように、この根本的な差異は、AIモデルリスク管理に対する異なるアプローチを必要とします。

モデルを解釈できることは