GenAIガバナンスにおけるモデル検証の再考

20年以上にわたり、モデルリスク管理（MRM）はシンプルでありながら強力な前提に基づいて構築されてきました。すなわち、定義された入力値を与えれば、モデルは安定した再現性のある出力を生成するというものです。バリュー・アット・リスク（VaR）エンジンの検証であれ、予想信用損失モデルの検証であれ、検証担当者はバックテスト、感度分析、そして想定される数学的真値とのベンチマークに依存してきました。

これらの手法は出力の安定性を前提としています。しかし、大手銀行におけるフロントオフィス業務やオペレーショナルワークフローでの大規模言語モデル（LLM）の活用拡大は、この前提に直接的な疑問を投げかけています。同一のプロンプトがモデル実行ごとに大きく異なる応答を生む場合、再現性のある出力という中核的な前提はもはや成り立ちません。その結果、生成型人工知能（GenAI）における検証失敗は、従来の統計的弱点ではなく