規制当局は、AIガバナンスの手段としての「ヒューマン・イン・ザ・ループ」に疑問を呈している

規制当局は、生成型人工知能（GenAI）の導入に伴うリスクを管理する上で、個々の出力結果に対する人間の監視を組み込むだけでは不十分であると警告しています。その代わりに、金融機関は、新技術の導入前に実施されていたプロセスと同様に、GenAIが使用されるプロセス全体の完全性に対する責任を明確に割り当てる必要があります。

「『ヒューマン・イン・ザ・ループ』という考え方は……もはや時代遅れの概念になりつつあり、おそらくすでに時代遅れになっていると思います」と、イングランド銀行の金融技術担当ディレクター、トム・マトン氏は述べました。

マトン氏は5月19日、ロンドンで開催された業界会議でこのように述べました。同パネルでは、金融安定理事会（FSB）のマーティン・モローニー副事務総長が、AIガバナンスを自動車の黎明期に例えました。 彼は、「時速5マイルで赤旗を掲げて前を歩く人間」がいるケースから、人間の介入が