「AIモデルを、ハッカーになり得る存在として扱うべきだ」とクオンツは述べている

ある有力なクオンツアナリストは、銀行は不正取引を行うトレーダーや詐欺師、ハッカーを警戒するのと同様に、最先端の人工知能モデルにも注意を払うべきだと述べています。

リスク管理テクノロジー企業CompatibLの創業者であるアレクサンダー・ソコル氏は、エージェント型AIが新たな種類のリスクをもたらすと指摘しました。このリスクでは、敵対者（コンピュータモデルではありますが）が自らの行動を隠蔽し、嘘をつき、監視の試みを妨害するのです。ソコル氏は6月30日、ロンドンで開催された「Risk Live Europe」でこのように述べました。

この新たな「敵対的モデルリスク」は、従来のモデルリスクとは根本的に異なると、同氏は参加者に語りました。市場リスクや信用リスクモデルには、検証段階から実運用段階にかけて変化しない安定した挙動が期待されると、ソコル氏は述べました。「モデルがテストに合格していれば