Barclays built a system to spot AI agents that might go rogue
Research setup ‘reads the mind’ of LLM-based agents and flags if they’re about to do something risky
Quants at Barclays have built a prototype monitoring system to read the minds of AI agents and catch them before they do anything too risky.
Ariye Shater and Hariom Tatsat borrowed from research into so-called mechanistic interpretability to address what Shater calls “tool risk” in agentic systems – the risk that AI agents call software tools in ways that are wasteful, risky or damaging, such as
コンテンツを印刷またはコピーできるのは、有料の購読契約を結んでいるユーザー、または法人購読契約の一員であるユーザーのみです。
これらのオプションやその他の購読特典を利用するには、info@risk.net にお問い合わせいただくか、こちらの購読オプションをご覧ください： http://subscriptions.risk.net/subscribe
現在、このコンテンツを印刷することはできません。詳しくはinfo@risk.netまでお問い合わせください。
現在、このコンテンツをコピーすることはできません。詳しくはinfo@risk.netまでお問い合わせください。
Copyright インフォプロ・デジタル・リミテッド.無断複写・転載を禁じます。
当社の利用規約、https://www.infopro-digital.com/terms-and-conditions/subscriptions/（ポイント2.4）に記載されているように、印刷は1部のみです。
追加の権利を購入したい場合は、info@risk.netまで電子メールでご連絡ください。
Copyright インフォプロ・デジタル・リミテッド.無断複写・転載を禁じます。
このコンテンツは、当社の記事ツールを使用して共有することができます。当社の利用規約、https://www.infopro-digital.com/terms-and-conditions/subscriptions/（第2.4項）に概説されているように、認定ユーザーは、個人的な使用のために資料のコピーを1部のみ作成することができます。また、2.5項の制限にも従わなければなりません。
追加権利の購入をご希望の場合は、info@risk.netまで電子メールでご連絡ください。
詳細はこちら リスク管理
オペリスクデータ：EFG、20年にわたるマネーロンダリングで巨額の損失を被る
また、ディープフェイクによる音声クローンがインテサの部門を騙し、仮想通貨関連のハッキング事件が相次いでいます。データ提供：ORX News
Managing risk to accelerate agentic AI value creation
Banks can accelerate agentic AI adoption by aligning each use case’s risks, controls and capabilities, enabling safe, accountable and value-driven deployment
One legal entity. Multiple IDs. Three business risks.
How fragmented entity IDs undermine risk, compliance and revenue decisions
エージェント型銀行？待った！
明確な定義やROIを測定する方法がないため、AI導入に関する主張は、一粒の塩を添えて受け止めるべきでしょう
BISのエルナンデス・デ・コス氏、AI、ノンバンク・リスク、トークン化について語る
ゼネラルマネージャーが、BISが複雑な世界情勢をどのように乗り切っているかについて語りました
エンタープライズ・リスクの影響力は、いかなる拒否権以上に深く及んでいる
リスク・ベンチマーキング調査によると、正式な拒否権は最大手の貸し手に集中しているものの、実際には最後の手段としてのみ行使されていることが明らかになりました。
Intraday pricing: fixed income’s next frontier
With firms looking to price fixed income securities on an intraday basis, specialist pricing providers such as LSEG help address cost, complexity and time-to-market challenges
テクノロジーとデータの断片化が、ERM担当者たちを悩ませている
リスク・ベンチマーキング：銀行内の他の部門による決定に左右されることが多く、ERM担当者たちは、システム間の不整合、ユーザー体験（UX）の悪さ、および報告上の不備について不満を漏らしています。
