元MI6長官がAIの進展を緩めるよう呼びかける

英国の元諜報機関長官は、政府や企業が、Anthropic社の「Mythos 5」のような、超人的な能力を持つハッカーのように振る舞う可能性のある最先端モデルのリスクに対処する間、AIの開発を抑制すべきだと警告しました。

「Anthropicだけではありません。OpenAIもこの分野に参入しており、中国の最先端モデルもまったく同じ領域に位置することになるでしょう。安全性の観点から検討を進めることができるよう、開発のペースを適度に緩める方法を見つけなければなりません」と、英国秘密情報部（通称MI6）の元長官であるリチャード・ムーア氏は述べました。ムーア氏は現在、投資会社シックス・ストリートの戦略顧問を務めています。

「Mythos 5」は、Anthropic社によって世界最強のサイバーセキュリティモデルとして宣伝されています。米国政府が国家安全保障への脅威となる可能性を懸念したため