Anthropic、AIモデルの身元を証明するシステムを開発中
公開日
FlashProveと呼ばれるシステムは、AIの回答が本当に名乗っているモデルから出力されたのかを誰でも確認できるようにします。
FlashProveは、特定の作業を高度なモデルが実行したという第三者の主張の検証にも利用できます。研究者は次のように記しています。「開発者が、自社のソフトウェアライブラリーは最先端のサイバーセキュリティモデルによって脆弱性検査されたと主張するかもしれません。あるいは企業が、事業計画について適切なモデルのお墨付きを得たと主張するかもしれません。利用者はそれらの主張をどう検証すればよいのでしょうか。」
このシステムを機能させるには、AI研究所が公開する各モデルの『指紋』を発表する必要があります。後から特定の出力と照合し、暗号学的に検証できます。重要なのは、指紋がモデルの重みを明かさないことです。重みとはモデルの動作を定める内部の数値で、AnthropicやOpenAIのような非公開モデルの開発元が秘密にしているものです。研究所は最も価値のある資産を手放さず指紋を公開できるため、商用モデルにも適用できます。また軽量に設計され、端末上で検証を実行できます。
研究者は発表記事で次のように説明しています。「この研究記事は途中段階の進展を共有するもので、完成した研究計画ではありません。私たちの成果を他の人が見て、取り入れ、改善してくれることを明確な目的として公開しています。」