Google、AIサプライチェーンのセキュリティ強化のため、安定版モデル署名ライブラリをリリース

大規模言語モデル(LLM)の台頭により、AIサプライチェーンのセキュリティへの関心が高まっています。モデル改ざん、データポイズニングなどの脅威がますます懸念されています。これに対処するため、GoogleはNVIDIA、HiddenLayerとのパートナーシップのもと、Open Source Security Foundationの支援を受けて、モデル署名ライブラリの最初の安定版をリリースしました。このライブラリは、Sigstoreなどのデジタル署名を使用して、アプリケーションで使用されているモデルが開発者によって作成されたモデルと完全に一致することをユーザーが検証できるようにします。これにより、モデルの整合性と出自が保証され、トレーニングから展開までのモデルのライフサイクル全体における悪意のある改ざんから保護されます。将来の計画には、この技術をデータセットやその他のMLアーティファクトに拡張し、より堅牢なAI信頼エコシステムを構築することが含まれます。
続きを読む