英国のNCSC(国家サイバーセキュリティセンター)が、「機械学習におけるセキュリティのための原則」を公表したようですね。
公共部門においてMLを活用したシステムに関わる方たち向けに作られたもののようです。
以下一部和訳です。
(紹介)
AIやMLの利用によって、システムは基盤となる情報処理アルゴリズムやワークフローを悪用した新しいタイプの攻撃に対して脆弱な状態に置かれています。AIやMLを活用したシステムのセキュリティのすべての側面が潜在的に脆弱であり、システムの機密性、完全性、可用性のすべてが損なわれていることが過去に確認されています。これらの脆弱性を正しく理解・緩和しなければ、システム設計者はステークホルダー、そして最終的にはユーザーに対して、AIシステムの安全性を保証することができません。
(対象読者)
AIやMLを活用したシステムを開発、展開、運用するすべての人に広く適用されることを目的としています。~科学者、技術者、意思決定者、リスク所有者が、システムの設計と開発プロセスについて賢明な判断を下し、システムに対する特定の脅威を評価するのに役立つコンテキストと構造を提供します。
(構成)
-
開発の前提条件と考慮事項
-
開発者の支援、セキュリティのための設計、敵の知識を最小化
-
-
要求仕様と開発
-
デプロイ
-
インフラの安全性確保、セキュリティのための設計、敵の知識を最小化
-
-
運用/継続的学習
-
セキュリティのための設計、資産の追跡
-