AI モデルのセキュリティ

Important

この機能は現在プレビュー段階であり、AI サービス用 Microsoft Defender プランに含まれています。プレビュー期間中は、AI モデルのスキャンに追加料金はかかりません。ただし、AI サービス用 Defenderプランを有効にすると、脅威保護機能に関連するコストが発生する可能性があります。 AI サービス用 Defenderの一部として AI モデルスキャン機能を継続的に含めることは保証されず、一般公開 (GA) になると、ライセンス要件が変更される可能性があります。その場合、機能が無効になる前に通知が送信され、該当するライセンスで再度有効にするためのオプションが表示されます。

組織が人工知能 (AI) モデルを使用して自動化、分析情報、インテリジェントな意思決定を推進するにつれて、セキュリティチームは、環境に入る AI モデルの安全性とコンプライアンスを評価するために可視性と制御を必要とします。これらのモデルは、多くの場合、データとインフラストラクチャに幅広くアクセスできます。これらの機能がないと、内部標準の適用がますます困難になります。

Microsoft Defender for Cloudの AI セキュリティのDefenderでは、AI モデルのスキャンがサポートされます。 AI モデルスキャンでは、安全でないアーティファクトまたは悪意のある成果物を事前に検出し、AI ライフサイクル全体にわたってモデルのリスクを継続的に監視します。

AI モデルのセキュリティは、AI モデルが運用環境に到達する前に、埋め込みマルウェア、安全でないオペレーター、公開されたシークレットなどのセキュリティリスクについて AI モデルを自動的にスキャンします。このサービスは、Azure Machine Learningおよび CI/CD パイプラインと直接統合されているため、リアルタイムの調査結果と実用的な修復ガイダンスが表示されるため、チームは開発プロセスの早い段階で危険なモデルを停止できます。

AI モデルのセキュリティを使用することで、セキュリティチームは、Azure Machine Learningワークスペースとレジストリにアップロードされたカスタム AI モデルをスキャンして、埋め込まれたマルウェア、安全でないオペレーター、公開されたシークレットなどの脅威を特定できます。 Defender for Cloudは結果を提示し、チームはセキュリティの結果と共に重大度評価、修復ガイダンス、関連するモデルメタデータを可視化し、効果的なトリアージと優先順位付けをサポートします。開発者は、Azure DevOpsまたはGitHub パイプラインと統合された CLI ツールを使用して、ビルドまたはリリースの段階でモデルスキャンをトリガーすることもできます。これにより、モデルが運用環境に到達する前に静的スキャンと早期リスク検出が可能になります。

前提条件

Azure Machine Learning (Azure Machine Learning) レジストリまたはワークスペースに登録されている AI モデルを含むAzure サブスクリプションが必要です。

注

プライベートリンクを使用するワークスペースとレジストリはサポートされていません。

Defender for Cloud セキュリティ体制管理計画を使用できます。
AI サービスと、計画の AI モデルセキュリティコンポーネントに対して脅威保護を有効にする必要があります。
必要なアクセス許可: プランを有効にするには、Azure Machine Learning リソースに対する Owner または Contributor レベルのアクセス許可が必要です。
サポートされているモデルファイル形式: Pickle (.pkl)、 HDF5 (.h5)、 TorchScript (.pt)、 ONNX (.onnx)、 SafeTensors (.safetensors)、 TensorFlow SavedModel / TFLite (FlatBuffers)、 NumPy (.npy)、 Arrow, MsgPack, dill, joblib、 PMML, JSON, POJO, MOJO, GGUF。
ファイルサイズの制限: 10 GB。 10 GB を超えるモデルファイルはスキャンできません。
スキャンは週に 1 回行われます。