AI モデルのセキュリティ

組織が人工知能 (AI) モデルを使用して自動化、分析情報、インテリジェントな意思決定を推進するにつれて、セキュリティチームは、環境に入る AI モデルの安全性とコンプライアンスを評価するために可視性と制御を必要とします。これらのモデルは、多くの場合、データとインフラストラクチャに幅広くアクセスできます。これらの機能がないと、内部標準の適用がますます困難になります。

Microsoft Defender for Cloud の Defender for AI セキュリティでは、AI モデルのスキャンがサポートされています。 AI モデルスキャンでは、安全でないアーティファクトまたは悪意のある成果物を事前に検出し、AI ライフサイクル全体にわたってモデルのリスクを継続的に監視します。

AI モデルのセキュリティは、AI モデルが運用環境に到達する前に、埋め込みマルウェア、安全でないオペレーター、公開されたシークレットなどのセキュリティリスクについて AI モデルを自動的にスキャンします。 Azure Machine Learning および CI/CD パイプラインと直接統合されたこのサービスでは、リアルタイムの調査結果と実用的な修復ガイダンスが表示されるため、チームは開発プロセスの早い段階で危険なモデルを停止できます。

AI モデルのセキュリティを使用することで、セキュリティチームは、Azure Machine Learning ワークスペースとレジストリにアップロードされたカスタム AI モデルをスキャンして、埋め込みマルウェア、安全でないオペレーター、公開されたシークレットなどの脅威を特定できます。 Defender for Cloud は結果を提示し、チームはセキュリティの結果と共に重大度評価、修復ガイダンス、関連するモデルメタデータを可視化し、効果的なトリアージと優先順位付けをサポートします。開発者は、Azure DevOps または GitHub パイプラインと統合された CLI ツールを使用して、ビルドまたはリリース段階でモデルスキャンをトリガーすることもできます。これにより、モデルが運用環境に到達する前に静的スキャンと早期リスク検出が可能になります。

前提条件

Azure Machine Learning (Azure Machine Learning ) レジストリまたはワークスペースに登録されている AI モデルを含む Azure サブスクリプションが必要です。

注

プライベートリンクを使用するワークスペースとレジストリはサポートされていません。

Defender for Cloud Security Posture Management プランを有効にします。
AI サービスと、計画の AI モデルセキュリティコンポーネントに対して脅威保護を有効にする必要があります。
必要なアクセス許可: プランを有効にするには、Azure Machine Learning リソースに対する 所有者 レベルまたは 共同作成者 レベルのアクセス許可が必要です。
サポートされているモデルファイル形式: Pickle (.pkl)、 HDF5 (.h5)、 TorchScript (.pt)、 ONNX (.onnx)、 SafeTensors (.safetensors)、 TensorFlow SavedModel / TFLite (FlatBuffers)、 NumPy (.npy)、 Arrow, MsgPack, dill, joblib、 PMML, JSON, POJO, MOJO, GGUF。
ファイルサイズの制限: 10 GB。 10 GB を超えるモデルファイルはスキャンできません。
スキャンは週に 1 回行われます。