Yapay zeka tarafından oluşturulan ve yapay zeka tarafından işlenen verileri koruma
Contoso yapay zeka destekli hizmetleri benimsedikçe, hassas bilgilerin yapay zeka etkileşimleri aracılığıyla nasıl kullanıldığı, oluşturulduğu ve kullanıma sunulduğu konusunda yeni riskler ortaya çıkar. Güvenlik ekiplerinin yapay zeka araçlarının verileri güvenli bir şekilde işlediğinden, korumaları tutarlı bir şekilde uyguladığından ve hassas içeriğin kötüye kullanılmasını önlediğinden emin olması gerekir.
Yapay zeka hizmetleri tarafından sunulan riskler
Yapay zeka araçları verimliliği artırırken yeni risklere de neden olur:
- Yapay zeka tarafından oluşturulan yanıtlarda hassas bilgiler görünebilir.
- Yapay zeka modellerine gönderilen istemler hassas veya gizli veriler içerebilir.
- Yapay zeka tarafından oluşturulan içerik paylaşılabilir, depolanabilir veya uygun denetimler olmadan kullanılabilir.
Güvenlik ilkeleri, yapay zeka hizmetlerinin istenmeyen açıklamayı önlemek için hem giriş hem de çıkış verilerini nasıl işlediğini ele almalıdır.
Yapay zeka etkileşimleri için Microsoft Purview korumaları
Microsoft Purview, yapay zeka hizmetlerini kapsayan koruma denetimleri içerir:
- Yapay zeka hizmetleri için veri kaybı önleme (DLP): DLP ilkeleri desteklenen yapay zeka hizmetlerine gönderilen istemleri ve yanıtları değerlendirerek hassas bilgilerin açığa çıkmasını önlemek için korumalar uygulayabilir.
- Duyarlılık etiketleri ve şifreleme: Microsoft 365 hizmetlerinde depolanan yapay zeka tarafından oluşturulan içerik duyarlılık etiketlerini devralabilir ve şifreleme uygulayarak verilerin işlendikten sonra bile korunmasını sağlayabilir.
- Insider risk yönetimi: İlkeler, gizli verileri genel veya yönetilmeyen yapay zeka araçlarına gönderme gibi yapay zeka hizmetlerini içeren riskli etkinlikleri izleyebilir.
Contoso, bu korumaları yapay zeka etkileşimlerine genişleterek yapay zeka araçları günlük iş akışlarının bir parçası haline gelse bile hassas bilgilerin korunmasını sağlar.