Aracılığıyla paylaş

Sorumlu yapay zeka ilkelerini uygulama

Bir Yapay Zeka Sistemi, yalnızca teknolojiyi değil, aynı zamanda onu kullanan insanlar, ondan etkilenen insanlar ve konumlandırıldığı ortamı içerir. Ajanlar, adalet, hesap verebilirlik, şeffaflık ve etik davranış sağlamak için sorumlu yapay zeka ilkelerine uymalıdır.

Yapay zeka sistemini tüm kullanıcılara adil davranacak, geliştiricileri ve kullanıcıları performansından sorumlu tutacak, yapay zeka operasyonlarında şeffaflık sağlayacak ve etik standartlara bağlı kalacak şekilde tasarlayın.

Microsoft olarak, insanları ilk sırada barındıran ilkeler doğrultusunda yapay zekanın ilerletildiğini taahhüt ediyoruz. Üretken modellerin önemli potansiyel faydaları vardır, ancak dikkatli tasarım ve düşünceli risk azaltmalar olmadan, bu tür modeller yanlış ve hatta zararlı içerik oluşturma potansiyeline sahiptir. Microsoft, kötüye kullanıma ve istenmeyen zararlara karşı koruma sağlamak için önemli yatırımlar yaptı. Bunlar arasında Microsoft'un sorumlu yapay zeka kullanımı ilkelerini dahil etmek, bir Davranış Kuralları benimsemek, müşterileri desteklemek için içerik filtreleri oluşturmak ve müşterilerin üretken yapay zeka kullanırken dikkate alması gereken sorumlu yapay zeka bilgi ve rehberliğini sağlamak yer alıyor.

Copilot Studio ve üretken yapay zeka özellikleri, temel güvenlik ve gizlilik uygulamalarını ve Microsoft Sorumlu Yapay Zeka Standardını takip eder.

Daha fazla bilgi edinin:

Sorumlu yapay zekanın temel ilkeleri

Sorumlu yapay zekanın temel ilkeleri arasında adalet, hesap verebilirlik, şeffaflık ve etik yer alır. Copilot Studio ile oluşturulan bir ajanın bu temel ilkelere uymasını sağlamak için birkaç temel uygulama gereklidir:

  • Adalet: Önyargıları en aza indirmek için çeşitli ve temsili eğitim verilerini kullanın. Eğitim verilerini düzenli olarak güncelleyin ve adalet ve eşitliği doğrulamak için denetçileri görevlendirin.
  • Hesap verebilirlik: Yapay zeka projesine dahil olan ekip üyeleri için net roller ve sorumluluklar tanımlayın. Adalet ve hesap verebilirliğe öncelik veren etik standartlar oluşturun ve bunlara bağlı kalın.
  • Şeffaflık: Kullanıcıların üretken yapay zeka yetenekleri kullanan bir ajan kullandıklarını bilmelerini sağlayın. Bir yapay zeka çözümünün neden seçildiğini, nasıl tasarlandığını ve nasıl izlendiğini ve güncelleştirildiğini net bir şekilde iletin.
  • Etik: Kapsayıcı bir iş gücünü teşvik edin ve geliştirme sürecinin başlarında çeşitli topluluklardan girdi alın. Etik kaygılar ve performanstaki eşitsizlikler için modelleri düzenli olarak değerlendirin ve test edin. Düzenli denetimleri içeren bir yönetişim çerçevesi oluşturun.

Bu uygulamaları geliştirme ve dağıtım süreçlerinize dahil ederek sorumlu yapay zekanın temel ilkelerine uyan ajanlar oluşturun.

Veri gizliliği ve güvenliği

Veri gizliliğini sağlamak kritik önemde, özellikle ajanın hassas verileri ele alabileceği için. Copilot Studio ile bir temsilci planlarken, birkaç temel riski ele almak ve etkili azaltma stratejileri uygulamak önemlidir:

  • Platform özellikleri: Verilerinizi koruyan yerel denetimleri ve platform özelliklerini anlayın. Microsoft'un geliştirdiği belirli yapay zeka sistemleri ve özelliklerini daha iyi anlamak için Copilot Studio için Sorumlu Yapay Zeka SSS'leri gözden geçirin.
  • Veri şifreleme: Hizmet tarafındaki teknolojileri, sağlam güvenlik için kullanılmadığı sırada ve aktarım sırasında kurumsal içeriği şifreler. Bağlantılar Aktarım Katmanı Güvenliği (TLS) ile korunur ve Dynamics 365 Power Platform ile Azure OpenAI arasındaki veri aktarımları Microsoft omurga ağı üzerinden gerçekleşerek hem güvenilirlik hem de güvenlik sağlar. Microsoft Cloud'da şifreleme hakkında daha fazla bilgi edinin.
  • Erişim kontrolleri: Veri, mevcut kullanıcının erişim seviyesine göre bir ajana sağlanır. Yalnızca yetkili kullanıcıların verilere erişebilmesini sağlamak için Microsoft Entra ID kullanarak rol tabanlı erişim denetimi (RBAC) uygulayın. Erişimi yalnızca gerekli olanlarla sınırlamak için en az ayrıcalık ilkesini uygulayın. Copilot Studio projelerinizi ve Copilot Studio güvenlik ile yönetişim temel kavramlarınızı nasıl güvence altına alacağınız konusunda rehberliği gözden geçirin.
  • İzleme ve denetim: Ajanın erişimini ve kullanımını düzenli olarak izleyerek potansiyel güvenlik olaylarını tespit edin ve yanıt verin. Veri erişimini ve değişikliklerini izlemek için ayrıntılı denetim günlükleri tutun.
  • Uyumluluk ve yönetişim: GDPR (Genel Veri Koruma Yönetmeliği), HIPAA (Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası) ve CCPA (Kaliforniya Tüketici Gizliliği Yasası) gibi ilgili veri gizliliği düzenlemelerine uygunluğu sağlayın. Önyargıları önlemek ve yapay zeka çıktılarında adaleti sağlamak için etik yapay zeka uygulamalarını uygulayın.
  • Kullanıcı eğitimi ve eğitim: Kullanıcılara güvenlik konusunda en iyi uygulamaları ve veri gizliliğinin önemini öğretin. Kullanıcıları güvenlik politikaları ve prosedürlerindeki güncellemeler ve değişiklikler hakkında bilgilendirin.

Önyargı farkındalığı ve hafifletme

Sistemdeki önyargıları ele almanın önemini kabul edin ve AI yanıtlarında önyargıları önlemek için adaleti sağlayın.

  • Çeşitli ve temsili veriler: Doğal önyargıları en aza indirmek için eğitim verilerinin çeşitli olduğundan ve farklı demografik özellikleri temsil ettiğinden emin olun. Verileri önyargılar ve dengesizlikler açısından düzenli olarak denetleyin ve gerektiğinde düzeltici önlemler alın.
  • Önyargı algılama ve azaltma araçları: Yapay zeka modellerindeki önyargıları tespit etmek için istatistiksel analiz ve adalet ölçümleri gibi araçlar ve teknikler kullanın. Modellerdeki önyargıları azaltmak için yeniden örnekleme, yeniden ağırlıklandırma veya çekişmeli önyargı giderme dahil olmak üzere önyargısızlaştırma tekniklerini uygulayın.
  • İnsanın döngüye dahil olması: Yapay zekanın ortaya çıkarabileceği önyargıları belirlemek ve düzeltmek için insan incelemesi ve geri bildirim döngülerini dahil edin. Etik standartların karşılandığından emin olmak için yapay zeka geliştirme ve dağıtımını denetlemek için bir etik komite veya yönetişim kurulu oluşturun.
  • Şeffaflık ve güven: Kullanıcıların üretken yapay zeka yetenekleri kullanan bir ajan kullandıklarını bilmelerini sağla. Bir yapay zeka çözümünün neden seçildiğini net bir şekilde açıklayın ve nasıl tasarlandığı, nasıl izlendiği ve güncelleştirildiği hakkında bilgi verin.
  • Sürekli izleme ve iyileştirme: Önyargılar ve performans sorunları için AI sistemini sürekli olarak izleyin ve modelleri gerektiği gibi güncelleyin. Modelleri güncelleştirilmiş ve daha çeşitli verilerle düzenli olarak yeniden eğiterek modellerin adil ve tarafsız kalmasını sağlayın.

Devam eden izleme ve değerlendirme

Ajanınızı geliştirmeye devam edin. Sürekli izleme ve değerlendirme için bir çerçeve oluşturmak, kullanıcı geri bildirimlerini ve gelişen etik standartları güncellemelere dahil etmek.

  • Geri bildirim döngüleri: Kullanıcıların yanlışlıkları bildirebilecekleri ve daha sonra modelleri iyileştirmek için kullanılabilecek geri bildirim mekanizmaları oluşturun.
  • İzleme ve denetleme: AI sisteminin erişimini ve kullanımını düzenli olarak izleyerek olası güvenlik olaylarını tespit edin ve bunlara yanıt verin. Veri erişimini ve değişikliklerini izlemek için ayrıntılı denetim günlükleri tutun.

Sonraki adım

Özet kontrol listesini kullanarak projenizin uygulamaya hazır olup olmadığını doğrulayın ve uygulama aşamasına geçmeden önce proje yaklaşımınızı geliştirmek için en iyi uygulama çağrılarını uygulayın.

Plan kontrol listesini gözden geçirin

  • Last updated on