Sorumlu yapay zeka nedir?

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)Python SDK azure-ai-ml v2 (geçerli)

Sorumlu Yapay Zeka (Sorumlu Yapay Zeka), yapay zeka sistemlerini güvenli, etik ve güven içinde geliştirmeye, değerlendirmeye ve dağıtmaya yönelik bir yaklaşımdır. Yapay zeka sistemleri, oluşturucuları tarafından verilen birçok karardan kaynaklanır. Sorumlu yapay zeka, sistem amacını tanımlamadan kullanıcı etkileşimine kadar bu kararları daha faydalı ve adil sonuçlara doğru yönlendirmeye yardımcı olur. İnsanları ve hedeflerini tasarımın merkezinde tutar ve eşitlik, güvenilirlik ve saydamlık gibi değerlere saygı gösterir.

Microsoft, adillik, güvenilirlik ve güvenlik, gizlilik ve güvenlik, kapsayıcılık, saydamlık ve sorumluluk olmak üzere altı ilkeye dayalı yapay zeka sistemleri oluşturmaya yönelik bir çerçeve olan Sorumlu Yapay Zeka Standardı oluşturdu. Bu ilkeler, özellikle akıllı teknoloji günlük ürün ve hizmetlerde daha yaygın hale geldikçe yapay zekaya yönelik sorumlu ve güvenilir bir yaklaşımın temelini oluşturur.

Bu makalede, Azure Machine Learning'in geliştiricilerin ve veri bilimcilerinin bu altı ilkeyi uygulamasına ve kullanıma hazır hale getirmesine yardımcı olacak araçlar sağlaması açıklanmaktadır.

Eşitlik ve kapsayıcılık

Yapay zeka sistemleri herkese adil davranmalı ve benzer grupları farklı şekilde etkilememelidir. Örneğin, yapay zeka sistemleri tıbbi tedavi, kredi başvuruları veya istihdam konusunda rehberlik sağladığında, benzer belirtileri, finansal koşulları veya nitelikleri olan kişilere de aynı önerileri yapmalıdır.

Azure Machine Learning'de eşitlik ve kapsayıcılık: Sorumlu yapay zeka panosununeşitlik değerlendirmesi bileşeni cinsiyet, etnik köken, yaş ve diğer özellikler gibi hassas gruplar arasında model eşitliğini değerlendirmeye yardımcı olur.

Güvenilirlik ve güvenlik

Güven oluşturmak için yapay zeka sistemlerinin güvenilir, güvenli ve tutarlı bir şekilde çalışması gerekir. Bunlar tasarlandığı gibi çalışmalı, beklenmeyen koşullara güvenli bir şekilde yanıt vermeli ve zararlı işlemeye karşı koymalıdır. Farklı koşulları işleme davranışları ve yetenekleri, geliştiricilerin tasarım ve test sırasında tahmin ettikleri durum aralığını yansıtır.

Azure Machine Learning'de güvenilirlik ve güvenlik: Sorumlu yapay zeka panosununhata analizi bileşeni şunları gerçekleştirmenize yardımcı olur:

• Bir model için hatanın nasıl dağıtıldığı hakkında ayrıntılı bilgi edinin.
• Genel karşılaştırmadan daha yüksek hata oranına sahip veri kohortlarını (alt kümeleri) tanımlayın.

Bu tutarsızlıklar, sistem veya model belirli demografik gruplar veya eğitim verilerinde nadiren gözlemlenen giriş koşulları için yetersiz performans gösterdiğinde ortaya çıkabilir.

Saydamlık

Yapay zeka sistemleri insanların yaşamlarını etkileyen kararları bilgilendirdiğinde, insanların bu kararların nasıl alındığını anlaması kritik önem taşır. Örneğin, bir banka bir kişinin kredi değeri olup olmadığını belirlemek için bir yapay zeka sistemi kullanabilir veya bir şirket iş adaylarını seçmek için bir tane kullanabilir.

Saydamlığın önemli bir kısmı yorumlanabilirliktir: yapay zeka sistemi davranışı hakkında yararlı açıklamalar sağlamaktır. Yorumlanabilirliği geliştirmek, paydaşların yapay zeka sistemlerinin nasıl ve neden çalıştığını anlamasına yardımcı olur; böylece performans sorunlarını, eşitlik sorunlarını, dışlayıcı uygulamaları veya istenmeyen sonuçları belirleyebilirler.

Azure Machine Learning'de saydamlık: Sorumlu yapay zeka panosununmodel yorumlanabilirliği ve karşıt durum bileşenleri, model tahminlerinin insan tarafından anlaşılabilen açıklamalarının oluşturulmasına yardımcı olur.

Model yorumlanabilirliği bileşeni, modelin davranışına yönelik çeşitli görünümler sağlar:

• Genel açıklamalar. Örneğin, bir kredi ayırma modelinin genel davranışını hangi özellikler etkiler?
• Yerel açıklamalar. Örneğin, bir müşterinin kredi başvurusu neden onaylandı veya reddedildi?
• Seçili veri noktası kohortunun model açıklamaları. Örneğin, düşük gelirli başvuru sahipleri için kredi ayırma modelinin genel davranışını hangi özellikler etkiler?

Karşıt durum bileşeni, özellik değişikliklerine ve pertürbasyonlarına nasıl tepki gösterdiğini göstererek makine öğrenmesi modelini anlamanıza ve hatalarını ayıklamanıza yardımcı olur.

Azure Machine Learning, Sorumlu yapay zeka karnesi de destekler. Karne, geliştiricilerin teknik ve teknik olmayan paydaşlarla yapılandırabileceği, oluşturabileceği, indirebileceği ve paylaşabileceği özelleştirilebilir bir PDF raporudur. Proje katılımcılarını veri kümesi ve model durumu hakkında eğitmene, uyumluluk elde etmelerine ve güven oluşturmalarına yardımcı olur. Karne, makine öğrenmesi modeli özelliklerini ortaya çıkararak denetim incelemelerini de destekleyebilir.

Gizlilik ve güvenlik

Yapay zeka daha yaygın hale geldikçe gizliliği korumak, kişisel ve iş bilgilerinin güvenliğini sağlamak daha önemli ve karmaşıktır. Yapay zeka sistemlerinin doğru tahminler ve kararlar almak için verilere ihtiyacı olduğundan gizlilik ve veri güvenliği çok dikkat gerektirir. Yapay zeka sistemleri aşağıdaki gizlilik yasalarına uymalıdır:

• Verilerin toplanması, kullanılması ve depolanması hakkında saydamlık gerektirir.
• Tüketicilerin verilerinin nasıl kullanılacağını seçmek için uygun denetimlere sahip olmasını zorunlu kılın.

Azure Machine Learning'de gizlilik ve güvenlik: Azure Machine Learning, yöneticilerin ve geliştiricilerin şirket ilkelerine uygun güvenli yapılandırmalar oluşturmasına olanak tanır. Azure Machine Learning ve Azure platformu ile şunları yapabilirsiniz:

• Kullanıcı hesabına veya grubuna göre kaynaklara ve işlemlere erişimi kısıtlayın.
• Gelen ve giden ağ iletişimlerini kısıtlayın.
• Aktarımdaki ve bekleyen verileri şifreleyin.
• Güvenlik açıklarını tarayın.
• Yapılandırma ilkelerini uygulama ve denetleme.

Microsoft ayrıca gizlilik ve güvenlik ilkelerini uygulamaya yardımcı olmak için iki açık kaynak paketi oluşturmuştur:

• SmartNoise: Değişiklik gizliliği, bireylerin verilerini güvenli ve gizli tutmaya yardımcı olan bir dizi sistem ve uygulamadır. Makine öğrenmesi çözümlerinde mevzuat uyumluluğu için değişiklik gizliliği gerekebilir. SmartNoise, küresel olarak farklı özel sistemler oluşturmaya yönelik bileşenler içeren açık kaynaklı bir projedir (Microsoft tarafından birlikte geliştirilmiştir).

• Counterfit: Counterfit, geliştiricilerin yapay zeka sistemlerine karşı siber saldırı simülasyonu yapmalarına olanak sağlayan bir komut satırı aracı ve genel otomasyon katmanından oluşan açık kaynak bir projedir. Herkes aracı indirebilir ve tarayıcıda çalıştırmak için Azure Cloud Shell aracılığıyla dağıtabilir veya anaconda Python ortamında yerel olarak dağıtabilir. Çeşitli bulut ortamlarında, şirket içinde veya uçta barındırılan yapay zeka modellerini değerlendirebilir. Araç yapay zeka modellerine karşı bağımsızdır ve metin, görüntü veya genel giriş gibi çeşitli veri türlerini destekler.

Hesap verilebilirlik

Yapay zeka sistemlerini tasarlayan ve dağıtan kişiler, bu sistemlerin çalışma şeklinden sorumlu olmalıdır. Kuruluşlar, sorumluluk normları geliştirmek için sektör standartlarını kullanmalıdır. Bu normlar, yapay zeka sistemlerinin insanların yaşamlarını etkileyen kararlarda nihai yetkili olmamasını ve insanların yüksek oranda otonom sistemler üzerinde anlamlı bir denetim sahibi olmasını sağlamaya yardımcı olur.

Azure Machine Learning'de sorumluluk: Makine öğrenmesi işlemleri (MLOps), yapay zeka iş akışı verimliliğini artıran DevOps ilkelerini ve uygulamalarını temel alır. Azure Machine Learning daha iyi sorumluluk için şu MLOps özelliklerini sağlar:

• Modelleri her yerden kaydedin, paketleyip dağıtın. Modeli kullanmak için gereken ilişkili meta verileri de izleyebilirsiniz.
• Uçtan uca makine öğrenmesi yaşam döngüsü için idare verilerini yakalayın. Günlüğe kaydedilen köken bilgileri, modelleri kimin yayımladığını, değişikliklerin neden yapıldığını ve modellerin üretim ortamında ne zaman dağıtıldığını veya kullanıldığını içerebilir.
• Makine öğrenmesi yaşam döngüsündeki olayları bilgilendirin ve uyarın. Deneme tamamlama, model kaydı, model dağıtımı ve veri kayması algılama örnekleri verilebilir.
• Makine öğrenmesi ile ilgili operasyonel sorunlar ve sorunlar için uygulamaları izleyin. Eğitim ve çıkarım arasındaki model girişlerini karşılaştırın, modele özgü ölçümleri keşfedin ve makine öğrenmesi altyapınızda izleme ve uyarılar sağlayın.

Ayrıca Azure Machine Learning'deki Sorumlu Yapay Zeka karnesi , paydaşlar arası iletişimi etkinleştirerek sorumluluk oluşturur. Karne, geliştiricilerin model durumu içgörülerini hem teknik hem de teknik olmayan paydaşlarla yapılandırmalarına, indirmelerine ve paylaşmalarına olanak sağlar. Bu içgörüleri paylaşmak güven oluşturmaya yardımcı olur.

Azure Machine Learning, aşağıdakiler aracılığıyla iş kararlarını bilgilendirerek karar almayı da destekler:

• Paydaşların yalnızca geçmiş verileri kullanarak sonuçlar üzerindeki nedensel işlem etkilerini anlamasına yardımcı olan veri odaklı içgörüler. Örneğin, "bir ilaç hastanın kan basıncını nasıl etkiler?" Bu içgörüler, Sorumlu yapay zeka panosununnedensel çıkarım bileşeninden gelir.
• Kullanıcı sorularını yanıtlayan model temelli içgörüler ("Bir dahaki sefere yapay zekanızdan farklı bir sonuç elde etmek için ne yapabilirim?") böylece eyleme geçebilirler. Bu içgörüler, Sorumlu yapay zeka panosununkarşıt durum bileşeni aracılığıyla sağlanır.

Sonraki adımlar

• Azure Machine Learning'de Sorumlu Yapay Zeka'yı uygulama hakkında daha fazla bilgi için bkz . Sorumlu yapay zeka panosu.
• CLI ve SDK veya Azure Machine Learning stüdyosu kullanıcı arabirimi aracılığıyla Sorumlu yapay zeka panosu oluşturmayı öğrenin.
• Sorumlu yapay zeka panonuzda gözlemlenen içgörülere göre Sorumlu yapay zeka karnesi oluşturmayı öğrenin.
• Altı temel ilkeye göre yapay zeka sistemleri oluşturmaya yönelik Sorumlu Yapay Zeka Standardı hakkında bilgi edinin.