Sorumlu yapay zekayı anlama
Microsoft'ta yapay zeka yazılımı geliştirme süreci, yapay zeka uygulamalarının zorlu sorunlara negatif etki yaratmadan harika çözümler sağlamasını mümkün kılan altı ilke doğrultusunda yürütülmektedir.
Eşitlik
Yapay zeka sistemleri herkese eşit davranmalıdır. Örneğin bir bankanın kredi onay uygulamasını destekleyen bir makine öğrenmesi modeli oluşturduğunuzu düşünün. Model, kredinin yanlılık olmadan onaylanması mı yoksa reddedilmesi mi gerektiğini tahmin etmelidir. Bu yanlılık, cinsiyet, etnik köken veya belirli başvuran grupları için haksız avantaj veya dezavantaja neden olan diğer faktörlere dayanabilir.
Azure Machine Learning modelleri yorumlama ve her bir veri özelliğinin modelin tahminlerini hangi ölçüde etkilediğini belirleme özelliğine sahiptir. Bu özellik, veri bilimcilerin ve geliştiricilerin modeldeki sapmaları tanımlayıp ortadan kaldırmasına yardımcı olur.
Bir diğer örnek de Microsoft'un Yüz Tanıma hizmetiyle Sorumlu Yapay Zeka uygulamasıdır. Bu uygulama, duygusal durumları ve kimlik özniteliklerini çıkarsamak için kullanılabilecek yüz tanıma özelliklerini kullanımdan kaldırmaya yöneliktir. Bu özellikler, kötüye kullanıldığında, insanları stereotipleme, ayrımcılık veya haksız hizmet reddine maruz açabilir.
Eşitlikle ilgili konular hakkında ayrıntılı bilgi için aşağıdaki videoyu izleyin.
Güvenilirlik ve güvenlik
Yapay zeka sistemleri, işlemleri güvenilir ve güvenli bir şekilde gerçekleştirmelidir. Örneğin otonom bir araç için kullanılan yapay zeka tabanlı bir yazılım sistemini veya hastaların belirtilerini inceleyip ilaç öneren bir makine öğrenmesi modelini düşünebilirsiniz. Bu tür sistemlerdeki sorumluluk, insan hayatı için önemli risklere neden olabilir.
Yapay zeka tabanlı yazılım uygulaması geliştirme süreçlerinin zorlu test ve dağıtım yönetim süreçlerine tabi tutularak düzgün şekilde çalıştıklarından emin olunması gerekir.
Güvenilirlik ve güvenlik konusunda dikkat edilmesi gerekenler hakkında daha fazla bilgi için aşağıdaki videoyu izleyin.
Gizlilik ve güvenlik
Yapay zeka sistemleri güvenli olmalı ve gizliliğe dikkat etmelidir. Yapay zeka sistemlerinin temel aldığı makine öğrenmesi modelleri, aralarında gizli tutulması gereken kişisel bilgilerin de bulunduğu büyük verileri kullanır. Modeller eğitildikten ve sistem üretime geçtikten sonra bile gizlilik ve güvenliğin dikkate alınması gerekir. Sistem tahminlerde bulunmak veya eyleme geçmek için yeni veriler kullandığından, verilerden alınan veriler ve kararlar gizlilik veya güvenlik kaygılarına tabi olabilir.
Gizlilik ve güvenlikle ilgili konular hakkında ayrıntılı bilgi için aşağıdaki videoyu izleyin.
Kapsayıcılık
Yapay zeka sistemleri herkesi kapsamalı ve insanlarla etkileşim kurmalıdır. Yapay zeka fiziksel özellik, cinsiyet, cinsel eğilim, etkin köken veya diğer faktörlerden bağımsız olarak toplulum her kesimine avantaj sağlamalıdır.
Kapsayıcılıkla ilgili konular hakkında ayrıntılı bilgi için aşağıdaki videoyu izleyin.
Saydamlık
Yapay zeka sistemleri anlaşılabilir olmalıdır. Kullanıcılar sistemin amacı, çalışma şekli ve olası sınırlamalar hakkında açıkla bilgilendirilmelidir.
Şeffaflıkla ilgili konular hakkında ayrıntılı bilgi için aşağıdaki videoyu izleyin.
Hesap verilebilirlik
Kişiler yapay zeka sistemlerinin sorumluluğunu üstlenmelidir. yapay zeka tabanlı çözümlerin Tasarım Aracı ve geliştiricileri, çözümün açıkça tanımlanan etik ve yasal standartları karşıladığından emin olan idare ve kuruluş ilkeleri çerçevesinde çalışmalıdır.
Sorumlulukla ilgili konular hakkında ayrıntılı bilgi için aşağıdaki videoyu izleyin.
Sorumlu yapay zeka ilkeleri, etik yapay zeka çözümleri oluşturmaya çalışan geliştiricilerin karşılaştıkları zorluklardan bazılarını anlamanıza yardımcı olabilir.
Diğer kaynaklar
Sorumlu yapay zeka ilkelerini uygulamaya dökme konusunda yardımcı olacak daha fazla kaynak için bkz. https://www.microsoft.com/ai/responsible-ai-resources.
Bu ilkelerin nasıl çalıştığını görmek için Microsoft'un yapay zeka sistemlerini sorumlu bir şekilde oluşturmaya yönelik çerçevesi hakkında bilgi edinebilirsiniz.