Sorumlu yapay zeka ile ilgili dikkat edilmesi gereken noktaları anlama
Önceki ünitede yapay zeka özellikli yazılımların sorumlu ve etik gelişimiyle ilgili dikkat edilmesi gereken noktalara ihtiyaç duyulmuş. Bu ünitede, Microsoft'ta benimsenen sorumlu yapay zekaya yönelik bazı temel ilkeleri ele alacağız.
Eşitlik
Yapay zeka sistemleri herkese eşit davranmalıdır. Örneğin bir bankanın kredi onay uygulamasını destekleyen bir makine öğrenmesi modeli oluşturduğunuzu düşünün. Model kredinin verilmesiyle ilgili tahminlerde bulunurken cinsiyet, etnik köken veya benzeri faktörlere göre sapma gerçekleştirilmemelidir. Aksi halde belirli müşteri grupları için avantaj veya dezavantaj sağlanmış olabilir.
Makine öğrenmesi sistemlerinin eşitliği, devam eden araştırmaların son derece aktif bir alanıdır ve makine öğrenmesi modellerindeki haksızlığı değerlendirmek, ölçmek ve azaltmak için bazı yazılım çözümleri mevcuttur. Ancak eşitliği sağlamak için tek başına araç kullanmak yeterli değildir. Uygulama geliştirme sürecinin başlangıcından itibaren eşitliği göz önünde bulundurun; Etkilenmiş olabilecek tüm konuları temsil ettiğinden emin olmak için eğitim verilerini dikkatle gözden geçirin ve geliştirme yaşam döngüsü boyunca kullanıcı popülasyonunuzun alt işlemleri için tahmine dayalı performansı değerlendirin.
Güvenilirlik ve güvenlik
Yapay zeka sistemleri, işlemleri güvenilir ve güvenli bir şekilde gerçekleştirmelidir. Örneğin otonom bir araç için kullanılan yapay zeka tabanlı bir yazılım sistemini veya hastaların belirtilerini inceleyip ilaç öneren bir makine öğrenmesi modelini düşünebilirsiniz. Bu tür sistemlerin güvenilir olmaması halinde insan hayatı için büyük risk söz konusu olabilir.
Tüm yazılımlarda olduğu gibi, yapay zeka tabanlı yazılım uygulaması geliştirme, yayınlanmadan önce beklendiği gibi çalıştığından emin olmak için sıkı test ve dağıtım yönetimi süreçlerine tabi tutulmalıdır. Buna ek olarak, yazılım mühendislerinin makine öğrenmesi modellerinin olasılıksal doğasını dikkate alması ve tahminler için güvenilirlik puanlarını değerlendirirken uygun eşikleri uygulaması gerekir.
Gizlilik ve güvenlik
Yapay zeka sistemleri güvenli olmalı ve gizliliğe dikkat etmelidir. Yapay zeka sistemlerinin temel aldığı makine öğrenmesi modelleri, aralarında gizli tutulması gereken kişisel bilgilerin de bulunduğu büyük verileri kullanır. Modeller eğitildikten ve sistem üretime geçtikten sonra bile, yeni verileri kullanarak tahminde bulunur veya gizlilik veya güvenlik kaygılarına tabi olabilecek eylemlerde bulunurlar; bu nedenle, verileri ve müşteri içeriğini korumak için uygun korumalar uygulanmalıdır.
Kapsayıcılık
Yapay zeka sistemleri herkesi kapsamalı ve insanlarla etkileşim kurmalıdır. Yapay zeka fiziksel özellik, cinsiyet, cinsel eğilim, etkin köken veya diğer faktörlerden bağımsız olarak toplulum her kesimine avantaj sağlamalıdır.
Kapsayıcılık için iyileştirmenin bir yolu, uygulamanızın tasarımının, geliştirilmesinin ve test edilmesinin mümkün olduğunca çeşitli kişilerden gelen girişleri içerdiğinden emin olmaktır.
Saydamlık
Yapay zeka sistemleri anlaşılabilir olmalıdır. Kullanıcılar sistemin amacı, çalışma şekli ve olası sınırlamalar hakkında açıkla bilgilendirilmelidir.
Örneğin, bir yapay zeka sistemi bir makine öğrenmesi modelini temel alıyorsa, kullanıcıları genellikle modeli eğitmek için kullanılan servis talebi sayısı veya tahminleri üzerinde en fazla etkiye sahip olan belirli özellikler gibi tahminlerinin doğruluğunu etkileyebilecek faktörlerden haberdar etmeniz gerekir. Ayrıca tahminler için güvenilirlik puanı hakkındaki bilgileri de paylaşmalısınız.
Bir yapay zeka uygulaması, kişilerin görüntülerinin onları tanımasını sağlayan yüz tanıma sistemi gibi kişisel verilere dayanırsa; verilerinin nasıl kullanıldığını ve korundığını ve kimlerin bu verilere erişimi olduğunu kullanıcıya açıkça belirtmelisiniz.
Hesap verilebilirlik
Kişiler yapay zeka sistemlerinin sorumluluğunu üstlenmelidir. Birçok yapay zeka sistemi otonom olarak çalışır gibi görünse de, sonuçta kullandıkları modelleri eğiten ve doğrulayan geliştiricilerin sorumluluğundadır ve sistemin genel olarak sorumluluk gereksinimlerini karşıladığından emin olmak için kararları model tahminlerine dayandıran mantığı tanımlar. Yapay zeka tabanlı çözümün tasarımcıları ve geliştiricileri bu hedefe yardımcı olmak için, çözümün açıkça tanımlanmış etik ve yasal standartları karşılamasını sağlayan idare ve kuruluş ilkeleri çerçevesinde çalışmalıdır.
Dekont
Microsoft, Sorumlu Yapay Zeka Standardı için Haziran 2022'de anlamlı güncelleştirmeler yayımladı. Bunun bir parçası olarak, sorumlu kullanımın korunması amacıyla belirli özelliklere yönelik yeni bir Sınırlı Erişim ilkesi de dahil olmak üzere yüz tanıma yaklaşımını güncelleştirdik. Bu özellikleri uygulamanız için etkinleştirmek için bu sınırlı erişime başvurabilirsiniz.
Microsoft'un sorumlu yapay zeka ilkeleri hakkında daha fazla bilgi için Microsoft'un sorumlu yapay zeka sitesini ziyaret edin.