Karşıtlık analizi ve durum

What-if karşıtlıkları, eylem girişini değiştirdiğinizde modelin ne tahmin edeceğinin sorusunu ele alır. Bunlar, giriş (özellik) değişikliklerine nasıl tepki gösterdiğini göstererek makine öğrenmesi modelini anlamanıza ve hatalarını ayıklamanıza yardımcı olur.

Standart yorumlanabilirlik teknikleri yaklaşık olarak bir makine öğrenmesi modeli veya özellikleri tahmine dayalı önem derecesine göre derecelendirilir. Buna karşılık, karşıt analiz, belirli bir veri noktasında hangi değişikliklerin model kararını döndüreceğini belirlemek için modeli "sorgular".

Bu analiz, bağıntılı özelliklerin etkisini yalıtılmış olarak dağıtmanıza yardımcı olur. Ayrıca sınıflandırma modellerinde model karar çevirme ve regresyon modellerine yönelik karar değişikliğini görmek için bir özellik değişikliğinin ne kadarının gerekli olduğunu daha ayrıntılı anlamanıza yardımcı olur.

Sorumlu Yapay Zeka Panosu'nun karşı-gerçek analiz ve varsayımsal bileşeni iki işleve sahiptir.

  • Belirli bir noktada en az değişiklikle modelin tahminini değiştirecek şekilde (karşı model tahminleriyle en yakın veri noktalarını gösteren) bir dizi örnek oluşturun.
  • Modelin özellik değişikliklerine nasıl tepki gösterdiğini anlamak için kullanıcıların kendi durum pertürbasyonlarını oluşturmasına olanak tanıyın.

Sorumlu yapay zeka panosunun karşıt analiz bileşeninin en önemli farklarından biri, geçerli ve mantıksal karşıt örnekler için hangi özelliklerin değiştirildiğini ve izin verilen aralıklarını belirleyebilmenizdir.

Bu bileşenin özellikleri DiCE paketinden gelir.

Duruma dayalı analiz yapmanız gerektiğinde, karşıtsal durumları kullanın.

  • Cinsiyet ve etnik köken gibi hassas öznitelikleri pertürbederek ve ardından model tahminlerinin değişip değişmediğini gözlemleyerek karar değerlendirici olarak eşitlik ve güvenilirlik ölçütlerini inceleyin.
  • Belirli giriş örneklerinde ayrıntılı hata ayıklama.
  • Kullanıcılara çözümler sağlayın ve modelden istenen sonucu elde etmek için neler yapabileceklerini belirleyin.

Karşıt örnekler nasıl oluşturulur?

DiCE, karşıtlık oluşturmak için modelden bağımsız teknikler kullanır. Bu yöntemler herhangi bir opak kutu sınıflandırıcısı veya regresörüyle çalışır. Giriş noktasının yakınındaki noktaları örneklerken, yakınlık temelinde bir kayıp işlevini optimize ederler. Kayıp işlevi, seyreklik, çeşitlilik ve fizibilite terimlerini de içerebilir. Şu anda desteklenen yöntemler şunlardır:

  • Rastgele arama: Bu yöntem, bir sorgu noktasının yakınındaki noktaları rastgele örnekler ve istenen sınıf olarak tahmin edilen etiketlere sahip karşıtı-göstergeleri döndürür.
  • Genetik arama: Bu yöntem, noktaları örneklemek için bir genetik algoritma kullanır. Sorgu noktasına yakınlığı iyileştirir, mümkün olduğunca az özellik değiştirir ve oluşturulan karşıtlıklar arasında çeşitlilik arar.
  • KD ağaç araması: Bu algoritma, eğitim veri kümesinden gelen karşıtlıkları döndürür. Eğitim veri noktaları üzerinde bir KD ağacı kurar, bu yapı uzaklık işlevine dayanmaktadır. Ardından, istenen tahmin edilen etikete sahip bir sorgu noktasına en yakın noktaları döndürür.

Sonraki adımlar

  • Last updated on