Zararları değerlendirmeyle ilgili temel bilgiler

Zarar Modellemesi olası zararları tahmin etmenize, üründe kullanıcıları riske atabilecek boşlukları tespit etmenize ve böylece zararlı durumlara karşı proaktif yaklaşımlar oluşturmanıza yardımcı olmak için tasarlanmıştır.

Zarar modellemesi neden kullanılmalıdır?

Teknolojiyi oluşturan kişiler olarak global çalışmalar yapıyorsunuz. Yapay zekanın güvenilir olacak biçimde tasarlanması için, önemli ve zamandan bağımsız değerlere dayanan etik ilkeleri yansıtan çözümler oluşturulması gerekir. Teknolojilerinizi tasarlayıp oluştururken yalnızca ideal sonuçları değil, aynı zamanda olumsuz ihtimalleri de değerlendirmek gerekir.

Teknoloji ve insan hakları

Dijital teknolojinin insan hakları üzerindeki etkisinin farkında olmak her zaman önemlidir. Gizliliği ve güvenliği korumayı sürdürmek için, yapay zekanın ve yüz tanıma gibi yeni ortaya çıkan diğer teknolojilerin risklerini göz önünde bulundurmak zorundayız. Tarih bize insan hakları ihlallerinin yalnızca teknolojinin kötü kullanımından değil, aynı zamanda iyi niyetli kişiler arasında farkındalık eksikliğinden kaynaklandığını öğretir. Microsoft, şirketimizin insan haklarını koruma konusuna gösterdiği hassasiyet dolayısıyla, Birleşmiş Milletler (BM) de dahil olmak üzere sektörümüzün dışındaki önemli taraflarla bir iş ortaklığı kurdu.

Şirketimizin güçlü bir şekilde desteklediği BM ilkelerinden biri, 250’den fazla ulusun da onayladığı İnsan Hakları Evrensel Beyannamesi’dir (UDHR). UDHR, kilometre taşı niteliğinde bir belgedir. Tüm dünyadan hukuk ve kültür uzmanlarından oluşan karışık bir grup tarafından hazırlanan bu beyanname, 1948’de Birleşmiş Milletler Genel Kurulu tarafından tüm insanların ve tüm ulusların ulaşması gereken ortak bir standart olarak yayınlanmıştır. Temel insan haklarının evrensel olarak korunması, ilk kez bu belgeyle belirtilmiştir. 500’den fazla dile çevrilmiştir. Ayrıca Microsoft, kurumsal sosyal sorumluluğu geliştirmeyi amaçlayan uluslararası bir iş girişimi olan Küresel İlkeler Sözleşmesi’ni imzalayan 4.700 kurumsal şirketten biridir.

Microsoft Word'de indirme

İnsan anlayışı

İnsan haklarının anlaşılmasının yanı sıra, güvenilir sistemler oluşturmak için birçok kişinin bakış açısının da dikkate alınması gerekir. Katılımcıların kim olduklarını, neye değer verdiklerini, teknolojimizden nasıl faydalanacaklarını ve nasıl zarar görebileceklerini bilmek, daha iyi ürünler tasarlayıp oluşturmamızı sağlayan güçlü bir adımdır.

Teknoloji kimi etkiliyor?

Müşteriler kimler?

• Müşteriler neye değer veriyor?
• Nasıl bir fayda sağlanacak?
• Teknoloji nasıl bir zarar verebilir?

Müşteri olmayan katılımcılar kimler?

• Müşteriler neye değer veriyor?
• Nasıl bir fayda sağlanacak?
• Teknoloji nasıl bir zarar verebilir?

Bu soruların sorulması, Değere Duyarlı Tasarım uygulamalarından biridir. Katılımcıların neye önem verdiğini ve bunun ürünle olan ilişkilerinde nasıl bir rol oynayacağını daha iyi anlamak için öncelikle bunlar gereklidir.

Katılımcı türleri

Proje sponsorları

Bu kategoride destekçiler, karar alma yetkisi olanlar ve sahipler yer alır. Bu tarafların değerleri, proje stratejisiyle ve hedeflerle ifade edilir.

Teknolojiyi oluşturanlar

Tasarım Aracı, geliştiriciler, proje yöneticileri ve doğrudan sistem tasarlama üzerinde çalışan kişiler bu grubu oluşturur. Kendi etik standartlarını ve mesleki değerlerini sisteme yansıtırlar.

Doğrudan ve dolaylı katılımcılar

Sistem, bu katılımcıları önemli ölçüde etkiler. Etkilenenler arasında son kullanıcılar, yazılım personeli, müşteriler, destekçiler, kurumlar arasında geçiş yapanlar ve hatta geçmiş veya gelecek nesiller yer alır. Tarihi binalar veya kutsal yerler gibi insan dışı faktörler de buna dahil edilebilir.

Ötekileştirilmiş topluluklar

Bu kategoride sıkça azınlık, savunmasız veya damgalanmış olarak değerlendirilen topluluklar yer alır. Bu kategoride çocuklar, yaşlılar, LGBTQ+ topluluğu üyeleri, etnik azınlıklar ve genellikle benzersiz ve orantısız sonuçlarla karşılaşan diğer halklar yer alır.

Zararı Değerlendirme

Teknolojinin amacını, kullanım örneklerini ve katılımcılarını belirlediğinizde, oluşturduğunuz teknolojinin insanlar ve toplum üzerinde olumsuz sonuçlara neden olabilecek olası kullanımlarını değerlendirmek için bir Zarar Modellemesi yapın.

Microsoft Word'de indirme

Yukarıdaki diyagram bir zarar değerlendirmesi örneğidir. Bu model, olası zarar büyüklüğünü anlamak için kullanılan nitel bir yaklaşımdır.

Bu düşünsel etkinliği bireysel olarak da gerçekleştirebilirsiniz. Ancak ideal olan, bunun geliştiriciler, veri bilimcileri, tasarımcılar, kullanıcı araştırmacıları, işle ilgili kararları alanlar ve teknoloji oluşturma sürecine katkıda bulunan diğer disiplinlerle işbirliği içinde yürütülmesidir.

Zarar açıklaması bildirimleri için öneriler:

• Amaçlanan kullanım: [özellik] [kullanım örneği] için kullanıldıysa [paydaş] [zarar açıklaması] ile karşılaşabilir.
• İstenmeyen kullanım: [kullanıcı] [kullanım örneği] için [özellik] kullanmayı denediyse [paydaş] [zarar açıklaması] ile karşılaşabilir.
• Sistem hatası: [özellik] [kullanım örneği] için kullanıldığında düzgün çalışamadıysa [paydaş] [zarar açıklaması] ile karşılaşabilir.
• Kötüye kullanma: [Kötü amaçlı kişi], [özellik] yoluyla [katılımcıyı] [zarar açıklaması] ile karşı karşıya bırakabilir.

Zarara neden olabilecek durumlara ilişkin fikir üretmek için bu kategorilerden, sorulardan ve Zarar türleri bölümünde açıklanan örneklerden faydalanın. Bu makalede, sıkça karşılaşılan etki alanlarına dayalı olarak, zarar kategorilerinin bir listesi verilmiştir. Kendi çalışmanızla ilgili olan kategorileri kullanın.

Sonraki Adımlar

Zararlara ilişkin daha ayrıntılı bir analiz için Zarar türleri bölümünü okuyun.