Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Sorumlu yapay zeka, yapay zeka sistemlerinin nasıl çalışması gerektiğini tanımlayan bir dizi ilke tarafından yönlendirilir. Bu ilkeler eşitlik, güvenilirlik, güvenlik, gizlilik, güvenlik, kapsayıcılık, şeffaflık ve sorumluluk konularına odaklanır. Bu standartlar, Microsoft’un riskleri nasıl değerlendirdiğini, yapay zeka özelliklerini nasıl tasarladığını ve sistemlerin sorumlu davranmasını nasıl sağladığını yönlendirir.
Bu ilkelerin aracı tasarımına uygulanması, yanlılık, yanlış bilgi veya gizlilik ihlalleri gibi istenmeyen zararların önlenmesine yardımcı olur. Ayrıca kullanıcı güvenini ve uzun süreli benimsemeyi destekler. Bu yönergeleri izleyerek, kullanıcıların ve toplumun Microsoft ürünlerden beklediği bütünlük ve saygı standartlarını koruyarak etkili bir şekilde performans gösteren yapay zeka aracıları oluşturabilirsiniz.
Bu makale, ajan tasarımına uygulanışı bağlamında Sorumlu Yapay Zekâ'ya genel bir giriş sunar. Kapsamlı rehberlik için bkz. Microsoft sorumlu yapay zeka ilkeleri ve yaklaşımı.
Sorumlu yapay zeka ilkeleri
Sorumlu yapay zeka ilkeleri, Microsoft 365 Copilot aracıları tasarlama, oluşturma ve çalıştırma konusunda yol gösterir. Yapay zeka sistemlerinin güvenilir, güvenli ve insan değerleriyle uyumlu olduğundan emin olmak için aracı davranışı, veri işleme ve kullanıcı etkileşimi için paylaşılan bir standart oluşturur.
Bu ilkeler, tasarım ve geliştirmeden dağıtıma ve sürekli kullanıma kadar tüm aracı yaşam döngüsünde geçerlidir. Etkileşim tasarımı, model ve bilgi seçimi, özerklik, güvenlik ve idare hakkında kararlar alır. Bu ilkeleri izleyerek, kullanıcı güvenini ve uzun vadeli benimsemeyi korurken aracıların sorumlu bir şekilde değer sunmasını sağlarsınız.
| Principle | Ajan tasarımı açısından anlamı |
|---|---|
| Adalet | Yapay zeka sistemleri tüm kullanıcılar için tutarlı ve adil sonuçlar sağlamalıdır. Ajan davranışları, hassas niteliklere veya kullanıcı bağlamına dayalı adil olmayan muamele oluşturmaktan ya da bunu pekiştirmekten kaçınmalıdır. |
| Güvenilirlik ve güvenlik | Yapay zeka sistemleri, çok çeşitli koşullarda amaçlandığı gibi çalışmalıdır. Aracılar değişkenliği, uç durumları ve beklenmeyen girişleri güvenli ve öngörülebilir davranışı destekleyen yollarla işlemelidir. |
| Gizlilik ve güvenlik | Yapay zeka sistemlerinin kullanıcı verilerini koruması ve yerleşik gizlilik ve güvenlik gereksinimlerine uyması gerekir. Aracılar yalnızca erişim yetkisine sahip oldukları bilgileri kullanmalı ve bu bilgileri sorumlu bir şekilde işlemelidir. |
| Kapsayıcılık | Yapay zeka sistemleri tüm kullanıcıları güçlendirmeli ve farklı ihtiyaçları karşılamalıdır. Aracılar kapsayıcı bir deneyim sağlamak için erişilebilirlik, dil varyasyonu ve farklı teknik yetkinlik düzeylerini dikkate almalıdır. |
| Şeffaflık | Yapay zeka sistemleri, özelliklerini ve sınırlamalarını net hale getirmelidir. Aracılar, kullanıcıların bilinçli kararlar verebilmesi için neler yapabileceklerini, bilgilerin nasıl kullanıldığını ve çıktıların nasıl oluşturulduğunu açıklamalıdır. |
| Sorumluluk | Yapay zeka sistemleri net gözetim gerektirir. Aracı geliştiren ekipler, sistemin Sorumlu yapay zeka ilkelerine uyduğunu, uyumluluk gereksinimlerini karşıladığından ve uygun insan idaresi altında çalıştığından emin olmakla sorumludur. |
Ajan geliştirmede sorumlu yapay zekânın uygulanması
Microsoft, yapay zeka aracılarının geliştirilmesi boyunca Sorumlu yapay zeka ilkelerini tümleştirmek için yapılandırılmış bir model kullanır. Bu model, ekiplerin riskleri belirlemesine, doğru risk azaltmaları bulmasına ve aracının yaşam döngüsü boyunca sorumlu davranışı sürdürmesine yardımcı olur.
Tasarımcı olarak, kararlarınız bu işlevlerin nasıl yerine getirildiğinden doğrudan etkilenir. Aşağıdaki temel işlevler, Sorumlu yapay zekanın nasıl uygulamaya alınacağını açıklar:
| İşlev | Description |
|---|---|
| Govern | Ekiplerin aracı tasarlayıp dağıtırken izlediği ilkeleri, rolleri ve işlemleri oluşturur. İdare, Sorumlu yapay zeka ilkeleriyle uyumlu olmasını sağlar ve net bir sorumluluk sağlar. |
| Harita | Bir yapay zeka senaryosuyla ilişkili olası riskleri tanımlar ve önceliklerini oluşturur. Eşleme, azaltma stratejileri hakkında bilinçli kararlar alınmasına olanak tanır ve yapay zeka çözümünün hedeflenen bağlama uygun olup olmadığını belirlemeye yardımcı olur. |
| Ölçü | Risklerin ve sistem performansını değerlendirerek risk azaltmaların tasarımına ve iyileştirmesine yol gösterir. Yapay zeka özelliklerinin karmaşıklığı arttıkça ve sürekli değerlendirme gerektirdiği için ölçüm önemlidir. |
| Yönetme | Dağıtım ve devam eden işletim süreci boyunca risk azaltma önlemlerini uygular ve sürdürür. Ekipler, sistem davranışını izler ve ajanların zaman içinde sorumlu kalmasını sağlamak için önlemleri gerektikçe ayarlar. |
Yapay zeka saydamlığı ve güvenlik filtreleri
Saydamlık, sorumlu yapay zekanın temel taşıdır. Aracıları tasarlarken, yapay zekanın ürün deneyimindeki varlığını ve rolünü açıkça belirtin. Kullanıcıları aracının amacı, özellikleri, sınırlamaları ve olası riskleri hakkında eğitin. Bu şeffaflık, kullanıcıların bilinçli kararlar vermelerini sağlar ve sisteme güvenmeyi teşvik eder.
Saydamlığın pratik uygulamaları, AI'nin nasıl çalıştığını ve kullanıcıların neler bekleyebileceğini açıklayan Saydamlık Notları ve ürün içi açıklamaları içerir. Örneğin, İş Sohbeti deneyiminde aracı, uygun beklentilerin ayarlanmasına ve sorumlu kullanımın desteklenmesine yardımcı olmak için "Yapay zeka tarafından oluşturulan içerik yanlış olabilir" gibi net göstergeler kullanır.
Güvenlik filtreleri
Güvenlik filtreleri, aracıların uygun, saygılı ve Microsoft Sorumlu yapay zeka ilkeleriyle uyumlu şekilde davranmasını sağlamaya yardımcı olur. Bu korumalar, etkileşim boyunca kullanıcı gizliliğini ve hassas bilgileri korurken zararlı, taraflı veya yanıltıcı çıkış riskini azaltır.
Copilot üzerinde oluşturulan aracılar, adillik, güvenilirlik, gizlilik ve şeffaflığa odaklanan Microsoft’un Sorumlu Yapay Zekâ taahhütlerini devralır. Güvenlik filtreleri, aracıların kullanıcı girişlerine nasıl yanıt verdiğine, hassas konuları işlemesine ve verilere erişimi yönetmesine yol göstererek bu taahhütleri zorunlu tutmada kritik bir rol oynar.
Important
Tasarımcı olarak güvenlik filtrelerini doğrudan yapılandırmazsınız. Microsoft bunları platform düzeyinde uygular. Ancak, ton, kapsam ve saydamlık ile ilgili tasarım kararlarınız, güvenlik filtrelerinin korumak için tasarlandığı güveni doğrudan pekiştiriyor veya zayıflatıyor.
Ajanlar, güvenlik filtrelerini tutarlı bir şekilde uygulayarak kullanıcıların güven ve itimadını pekiştirebilir. Kullanıcılar, yapay zekanın sorumlu davranışını ve etik kullanımını teşvik etmek için korumaların uygulandığını bilerek aracı yanıtlarına daha iyi güvenebiliyor.
Tip
Ayrıntılı ilkeler, idare çerçeveleri ve saydamlık raporlama dahil olmak üzere Microsoft Sorumlu yapay zeka yaklaşımı hakkında kapsamlı yönergeler için bkz. Microsoft Sorumlu yapay zeka ilkeleri ve yaklaşımı.