Uygulama kartı: Copilot Code (Frontier)

Important

• Bu, Microsoft Ürün Koşulları kapsamında sağlanan bir önizleme özelliğidir.
• Önizleme özelliklerinin işlevleri kısıtlanmış olabilir ve genel kullanılabilirlik için yayınlanmayabilir. Bu özellikler, müşterilerin erken erişim elde etmesi ve geri bildirim sağlaması amacıyla resmi sürümden önce kullanıma sunulur.
• Erken erişim elde etmek için Frontier önizleme programının bir parçası olmanız gerekir. Frontier sizi doğrudan Microsoft'un en son yapay zeka yenilikleri ile bağlar. Sınır önizlemeleri, müşteri sözleşmelerinizin mevcut önizleme koşullarına tabidir. Bu özellikler hala geliştirme aşamasında olduğundan, bunların kullanılabilirliği ve özellikleri zaman içinde değişebilir.

Uygulama veya Platform kartı nedir?

Microsoft'un Uygulama ve Platform kartları yapay zeka teknolojimizin nasıl çalıştığını anlamanıza, uygulama sahiplerinin uygulama performansını ve davranışını etkileyen seçimler yapabilmesine ve teknoloji, kişiler ve ortam dahil olmak üzere uygulamanın tamamını dikkate almanın önemini anlamanıza yardımcı olmak için tasarlanmıştır. Uygulama kartları yapay zeka uygulamaları için, platform kartları ise yapay zeka platformu hizmetleri için oluşturulur. Bu kaynaklar kendi uygulamalarınızın geliştirilmesini veya dağıtımını destekleyebilir ve kullanıcılar veya bunlardan etkilenen paydaşlarla paylaşılabilir.

Microsoft, sorumlu yapay zeka taahhüdü kapsamında altı temel ilkeye uyar: eşitlik, güvenilirlik ve güvenlik, gizlilik ve güvenlik, kapsayıcılık, saydamlık ve sorumluluk. Bu ilkeler, ekiplere yapay zeka uygulamalarını tasarlama, oluşturma ve test etme konusunda yol gösteren Sorumlu Yapay Zeka Standardı'na eklenmiştir. Uygulama ve Platform kartları özellikler, amaçlanan kullanımlar ve sınırlamalar konusunda saydamlık sunarak bu ilkelerin kullanıma sunulmasında önemli bir rol oynar. Daha fazla içgörü elde etmek için okuyucuların Microsoft'un Sorumlu Yapay Zeka Saydamlık Raporu'nu ve yapay zeka ile sorumlu bir şekilde nasıl etkileşim kuracaklarını özetleyen Microsoft Kurumsal Yapay Zeka Hizmetleri Kullanım Kuralları'nı keşfetmeleri önerilir.

Overview

Microsoft Copilot'taki Kod sekmesi, tanımladığınız bilgileri çalışan yazılıma dönüştüren yapay zeka destekli bir aracıdır. Bir çıktıyı doğal dilde (pano, iç araç, statik web sitesi, veri dönüşümü veya betik) açıklarsınız ve Copilot Code bunu oluşturur, tuvalde canlı önizleme gösterir ve çalışana kadar sizinle birlikte yineleme yapar. Nasıl kodlayabileceğinizi bilmeniz gerekmez. Copilot Code kendi cihazınızda (yerel) veya buluttaki güvenli, yalıtılmış bir ortamda çalıştırılabilir.

Copilot Code, fikirleri, verileri ve yinelenen iş akışları olan ancak bir geliştirme ortamını sürdürmeyen bilgi çalışanları için tasarlanmıştır. Yazılımı sizin adınıza yazar ve çalıştırır, izin verince Microsoft 365 iş bağlamınızı kullanır ve seçtiğiniz proje klasörünün ötesine ulaşan eylemler gerçekleştirmeden önce izninizi ister.

Copilot Code, Microsoft Copilot'un bir parçası olarak kullanılabilir. Daha fazla bilgi için bkz. Copilot Code genel bakışı.

Önemli terimler

Aşağıdaki tablo, Copilot Code ile ilgili temel terimleri tanımlar.

Süre	Description
Agent	Doğal dil yönergelerine göre bir kullanıcı adına görevleri otomatik hale getiren ve yürüten yapay zeka destekli bir bileşen. Copilot Code, yazılım oluşturan ve çalıştıran bir ajandır.
Project	Copilot Code yazılım yapıtı, onu oluşturan dosyalarla birlikte. Bir proje cihazınıza (yerel) veya buluta kaydedilir ve ilgili konuşma projeye bağlıdır.
Canvas	Konuşmanın yanındaki görsel çalışma alanı; burada artefaktın canlı önizlemesini görürsünüz ve oluşturulan dosyaları görmek ve düzenlemek için bir kod görünümüne geçebilirsiniz.
Yerel kalkınma	Copilot Code'un kendi cihazınızda çalıştığı ve seçtiğiniz bir proje klasörü içinde çalıştığı mod.
Bulut geliştirme	Copilot Code'un çalıştığı ve projenizi bulutta güvenli, yalıtılmış bir ortamda tuttuğu bir mod.
Onay istemi	Copilot Code'un seçili klasörün dışındaki bir konuma erişmeden, ağ bağlantısı kurmadan veya bir komut çalıştırmadan önce izninizi istediği bir iletişim kutusu. Komutlar sade bir dille yazılır.
Eklenti	Copilot Kodu dış veri kaynaklarına ve hizmetlerine bağlayan Microsoft 365 App Store aracılığıyla dağıtılan bir paket. Copilot Code, Cowork'ta kullanılabilen eklentilerin aynısını kullanır.
İş bağlamı	Copilot Code'un, kendi izninizle ve kuruluşunuzun (iş) hesabını kullanarak oluşturduğu şeyler için bağlam olarak kullanabileceği Microsoft 365 verileriniz (belgeler, e-postalar, toplantılar ve takvim).
GitHub bağlantısı	Copilot Code'un repolarla çalışmasını, kodunuzla ilgili soruları yanıtlamasını ve çekme isteklerini açmasını sağlayan isteğe bağlı bir GitHub hesabı bağlantısı.
Automation	Otomasyonlar panelinden ayarlanan bir zamanlamaya göre Code'un çalıştırdığı iş.

Önemli özellikler veya yetenekler

Aşağıdaki temel özellikler ve özellikler, Copilot Code'un ne yapmak üzere tasarlandığını açıklar.

Feature	Description
Doğal dilden oluşturun	Copilot Code, bir sonucun sade bir dille yapılan açıklamasını uygulama, pano, statik web sitesi, veri dönüştürme, otomasyon veya betik gibi çalışan bir yazılım yapıtına dönüştürür.
Soruları netleştirme	Derlemeden önce Copilot Code, ne istediğinizi ve nasıl görünmesi gerektiğini onaylamak için birkaç soru sorabilir.
Canlı önizleme ve kod görünümü	Tuval, statik bir web sitesinin veya web uygulamasının oluşturulurken canlı önizlemesini gösterir. Oluşturulan dosyaları görmek ve düzenlemek için bir kod görünümüne geçebilir ve tuvalde bir öğe seçerek bir sonraki isteğinize odaklanabilirsiniz.
Yinele ve geri al	Konuşmadaki değişiklikleri açıklayarak sonucu iyileştirebilirsiniz. İstediğiniz zaman önceki bir sürüme geri dönebilirsiniz. Bir adım başarısız olursa, Copilot Code kurtarmayı dener ve neler olduğunu düz dilde açıklar.
Yerel veya bulut yürütme	Copilot Code, projenizi kendi cihazınızda veya bulutta güvenli, yalıtılmış bir ortamda çalıştırabilir.
Dosyaları ve verileri içe aktar	Dosyaları (CSV, elektronik tablolar, resimler, belgeler, PDF'ler ve sunular) karşıya yükleyebilir veya sürükleyip bırakabilirsiniz, metin yapıştırabilir ve yerel projeler için Copilot Code'un üzerinde çalışması için mevcut bir klasör açabilirsiniz.
İş bağlamı entegrasyonu	İzninizle Copilot Code, oluşturdukları için bağlam olarak Microsoft 365 iş bağlamınızı (belgeler, e-postalar, toplantılar ve takvim) kullanır. Bu işlem kuruluş (iş) hesabınızı kullanır.
Eklentiler ve araçlar	Copilot Code, kuruluşunuzun ilkelerine bağlı olarak dış veri kaynaklarına ve hizmetlerine ve ayrıca web araması ve görüntü oluşturma gibi araçlara bağlanmak için Cowork'te sağlanan aynı eklentileri kullanır.
GitHub tümleştirmesi	İsteğe bağlı olarak bir GitHub hesabı bağlayarak bir depodan çalışmaya başlayabilir; kodunuzla ilgili sorular sorabilir; branch (dal) ve commit oluşturabilir; taslak pull request'ler açıp bunların durumunu görüntüleyebilir; depo oluşturabilir ve "My Work" (Çalışmalarım) bölümünde issue'larınızı, pull request'lerinizi ve inceleme taleplerinizi takip edebilirsiniz.
Automations	Otomasyonlar panelinden bir zamanlamaya göre çalışan işleri ayarlayabilirsiniz.
Paylaş ve dışa aktar	Statik bir uygulamayı kuruluşunuzun kapsamına alınmış bir bağlantı olarak paylaşabilir ve projeyi .zip dosyası olarak dışa aktarabilirsiniz.
Model seçimi	Copilot Code'un projeniz için kullandığı modeli seçebilir veya Copilot Code'un seçmesine izin vekleyebilirsiniz.
İzin kontrolleri	Copilot Code seçili proje klasörünün dışındaki konumlara erişmeden, ağ bağlantıları oluşturmadan veya komutları çalıştırmadan önce izninizi ister. Onay istemleri açık ve sade bir dille yazılır.

Aracısal bir AI uygulaması olarak Copilot Code aşağıdaki aracısal özelliklerini sergiler:

• Planlama: Copilot Code, doğal dil açıklamasını yazılımı oluşturmak için gereken adımlara ayırır ve bu adımları tek tek gerçekleştirerek ilerleme durumunu gösterir.
• Uyarlanabilirlik: Bir oturum sırasında Copilot Code'u geri bildirimle yönlendirebilirsiniz ve Copilot Code, önceki bir sürüme geri dönme de dahil olmak üzere yaklaşımını buna göre uyarlar.
• Genişletilebilirlik: Copilot Code'un özellikleri Microsoft 365 App Store'dan eklentiler, dış veri kaynaklarına bağlayıcılar ve isteğe bağlı bir GitHub bağlantısı aracılığıyla genişletilir.
• Bellek (konuşma kapsamındaki): Bir projenin konuşması içinde Copilot Code, adımlar ve iletiler arasında bağlamı korur. Oturum sırasında verilen onay, bu oturum için geçerlidir. Bağlam ayrı konuşmalar arasında korunmaz.

Amaçlanan kullanımlar

Copilot Code, Microsoft 365 kullanan ve bir geliştirme ortamına ihtiyaç duymadan fikirlerini, verilerini ve yinelenen iş akışlarını çalışan yazılıma dönüştürmek isteyen bilgi çalışanları için tasarlanmıştır. Bazı kullanım örnekleri şunlardır:

• Panolar ve veri görünümleri: Kanala göre haftalık kaydolmalar gibi verilerinizden bir ölçümü izleyen bir pano oluşturun.
• İç araçlar: Envanter veya onay izleyicisi gibi bir ekip iş akışı için izleyici, form veya hesap makinesi oluşturun.
• Statik web siteleri ve giriş sayfaları: Bir fikri test etmek için basit bir site veya giriş sayfası oluşturun.
• Veri dönüşümleri ve betikler: Raporu çeşitli kaynaklardan yeniden oluşturmak gibi yinelenen manuel bir işlemi yeniden kullanılabilir bir betik haline getirin.
• Mevcut repository’lerle çalışma: Bir repository hakkında soru sormak, değişiklik yapmak ve taslak pull request açmak için bir GitHub hesabı bağlayın.

Temsilci kapsamı: Copilot Code, Microsoft 365 izinlerinizin ve seçtiğiniz proje klasörünün sınırları içinde çalışır. Oluşturmasını söylediğiniz yazılımı derleyip çalıştırır ve seçili klasörün dışına erişmeden, ağ bağlantısı kurmadan veya bir komut çalıştırmadan önce onayınızı ister. Sizin yönlendirmeniz veya onayınız olmadan bu eylemleri gerçekleştirmez.

Copilot Code, insan incelemesi olmadan garantili doğruluk gerektiren kullanım senaryolarına veya uygun test ve insan gözetimi olmadan önemli sonuçlar doğurabilecek ya da güvenlik açısından kritik kullanım için yazılım üretmeye yönelik değildir.

Modeller ve eğitim verileri

Copilot Code, kullanıcıların gördüğü deneyime güç vermek için AI modellerinden yararlanıyor. Claude Opus ve Claude Sonnet varyantları, Anthropic'ten Claude Haiku ve Microsoft tarafından barındırılan ve çalıştırılan GPT modelleri gibi çeşitli modeller arasından seçim yapabilir veya Copilot Code'un sizin için bir model seçmesine izin bekleyebilirsiniz. Anthropic modelleri Microsoft'a alt işleyen olarak sağlanır. Daha fazla bilgi için bkz. Microsoft Online Services için alt işlemci olarak Anthropic ve Microsoft Online Services'da yapay zeka işlevselliğini ve modellerini anlama.

Microsoft Graph aracılığıyla erişilen istemler, yanıtlar ve veriler, Microsoft Copilot tarafından kullanılanlar da dahil olmak üzere temel LLM'leri eğitmek için kullanılmaz. Bulut modunda, kuruluş verileriniz Microsoft 365 içinde kalır ve kuruluşunuzun mevcut veri idare ilkelerine tabidir; ancak yerel modda, verileriniz yönetici onayına tabi olarak yerel cihazda da depolanabilir. Verilerin nasıl işlendiği hakkında daha fazla bilgi için bkz. Microsoft Copilot için Veri, Gizlilik ve Güvenlik.

Performans

Copilot Code, kullanıcının amacını yansıtan çalışan yazılımlar oluşturmak için tasarlanmıştır. Performans, Copilot Code'un isteği karşılayan çalışan bir çıktı oluşturup oluşturmadığına ve geri bildirime göre doğru şekilde yineleme yapıp yapmadığına göre değerlendirilir.

Desteklenen modaliteler

• Giriş: Kullanıcılardan gelen metin istemleri, yapıştırılmış metinler ve ekli dosyalar (CSV, elektronik tablolar, resimler, belgeler, PDF'ler ve sunular) dosya başına 200 MB'a kadar. Yerel projeler için, Copilot Code seçtiğiniz klasördeki dosyaları da okuyabilir.
• Çıkış: Tuvalde gösterilen çalışan bir yazılım yapıtı, oluşturulan kaynak kodu, cihazınıza veya buluta kaydedilen dosyalar ve GitHub'a bağlandığınızda dallar, işlemeler ve taslak çekme istekleri. Statik bir uygulamayı kuruluş kapsamlı bir bağlantı olarak paylaşabilir ve bir projeyi .zip dosyası olarak dışa aktarabilirsiniz.

Copilot Code istekleri nasıl işler?

1. Copilot Code, istediğiniz sonucu açıklayan doğal dilde bir açıklama alır.
2. Copilot Code netleştirici sorular sorabilir, ardından artefaktı oluşturmak için gereken adımları planlar.
3. Copilot Code, tuvalde ilerlemeyi ve canlı önizlemeyi göstererek yazılımı yazıp çalıştırır. Oluşturulan dosyaları görmek için kod görünümüne geçebilirsiniz.
4. Copilot Code, seçili klasörün dışındaki bir konuma erişmeden, ağ bağlantısı kurmadan veya bir komut çalıştırmadan önce, onayınızı açık ve anlaşılır bir dille ister.
5. Sonucu gözden geçirir, konuşma aracılığıyla iyileştirip projenizi kaydeder, paylaşır veya dışarı aktarırsınız.

Güvenilir çalışma için koşullar

• Copilot Code, sonucun kim için olduğu ve kullanması gereken veriler de dahil olmak üzere sonucu net bir şekilde tanımladığınızda en iyi performansı gösterir.
• Copilot Code yalnızca Microsoft 365 hesabınızın kullanma yetkisine sahip olduğu verilere ve hizmetlere ve yerel projeler için seçtiğiniz klasöre ve ayrıca onayladığınız konumlara erişebilir.
• Önizleme desteği yapıtın türüne ve cihazınıza bağlıdır.
• Birçok bağımlılık içeren son derece karmaşık projelerde performans düşebilir.

Çok dilli özellikler

• CCopilot Code, Copilot tarafından desteklenen tüm dillerde kullanılabilir. Ek diller için destek, temel model özelliklerine ve Microsoft 365 hizmet kullanılabilirliğine bağlıdır. Desteklenen diller hakkında daha fazla bilgi için bkz. Microsoft Copilot için desteklenen diller.

Limitations

Copilot Code’un sınırlamalarını anlamak, Copilot Code’un güvenli ve etkili sınırlar içinde kullanılıp kullanılmadığını belirlemek için çok önemlidir. Müşterilerin yenilikçi çözümlerinde veya uygulamalarında Copilot Code kullanmalarını öneririz ancak Copilot Code'un mümkün olan her senaryo için tasarlanmadığını unutmayın. Kullanıcıların Microsoft Enterprise AI Services Kullanım Kuralları (kuruluşlar için) veya Microsoft Hizmet Sözleşmesi (bireyler için) içindeki Kullanım Kuralları bölümüne ve kullanım örneği seçerken dikkate alınacak noktalara başvurmalarını öneririz:

• Yönerge yorumu: Copilot Code, belirsiz veya fazla geniş açıklamaları yanlış yorumlayabilir ve amacınıza uymayan yazılıma neden olabilir. Daha iyi sonuçlar için net ve belirli istekler sağlayın.

• Oluşturulan kod doğruluğu: Yapay zeka tarafından oluşturulan kod ve yapıtlar taslak olarak kabul edilmelidir. Copilot Code'un oluşturduklarını güvenmeden, paylaşmadan veya üretimde kullanmadan önce test edin. Copilot Code, özellikle kaynak veriler eksik veya güncel olmadığında yanlış sonuçlar üretebilir.

• Proje karmaşıklığı: Birçok bağımlılığı olan karmaşık projeler her zaman beklendiği gibi derlenmeyebilir. İlerleme durumunu izleyin, küçük adımlarda yineleyin ve gerektiğinde önceki bir sürüme geri dönün.

• Önizleme desteği: Önizleme, artefaktın türüne ve cihazınıza bağlıdır. Örneğin, bazı artefaktlar her platformda önizlenemez.

• İzin sınırları: Copilot Code, mevcut Microsoft 365 izinlerinize ve yerel projeler için seçtiğiniz klasöre bağlıdır. Yetkilendirmediğiniz verilere, hizmetlere veya konumlara erişemez.

• Platform ve cihaz desteği: Copilot Code, Windows ve Mac için Microsoft Copilot masaüstü uygulamasında ve bulut geliştirme için web'de çalışır. Bu sürümde bir mobil uygulama mevcut değil ve özellik kullanılabilirliği platforma göre farklılık gösterebilir.

• Özel beceriler ve eklentiler: Eklentiler ve bağlayıcılar üçüncü taraf yayımcılar tarafından sağlanır ve Microsoft tarafından doğrulanmaz. Kalite, bunları kimin yayımladığına bağlı olduğundan, eklentilerin çıktılarını dikkatlice gözden geçirin.

• Yanlılık, kalıp yargılar ve temellendirilmemiş içerik: Sorumlu yapay zeka denetimlerine rağmen, yapay zeka tarafından oluşturulan içerik ve kod yine de yanlılıkları, kalıp yargıları veya temellendirilmemiş bilgileri yansıtabilir. Copilot Code'un ne ürettiğini, ona güvenmeden önce gözden geçirin. Anthropic modellerinden AI tarafından oluşturulan içeriğin bilinen sınırlamaları hakkında daha fazla bilgi için Anthropic alt işlemci belgelerine bakın.

• Bir bireyde potansiyel olarak önemli fiziksel veya psikolojik yaralanma: Sistemin bir bireyde önemli fiziksel veya psikolojik yaralanmaya neden olabilecek şekilde kullanılmasından veya kötüye kullanılmasından kaçının. Örneğin, hastalara teşhis koyan veya ilaç reçete eden bir yazılım oluşturmak önemli zararlara neden olabilir.

• Yaşam fırsatları veya yasal statü üzerinde ciddi sonuçlar doğurabilecek etki: Sistemin yaşam fırsatları veya yasal statü üzerinde önemli bir etkisi olabilecek kullanımından veya kötüye kullanılmasından kaçının. Bir kişinin yasal durumunu, yasal haklarını veya krediye, eğitime, istihdama, sağlık hizmetlerine, konutlara, sigortaya, sosyal yardım haklarına, hizmetlere, fırsatlara veya bunların sunulduğu koşullara erişimini etkileyebilecek yazılımlar örnek olarak verilebilir.

Evaluations

Performans ve güvenlik değerlendirmeleri, Copilot Code'un güvenilir ve güvenli bir şekilde çalışıp çalışmadığını değerlendirirken, zararlı içerik oluşturma veya yetkisiz eylemler gerçekleştirme risklerini belirlerken oluşturulan yazılımın doğru ve işlevsel olup olmadığı gibi faktörleri inceler. Aşağıdaki değerlendirmeler, güvenlik bileşenleri ve risk azaltmalar bölümünde de açıklanan güvenlik bileşenleriyle yapılmıştır.

Performans ve kalite değerlendirmeleri

Copilot Code için performans değerlendirmeleri, gerçek dünyadaki kullanımdaki güvenilirliğini artırmak için gereklidir. Aşağıdaki alanlar için düzenli olarak performans değerlendirmeleri yapıyoruz:

• Oluşturulan kodun sözdizimsel olarak doğru olup olmadığı.
• Oluşturulan artefaktın işlevselliğinin kullanıcının isteğini karşılayıp karşılamadığı.
• Kullanıcı deneyimi açısından sonucun kalitesi.

Performans ve kalite değerlendirme yöntemleri

Değerlendirme verilerimiz, güvenlik ve kalitenin önemli alanlarında yapay zeka uygulama performansını değerlendirmek ve gerçek dünya senaryolarını ve risklerini taklit etmek için özel olarak oluşturulmuş. Çok disiplinli araştırmalara ve uzman görüşlerine dayanarak endişenin ilgili değerlendirme yönlerini belirleyerek başlıyoruz. Bu endişeler, hedeflenen değerlendirme hedeflerine ve değerlendirme ölçümlerinin kılavuz formülasyonuna çevrilir. Güvenlik için istenmeyen veya uç durum yanıtlarını ortaya çıkarmak amacıyla karşıt istemler oluştururuz. Bu yanıtlar, Microsoft'un güvenlik standartlarına uyumu değerlendirmek için eğitilen yapay zekâ destekli açıklayıcılar kullanılarak puanlanır. Kalite için kod oluşturma ve aracı senaryolarıyla ilgili puanlama anahtarı tabanlı istemler hazırlıyoruz. Veri kümeleri, gerçek dünya kullanıcı senaryolarının benzetimini yapmak için yapay ve genel veri kümeleri de dahil olmak üzere çeşitli kaynaklardan seçilmiştir. Seçilen veri kümelerini kullanarak her iki değerlendirme de ölçüm etkinliğini ve güvenilirliğini geliştirmek için yinelemeli iyileştirme ve insan hizalamasından geçer.

Copilot Code, bilgi çalışanlarının panolar, iç araçlar, statik siteler ve veri dönüşümleri oluşturma gibi yazılımları nasıl oluşturduğunu yansıtan senaryolar kullanılarak değerlendirildi. Değerlendiriciler, oluşturulan kodun doğru olup olmadığını ve çalışıp çalışmadığını, yapıtın isteği karşılayıp karşılamadığını ve sonucun aynı görevin varyasyonlarında da geçerliliğini koruyup korumadığını değerlendirdi. İdeal sonuçlar, istekle eşleşen işlevsel yazılımları yansıtır; en iyi olmayan sonuçlar arasında çalışmayan kod, eksik işlevsellik veya amaçla eşleşmeyen sonuçlar bulunur.

Özel değerlendirmeler

Standart ölçümlere ek olarak, Copilot Code aracı tabanlı ve kod geliştirme yeteneklerine özgü özel ölçümler kullanılarak değerlendirildi:

• Derleme başarısı (Copilot Code'un işleyen bir çıktı oluşturup oluşturmadığı).
• İstek uyumu (sonucun kullanıcının niyetiyle eşleşip eşleşmediği).
• Yineleme doğruluğu (Copilot Code'un istenen değişiklikleri ve geri döndürmeleri doğru uygulayıp uygulamadığı).

Risk ve güvenlik değerlendirmeleri

Yapay zeka tarafından oluşturulan içerik ve eylemlerle ilişkili olası riskleri değerlendirmek, farklı önem derecelerine sahip risklere karşı koruma sağlamak için gereklidir. Buna Copilot Code'un zararlı içerik veya kod oluşturma eğiliminin değerlendirilmesi ve jailbreak saldırılarına ve yetkisiz eylemlere yönelik güvenlik açıklarının test edilmesi dahildir. Aşağıdaki risk ve güvenlik değerlendirmeleri yapılmıştır:

• Nefret ve adaletsizlik
• Cinsel
• Violence
• Kendine zarar verme
• Korumalı malzeme
• Güvenli olmayan veya kötü amaçlı kod oluşturma
• Dolaylı jailbreak
• Doğrudan jailbreak
• Yetkisiz işlem yürütme

Risk ve güvenlik değerlendirme yöntemleri

Risk ve güvenlik değerlendirmelerinde olası zararları değerlendirmek için saldırgan istemler ve otomatik sınıflandırıcılar kullanılmıştır. Testler, LLM-judge değerlendirmelerini sınıflandırıcı tabanlı algılama ve gerektiğinde manuel testlerle birleştirdi. Copilot Code'un yürütme özelliğine özgü ek değerlendirmeler, aracın gerekli onay olmadan güvenli olmayan kod oluşturması veya dosyalara erişme, ağ bağlantıları kurma ya da komut çalıştırma gibi eylemlerde bulunması için manipüle edilip edilemeyeceğini test etti. İdeal sonuçlar güvenli olmayan istekleri yeniden yönlendirir veya reddeder ve onay sınırını istem varyasyonlarında olduğu gibi tutar. Optimal olmayan sonuçlar zararlı veya güvenli olmayan içerik üretmeyi ya da uygun onay olmadan eylem gerçekleştirmeyi içerir.

Güvenlik bileşenleri ve risk azaltmaları

Kırmızı takım testi gibi süreçler aracılığıyla potansiyel riskleri ve kötüye kullanımı belirleyip ölçerken, zarar potansiyelini azaltmak için azaltıcı önlemler geliştirdik. Aşağıdaki listede bu azaltma önlemlerinden bazıları açıklanmaktadır. Ürün performansını ve azaltma önlemlerini geliştirmek için Copilot Code'u değerlendirmeye devam ediyoruz.

• Proje klasörünün ötesine ulaşan eylemler için onay. Copilot Code'un birincil güvenlik mekanizması, onay modelidir. Çalışmak üzere bir klasör seçtiğinizde, Copilot Kod bu klasörün içinde okuyabilir ve yazabilir; başka herhangi bir konuma erişmek, ağ bağlantısı oluşturmak veya bir komut çalıştırmak için açık onayınız gerekir. Onay istemleri düz dilde yazılır.

• Kod yürütme için yapılandırılabilir yalıtım. Copilot Code, oluşturulan yazılımları yapılandırılabilir yalıtım ve uygulama düzeyleriyle çalıştırır. Yöneticiler, kuruluşlarının uygulama düzeyini yapılandırabilir.

• İzin sınırları. Copilot Code, kesinlikle mevcut Microsoft 365 izinleriniz ve seçtiğiniz klasör içinde çalışır. Yetkilendirmediğiniz verilere, hizmetlere veya kaynaklara erişemez ve bu da ayrıcalık yükseltmesini önlemeye yardımcı olur.

• Konuşma kapsamındaki onay. Oturum sırasında verdiğiniz onay bu oturum için geçerlidir ve ayrı konuşmalarda kalıcı olmaz ve istenmeyen izin verme işleminin patlama yarıçapını sınırlar.

• Yapay zeka tabanlı sınıflandırıcılar ve içerik filtreleme. Copilot Code, kullanıcı istemlerinde ve oluşturulan yanıtlarda potansiyel olarak zararlı içeriği tanımlamak ve engellemek için yapay zeka tabanlı sınıflandırıcılar ve içerik filtreleri kullanır; buna nefret söylemi, şiddet, cinsel içerik, kendine zarar verme ve korunan materyallere yönelik filtreler de dahildir.

• Meta istem. Sistem yönergeleri, Microsoft AI İlkeleri ve kullanıcı beklentileriyle uyumlu hale getirmek ve uygunsuz istekleri reddetmek ve güvenli olmayan veya kötü amaçlı kod oluşturmaktan kaçınmak da dahil olmak üzere Copilot Code'un davranışına yol gösterir.

• Kullanıcı merkezli tasarım ve şeffaflık. Copilot Code her adımı çalışırken gösterir ve canlı önizleme görüntüler; böylece aracının eylemlerini şeffaf hale getirerek ne zaman istenmeyen bir yöne gittiğini belirleyebilirsiniz.

• Denetlenebilirlik. Copilot Code, gerçekleştirdiği eylemleri—oluşturulan kod, çalıştırılan komutlar ve okunan veya yazılan dosyalar—günlüğe kaydeder ve bu günlükler BT yöneticilerinin erişimine sunulur; böylece kullanıcının isteğinden eyleme ve sonucuna kadar izlenebilirlik sağlar.

• Yönetimsel kontroller. Yöneticiler Copilot Code ve belirli özellikleri etkinleştirebilir veya devre dışı bırakabilir, kuruluş düzeyinde ilke uygulayabilir, GitHub hesap bağlantılarını kısıtlayabilir ve kullanıcı başına harcama sınırları ayarlayabilir. Kullanım, Microsoft Copilot kullanım hakkınıza göre ölçülür.

• Geri besleme mekanizmaları. Kullanıcılar başparmak yukarı veya başparmak aşağı geri bildirim gönderebilir ve başparmak aşağı geri bildiriminde yorum ekleyebilir; bu geri bildirim, Copilot Code'un kalitesini ve güvenliğini değerlendirmek ve iyileştirmek için kullanılır.

• Siber güvenlik önlemleri. Copilot Code şifrelenmiş veri iletimi, Microsoft Entra ID aracılığıyla güvenli kimlik doğrulaması ve Microsoft güvenlik geliştirme yaşam döngüsüne bağlı kalma gibi siber güvenlik uygulamaları uygular. Bulut modunda, kuruluş verileriniz Microsoft 365 içinde kalır ve kuruluşunuzun mevcut veri idare ilkelerine tabidir; ancak yerel modda, verileriniz yönetici onayına tabi olarak yerel cihazda da depolanabilir. Olası güvenlik açıklarını belirlemek ve ele almak için düzenli güvenlik denetimleri ve tehdit modeli incelemeleri yapılır.

Copilot Code'u dağıtmak ve benimsemek için en iyi yöntemler

Sorumlu yapay zeka, Microsoft ve müşterileri arasında paylaşılan bir taahhüttür. Microsoft, güvenlik, eşitlik ve saydamlıkla yapay zeka uygulamaları ve platform hizmetleri oluştururken, müşteriler bu teknolojileri kendi bağlamlarında sorumlu bir şekilde dağıtma ve kullanma konusunda kritik bir rol oynar. Bu ortaklığı desteklemek için, müşterilerin sorumlu yapay zekayı etkili bir şekilde uygulamasına yardımcı olmak için dağıtımcılara ve son kullanıcılara yönelik aşağıdaki en iyi uygulamaları sunuyoruz.

Dağıtıcılar ve son kullanıcılar:

• Önemli kararlar alırken veya hassas alanlarda Copilot Code kullanırken dikkatli olun ve sonuçları değerlendirin. Önemli sonuçlar doğurabilecek kararlar, bir kişinin eğitime, istihdama, finansal platformlara, devlet yardımlarına, sağlık hizmetlerine, barınmaya, sigortaya, yasal platformlara erişimi üzerinde yasal veya önemli bir etkiye sahip olabilecek ya da fiziksel, psikolojik veya mali zarara yol açabilecek kararlardır. Finansal platformlar, sağlık hizmetleri ve konutlar gibi hassas etki alanları, farklı kişi grupları üzerinde orantısız etki olasılığı nedeniyle belirli bir bakım gerektirir. Bu alanlardaki kararlar için yapay zeka kullanırken, etkilenen paydaşların kararların nasıl alındığını, itiraz kararlarını anlayabileceğini ve ilgili giriş verilerini güncelleştireceğini unutmayın.

• Yasal ve düzenleyici hususları değerlendirin. Müşterilerin, her sektörde veya senaryoda kullanım için uygun olmayabilecek herhangi bir yapay zeka platformunu ve çözümünü kullanırken olası belirli yasal ve düzenleyici yükümlülükleri değerlendirmesi gerekir. Ayrıca, yapay zeka platformları veya çözümleri için tasarlanmamıştır ve geçerli hizmet koşullarında ve ilgili kullanım kurallarında yasaklanan şekillerde kullanılamaz.

Dağıtanların yapması gerekenler:

• Erişimi ve denetimleri uygun şekilde yapılandırın. Hangi kullanıcıların Copilot Code'a erişebileceğini, hangi özelliklerin kullanılabilir olduğunu, GitHub bağlantı kısıtlamalarını ve kullanıcı başına harcama sınırlarını yönetmek için kullanılabilir yönetim denetimlerini kullanın. Daha kapsamlı bir dağıtımdan önce bir pilot grupla başlamayı göz önünde bulundurun.

• Kullanıcıları onay modeli hakkında eğitin. Kullanıcıların, Copilot Code’un eriştiği, bağlandığı ve çalıştırdığı şeyleri gözden geçirmek ve onaylamaktan sorumlu olduklarını ve yapay zeka tarafından oluşturulan kodun, kullanımdan önce test edilmesi gereken bir taslak olarak değerlendirilmesi gerektiğini anlamalarını sağlayın.

• Eklenti kullanımını gözden geçirin. Eklentileri kullanılabilir hale getirmeden önce değerlendirin. Her eklentinin hangi verilere eriştiğini ve hangi eylemleri gerçekleştirebileceğini anlayın.

• Kullanımı, denetim günlüklerini ve geri bildirimleri izleyin. Desenleri, yaygın sorunları veya ek rehberlik gerekebilecek alanları belirlemek için denetim günlüklerini ve kullanıcı geri bildirimlerini gözden geçirin.

Son kullanıcılar şunları yapmalıdır:

• Uygun olduğunda insan gözetimini uygulayın. İnsan gözetimi, yapay zeka uygulamalarıyla etkileşim kurarken önemli bir korumadır. Yapay zeka uygulamalarımızı sürekli geliştirsek de yapay zeka hatalara neden olabilir. Oluşturulan çıkışlar yanlış, eksik, yanlı, yanlış hizalanmış veya hedeflenen hedeflerinizle ilgisiz olabilir. Bu nedenle, Copilot Code'un oluşturduklarını gözden geçirin ve test edin ve beklentilerinize ve gereksinimlerinize uygun olduğunu doğrulayın.

• Aşırı bağımlılık riskinin farkında olun. Yapay zekaya aşırı güven, kullanıcılar yanlış veya eksik yapay zeka çıkışlarını kabul ettiğinde gerçekleşir, çünkü hataları algılamak zor olabilir. Kod ve yazılım için bu özellikle önemlidir; Copilot Code'un oluşturduklarını, bunlara güvenmeden, paylaşmadan veya üretimde kullanmadan önce test edin.

• Hassas alanlarda Kod kullanırken dikkatli olun. Eylemleri geri alınamaz veya sonuçları çok ciddi olan yazılımlar oluştururken, kuruluşlar için Microsoft Kurumsal Yapay Zeka Hizmetleri Kullanım Kuralları'nda veya bireyler için Microsoft Hizmet Sözleşmesi'ndeki Kullanım Kuralları bölümünde daha ayrıntılı olarak açıklandığı gibi ek önlemler alın.

• Açık ve belirli yönergeler verin. İstediğiniz sonuç, kimin için olduğu ve kullanması gereken tüm veriler hakkında ayrıntıları ekleyin. Talimat ne kadar spesifik olursa, sonuç o kadar iyi olur.

• Onay istemlerini dikkatle gözden geçirin. Bir konuma, ağ bağlantısına veya komuta erişimi onaylamadan önce, bunu anladığınızdan ve buna gerçekten izin vermek istediğinizden emin olun.

• Düzenli olarak geri bildirim sağlayın. Copilot Kodunun zaman içindeki performansını iyileştirmeye yardımcı olmak için başparmak yukarı/aşağı düğmelerini ve açıklamalarını kullanın.

Copilot Code hakkında daha fazla bilgi edinin

Ek yönergeler veya Copilot Code'un sorumlu kullanımı hakkında daha fazla bilgi edinmek için aşağıdaki belgeleri gözden geçirmenizi öneririz:

• Copilot Code'a genel bakış
• Copilot Code kullanmaya başlama
• Copilot Kodunu Kullan

Sağduyulu yapay zeka hakkında daha fazla bilgi edinin

• Microsoft yapay zeka ilkeleri
• Microsoft'un sorumlu yapay zeka kaynakları