Platform kartı: Microsoft Discovery

Bu platform kartı, Microsoft Bulma hedeflenen kullanımlarını, özelliklerini, sınırlamalarını ve sorumlu dağıtım ve kullanım için en iyi yöntemleri açıklar.

Uygulama veya platform kartı nedir?

Microsoft'un Uygulama ve Platform kartları, yapay zeka teknolojimizin nasıl çalıştığını anlamanıza yardımcı olur. Uygulama sahiplerinin uygulama performansını ve davranışını etkileyen seçimleri açıklarlar. Ayrıca, teknoloji, insanlar ve çevre dahil olmak üzere tüm uygulamayı değerlendirmenin önemini vurguluyorlar. Uygulama kartları yapay zeka uygulamaları için, platform kartları ise yapay zeka platform hizmetleri için oluşturulur. Bu kaynaklar, kendi uygulamalarınızın geliştirilmesini veya dağıtımını destekleyebilir. Bunları uygulamalardan etkilenen kullanıcılar veya paydaşlarla paylaşabilirsiniz.

Microsoft, sorumlu yapay zeka taahhüdü kapsamında altı temel ilkeye uyar: eşitlik, güvenilirlik ve güvenlik, gizlilik ve güvenlik, kapsayıcılık, saydamlık ve sorumluluk. Sorumlu Yapay Zeka Standardı bu ilkeleri barındırır. Standart, ekipleri yapay zeka uygulamalarının tasarımı, oluşturması ve test etmesini sağlar. Uygulama ve Platform Kartları, özellikler, amaçlanan kullanımlar ve sınırlamalar konusunda saydamlık sunarak bu ilkelerin operasyonelleştirilmesinde önemli bir rol oynar. Daha fazla bilgi için Microsoft'un Sorumlu Yapay Zeka Şeffaflık Raporu ve Davranış Kuralları'nı inceleyin. Kurumsal müşterilerin ve bireylerin yapay zeka ile sorumlu bir şekilde nasıl etkileşime girebileceğini açıklar.

Overview

Microsoft Discovery şu anda seçilmiş müşterilere açıktır. Microsoft Bulma'nın kullanımı, müşteri uygunluk gereksinimlerine ve Ürün Koşullarımızın ve Kullanıcı Kullanım Kurallarımızın kabulüne tabidir. Lisans gerektirir ve sadece sınırlı sayıda bölgede sunulmaktadır. Amacımız, özelliklerini geliştirmeye devam ettiğimizde sistemin tüm kullanıcılar için güvenli, güvenilir ve yararlı kalmasını sağlamaktır.

Dağıtım modları

Microsoft Discovery iki dağıtım modunda mevcuttur:

  • Bulut dağıtımı: Model erişimi için Azure Yapay Zeka Atölyesi aracılığıyla Azure OpenAI Service’i kullanan, işlem, ağ ve güvenlik için Azure altyapısından yararlanan, Azure’da barındırılan tamamen yönetilen bir platform.
  • Yerel uygulama: Makinenizde çalışan ve model erişimi için GitHub Copilot SDK'yı kullanan bir masaüstü uygulaması. Bu mod, Discovery'nin ajanik yapay zeka yeteneklerini Azure altyapısına ihtiyaç duymadan hafif, yerel bir ortamda kullanmak isteyen bireysel araştırmacılar ve geliştiriciler için tasarlanmıştır.

Her iki dağıtım modu da aynı temel Keşif Motoru, çoklu ajan mimarisi ve bilgi akıl yürütme yeteneklerini paylaşır. Takip eden bölümler, iki mod arasında davranış, yetenekler veya sorumlulukların nerede farklılık gösterdiğini belirtir.

Önizleme Microsoft Discovery uygulaması (Microsoft Discovery & Microsoft Discovery uygulaması | Microsoft Learn) sürümü henüz değerlendirilmedi.

Giriş

Microsoft Discovery, bilimsel araştırma ve geliştirmeyi desteklemek için tasarlanmış kurumsal bir ajanik yapay zeka platformudur. Kuruluşların karmaşık sorunları çözmek, hipotezler oluşturup geliştirmek, denemeler tasarlamak ve sonuçları analiz etmek için etki alanı bilgilerini, verilerini, modellerini ve hesaplamalarını bir araya getirmesine yardımcı olur. Microsoft Discovery, bilimsel yöntemin tüm aşamalarını tek bir ortamda destekleyerek modern Ar-Ge çalışmalarını sıklıkla yavaşlatan parçalanmış yapı ve bilişsel yük sorunlarını giderir.

Platform, grafik tabanlı bilgi motorundan yararlanarak Ar-Ge sonuçlarını gelişmiş hız, ölçek ve doğrulukla elde etmek için ajanik bir yapay zeka mimarisi kullanıyor. Doğal dil arabirimi aracılığıyla kullanıcılar hedefleri veya soruları açıklayabilir ve sistem bunları kullanılabilir araçlar, modeller ve iş akışlarını temel alan yapılandırılmış planlara çevirebilir. Microsoft Discovery, sonuçları ve geri bildirimleri sonraki akıl yürütmeye dahil ederek uyarlamalı, açıklanabilir ve yinelenebilir araştırma yürütmeyi sağlarken kullanıcıyı kontrol altında tutan Keşif Altyapısını kullanıma hazır hale getirmektedir.

Hedeflenen kullanıcılar

Microsoft Discovery, yaşam bilimleri, malzemeler, yarı iletkenler, enerji, üretim ve ileri mühendislik gibi sektörlerdeki bilim insanları, mühendisler ve geliştiriciler de dahil olmak üzere Ar-Ge kuruluşları için tasarlanmıştır. Bulut dağıtımında platform, Azure üzerine inşa edilmiş ve genişletilebilir ve güvenli olacak şekilde tasarlanmıştır; böylece kuruluşlar kendi verilerini, modellerini ve araçlarını birleşik yapay zeka odaklı bir ortama entegre etmektedir. Yerel uygulama, Discovery'nin yeteneklerini kendi makinelerinde GitHub Copilot SDK kullanarak kullanmak isteyen bireysel araştırmacılar için bir alternatif sunar. Microsoft Keşif, insan uzmanlığını değiştirmek yerine destekleyerek ekiplerin karmaşıklığı yönetmesine ve araştırma sürecinde içgörüleri ölçekli bir şekilde yaymasına yardımcı olur.

Önemli terimler

Aşağıdaki tabloda Bulma ile ilgili önemli terimlerin bir sözlüğü verilmiştir.

Süre Tanım
Sınıflandırıcı Verileri etiketli sınıflara veya bilgi kategorilerine göre sıralayan makine öğrenmesi modelleri.
Keşif Motoru Discovery içinde, iddialı ve uzun soluklu işler üzerinde çalışırken konuşabileceğiniz, iş devredebileceğiniz, birlikte plan yapabileceğiniz ve görevleri kendisine aktarabileceğiniz bir iş arkadaşı gibi davranan ve çalışan bir özellik. Gerçekleştirmek istediğiniz işin amacı, Discovery Engine’e yön verir ve onu şekillendirir. Bu işi yerine getirmek için Discovery’nin geri kalanını kaynak olarak kullanır.
GitHub Copilot SDK'sı GitHub Copilot aracılığıyla büyük dil modellerine erişim sağlayan bir yazılım geliştirme kiti. Yerel uygulama dağıtım modunda, Discovery model sağlayıcısı olarak Azure OpenAI Service yerine GitHub Copilot SDK'yı kullanır.
Topraklama Yanıtlar, uygun olduğunda müşteri tarafından sağlanan veriler, iç bilgi bankaları ve dış içerik gibi ilgili, güvenilir kaynaklara bağlanır. Kaynaklar, mevcut olduğunda atıf veya izlenebilirlik sağlar.
Büyük dil modelleri (LLM'ler) Büyük miktarda metin verisi üzerinde, sözcük dizileri içindeki sözcükleri tahmin etmek üzere eğitilen yapay zeka modelleri. Metin oluşturma, özetleme, çeviri ve sınıflandırma gibi görevleri gerçekleştirebilirler.
Risk azaltma Yapay zeka özelliklerinin kullanılmasıyla ortaya çıkabilecek olası riskleri azaltmak için tasarlanmış yöntemler.
Yönlendirmeler Kullanıcının yapay zeka özellikleriyle etkileşim kurmak için sağladığı metin, resim veya ses biçiminde girişler.
Süper bilgisayar Discovery'nin süper bilgisayar bileşeni işlem yoğunluklu bilimsel iş akışları, simülasyonlar ve yapay zeka iş yüklerini çalıştırmak için Azure yüksek performanslı bilgi işlem (HPC) ve gelecekteki kuantum özelliklerini kullanır.
Sistem İletisi Sistem iletisi (bazen meta istemi olarak da adlandırılır) sistemin davranışına yol gösterir ve Microsoft yapay zeka ilkeleri ve kullanıcı beklentileriyle uyumlu hale getirmesini sağlar. Örneğin, "Fiziksel, duygusal veya finansal zarara neden olabilecek bilgiler sağlamayın veya içerik oluşturmayın" gibi yönergeler içerebilir.

Önemli özellikler ve yetkinlikler

Burada ana hatlarıyla belirtilen temel özellikler ve yetenekler, Discovery’nin ne yapmak üzere tasarlandığını ve desteklenen görevlerde nasıl performans gösterdiğini açıklamaktadır.

Doğal dil arabirimi

Kullanıcılar, istekleri doğal dilde anlayan ve kullanılabilir araçları ve iş akışlarını kullanarak bunları yapılandırılmış bir plana çeviren bir konuşma yardımcısı aracılığıyla Microsoft Discovery ile etkileşim kurar. Bu yaklaşım, bilim insanları ve mühendislerin bir araştırma sorusundan birden fazla sistemi manuel olarak birleştirmeden uygulanabilir bir iş akışına geçişine yardımcı olur. Gerektiğinde bu Copilot, simülasyonlar, veritabanı sorguları veya model çalıştırmaları gibi tümleşik işlem gücünü ve araçları devreye sokar ve diyalog yoluyla yinelemeli iyileştirmeyi destekler. Bu yaklaşım, kullanıcıların aynı arayüzde iş akışlarını adım adım ayarlayıp keşfetmesine olanak tanıyarak gelişmiş Ar-Ge araçlarının kullanımındaki engeli azaltıyor.

Çok aracılı mimari

Keşif, müşterilerin her biri belirli bir alanda (kimya, biyoloji, fizik, silikon tasarımı ve veri analizi gibi) veya işlev (akıl yürütme, simülasyon ve iyileştirme gibi) uzman yapay zeka aracıları getirebileceği çok aracılı bir sistem kullanır.

Aracılar, Copilot ve merkezi bir bilgi grafiğiyle eşgüdümlü olarak birlikte çalışır. Kuruluşun veri kaynaklarını ve bilimsel bilgileri tümleştiren zengin ve bağlantılı bir bilgi bankası üzerinde mantık oluşturabilirler. Bu mimari karmaşık, disiplinler arası sorunların giderilmesini sağlar.

Örneğin, bir aracı bilimsel literatürleri ayrıştırırken, başka bir aracı bir simülasyon çalıştırırken diğeri sonuçları analiz eder. Bu dağıtılmış zeka, aracı yapay zeka olarak bilinir. Tek parça bir model değil, kullanıcı için birlikte çalışan bir model ekibidir.

Keşif Motoru

Discovery Engine, Discovery'de uzun süreler boyunca sürekli, hedefe yönelik araştırma ve sorun çözme olanağı sağlayan temel bir özelliktir. Bulma Altyapısı, kısa ve işlemsel etkileşimlere odaklanmak yerine uzun süreli çalışmayı destekler. Aracılar, araçlar, modeller ve bilgi kaynakları arasında akıl yürütme, planlama ve yürütmeyi koordine eder.

Bulma Altyapısı, üst düzey hedeflerin ayrıştırılması, yinelemeli keşifler ve sonuçların birden çok etkinlik arasında tümleştirilmesini gerektiren karmaşık araştırma senaryoları için tasarlanmıştır.

Bulma Altyapısı iki tamamlayıcı bileşenle çalışır: biliş ve görevler. Bilişsellik, tanımlanan hedeflere doğru ilerleme kaydetmek için gereken sürekli mantığı ve koordinasyonu yönetir. Görevler uygun aracıları, araçları ve veri kaynaklarını seçmeyi ve yürütmeyi ara sonuçlara ve kullanıcı geri bildirimlerine göre uyarlamayı içerir.

Görev sistemi kullanıcı amacını, yapısını ve ilerleme durumunu yakalar. Yapılması gerekenlerin, başarının nasıl ölçüldükçe ve çalışmanın zaman içinde nasıl geliştiğinin kalıcı bir gösterimini sağlar. Bu bileşenler birlikte müşterilerin iş temsilcisi seçmesine, ilerleme durumunu düzenli aralıklarla gözden geçirmesine ve gerektiğinde yönü iyileştirmesine olanak tanır. Kullanıcılar araştırma süreci boyunca insan gözetimini ve denetimini koruyabilir.

Keşif Altyapısı, uzun süre çalışan ve yinelemeli araştırmaları desteklemek için hedefler, ara sonuçlar, kararlar ve kullanıcı kılavuzu dahil olmak üzere önceki çalışmalardan ilgili durumu koruyarak etkileşimler arasında bağlamsal sürekliliği korur. Bu kalıcı bağlam, sistemin müşterilerin hedefleri yeniden belirlemesine veya önceki adımları yeniden yapılandırmasına gerek kalmadan oturumlar arasında çalışmayı sürdürmesini sağlar.

Keşif Altyapısı, önceden keşfedilen veya kararlaştırılanları ileriye taşıyarak artımlı ilerlemeyi, uyarlamalı planlamayı ve zaman içinde daha tutarlı yürütmeyi destekler. Kullanıcılar her aşamada gözden geçirme, iyileştirme ve gözetim yoluyla denetim altında tutulur.

Extensibility

Keşif, müşterilerin kendi modellerini (BYOM) getirmesine, AI Foundry veya Azure Machine Learning (AML) gibi platformlar aracılığıyla özel veya üçüncü taraf verileri tümleştirmesine ve etki alanı gereksinimlerine uyarlanmış özel aracılar oluşturmasına olanak tanıyan genişletilebilir olacak şekilde tasarlanmıştır. Şirket içi modellerinizi, mevcut laboratuvar verilerinizi, alanına özgü veritabanlarınızı veya hatta özel geliştirilmiş yapay zeka aracılarınızı entegre edin. Bulma, bu varlıkları bilgi grafı ve iş akışlarına ekler. Ayrıca, Discovery ortak ve açık kaynak araçları destekliyor. Bulut dağıtımında Discovery, Azure üzerine inşa edilmiştir ve Azure'un güvenlik, uyumluluk ve yönetişim yeteneklerini devralır. Yerel uygulama dağıtımında, Discovery model erişimi için GitHub Copilot SDK'yı kullanır ve kullanıcının yerel ortamında çalışır.

HPC entegrasyonu

Discovery, Azure'ın en son altyapısı üzerine oluşturulduğundan, Azure HPC ve yapay zeka hizmetlerini yerel olarak tümleştirir. Platform, iş yüklerini büyük ölçekli CPU/GPU kümelerine dağıtabilir, bulut tabanlı simülasyonlar (hesaplama akışkanı dinamiği ve moleküler dinamikler gibi) çalıştırabilir ve gerektiğinde özel fizik makine öğrenmesi modelleri veya büyük dil modelleri (LLM' ler) gibi gelişmiş yapay zeka modellerini kullanabilir.

Bilgiyle akıl yürütme

Microsoft Discovery, belirlenmiş alan temellendirmesi ile graf destekli, yapay zeka ile geliştirilmiş alma ve sentezi birleştirerek ileri düzeyde bilgi ile ilgili akıl yürütme sunar.

Foundation'da Discovery, araştırmacıların çalışmalarını kendi etki alanları için uyarlanmış bilimsel edebiyat, bildiri ve başvuru malzemelerinden oluşan koleksiyonlarda düzenlemek ve temel almak için kullandıkları bir kitaplık hizmeti sunmaktadır. Bu temel, mantığın ve analizin başlangıçtan itibaren güvenilir, ilgili kaynaklara sabitlenmiş olmasını sağlar.

Bu temele dayanarak Discovery, Azure Yapay Zeka Arama Foundry aracılığıyla yerel olarak tümleştirir. İç depolar, dış literatür ve bağlı veritabanları arasında hızlı alma sağlar. Kullanıcılar el ile dikiş veya bağlam değiştirme olmadan farklı bilgi kaynaklarında sorunsuzca arama yapabilir.

Discovery’yi farklı kılan, çeşitli bilgi kaynakları üzerinde nasıl akıl yürüttüğüdür. Keşif, geleneksel anlamsal aramanın ötesine geçer. Belirli olgular, varlıklar ve bulgular gibi yerel içgörüleri ve bir kuruluşun tamamında temaları, desenleri ve etkileri içeren küresel anlayışı ortaya çıkarır. Vektör tabanlı alma işlemini sorgu zamanında graf odaklı mantıkla dinamik olarak birleştirir.

Bu yaklaşım, yanıt kalitesinden ödün vermeden verimli bir şekilde ölçeklenirken yüksek maliyetli ön özetlemeyi önler. Bu özellikler birlikte Discovery'nin büyük ve sürekli gelişen bilimsel veri kümelerinde bilgileri bağlamasına, bağlamsallaştırmasına ve sentezlemesine olanak sağlar. Sonuç daha derin bir mantık, daha hızlı içgörü oluşturma ve daha bilinçli bilimsel keşiftir.

Kaynak temelli atıflar

Yanıtlar web veya müşteri verilerine dayandığında, Microsoft Discovery kullanıcıların referans verilen web sitelerine veya topraklama için kullanılan dahili belgelere ve veritabanlarına erişerek konu hakkında daha fazla bilgi edinebilmeleri için hiperlinkli atıflar sağlayabilir.

Amaçlanan kullanımlar

Bulma özelliğini çeşitli sektörlerde birden çok senaryoda kullanabilirsiniz. Aşağıdaki tabloda bazı kullanım örnekleri liste verilmiştir.

Sektör/Etki Alanı Scenario Kullanıcı avantajları
Kimyasallar ve malzeme bilimi Araştırmayı hızlandırmak isteyen yeni malzemeler, kimyasallar veya formülasyonlar (örneğin, gelişmiş alaşımlar, polimerler, yarı iletken malzemeler, pil kimyası, yenilenebilir enerji, sürdürülebilir teknoloji) geliştiren şirketler. Kullanıcılar yapay zeka ile eşgüdümlü iş akışlarını kullanarak formülasyonları iyileştirmek için hızlı bir şekilde hipotezler oluşturabilir ve test edebilir. Keşif, araştırmacıların malzeme özelliklerini, karmaşık kimyasal reaksiyonları ve fiziksel süreçleri simüle etmesine olanak tanır. Performans dengeleri, en iyi yapılandırmaları belirlemek için değerlendirilir. Keşif, araç düzenlemesini otomatikleştirerek, ilgili literatürde gezinerek ve yinelemeli tasarım döngülerini etkinleştirerek denemelerin süresini ve maliyetini azaltmaya yardımcı olur. Discovery, izlenebilirliği ve yeniden üretilebilirliği korur.
İlaç ve yaşam bilimleri İlaç bulma, genomiks veya karmaşık işlem hatları ve büyük veri kümeleriyle biyomedikal araştırma üzerinde çalışan ilaç ve biyoteknoloji ekipleri. Keşif, araştırmacıların biyomedikal literatürü sentezlemelerine, gelecek vaat eden ilaç adaylarını belirlemelerine ve tahmine dayalı modeller kullanarak deneyler tasarlamalarına yardımcı olabilir. Erken aşama filtreleme ve hipotez oluşturma otomasyonu, müşterilerin karar alma ve doğrulamaya odaklanmasını sağlar. Otomasyon potansiyel olarak bulma zaman çizelgelerini hızlandırır ve etki alanları arası verilerden yeni içgörüler ortaya çıkarır.
Yarı iletken ve elektronik tasarımı Binlerce parametre ve simülasyonda iyileştirmenin kritik öneme sahiptir olduğu yeni yarı iletken mimariler veya malzemeler tasarlayan şirketler. Bulma, mühendislerin simülasyon iş akışlarını otomatikleştirmesine, tasarım alternatiflerini keşfetmesine ve sonuçları uygun ölçekte analiz etmelerine olanak tanır. Platform, fizik tabanlı simülasyonları ve yapay zeka temelli iyileştirmeyi koordine ederek daha verimli veya güçlü yonga tasarımlarına yönelik daha hızlı yinelemeyi destekler.
Üretim ve gelişmiş mühendislik Otomotiv, havacılık veya endüstriyel sektörlerdeki üreticiler, ürün tasarımını ve üretim süreçlerini iyileştirmek istiyor. Mühendisler, performans, ağırlık ve dayanıklılık için binlerce tasarım çeşitlemesi test ederek büyük ölçekli sanal prototip oluşturma çalıştırmak için Discovery'yi kullanabilir. Süreç mühendisliğinde platform, verimi ve kaliteyi artırmak için parametreleri ayarlamaya yardımcı olur. Bulma, simülasyonları koordine etme ve sonuçları bağlam içinde analiz etme özelliğine sahiptir ve bu da daha hızlı yeniliği ve daha bilinçli karar almayı destekler.

Modeller ve eğitim verileri

Microsoft Discovery, kullanıcıların gördüğü deneyimi desteklemek için çeşitli yapay zeka modelleri kullanır.

Bulut dağıtımı: Bulut dağıtımında kullanıcılar, modellere Azure OpenAI Service aracılığıyla Azure Yapay Zeka Atölyesi üzerinden erişir. Kullanılan özel modeller arasında OpenAI gpt-5, OpenAI gpt-5.2, OpenAI gpt-5.4, OpenAI gpt-5.4-mini, OpenAI gpt-5.5 ve OpenAI Text Embedding 3 (küçük) bulunur ancak bunlarla sınırlı değildir. Azure OpenAI modellerine yönelik eğitim verileri, değerlendirme ve sorumlu yapay zeka konuları hakkında bilgi için bkz. OpenAI - Azure yapay zeka platformları Azure için Saydamlık Notu.

Yerel uygulama: Yerel uygulama dağıtımında, kullanıcılar modellere GitHub Copilot SDK üzerinden erişir. Mevcut özel modeller, kullanıcının GitHub Copilot aboneliğine ve planında etkinleştirilen modellere bağlıdır. GitHub Copilot aracılığıyla sunulan modeller için eğitim verileri, değerlendirme ve sorumlu yapay zeka değerlendirmeleri hakkında bilgi için GitHub Copilot dokümantasyonuna bakınız.

Performance

Bu bölüm, Discovery'nin güvenilir bir şekilde çalışmasının beklendiği koşulları ve ortamı açıklamaktadır. Ayrıca platformun kabullediği giriş türlerini, ürettiği çıkışları ve desteklediği dilleri açıklar.

Modalities

Öngörülen girişler Description Beklenen çıkışlar
Doğal dil Discovery Copilot arabirimi aracılığıyla gönderilen metin tabanlı konuşma istemleri, araştırma amaçları ve ajan yönergeleri. Araştırma özetleri, akıl yürütme izleri, literatür sentezleri ve konuşma yanıtları.
Bilgi bankası belgeleri Bilgi indeksleme için yapılandırılmamış dosyalar. Örnek olarak PDF, CSV, TXT, Word (.docx), PowerPoint (.pptx) ve Excel (.xlsx). Alana özgü akıl yürütme, simülasyon raporları ve dönüştürülmüş veri setleri. Bulut dağıtımında, çıktılar belirlenmiş Azure Depolama konteynerlerinde saklanır. Yerel uygulamada, çıktılar kullanıcının yerel dosya sisteminde saklanır.
Hesaplama verileri Kapsayıcılı bilimsel araçlar (örneğin, moleküler yapılar veya devre tasarımları) için giriş olarak kullanılan etki alanına özgü veri varlıkları, yapılandırma dosyaları ve betikler. Oluşturulan betikler, kod parçacıkları ve yapılandırılmış veri dosyaları.

Tutarlı ve güvenilir yürütme sağlamak için, kesinlikle UTF-8 tüm aracı yönergelerini ve istemlerini kodlar. Zengin metin yapıtları veya kodlama hataları üreten karakterler (örneğin, Mojibake) gibi uyumsuz biçimlendirmenin kullanılması yürütme hatalarına veya beklenmeyen davranışlara neden olabilir.

Diller

Keşif, İngilizce için tasarlanır ve değerlendirilir. Temelindeki LLM modelleri, doğal dili anlama ve üretme konusunda doğuştan çok dilli yeteneklere sahip olsa da, platformun sistem istemleri, kullanıcı arabirimi ve çekirdek değerlendirmeleri bu sürüm için İngilizce'de optimize edilmiş ve doğrulanmıştır.

Diğer dillerde kullanım pratikte işe yarayabilir, ancak geçerli sürüm için test edilen ve desteklenen davranışın kapsamı dışındadır.

İş yükü türleri

Discovery, otonom yapay zekâ aracılarının orkestrasyonunu gerektiren karmaşık, çok yönlü ve uzun süreli araştırma zorlukları (saatler veya günler süren görevler) için optimize edilmiştir. Basit, tek seferlik sorgular için tasarlanmamıştır. Platformun bilişsel Bulma Altyapısı, bu karmaşık sorunları çözmek ve ayrıştırmak için hızlı ve yavaş mantık modları arasında uyarlamalı olarak geçiş yapar.

Ortam

Bulut dağıtımı: Discovery, Sanal Ağ (VNet) izolasyonu, Yönetilen Kimlikler ve Role-Based Access Control (RBAC) kullanarak güvenli, Azure barındırılan bir bulut ortamında çalışır. İşlem yoğunluklu iş yüklerini yürütmek için ölçeklenebilir High-Performance Bilgi İşlem (HPC) düğüm havuzlarına (hem CPU hem de GPU seçenekleriyle) dayanır.

Yerel uygulama: Yerel uygulama, kullanıcının masaüstü makinesinde çalışır ve kimlik doğrulama için kullanıcının GitHub hesabını kullanarak GitHub Copilot SDK üzerinden modellere erişir. Veriler, kullanıcının makinesinde yerel olarak işlenir ve depolanır. Yerel uygulama Azure ağ altyapısı veya yönetilen kimlikler kullanmaz. Kullanıcılar, işletim sistemi güncellemeleri, disk şifreleme ve ağ yapılandırması dahil olmak üzere yerel ortamlarını güvence altına almaktan sorumludur.

Sınırlamalar

Bulma sınırlamalarını anlamak, bunu güvenli ve etkili sınırlar içinde kullandığınızdan emin olmak için çok önemlidir. Discovery’yi yenilikçi çözümlerinizde veya uygulamalarınızda kullanın, ancak Discovery’nin her olası senaryo için tasarlanmadığını unutmayın.

Discovery Davranış Kuralları’na, Microsoft Kurumsal Yapay Zeka Hizmetleri Davranış Kuralları’na (kuruluşlar için) veya Microsoft Hizmet Sözleşmesi’ndeki Davranış Kuralları bölümüne (bireyler için) başvurun. Ayrıca bir kullanım örneği seçtiğinizde aşağıdaki noktaları göz önünde bulundurun:

  • Otomasyon sapma ve döngü kayması: Bulma, otomasyon yanlılığı riski taşıyan yarı otomatik, aracı iş akışlarını destekler. Bu sapma, yeterli doğrulama olmadan yapay zeka tarafından oluşturulan çıkışlara aşırı güvenme eğilimini ifade eder. Yinelemeli iş akışlarında, küçük yanlışlıklar zamanla büyüyerek döngü sapması olarak bilinen bir fenomene dönüşebilir.

    Döngüde insan gözetimi, araştırmanın yolunda ve bilimsel amaçlarla uyumlu kalmasını sağlamak için gereklidir. Önemli karar noktalarında anlamlı bir insan değerlendirmesini barındıramayan kullanım senaryoları, bu platformun mevcut haliyle uygun değildir.

  • Temsil sapması: Keşif çıkışları, temel alınan modelleri eğitmek için kullanılan bilimsel literatürde veya veri kümelerinde mevcut olan dengesizlikleri yansıtabilir. Keşif, baskın araştırma perspektiflerini veya yeni ortaya çıkan ve yetersiz araştırılan alanları fazla tanıtabilir. Etki alanı uzmanlığı uygulayın ve özellikle eğitim verilerinde temsilin sınırlı olabileceği yeni veya disiplinler arası alanlarda çalışırken çıktıları kritik düzeyde değerlendirin.

  • Verilerin zamansal ilgisi: Bilimsel bilgi hızla gelişir. Discovery statik veya eski veri kümelerini kullanıyorsa, eski bulgular ortaya çıkabilir veya son gelişmeleri kaçırabilir. (Bu risk özellikle sentetik biyoloji veya yapay zeka temelli ilaç keşfi gibi hızlı hareket eden alanlarda önemlidir.) Veri kaynaklarınızın para birimini düzenli olarak değerlendirin ve özellikle zamana duyarlı araştırmalar için çıkışları buna göre değerlendirin.

  • Performans değişkenliği ve hatalı çıktı riski: Kullanıcılar müşteri tarafından sağlanan bilgi tabanlarını sorguladığında, yanıt kalitesi ve verilere dayanma düzeyi büyük ölçüde temel verilerin yapısına, eksiksizliğine ve uygunluğuna, ayrıca aracıların bu verileri nasıl alacak ve bunlar üzerinde nasıl akıl yürütecek şekilde yapılandırıldığına bağlıdır. Bilgi bankasının seyrek, kötü yapılandırılmış veya zayıf kapsamlı olduğu senaryolarda, sistem eksik veya yetersiz topraklanmış yanıtlar üretebilir.

    bu riski azaltmaya yardımcı olmak için Microsoft, bilgi bankalarını sorgulamak ve topraklama kısıtlamalarını zorlamak için önerilen desenleri gösteren bir GitHub deposunda bir başvuru örneği aracısı sağlar. Özel aracılar ve iş akışları oluştururken ve yüksek etkili kullanım örnekleri için ek doğrulama ve insan incelemesi uygulamak için bu örneği başlangıç noktası olarak kullanın. Daha fazla bilgi için bkz. Bölüm 10.

  • Araç zinciri uyumluluğu: Discovery, çeşitli hesaplama araçları ve modelleriyle entegre olur. Araç varsayımlarındaki uyuşmazlıklar (örneğin, giriş biçimleri, parametre aralıkları veya sürüm oluşturma), yürütme hatalarına veya yanıltıcı sonuçlara yol açabilir. Özellikle özel veya Microsoft olmayan bileşenleri tümleştirirken araç düzenleme iş akışlarını dikkatle test edin ve doğrulayın.

  • Müşteri verileri: Hizmeti kullanırken veri duyarlılığını ve erişim denetimlerini yönetmek sizin sorumluluğunuzdadır. Uygun denetimler ve sözleşmeler yapılmadığı sürece düzenlemeye tabi, sınıflandırılmış veya son derece hassas veriler kullanmayın.

  • Konuşma doygunluğu: Konuşmalar uzun sürdükçe yanıt kalitesi yavaş yavaş düşebilir. Toplam konuşma modelin güvenilir bir şekilde izleyebileceklerine yaklaştığında, yeni bilgilere yer açmak için önceki bölümler özetlenebilir. Bu işlem sırasında bazı ayrıntılar basitleştirilebilir, değiştirilebilir veya kaybolabilir ve bu da yanıtların doğrulukta veya amaçta yavaş kaymasına neden olabilir.

    Uzun süren bir konuşmada netlikte ve yanıt kalitesinde bir düşüş fark ederseniz, yeni bir konuşma başlatmak bunların yeniden kazanılmasına yardımcı olabilir.

  • Araç sinyalinin seyrelmesi: Sistem giderek daha geniş bir ajan havuzuna eriştikçe, görev için en uygun araçları seçme yeteneği zayıflayabilir. Sistemin ilgili senaryolarınızda kullanabileceği aracıların listesini etkin bir şekilde belirleyin.

İzin verilmeyen kullanımlar

Discovery'nin aşağıdaki kullanımları kesinlikle yasaktır:

  • Silah geliştirme: Discovery'yi kimyasal, biyolojik, radyolojik veya nükleer silahların ya da toplu zarara neden olan diğer silahların tasarımını, geliştirilmesini, testini veya dağıtımını desteklemek için kullanamazsınız.
  • Zararlı uygulamalar: Discovery'yi bireylere, kuruluşlara veya topluma fiziksel, psikolojik, çevresel veya finansal zarar verecek şekilde kullanamazsınız. Bu yasak, güvenli olmayan denemeleri, çıktıların kötüye kullanımını veya uygun korumalar olmadan yüksek riskli bağlamlarda dağıtımı içerir.
  • Yasaların veya düzenlemelerin ihlali: Discovery'yi geçerli yasaları, düzenlemeleri veya sektöre özgü uyumluluk gereksinimlerini ihlal eden hiçbir şekilde kullanamazsınız. Platformu kullanımınızın tüm ilgili yasal ve mevzuat yükümlülüklerine uygun olmasını sağlamak sizin sorumluluğunuzdadır.
  • Güvenlik sistemlerini atlama: Keşif yerleşik güvenlik mekanizmalarını, sınıflandırıcıları veya içerik filtrelerini atlatma, devre dışı bırakma veya engelleme girişimleri kesinlikle yasaktır. Bu sistemler, platformun sorumlu ve güvenli bir şekilde kullanılmasını sağlamaya yardımcı olmak için kullanılır.

Değerlendirme

Microsoft, Discovery’yi Foundry’deki Sorumlu Yapay Zekâ değerlendirme çerçevesine dayanan manuel, özel değerlendirmeler kullanarak değerlendirdi. Ekip, hedef sürüme karşı özenle seçilmiş yapılandırılmış istemlerden oluşan bir dizi çalıştırarak değerlendirmeler gerçekleştirdi. Sistem davranışını sistematik olarak gözden geçirmek için risk kategorisini kullandılar.

Değerlendirme, iki temel soruyu yanıtlamak için tasarlanmıştır. Müşteriler sistemi hedeflenen sınırların dışına itmeye çalıştığında Discovery güvenli ve tutarlı bir şekilde davranır mı? Discovery, dayanak kaynaklarına bağlı kalıyor mu?

Değerlendirme metodolojisi

Değerlendirmeler, sistem davranışının iki boyutunu hedefledi: güvenlik ve sağlamlık. Güvenlik için yapılan değerlendirme, Discovery'nin, izin verilmeyen veya ilkeye duyarlı içerikleri almaya yönelik teşviklerde, sistem korumalarını aşmaya çalışan istekler karşısında uygun şekilde reddedip reddetmediğini, saptırıp saptırmadığını veya güvenli bir şekilde yanıt verip vermediğini değerlendirdi. Zararsız istekler karşısında yararlı ve politikalara uygun kalırken çalışmalıdır.

Güvenilirlik açısından değerlendirme, Discovery'nin sağlanan bağlama sadık kalıp kalmadığını ve temellendirilmiş yanıtların beklendiği senaryolarda kaynakları alıp almadığını değerlendirdi.

İdeal olan, Discovery'nin istem varyasyonları ve risk kategorileri genelinde tutarlı yanıt vermesidir. Discovery, politika ihlallerine yol açmadan adversarial girdileri işleyebilmelidir. Ayrıca, mevcut dayanak kaynaklar tarafından tamamen desteklenen yanıtlar da üretmelidir.

En iyi olmayan davranış, önceki çalıştırmalara veya karşılaştırmalara göre regresyonları ve güvenli olmayan veya ilkeye duyarlı içerik oluşturmayı içerir. Ayrıca jailbreak girişimlerinin başarılı olması veya benzer istemlerin tutarsız şekilde ele alınması da buna dahildir. Özellikle topraklanmış senaryolarda, optimal olmayan davranışlar, sağlanan bağlam tarafından desteklenmeyen uydurma ayrıntılar, yanlış kaynak ilişkilendirme veya iddiaları içerir.

Veri kürasyonu

Ekip, Discovery’yi başlıca risk kategorileri genelinde sistematik olarak test etmek için değerlendirme verilerini özenle seçti. Veri kümesi, hem gerçekçi hem de saldırgan senaryolarda davranışı araştırmak için tasarlanmış yapılandırılmış test istemlerinden oluşuyordu. İstemler açıkça dört risk alanını hedefliyordu:

  • Telif hakkı ve fikri mülkiyete maruz kalma
  • Zararlı veya ilkeye duyarlı içerik oluşturma
  • Doğrudan ve dolaylı jailbreak girişimleri
  • Groundedness

Her kategori, değerlendirmenin yalnızca belirgin başarısızlık modlarını değil, sınır davranışını da ölçmesini sağlamak için zararsız ve adversarial varyantlar içeriyordu.

Veri kümesinin gerçek Bulma kullanımını (yalnızca yapay stres testi değil) temsil etmesini sağlamak için istemler gerçekçi Bulma iş akışlarını yansıtır. Örnekler arasında, ürün kullanım örnekleriyle uyumlu bilimsel iş akışı yardımı ve bilgi sentezi senaryoları yer aldı.

Validation

Değerlendirme veri kümesinin güvenilirliğini ve bütünlüğünü sağlamak için birden çok kalite ve geçerlilik denetimi uygulandı. Ekip, belirsizlik ve istemesiz önyargıyı ortadan kaldırmak için promptları deduplicate edip normalleştirdi. Risk kategorisi etiketlerini manuel olarak inceleyerek politika tanımlarıyla uyumu doğruladılar. Ekip, güvenli ve güvensiz yanıtlar arasındaki beklenen davranışsal ayrımı doğrulamak için Foundry tarafından sağlanan temel modellerle ilgili bir alt prompt setini tekrar oynattı. Ayrıca, önceki sürümden regresyon uyarılarını koruyarak sürümler arasında uzunlamasına karşılaştırmayı desteklediler. Ekip, Azure OpenAI Service uç noktalarını kullanarak bulut dağıtımına ilişkin değerlendirmeler yaptı. GitHub Copilot SDK kullanılarak yapılan yerel uygulama dağıtımının aynı temel modeller için benzer davranışlar sergileyeceği bekleniyor, ancak iki model sağlayıcısı arasındaki içerik filtreleme ve güvenlik kontrollerindeki farklılıklar küçük farklılıklara yol açabilir.

Ölçüm

Temellilik açısından ekip, sistemin yanıtlarının sağlanan bağlama sadık kalıp kalmadığını ve desteklenmeyen talepler veya uydurılmış içerik algılayıp algılamadığını ölçtü. Yakalanan ölçümler şunlardır:

  • Temellendirilmemiş öznitelik hata oranları (İngilizce metin)
  • Temellendirilmişlik hata oranları (İngilizce metin)

Özel değerlendirme paketi, güvenlik için sistemin güvenli tamamlama, reddetme veya saptırma yoluyla kötüye kullanım girişimlerini algılama ve azaltma yeteneğini ölçtü. Yakalanan ölçümler şunlardır:

  • İlke uyumluluk puanı
  • Risk algılama ve risk azaltma etkinliği
  • İçerik güvenliği sınıflandırma doğruluğu
  • Doğrudan jailbreak direnç oranı
  • Dolaylı jailbreak'e karşı direnç oranı

Kıyaslama

Sonuçlar, regresyonları algılamak ve zaman içinde kararlılığı doğrulamak için karşılaştırmalı karşılaştırma yoluyla yorumlandı. Her sürüm, iki referans noktasına göre değerlendirildi: Foundry tarafından sağlanan temel model davranışının paylaşılan bir istem alt kümesindeki değerlendirmesi ve korunan regresyon istem seti tarafından sağlanan önceki sürümden gelen tarihsel sonuçlar. Bu karşılaştırmalar birlikte Discovery'nin güvenlik ve güvenilirlik duruşunun sürümler arasında iyileşme, kararlılık veya gerileme olup olmadığına ilişkin uzunlamasına bir görünüm sağladı.

Değerlendirme metodolojisinin sınırlamaları

Bu değerlendirme Discovery güvenliği ve topraklanmışlığı hakkında yapılandırılmış içgörüler sağlasa da, çeşitli sınırlamaları vardır. Değerlendirme, seçilmiş ve sonlu bir istem veri kümesine dayanır. Gerçekçi ve saldırgan kullanımı yansıtmaya yönelik çabalara rağmen, bu veri kümesi gerçek dünya kullanıcı etkileşimlerinin veya yeni ortaya çıkan kötüye kullanım düzenlerinin genişliğine tam olarak sahip olamaz.

El ile gözden geçirme ve özel puanlama öznelliğe neden olur ve değerlendiriciler arasında yorumda değişkenliğe yol açabilir. Değerlendirmeler, önceden tanımlanmış istemlerle denetimli ayarlarda da gerçekleştirilen çalışmalardır. Ancak, üretim ortamlarında gözlemlenen dinamik, çoklu dönüşlü veya araçla tümleşik senaryoları tam olarak yansıtmayabilir.

Temellilik değerlendirmeleri, değerlendirme zamanında kullanılabilir bağlam ve alma kalitesiyle sınırlıdır ve tüm içerik kaynakları veya gelişen veri kümeleri için genelleştirilmeyebilir.

Bir diğer sınırlama da değerlendirme modeli olarak GPT-5.2 ve GPT-5.4 kullanılmasıdır. Değerlendirici modelinin kendi özellikleri, akıl yürütme davranışı, risk duyarlılığı ve olası sapmalar değerlendirme sonuçlarını etkileyebilir.

Sonuç olarak, bulguları tüm değerlendirici modellerinde mutlak güvenlik veya doğruluk yargıları yerine model destekli değerlendirme sonuçları olarak yorumlayın.

Son olarak, önceki çalıştırmalar ve başlangıç modellerine karşı kıyaslama yapmak, gerilemeleri ve göreli iyileştirmeleri tespit etmeye yardımcı olabilir; ancak bu, her koşul altında mutlak güvenliği, temellendirilmişliği veya doğruluğu garanti etmez.

Güvenlik bileşenleri ve risk azaltmaları

Bulma, kullanıcıları, müşteri verilerini ve araştırma iş akışlarının bütünlüğünü korumaya yardımcı olan birden çok güvenlik ve güvenlik denetimi katmanını içerir.

Bu bölümde müşterilerin, tümleştiricilerin ve platform operatörlerinin platformu kullanırken dikkat etmesi gereken etkin güvenlik bileşenleri, risk azaltma önlemleri ve siber güvenlik uygulamaları açıklanmaktadır.

Aktif güvenlik bileşenleri

Discovery, yanlış kullanımı önlemek ve zararlı çıkış riskini azaltmak için giriş sınıflandırıcıları, filtreler ve sistem düzeyinde korumaların bir bileşimini kullanır. Bu bileşenler, Microsoft Sorumlu yapay zeka ilkeleriyle uyumlu olacak şekilde tasarlanmıştır ve Keşif geliştikçe sürekli güncelleştirilir.

Bulut dağıtımı: Güvenlik kontrolleri, Microsoft'un içerik güvenliği ve filtreleme yeteneği olan Foundry Guardrails aracılığıyla sağlanır ve varsayılan olarak platformda oluşturulan tüm modellere uygulanır; içerik belirlenmiş müdahale noktalarında taranarak güvenli veya uygunsuz içeriği modele ulaşmadan önce tespit edip engeller. Müşteriler, özel Korumalar oluşturabilir ve önem düzeylerini yönetebilir, bu kapsamda Guardrail'leri daha az kısıtlayıcı olacak şekilde yapılandırma, algılanacak riskleri tanımlama, aracı davranışını değerlendirmek ve izlemek için Korumalar atama, güvenlik eşiklerini yapılandırma ve farklı kullanım senaryolarında model performansını değerlendirme gibi işlemleri gerçekleştirebilir. Bu özellikler proaktif risk yönetimini ve güvenliğini destekler. İçerik filtrelerini yapılandırma hakkında daha fazla bilgi için bkz. İçerik filtrelerini yapılandırma (klasik) - Microsoft Döküm (klasik) portalı | Microsoft Learn.

Modified Guardrails ile Microsoft tarafından doğrudan satılan modelleri kullanmak üzere onay için kaydolmak için Sınırlı Erişim gözden geçirmesi: Modified Guardrails formunu gönderebilirsiniz. Modeli değiştirilmiş Korumalar ile kullanmak için onaylanıp tüm gereksinimlere uyduğunuz ölçüde, Korumaları tamamen kapatma veya yalnızca ek açıklamalar kullanma dahil olmak üzere tam denetime sahip olursunuz. Korumaları devre dışı bırakma seçeneğinin yalnızca yönetilen müşterilerin kullanımına sunulduğuna dikkat edin.

Yerel uygulama: Yerel uygulama dağıtımında, güvenlik kontrolleri GitHub Copilot SDK'nın yerleşik içerik politikaları ve sorumlu yapay zeka korumaları aracılığıyla sağlanır. Bunlar arasında içerik filtreleme, hızlı güvenlik kontrolleri ve GitHub Copilot platformu tarafından uygulanan kullanım politikaları yer almaktadır. Yerel uygulama ayrıca Discovery'nin sistem düzeyindeki koruma önlemlerini, sistem mesajları ve girdi doğrulaması dahil, Microsoft'un Sorumlu Yapay Zeka ilkeleriyle uyumlu hale getirmek için uygular. Yerel uygulamayı kullanan müşteriler, model katmanında uygulanan güvenlik kontrolleriyle ilgili detaylar için GitHub Copilot'un kabul edilebilir kullanım politikalarını gözden geçirmelidir.

Risk azaltma önlemleri

Discovery'nin güvenlik ve performans duruşu, sürekli değerlendirme ve risk değerlendirmesinden kaynaklanır. Yapay zeka tarafından oluşturulan yanıtların yanlış olması, otomasyon yanlılığı ve döngü kayması gibi riskleri ele almak için Discovery, temel bir risk azaltma stratejisi olarak döngüde insan gözetimini vurgular. Özellikle yüksek riskli araştırma senaryolarında, önemli karar noktalarında yapay zeka tarafından üretilen çıktıları doğrulayın.

Platform, müşterilerin oluşturulan içeriğin kaynağını izlemesine ve güvenilirliğini değerlendirmesine yardımcı olan uygun yerlerde alıntılar ve topraklama kaynakları oluşturarak şeffaflığı destekler. Temel alınan iş akışları için müşterilerin bilgi bankası belgelerinin güncel, iyi yapılandırılmış ve hedeflenen araştırma kapsamıyla ilgili olduğundan emin olmaları teşvik edilir. Çıkış güvenilirliği, kullanılabilir topraklama kaynaklarının kalitesine doğrudan bağlıdır.

Bulma, müşterilerin kendi modellerini, veri kümelerini ve aracılarını entegre etmesine olanak tanır. Bu genişletilebilirlik, yanlılığı azaltmaya ve genel amaçlı modellerin yetersiz performans gösterebileceği özelleştirilmiş veya gelişmekte olan alanlarda ilgiyi artırmaya yardımcı olur. Az temsil edilen veya yüksek oranda özelleştirilmiş etki alanlarında çalışan kullanıcıların, platform davranışını kendi araştırma bağlamlarıyla daha iyi hizalamak için bu özelliği kullanmaları önerilir.

Siber güvenlik önlemleri

Discovery'nin siber güvenlik mimarisi, derinlemesine bir savunma modeli etrafında tasarlanmıştır. Belirli kontroller dağıtım moduna göre değişir.

Bulut dağıtımı

Aşağıdaki bölüm, bu sürümde bulut dağıtımı için uygulanan aktif önlemleri açıklamaktadır.

  • Kimlik ve erişim yönetimi: Keşif, Microsoft Entra ID ve RBAC kullanarak en az ayrıcalık ilkesine dayalı erişim uygular. Tüm denetim düzlemi ve veri düzlemi erişimi Microsoft Entra ID aracılığıyla doğrulanır. Kullanıcı tarafından atanan yönetilen kimlikler (UAMI), platform bileşenlerinin ekli gizli diziler olmadan Azure kaynaklara erişmesi için kullanılır. Platforma özgü RBAC rolleri, işleçler, geliştiriciler ve güvenlik yöneticileri arasındaki görev ayrımını destekler.
  • Ağ güvenliği: Bulma, varsayılan olarak özel bir ağ mimarisi kullanır. Tüm Discovery kaynakları, varsayılan olarak Azure Özel Bağlantı etkinleştirilmiş şekilde oluşturulur; bu da genel IP’ye maruz kalmayı ortadan kaldırır. Veri düzlemi API'lerinde kaynak düzeyinde genel ağ erişimi devre dışı bırakılır. Trafik, özel uç noktalar, özel DNS bölgeleri ve ağ güvenlik grupları kullanılarak müşteri sanal ağlarıyla sınırlıdır. Bu mimari sıfır güven ağ ilkelerini destekler ve platformun genel saldırı yüzeyini azaltır.
  • Veri koruması: Müşteri verileri şifreleme ve kiracı yalıtımı aracılığıyla korunur. Bekleyen durumdaki verilerin şifrelenmesi, depolama ve platform hizmetleri için Azure tarafından yönetilen şifreleme ile sağlanır. Aktarımdaki şifreleme, tüm hizmetlerden hizmete ve istemciden hizmete iletişim için HTTPS ve Aktarım Katmanı Güvenliği (TLS) kullanılarak uygulanır. Müşteri verileri, bilgi grafikleri ve modeller kiracıdan yalıtılmıştır ve müşteriler arasında paylaşılmamaktadır. Müşteriler, verilerinin tam sahipliğini ve denetimini elinde tutar ve istedikleri zaman varlıkları dışarı aktarabilir veya kaldırabilir.
  • Platform sağlamlaştırma: Bulma işlem altyapısı, Azure güvenlik temelleri kullanılarak güçlendirilir. Süper bilgisayar kümeleri ve düğüm havuzları, Azure güvenlik yapılandırma standartlarına göre Azure yönetilen altyapıya dağıtılır. Platform incelemeleri TLS yapılandırması, tanılama günlüğü ve özel uç nokta kullanımı gibi Microsoft bulut güvenliği karşılaştırma gereksinimleriyle uyumluluğu izler. Sürekli güvenlik gözden geçirmeleri, altyapı güncelleştirmeleri ve ilke uygulama yoluyla yapılandırma boşluklarını belirler ve düzeltmeyi yönlendirir.
  • Günlüğe kaydetme, izleme ve algılama: Keşif, tespit ve müdahaleyi desteklemek için Azure izleme ve güvenlik araçlarıyla tümleşerek çalışır. Platform kaynakları üzerinde tanılama günlüklerini etkinleştirebilir ve bunları müşteri tarafından yönetilen günlükleme çözümlerine yönlendirebilirsiniz. Bağlantı ve kullanılabilirlik, proaktif sistem durumu denetimleri ve platform telemetrisi kullanılarak izlenir. Güvenlik bulguları ve yapılandırma kaymaları, devam eden platform güvenlik değerlendirmelerinin bir parçası olarak gözden geçirilir.

Yerel uygulama

Aşağıdaki bölüm, yerel uygulama dağıtımı için uygulanan güvenlik önlemlerini açıklar.

Kimlik ve Kimlik Doğrulama: Yerel uygulama, kullanıcıları GitHub Copilot SDK kullanarak GitHub hesabı üzerinden kimlik doğrulaması sağlar. Model yeteneklerine erişim, kullanıcının GitHub Copilot aboneliği ve ilgili izinlerle yönetilir. Yerel uygulama herhangi bir Azure kimlik bilgisi veya yönetilen kimlik gerektirmez.

Veri Koruma: Yerel uygulama, kullanıcının yerel dosya sistemindeki tüm verileri saklar. İşletim sisteminin yerel şifreleme yetenekleri (örneğin, Windows'ta BitLocker veya macOS'ta FileVault) dinlenme halindeki verileri korur. Yerel uygulama, HTTPS ve TLS kullanarak geçiş halindeki GitHub Copilot hizmetiyle iletişimi şifreler. Müşteri verileri kullanıcının makinesinde kalır ve diğer kullanıcılar veya kiracılarla paylaşılmaz.

Uygulama Güvenliği: Yerel uygulama, Microsoft'un Güvenli Geliştirme Yaşam Döngüsü (SDL) uygulamasını takip eder. Güncellemeler, standart uygulama güncelleme mekanizmaları aracılığıyla dağıtılır ve uygulama bütünlüğü sağlamak için kod imzasına sahiptir.

Her iki dağıtım modu da

Güvenli Geliştirme ve Uyumluluk: Bulma, Microsoft Güvenli Geliştirme Yaşam Döngüsü'ne (SDL) ve sürekli uyumluluk modeline uyar. Platform, güvenlik hatalarını, zafiyetlerini ve SDL gereksinimlerini sürekli olarak merkezi olarak takip eder ve inceler. Discovery, SOC, ISO ve diğer Azure sertifikaları dahil olmak üzere dış uyumluluk denetimlerini destekleyen Azure'un sürekli Yazılım Geliştirme Yaşam Döngüsü (SDL) ve güvenlik açığı yönetimi programlarına katılır. Bu yaklaşım, güvenliğin yalnızca yayın zamanında değerlendirilmek yerine sürekli olarak değerlendirilmesini sağlar.

Paylaşılan sorumluluk

Bulut dağıtımı: Bulut dağıtımında güvenlik, Azure paylaşılan sorumluluk modelini takip eder. Discovery, temel platformun, yönetilen hizmetlerin ve kontrol düzleminin güvenliğini sağlar. Müşteriler aboneliklerinin, sanal ağlarının, rol atamalarının ve veri erişim ilkelerinin güvenliğini sağlamakla sorumludur. Bu sorumluluk bölümünü anlamak, kurumsal ve uyumluluk gereksinimlerine uygun güvenli dağıtımlar tasarlayan müşteriler için önemlidir.

Yerel uygulama: Yerel uygulama dağıtımında, kullanıcı ortamının güvenliğinden daha fazla sorumluluğu üstlenir. Microsoft, uygulamanın güvenliğinden, güncelleme mekanizmalarından ve GitHub Copilot SDK entegrasyonunun bütünlüğünden sorumludur. Kullanıcılar, işletim sistemi güncellemeleri, disk şifreleme, ağ güvenliği ve erişim kontrolleri dahil olmak üzere yerel makinelerini güvence altına almaktan sorumludur. Kullanıcılar ayrıca GitHub hesaplarının çok faktörlü kimlik doğrulama dahil güçlü kimlik doğrulama ile korunduğundan emin olmalıdır.

Discovery’yi entegre etme ve dağıtma için en iyi uygulamalar

Sorumlu yapay zeka, Microsoft ve müşterileri arasında paylaşılan bir taahhüttür. Microsoft çekirdekte güvenlik, eşitlik ve saydamlık ile yapay zeka uygulamaları oluşturur, ancak müşteriler bu teknolojileri kendi bağlamlarında sorumlu bir şekilde dağıtma ve kullanma konusunda kritik bir rol oynar. Bu ortaklığı desteklemek için, müşterilerin sorumlu yapay zekayı etkili bir şekilde uygulamasına yardımcı olmak üzere dağıtıcılar ve kullanıcılar için aşağıdaki en iyi yöntemleri sunuyoruz.

Dağıtıcılar ve son kullanıcılar

  • Sonuç olarak alınan kararlar veya hassas etki alanlarında Bulma özelliğini kullanırken dikkatli olun ve sonuçları izleyin: Sonuçta elde edilen kararlar, bir kişinin eğitim, istihdam, finansal platformlar, kamu yararları, sağlık hizmetleri, konut, sigorta veya yasal platformlara erişimi üzerinde yasal veya önemli bir etkiye sahip olabilir. Ayrıca fiziksel, psikolojik veya finansal zarara da neden olabilirler.

    Hassas etki alanları, farklı kişi grupları üzerinde orantısız etki olasılığı nedeniyle özel bir bakım gerektirir. Bu alanlardaki kararlar için yapay zeka kullandığınızda, etkilenen paydaşların kararların nasıl alındığını anlayabileceğinden, itiraz kararlarını ve ilgili giriş verilerini güncelleştirebildiğinden emin olun.

  • Yasal ve yasal konuları değerlendirin: Yapay zeka platformlarını ve çözümlerini kullanırken, her sektörde veya senaryoda kullanıma uygun olmayabilecek olası yasal ve mevzuat yükümlülüklerini değerlendirmeniz gerekir. Yapay zeka platformları veya çözümleri için tasarlanmamıştır ve geçerli hizmet koşullarında ve ilgili kullanım kurallarında yasaklanan şekillerde kullanılamaz.

Son kullanıcılar

Net, belirli istemleri kullanın: İstemlerin hedefiniz, görevin kapsamı ve kullanılacak kanıt hakkında açık olduğundan emin olun. Net ve etkili bir istem genellikle şunları içerir:

  • Amaç (öğrenmeye veya karar vermeye çalıştığınız şey).
  • Bağlam (etki alanı varsayımları, kısıtlamalar ve başarı ölçütleri).
  • Kullanılacak kaynaklar (başvurulacak bilgi bankası, belgeler veya araçlar).
  • Çıkış biçimi (tablo, dereceli liste ve deneme planı gibi).
  • Temellendirme isteği (varsa atıf veya izlenebilirlik talep edin).

Örnek talimat

KONU başlığı< altında >dizine alınan bilgi bankası belgelerinizi kullanarak RESEARCH GOAL< için >üç test edilebilir hipotez önerin. Her hipotez için: (a) destekleyici kanıtı özetler, (b) kullanılan belirli kaynakları alıntılar ve (c) bunu doğrulamak için iki ile üç denemeyi listeler. Kanıt eksik veya zayıfsa, bunu açıkça söyleyin ve başka hangi verilerin gerekli olduğunu önerin.

  • Performans sapmasını izleyin: Çıktı kalitesi ve temellendirilmişlik, temellendirme için kullanılabilen verilere ve ajanların veya araçların nasıl yapılandırıldığına bağlıdır. Bilgi bankanız, araçlarınız veya iş akışlarınız geliştikçe sonuçlar değişebilir. Kaymayı algılamak için:

    • Küçük bir kıyaslama istemi kümesini periyodik olarak yeniden çalıştırın ve çıktıları tutarlılık, eksiksizlik ve dayanaklılık açısından karşılaştırın.
    • Daha az veya zayıf alıntılar, artan belirsizlik, çelişkili sonuçlar veya önemli kısıtlamaların eksik olması gibi uyarı işaretlerini izleyin.
    • Bilgi bankasını güncelleştirirseniz (belge ekler veya kaldırırsanız), bunu sürüm değişikliği olarak değerlendirin ve kritik iş akışlarını yeniden denetleyin.
    • Yüksek etkili çalışmalar (etki alanı uzmanı incelemesi, bağımsız hesaplama veya simülasyon veya denetimli test çalıştırmaları) için insan incelemesi ve ikinci bir doğrulama yöntemi kullanın.

  • Uygun olduğunda insan gözetimi gerçekleştirin: Yapay zeka uygulamalarıyla etkileşim kurarken insan gözetimi önemli bir güvenlik önlemidir. Yapay zeka uygulamalarımızı sürekli geliştiriyoruz ancak yapay zeka hatalara neden olabilir. Oluşturulan çıkışlar yanlış, eksik, yanlı, yanlış hizalanmış veya hedeflenen hedeflerinizle ilgisiz olabilir.

    Bu durum, girişlerdeki belirsizlik veya temel alınan modellerin sınırlamaları gibi çeşitli nedenlerden kaynaklanabilir. Bulma tarafından oluşturulan yanıtları gözden geçirmeli ve bunların beklentilerinize ve gereksinimlerinize uygun olduğunu doğrulamanız gerekir.

  • Aşırı güven riskini anlayın: Kullanıcılar yanlış veya eksik yapay zeka çıktıları kabul ettiğinde, özellikle de yapay zeka çıktılarındaki hataları fark etmek zor olabileceğinden, aşırı güven gelişebilir. Bu yanlış çıkışlar genellikle temel alınan kanıtın eksik veya net bir şekilde temel alınmamış olduğu durumların bir sonucudur. Discovery ile bu risk, uzun, yinelemeli iş akışlarında (küçük hataların birleşebildiği durumlarda) ve bilgi bankası kapsamının sınırlı olduğu senaryolarda artabilir. Çıktıları, özellikle sonuç kararları için karar değiştirme değil karar desteği olarak değerlendirin.

  • Hassas etki alanlarında aracı yapay zeka tasarlarken dikkatli olun: Geri alınamaz veya yüksek etkili eylemleri tetikleyebilecek otonom veya aracı iş akışları tasarlar veya dağıtırsanız (örneğin, düzenlenmiş veya güvenlik açısından kritik etki alanlarında), korumalar eklemeniz gerekir. Onay geçitlerini, en az ayrıcalıklı erişimi, denetim günlüklerini veya kısıtlanmış eylem kapsamlarını kullanmanız gerekebilir. Etkilenen paydaşların sonuçlara nasıl ulaşıldığını anlayabileceğinden ve uygun olduğunda kararlara meydan okuyabileceğinden emin olun.

    Otonom fail yapay zekâ oluştururken, kuruluşlar için Microsoft Kurumsal Yapay Zekâ Hizmetleri Davranış Kuralları'nda veya bireyler için Microsoft Hizmet Sözleşmesi'ndeki Davranış Kuralları bölümünde daha ayrıntılı olarak açıklandığı üzere, başka önlemler de almanız gerekir.

  • Microsoft Discovery’nin geliştirilmesine yardımcı olmak için geri bildirimde bulunun: Sorunlarla karşılaşırsanız veya geri bildiriminizi paylaşmak isterseniz, Discovery Studio’da sağ alt köşedeki Geri Bildirim Gönder seçeneğini belirleyin. Neler olduğunu açıklayabilir ve geri bildirim formuna ilgili ayrıntıları ekleyebilirsiniz. Keşif ekibine geri bildirim göndermek için formu gönderin.

Dağıtanların yapması gerekiyor

Topraklanmış aracı tasarımı için temel olarak başvuru örneği aracısını kullanın: Bulma, GitHub deposunda bir başvuru örneği aracısı sağlar. Ajan, müşteri bilgi tabanlarını sorgulamak, dayanaklandırma kısıtlarını uygulamak ve kanıtların eksik ya da zayıf olduğu durumları ele almak için önerilen yöntemleri gösterir.

Örnek, geri getirme işleminin kapsamını ilgili kaynaklarla nasıl sınırlayacağınızı ve açık atıfları veya izlenebilirliği nasıl zorunlu kılacağınızı gösterir. Ayrıca, müşteri tarafından sağlanan verilerle çalışırken arka planlanmamış veya tahmini çıkış riskini nasıl azaltabileceğinizi de gösterir.

  • Etki alanı, veriler ve risk bağlamı temelinde örneği uyarlama ve genişletme: Başvuru örneği aracısını üretime hazır bir çözüm yerine başlangıç noktası olarak değerlendirin. Özel aracılar ve iş akışları oluştururken alma mantığını, temel alma gereksinimlerini, doğrulama adımlarını ve döngüdeki insan incelemesini uyarlamanız önerilir. Aracılarınızı ve iş akışlarınızı belirli etki alanınıza, veri yapınıza ve risk profilinize dayandırın. Bu yaklaşım, yüksek etkili veya uzun süre çalışan aracı iş akışları için önemlidir.

Güçlü kimlik ve erişim kontrollerini uygulayın (en az ayrıcalık): Bulut dağıtımları için Discovery, Microsoft Entra ID doğrulama ve rol tabanlı erişim kontrolü (RBAC) kullanır ve dağıtıcılar bu modeli yansıtarak her kullanıcı veya iş yükü için gereken minimum rolleri vermelidir. Kesinlikle gerekli olduğu durumlar dışında geniş "Sahip" veya abonelik genelinde izinlerden kaçının ve kaynak grubu veya kaynak düzeyinde kapsamlı rolleri tercih edin. Kullanıcılar tarafından atanmış yönetilen kimlikler (UAMI) kullanarak hizmet-hizmet erişiminde gömülü sırları kullanmamaya özen gösterin ve rol atamalarını düzenli aralıklarla gözden geçirin. Yerel uygulama dağıtımları için, kullanıcıların uygun Copilot abonelik izinlerine sahip GitHub hesaplarıyla kimlik doğrulaması yapmasını ve bu hesaplarda çok faktörlü kimlik doğrulamayı zorunlu kılmasını sağla.

Ağ duruşunu güçlendirin ve kaynakları varsayılan olarak özel tutun: Bulut dağıtımları için, Discovery varsayılan olarak Azure Özel Bağlantı'in etkinleştirilmiş ve veri düzlemi API'leri için genel ağ erişiminin devre dışı bırakılmış şekilde tasarlanmıştır; bu duruşu güvenilen sanal ağlara (VNet'ler) erişimi kısıtlayarak ve özel uç noktalar, özel DNS bölgeleri ve ağ güvenlik grupları (NSG'ler) kullanarak sürdürebilirsiniz. Kuruluşunuzun ek "koruma duvarı" gerektirdiği durumlarda, platform altyapısı dağıtıldıktan sonra bağımlı PaaS hizmetlerini (örneğin, Cosmos DB, Azure SQL Server, Key Vault, Depolama Hesapları) daha fazla korumak için bir Ağ Güvenlik Çevresi (NSP) dağıtabilirsiniz. Genel kullanıma açıkların azaltılması saldırı yüzeyini düşürür ve güvenilmeyen ağ konumlarından kullanılan çalınmış kimlik bilgilerine karşı korunmaya yardımcı olur. Yerel uygulama dağıtımları için, kullanıcının makinesinin güvenli bir ağda olduğundan ve organizasyonel güvenlik duvarları aracılığıyla GitHub Copilot hizmetine giden bağlantıların izin verildiğinden emin olun.

Güvenlik kontrollerini etkin tutun ve herhangi bir güvenlik eşiği değişikliklerini doğrulayın: Bulut dağıtımları için Discovery, platform içinde oluşturulan modeller için varsayılan olarak Foundry Koruma Korkuları / içerik filtrelemesini uygular ve yerleşik güvenlik mekanizmalarını atlama veya devre dışı bırakma girişimleri yasaktır. Dağıtımcılar, güvenlik eşiklerini ve izleme aracısı davranışını yapılandırma dahil olmak üzere Foundry portalında korumalar oluşturabilir ve yönetebilir; eşikleri değiştirirseniz veya filtreleri özelleştirirseniz, geniş kapsamlı bir şekilde kullanıma sunulmadan önce bu değişiklikleri temsili istemlerle test edin. Örneğin, bu sürüm için içerik filtresi yapılandırması giriş/çıkış filtreleme eşiklerini içerir (örneğin, "Orta"da Şiddet/Nefret/Cinsel," Yüksekte Kendine zarar verme") ve Jailbreak ve Korumalı Malzeme algılama gibi modelleri etkinleştirir. Bu ayarların değiştirilmesi hem kullanıcı deneyimini hem de güvenlik sonuçlarını etkileyebilir. Daha fazla bilgi için Azure AI İçerik Güvenliği belgelerine bakın - Hızlı Başlangıçlar, Öğreticiler, API Referansı - Foundry Araçları | Microsoft Learn. Yerel uygulama dağıtımları için, güvenlik kontrolleri GitHub Copilot SDK'nın yerleşik içerik politikaları tarafından sağlanır. Bu kontroller aşılmamalı ve konuşlandırıcılar organizasyonel Copilot politikalarının uygun şekilde yapılandırıldığını doğrulamalıdır.

Erişimi ölçeklendirmeden önce güvenlik, topraklama ve araç zinciri güvenilirliğini test edin: Bulma, risk kategorilerinde (telif hakkı/IP, zararlı içerik, jailbreak girişimleri ve topraklanma) yapılandırılmış bir istem paketi kullanılarak değerlendirilir. Karşılaştırma, zaman içindeki regresyonları algılamak için kullanılır. En önemli iş akışlarınız için benzer bir uygulama benimsemeniz gerekir.

Amaçladığınız kullanım örneklerini yansıtan küçük bir altın uçtan uca senaryo kümesi oluşturun. Kendi araçlarınızı, modellerinizi ve bilgi bankası içeriğinizi ekleyin. Modelleri, araçları, aracıları veya veri kümelerini her değiştirdiğinizde senaryoları yeniden çalıştırın. Araç varsayımlarındaki uyuşmazlıklar (biçimler, parametre aralıkları ve sürüm oluşturma) hatalara veya yanıltıcı sonuçlara neden olabileceğinden, düzenleme iş akışlarını dikkatle doğrulayın.

Özel veya Microsoft olmayan bileşenleri eklediğinizde bu uygulama özellikle önemlidir. Daha yüksek etkili senaryolar için, insan incelemesi ve bağımsız bir doğrulama yöntemi gerekir. Örneğin, etki alanı uzmanı incelemesi veya denetimli test çalıştırmaları kullanın.

Günlüğe kaydetmeyi etkinleştirin ve sapmaları sürekli olarak izleyin: Discovery, tanılama günlüklerinin etkinleştirilmesine ve müşteri tarafından yönetilen günlükleme çözümlerine yönlendirilmesine olanak tanıyarak günlük kaydı ve izlemeyi destekler. Discovery, bağlantıyı ve kullanılabilirliği izlemek için proaktif sistem durumu denetimlerini ve telemetriyi kullanır. Bu kayıtları etkinleştirin, tekrarlayan hatalar veya anormal hata kalıpları için uyarılar oluşturun ve platform güvenlik değerlendirmelerinin bir parçası olarak güvenlik bulguları ile yapılandırma kaymalarını periyodik olarak inceleyin.

Performans ve çıkış kalitesinde kayma için bilgi bankasında, araçlarda, iş akışlarında veya aracılarda yapılan değişiklikleri sürüm değişikliği olarak değerlendirin. Tutarlılığı, eksiksizliği ve temellendirmeyi karşılaştırmak için küçük bir benchmark kümesini yeniden çalıştırın. Uyarı işaretleri daha az veya daha zayıf alıntılar, artan belirsizlik, çelişkili sonuçlar veya eksik önemli kısıtlamalar içerir. Daha derin gözden geçirme ve düzeltmeyi tetikleme amacıyla bu sinyalleri kullanın.

Microsoft Bulma hakkında daha fazla bilgi edinin

Bulma'nın sorumlu kullanımı hakkında daha fazla rehberlik için yapay zeka destekli özellikleri dağıtmaya yönelik temel ilkelerin ana hatlarını içeren Sorumlu Kullanım Kılavuzu'nu gözden geçirmenizi öneririz. Burada daha fazla bilgi edinebilirsiniz:

Sorumlu yapay zeka hakkında daha fazla bilgi edinin:

  • Son güncelleştirme: