Bilgi Alma Artırılmış Üretim ile modelinizi temellendirin.

Tamamlandı

Tavsiye

Daha fazla ayrıntı için Metin ve resimler sekmesine bakın!

İstem mühendisliği, modelin nasıl yanıt verdiği konusunda yol göstermesine yardımcı olur, ancak modele sahip olmadığı bilgileri veremez. Dil modelleri büyük veri kümelerinde eğitilir, ancak bu eğitim verilerinin bir kesme tarihi vardır ve kuruluşunuzun özel bilgilerini içermez. Bir modelde ilgili bağlam eksik olduğunda mantıklı ancak aslında yanlış yanıtlar oluşturabilir.

Bu sınamayı ele almak için, yanıtlarını temel alması için ilgili ve olgusal veriler sağlayarak modeli temel alabilirsiniz. Erişim Artırılmış Üretim (RAG), bir dil modelini temellendirmek için en yaygın tekniktir.

Topraklamayı Anlamak

Temel oluşturma olmadan bir dil modeli kullandığınızda, sahip olduğu tek bilgi eğitim verilerinden gelir. Sonuç dil bilgisi açısından doğru ve mantıksal olarak yapılandırılmış olabilir, ancak yanlış olabilir veya uydurulan ayrıntıları içerebilir. Örneğin, temel veriler olmadan "Paris'te hangi otelleri sunuyorsunuz?" sorusunu sormak kurgusal otel adlarını döndürebilir.

Bir istemi temellendirdiğinizde, kullanıcının sorusuna güvenilir bir kaynaktan alınan ilgili verilerle yanıt verirsiniz. Model daha sonra bu verilere dayalı bir yanıt oluşturur ve daha doğru ve bağlamsal olarak ilgili yanıtlar üretir.

Farkı göz önünde bulundurun:

• Dayanaksız: Yapay zeka modeli yalnızca eğitim verilerine dayanır ve otel isimleri veya ayrıntılarını uydurabilir.
• Temel: Model, gerçek otel kataloğu verilerinizi bağlam olarak alır ve gerçek otel adları, fiyatlar ve kullanılabilirlik ile yanıt verir.

Temel alma, modeli belirli, güncel ve kullanıcının ihtiyaçlarına uygun bilgilere bağlayarak yanıtların gerçek doğruluğunu artırır.

RAG nasıl çalışır?

RAG, bir veri kaynağından ilgili bilgileri alan ve model yanıt oluşturmadan önce istemde bu bilgileri içeren bir desendir. İşlem üç adımdan oluşur:

1. Alma: Kullanıcının sorusuyla ilgili bilgiler için veri kaynağında arama yapma.
2. Büyütme: Alınan bilgileri bağlam olarak istemine ekleyin.
3. Oluştur: Genişletilmiş istemleri dil modeline göndererek temel alınan bir yanıt oluşturun.

Belirtilen bir veri kaynağından bağlamı alarak, modelin yalnızca eğitim verilerine güvenmek yerine ilgili ve güncel bilgileri kullandığından emin olursunuz.

Arama için eklemeler oluşturma

RAG'nin kritik bir bileşeni, veri kaynağınızdaki en ilgili bilgileri verimli bir şekilde bulabilmektir. Eklemeler ve vektör araması burada devreye girer.

Ekleme, metnin vektör olarak matematiksel bir gösterimidir; sözcüklerin, cümlelerin veya belgelerin anlamını yakalayan kayan noktalı sayıların listesidir. İçeriğinizi Microsoft Foundry'de bulunan Azure OpenAI ekleme modeli gibi bir ekleme modeline göndererek eklemeler oluşturursunuz.

Örneğin, iki belge düşünün:

• "Çocuklar parkta keyifle oynadılar."
• "Çocuklar mutlu bir şekilde oyun alanında koştu."

Bu cümleler farklı sözcükler kullanır ancak benzer anlamlara sahiptir. Her bir öğe için eklemeler oluşturduğunuzda, vektörleri çok boyutlu alanda birbirine yakın olur ve anlamsal benzerliklerini yansıtır.

Kosinüs benzerliği , aralarındaki açıyı hesaplayarak iki vektöre ne kadar yakın olduğunu ölçer. 1'e yakın bir değer, vektörlerin çok benzer olduğu anlamına gelir. Bu matematiksel yaklaşım, tam sözcükler eşleşmediğinde bile ilgili belgeleri bulmanıza olanak tanır.

Bilgi alma için Azure Yapay Zeka Arama'i kullanın

Azure Yapay Zeka Arama, Microsoft Foundry'de RAG çözümleri için geri alma bileşeni sağlar. Kendi verilerinizi getirmenize, aranabilir bir dizin oluşturmanıza ve ilgili bilgileri almak için sorgulamanıza olanak tanır.

RAG ile Azure Yapay Zeka Arama kullanmak için:

1. Verilerinizi Azure Blob Depolama, Azure Data Lake Storage 2. Nesil veya Microsoft OneLake gibi kaynaklardan Microsoft Foundry'ye sağlayın. Dosyaları doğrudan da karşıya yükleyebilirsiniz.
2. İçeriğinizin vektör gösterimlerini oluşturmak için ekleme modeli kullanarak bir dizin oluşturun. Dizin Azure Yapay Zeka Arama depolanır.
3. Kullanıcı soru sorduğunda dizini sorgular. Sistem, soruyu eklemeye dönüştürür, en benzer içeriği arar ve ilgili sonuçları döndürür.

Azure Yapay Zeka Arama çeşitli arama tekniklerini destekler:

• Anahtar sözcük araması: Sorgudaki terimleri dizindeki metinle eşleştirir.
• Anlamsal arama: Tam anahtar sözcükler yerine sorgunun anlamını eşleştirmek için anlamsal modeller kullanır.
• Vektör araması: Benzer içeriği bulmak için eklemeleri kullanır.
• Karma arama: Anahtar sözcük, anlam ve vektör aramasını en doğru sonuçlar için birleştirir. Oluşturucu yapay zeka uygulamaları için karma arama önerilir.

Azure Yapay Zeka Atölyesi SDK'sı ile RAG'i uygulamak

bir Azure Yapay Zeka Arama dizini oluşturduktan sonra, Microsoft Foundry project aracılığıyla bir modele bağlayabilirsiniz. azure-ai-projects SDK'sı, kimliği doğrulanmış bir OpenAI istemcisi almanıza ve yanıtlar API'sini kullanarak temelli yanıtlar oluşturmanıza olanak tanır.

Aşağıdaki Python kodu temel bir uygulamayı gösterir:

from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential

project = AIProjectClient(
    endpoint=os.environ["PROJECT_ENDPOINT"],
    credential=DefaultAzureCredential(),
)

client = project.get_openai_client()

response = client.responses.create(
    model="gpt-4o",
    input=[
        {"role": "system", "content": "You are a helpful travel advisor. "
         "Use the following hotel data to answer: " + retrieved_context},
        {"role": "user", "content": "Which hotels do you offer in Paris?"},
    ],
)

print(response.output_text)

Bu örnekte, retrieved_context Azure Yapay Zeka Arama dizininizden döndürülen belgeleri temsil eder. Bu sonuçları sistem mesajına enjekte ederek, modelin yanıtı genel eğitim bilgisi yerine gerçek verilerinize dayanarak verilmektedir.

RAG ne zaman kullanılır?

RAG en etkili olduğu durumlarda:

• Modelin alana özgü bilgiye ihtiyacı vardır: Kuruluşunuzda ürün kataloğu, ilke belgeleri veya iç bilgi tabanı gibi modelin eğitilmediği özel veriler vardır.
• Bilgiler sık sık değişir: Verileriniz envanter, fiyatlandırma veya haberler gibi düzenli olarak güncelleştirilir. RAG, sorgu zamanında geçerli verileri yeniden eğitmeden alır.
• Olgusal doğruluk kritik öneme sahiptir: Modelin genel bilgisi yerine gerçek verilerle temellenmiş yanıtlara ihtiyacınız vardır.
• Temel modelin eğitim verileri bir kesmeye sahiptir: Modelin eğitim kesme tarihinden sonra gerçekleşen olaylara veya bilgilere erişilebilir olması gerekir.

SEYAHAT ACENTASI senaryosunda RAG, müşterilerin belirli oteller, varış noktaları ve rezervasyon ilkeleri hakkında sorular sormasına olanak tanır ve hepsi de acentenin gerçek katalog verilerine dayandırılır.

Tavsiye

Kendi arama altyapınızı yönetmeden temel bilgiye ihtiyaç duyan aracılar oluşturuyorsanız yapay zeka aracıları için temel oluşturmayı kolaylaştıran yönetilen bir bilgi deposu olan Foundry IQ'yi göz önünde bulundurun. Daha fazla bilgi edinmek için bkz. Foundry IQ ile bilgi gelişmiş yapay zeka aracıları geliştirme.