Aracılığıyla paylaş

Öğretici: Azure AI Foundry Modellerinde DeepSeek-R1 akıl yürütme modelini kullanmaya başlama

Bu öğreticide şunları öğreneceksiniz:

  • Azure AI Foundry Modelleri'nde DeepSeek-R1 kullanmak için Azure kaynaklarını oluşturma ve yapılandırma.
  • Model dağıtımını nasıl yapılandıracağınız.
  • Azure AI Çıkarım SDK'sı veya REST API'leri ile DeepSeek-R1 kullanma.
  • DeepSeek-R1'ı diğer SDK'larla nasıl kullanmak.

Önkoşullar

Bu makaleyi tamamlamak için gerekenler:

Akıl yürütme modelleri

Mantık modelleri matematik, kodlama, bilim, strateji ve lojistik gibi alanlarda daha yüksek performans düzeylerine ulaşabilir. Bu modellerin çıkış oluşturma yolu, bir yanıt oluşturmadan önce tüm olası yolları keşfetmek için açıkça düşünce zincirini kullanmaktır. Bunları üretirken yanıtlarını doğrularlar ve bu da daha doğru sonuçlar elde etmeye yardımcı olur. Sonuç olarak, etkili sonuçlar elde etmek için akıl yürütme modelleri istemde daha az bağlam gerektirebilir.

Modelin performansını ölçeklendirmenin bu yolu, performansı daha yüksek gecikme süresine ve maliyete karşı dengelediğinden çıkarım işlem süresi olarak adlandırılır. Buna karşılık, diğer yaklaşımlar eğitim işlem süresine göre ölçeklendirilebilir.

Akıl yürütme modelleri çıkış olarak iki tür içerik üretir:

  • Akıl yürütme sonuçları
  • Çıktı Tamamlamaları

Bu tamamlanmaların her ikisi de modelden oluşturulan içeriğe göre sayılır. Bu nedenle, modelle ilişkili belirteç sınırlarına ve maliyetlerine katkıda bulunur. gibi DeepSeek-R1bazı modeller, mantık içeriğiyle yanıt verebilir. o1 gibi diğerleri yalnızca tamamlamaları çıktı olarak verir.

Kaynakları oluşturma

Döküm Modelleri, Azure'daki Azure AI Foundry kaynaklarında bulunan bir özelliktir. Tahminlerinden yararlanmak için belirli bir kaynak altında model dağıtımları oluşturabilirsiniz. Gerekirse akıllı uygulamalar oluşturmak için kaynağı Azure AI Hub'larına ve Azure AI Foundry'deki projelere de bağlayabilirsiniz.

DeepSeek-R1 dağıtımını destekleyen bir Azure AI projesi oluşturmak için şu adımları izleyin. Kaynakları, Azure CLI veya Bicep ile altyapıyı kod olarak tanımlayarak da oluşturabilirsiniz.

Tavsiye

Azure AI Foundry portalında sol bölmeyi özelleştirebildiğiniz için bu adımlarda gösterilenden farklı öğeler görebilirsiniz. Aradığınızı görmüyorsanız ... seçeneğini belirleyin. Sol bölmenin en altında daha fazlası.

  1. Azure AI Foundry portalında oturum açın.

  2. Giriş sayfasının üst bilgisindeki önizleme özellikleri simgesine gidin ve Modelleri Azure AI Foundry kaynaklarına dağıt özelliğinin açık olduğundan emin olun.

    Dökümhane kaynağına dağıtımı etkinleştirme adımlarını gösteren ekran görüntüsü.

  3. Giriş sayfasında "Modelleri ve özellikleri keşfedin" bölümüne gidin ve Model kataloğunu açmak için Tam model kataloğuna git'i seçin. Model kataloğu bölümünü gösteren Dökümhane portalının giriş sayfasının ekran görüntüsü.

  4. DeepSeek-R1 modelini arayın ve model kartını açın.

  5. Bu modeli kullan'ı seçin. Bu eylem, içinde çalışacağınız bir Azure AI Foundry projesi ve kaynakları oluşturmak için bir sihirbaz açar. Projenin varsayılan adını koruyabilir veya değiştirebilirsiniz.

    Tavsiye

    Azure AI Foundry Modellerinde Azure OpenAI kullanıyor musunuz? Azure OpenAI kaynağı kullanarak Azure AI Foundry portalına bağlandığınızda katalogda yalnızca Azure OpenAI modelleri gösterilir. DeepSeek-R1 dahil olmak üzere modellerin tam listesini görüntülemek için en iyi Duyurular bölümünü kullanın ve Daha fazla model keşfedin seçeneğiyle kartı bulun.

    Katalogdaki tüm modelleri keşfetme seçeneğine sahip kartı gösteren ekran görüntüsü.

    Modellerin tam listesiyle birlikte yeni bir pencere gösterilir. Listeden DeepSeek-R1'i ve ardından Dağıt'ı seçin. Sihirbaz yeni bir proje oluşturmak ister.

  6. Projeyle birlikte oluşturulan diğer varsayılan ayarların ayrıntılarını görmek için sihirbazın "Gelişmiş seçenekler" bölümünde açılan listeyi seçin. Bu varsayılanlar en iyi işlevsellik için seçilir ve şunlardır:

    Mülkiyet Açıklama
    Kaynak grubu Azure'daki tüm kaynaklar için ana kapsayıcı. Bu, birlikte çalışan kaynakların düzenli bir şekilde düzenlenmesine yardımcı olur. Ayrıca, projenin tamamıyla ilişkili maliyetler için bir kapsama sahip olmanıza da yardımcı olur.
    Bölge Oluşturduğunuz kaynakların bölgesi.
    AI Foundry kaynak Azure AI model kataloğunda amiral gemisi modellerine erişimi etkinleştiren kaynak. Bu öğreticide yeni bir hesap oluşturulur, ancak Azure AI Foundry kaynakları (eski adıyla Azure AI Services kaynağı) birden çok hub ve proje arasında paylaşılabilir. Hublar, orada mevcut olan model dağıtımlarına erişmek için kaynağa bir bağlantı kullanır. Modelleri kullanmak üzere Azure AI Foundry kaynaklarına nasıl bağlantı oluşturabileceğinizi öğrenmek için bkz. Yapay zeka projenizi bağlama.

  7. Dökümhane projesini diğer varsayılan değerlerle birlikte oluşturmak için Oluştur'u seçin. Proje oluşturma işlemi tamamlanana kadar bekleyin. Bu işlem birkaç dakika sürer.

Modeli dağıtın

  1. Proje ve kaynaklar oluşturulduktan sonra bir dağıtım sihirbazı görüntülenir. DeepSeek-R1, Microsoft birinci taraf tüketim hizmeti olarak sunulur. Veri, gizlilik ve Güvenlik altında gizlilik ve güvenlik taahhütlerimizi gözden geçirebilirsiniz.

  2. Fiyatlandırma ve koşullar sekmesini seçerek modelin fiyatlandırma ayrıntılarını gözden geçirin.

  3. Dağıtıma devam etmek için Kabul Et ve Devam Et'i seçin.

  4. Dağıtım ayarlarını şu anda yapılandırabilirsiniz. Varsayılan olarak dağıtım, dağıttığınız modelin adını alır. Dağıtım adı, istekleri bu belirli model dağıtımına yönlendiren model parametrede kullanılır. Bu, belirli yapılandırmaları eklerken modelleriniz için belirli adları da yapılandırmanıza olanak tanır.

  5. Azure AI Foundry, projenizde daha önce oluşturulan Dökümhane kaynağını otomatik olarak seçer. Bağlantıyı gereksinimlerinize göre değiştirmek için Özelleştir seçeneğini kullanın. DeepSeek-R1 şu anda daha yüksek aktarım hızı ve performans sunan Genel Standart dağıtım türü altında sunulmaktadır.

    Modelin nasıl dağıtılacağı gösteren ekran görüntüsü.

  6. Dağıt'ı seçin.

  7. Dağıtım tamamlandıktan sonra dağıtım Ayrıntıları sayfası açılır. Artık yeni model kullanılmaya hazır.

Oyun alanında modeli kullanma

Modelin özellikleri hakkında fikir sahibi olmak için oyun alanında modeli kullanmaya başlayabilirsiniz.

  1. Dağıtım ayrıntıları sayfasında üst araç çubuğunda Oyun alanında aç'ı seçin. Bu eylem, sohbet oyun alanını açar.

  2. Sohbet test ortamındaki Dağıtım açılır menüsünde, oluşturduğunuz dağıtım zaten otomatik olarak seçildi.

  3. Sistem istemini ihtiyacınıza göre yapılandırın. Genel olarak, akıl yürütme modelleri sistem iletilerini diğer model türleriyle aynı şekilde kullanmaz.

    Oyun alanında kullanılacak bir model dağıtımı seçmeyi, sistem iletisini yapılandırmayı ve test etme işlemini gösteren ekran görüntüsü.

  4. İsteminizi yazın ve çıkışlara bakın.

  5. Ayrıca, model dağıtımına program aracılığıyla erişme hakkındaki ayrıntıları görmek için Kodu görüntüle'yi kullanabilirsiniz.

Başlatıcı akıl yürütme modelleri

Mantık modelleri oluştururken aşağıdakileri göz önünde bulundurun:

  • Basit yönergeleri kullanın ve düşünce zinciri tekniklerini kullanmaktan kaçının.
  • Yerleşik akıl yürütme özellikleri, basit sıfır çekim istemlerini daha karmaşık yöntemler kadar etkili hale getirir.
  • RAG senaryolarında olduğu gibi ek bağlam veya belgeler sağlarken, yalnızca en ilgili bilgiler dahil olmak üzere modelin yanıtını aşırı karmaşık hale getirmesini önlemeye yardımcı olabilir.
  • Akıl yürütme modelleri sistem iletilerinin kullanımını destekleyebilebilir. Ancak, bunları diğer mantık dışı modeller kadar katı bir şekilde takip etmeyebilirler.
  • Çok aşamalı uygulamalar oluştururken, Muhakeme içeriği bölümünde açıklandığı gibi, modelin yalnızca son yanıtını, mantık içeriği olmadan eklemeyi göz önünde bulundurun.

Muhakeme modellerinin yanıt oluşturmasının daha uzun sürebileceğine dikkat edin. Daha derin ve daha yapılandırılmış sorun çözmeyi sağlayan uzun düşünce zincirleri kullanırlar. Ayrıca yanıtlarını çapraz kontrol etmek ve hatalarını düzeltmek için kendi kendine doğrulama gerçekleştirir ve böylece gelişen kendini yansıtıcı davranışları gösterir.

Modeli kodda kullanma

Modele bağlanmak için Döküm Modelleri uç noktasını ve kimlik bilgilerini kullanın:

Dağıtımla ilişkilendirilmiş URL'yi ve anahtarı nasıl edinmeyi gösteren ekran görüntüsü.

Modeli kodda kullanmak için Azure AI Model Çıkarımı paketini kullanabilirsiniz:

Paketi azure-ai-inference, örneğin pip gibi bir paket yöneticisi kullanarak yükleyin.

pip install azure-ai-inference

Ardından, modeli çalıştırmak için paketi kullanabilirsiniz. Aşağıdaki örnekte, sohbet tamamlamalarını kullanmak için nasıl istemci oluşturulacağı gösterilmektedir:

import os
from azure.ai.inference import ChatCompletionsClient
from azure.core.credentials import AzureKeyCredential

client = ChatCompletionsClient(
    endpoint="https://<resource>.services.ai.azure.com/models",
    credential=AzureKeyCredential(os.environ["AZURE_INFERENCE_CREDENTIAL"]),
)

Başlamak için örneklerimizi inceleyin ve API başvuru belgelerini okuyun.

from azure.ai.inference.models import SystemMessage, UserMessage

response = client.complete(
    messages=[
        UserMessage(content="How many languages are in the world?"),
    ],
    model="DeepSeek-R1"
)

print(response.choices[0].message.content)

Mantık yürütme daha uzun yanıtlar oluşturabilir ve daha fazla sayıda belirteç kullanabilir. DeepSeek-R1 modellerine uygulanan hız sınırlarını görebilirsiniz. Uygulanan hız sınırlarını işlemek için bir yeniden deneme stratejisine sahip olmayı göz önünde bulundurun. Ayrıca , varsayılan sınırlara artış isteyebilirsiniz.

Akıl yürütme içeriği

DeepSeek-R1 gibi bazı mantık modelleri sonuçlar üretir ve bu sonuçların ardındaki mantığı açıklar. Tamamlanma ile ilgili gerekçe, yanıtın içeriğinde <think> ve </think> etiketleri içinde yer alır. Model, akıl yürütme içeriğinin oluşturulacağı senaryoları seçebilir. Aşağıdaki örnekte Python kullanarak mantık içeriğinin nasıl oluşturulacağı gösterilmektedir:

import re

match = re.match(r"<think>(.*?)</think>(.*)", response.choices[0].message.content, re.DOTALL)

print("Response:", )
if match:
    print("\tThinking:", match.group(1))
    print("\tAnswer:", match.group(2))
else:
    print("\tAnswer:", response.choices[0].message.content)
print("Model:", response.model)
print("Usage:")
print("\tPrompt tokens:", response.usage.prompt_tokens)
print("\tTotal tokens:", response.usage.total_tokens)
print("\tCompletion tokens:", response.usage.completion_tokens)

Thinking: Okay, the user is asking how many languages exist in the world. I need to provide a clear and accurate answer. Let's start by recalling the general consensus from linguistic sources. I remember that the number often cited is around 7,000, but maybe I should check some reputable organizations.\n\nEthnologue is a well-known resource for language data, and I think they list about 7,000 languages. But wait, do they update their numbers? It might be around 7,100 or so. Also, the exact count can vary because some sources might categorize dialects differently or have more recent data. \n\nAnother thing to consider is language endangerment. Many languages are endangered, with some having only a few speakers left. Organizations like UNESCO track endangered languages, so mentioning that adds context. Also, the distribution isn't even. Some countries have hundreds of languages, like Papua New Guinea with over 800, while others have just a few. \n\nA user might also wonder why the exact number is hard to pin down. It's because the distinction between a language and a dialect can be political or cultural. For example, Mandarin and Cantonese are considered dialects of Chinese by some, but they're mutually unintelligible, so others classify them as separate languages. Also, some regions are under-researched, making it hard to document all languages. \n\nI should also touch on language families. The 7,000 languages are grouped into families like Indo-European, Sino-Tibetan, Niger-Congo, etc. Maybe mention a few of the largest families. But wait, the question is just about the count, not the families. Still, it's good to provide a bit more context. \n\nI need to make sure the information is up-to-date. Let me think – recent estimates still hover around 7,000. However, languages are dying out rapidly, so the number decreases over time. Including that note about endangerment and language extinction rates could be helpful. For instance, it's often stated that a language dies every few weeks. \n\nAnother point is sign languages. Does the count include them? Ethnologue includes some, but not all sources might. If the user is including sign languages, that adds more to the count, but I think the 7,000 figure typically refers to spoken languages. For thoroughness, maybe mention that there are also over 300 sign languages. \n\nSummarizing, the answer should state around 7,000, mention Ethnologue's figure, explain why the exact number varies, touch on endangerment, and possibly note sign languages as a separate category. Also, a brief mention of Papua New Guinea as the most linguistically diverse country. \n\nWait, let me verify Ethnologue's current number. As of their latest edition (25th, 2022), they list 7,168 living languages. But I should check if that's the case. Some sources might round to 7,000. Also, SIL International publishes Ethnologue, so citing them as reference makes sense. \n\nOther sources, like Glottolog, might have a different count because they use different criteria. Glottolog might list around 7,000 as well, but exact numbers vary. It's important to highlight that the count isn't exact because of differing definitions and ongoing research. \n\nIn conclusion, the approximate number is 7,000, with Ethnologue being a key source, considerations of endangerment, and the challenges in counting due to dialect vs. language distinctions. I should make sure the answer is clear, acknowledges the variability, and provides key points succinctly.

Answer: The exact number of languages in the world is challenging to determine due to differences in definitions (e.g., distinguishing languages from dialects) and ongoing documentation efforts. However, widely cited estimates suggest there are approximately **7,000 languages** globally.
Model: DeepSeek-R1
Usage: 
  Prompt tokens: 11
  Total tokens: 897
  Completion tokens: 886

Parametreler

Genel olarak, akıl yürütme modelleri sohbet tamamlama modellerinde bulabileceğiniz aşağıdaki parametreleri desteklemez:

  • Sıcaklık
  • Mevcudiyet cezası
  • Tekrarlama cezası
  • Parametre top_p

İlgili içerik