Aracılığıyla paylaş

Azure OpenAI Yardımcıları API'si (Önizleme)

  • Makale

Azure OpenAI Hizmeti'nin yeni bir özelliği olan yardımcılar artık genel önizlemede kullanıma sunuldu. Yardımcılar API'si, geliştiricilerin verilerde gezinebilen, çözümler önerebilen ve görevleri otomatikleştirebilen gelişmiş copilot benzeri deneyimlere sahip uygulamalar oluşturmasını kolaylaştırır.

  • Yardımcılar, kişiliğini ve özelliklerini ayarlamak için belirli yönergelerle Azure OpenAI modellerini çağırabilir.
  • Yardımcılar birden çok araçla paralel olarak erişebilir. Bunlar hem kod yorumlayıcı hem de dosya arama gibi Azure OpenAI tarafından barındırılan araçlar veya işlev çağrısı aracılığıyla oluşturduğunuz, barındırdığınız ve erişebileceğiniz araçlar olabilir.
  • Yardımcılar kalıcı İş Parçacıklarına erişebilir. İş parçacıkları, ileti geçmişini depolayarak ve konuşma modelin bağlam uzunluğu için fazla uzun olduğunda keserek yapay zeka uygulaması geliştirmeyi basitleştirir. Bir kez bir İş Parçacığı oluşturur ve kullanıcılarınız yanıtlarken İletiler'i buna eklemeniz yeterlidir.
  • Yardımcılar dosyalara çeşitli biçimlerde erişebilir. Oluşturmalarının bir parçası olarak veya Yardımcılar ile kullanıcılar arasındaki İş Parçacıklarının bir parçası olarak. Yardımcılar, araçları kullanırken dosyalar (resimler veya elektronik tablolar gibi) oluşturabilir ve oluşturdukları İletilerde başvurdıkları dosyaları alıntılayabilir.

Genel bakış

Daha önce, özel yapay zeka yardımcıları oluşturmak için deneyimli geliştiriciler için bile ağır kaldırma gerekiyordu. Sohbet tamamlama API'si basit ve güçlü olsa da doğal olarak durum bilgisi yoktur. Bu da geliştiricilerin konuşma durumunu ve sohbet yazışmalarını, araç tümleştirmelerini, belgeleri ve dizinleri almalarını ve kodu el ile yürütmeleri gerektiği anlamına gelir.

Yardımcılar API'si, sohbet tamamlama API'sinin durum bilgisi olan gelişimi olarak bu zorluklar için bir çözüm sağlar. Yardımcılar API'si, otomatik olarak yönetilen kalıcı iş parçacıklarını destekler. Bu, geliştirici olarak artık konuşma durumu yönetim sistemleri geliştirmeniz ve modelin bağlam penceresi kısıtlamalarına geçici bir çözüm bulmak zorunda olmadığınız anlamına gelir. Yardımcılar API'si, iş parçacığını seçtiğiniz modelin maksimum bağlam penceresinin altında tutmak için iyileştirmeleri otomatik olarak işler. Bir İş Parçacığı oluşturduktan sonra, kullanıcılar yanıt verdikçe buna yeni iletiler eklemeniz yeterlidir. Yardımcılar gerekirse birden çok araçla paralel olarak da erişebilir. Bu araçlar şunları içerir:

İpucu

Kod yorumlayıcı veya dosya arama araçlarını kullanmadığınız sürece Yardımcıları kullanmak için ek fiyatlandırma veya kota yoktur.

Yardımcılar API'si, OpenAI'nin GPT ürününü destekleyen özelliklerin aynısını kullanır. Yapay zeka destekli ürün önericisi, satış analisti uygulaması, kodlama yardımcısı, çalışan soru-cevap sohbet botu ve daha birçok olası kullanım örneği vardır. Azure OpenAI Studio, AI Studio'da kod içermeyen Yardımcılar oyun alanında derlemeye başlayın veya API ile oluşturmaya başlayın.

Önemli

dosya girişi ve Yardımcı İş Parçacıkları işlevleriyle İşlev çağrısı, Kod Yorumlayıcı veya Dosya Arama kullanarak güvenilmeyen verilerin alınması Yardımcınızın veya Yardımcı'yı kullanan uygulamanın güvenliğini tehlikeye atabilir. Risk azaltma yaklaşımları hakkında buradan bilgi edinin.

Yardımcılar oyun alanı

Hızlı başlangıç kılavuzumuzda Asistanlar oyun alanı ile ilgili bir kılavuz sunuyoruz. Bu, yardımcıların özelliklerini test etmek için kod içermeyen bir ortam sağlar.

Yardımcılar bileşenleri

Yardımcının bileşenlerini gösteren diyagram.

Bileşen Açıklama
Asistan Araçlarla birlikte Azure OpenAI modellerini kullanan özel yapay zeka.
İplik Bir Yardımcı ile kullanıcı arasındaki konuşma oturumu. İş parçacıkları İletileri depolar ve içeriği bir modelin bağlamıyla sığdırmak için kesmeyi otomatik olarak işler.
İleti Bir Yardımcı veya kullanıcı tarafından oluşturulan ileti. İletiler metin, resim ve diğer dosyaları içerebilir. İletiler, İş Parçacığında bir liste olarak depolanır.
Çalıştır İş Parçacığının içeriğine göre çalışmaya başlamak için Bir Yardımcı'nın etkinleştirilmesi. Yardımcı, modelleri ve araçları çağırarak görevleri gerçekleştirmek için yapılandırmasını ve İş Parçacığının İletilerini kullanır. Bir Çalıştırmanın parçası olarak, Yardımcı İletileri İş Parçacığına ekler.
Çalıştırma Adımı Yardımcı'nın Bir Çalıştırmanın parçası olarak gerçekleştirilir adımların ayrıntılı listesi. Bir Yardımcı, çalıştırılırken araçları çağırabilir veya İletiler oluşturabilir. Çalıştırma Adımlarını incelemek, Yardımcı'nın nihai sonuçlarına nasıl varmakta olduğunu anlamanıza olanak tanır.

Yardımcılar veri erişimi

Şu anda Yardımcılar için oluşturulan yardımcıların, iş parçacıklarının, iletilerin ve dosyaların kapsamı Azure OpenAI kaynak düzeyindedir. Bu nedenle, Azure OpenAI kaynağına veya API anahtarı erişimine erişimi olan herkes yardımcıları, iş parçacıklarını, iletileri ve dosyaları okuyabilir/yazabiliyor.

Aşağıdaki veri erişim denetimlerini kesinlikle öneririz:

  • Yetkilendirmeyi uygulayın. Yardımcılar, iş parçacıkları, iletiler ve dosyalar üzerinde okuma veya yazma işlemleri gerçekleştirmeden önce, son kullanıcının bunu yapma yetkisine sahip olduğundan emin olun.
  • Azure OpenAI kaynağı ve API anahtarı erişimini kısıtlayın. Yardımcıların kullanıldığı ve ilişkili API anahtarlarının bulunduğu Azure OpenAI kaynaklarına kimlerin erişimi olduğunu dikkatle göz önünde bulundurun.
  • Azure OpenAI kaynağına erişimi olan hesapları/bireyleri düzenli olarak kontrol edin. API anahtarları ve kaynak düzeyi erişimi, iletileri ve dosyaları okuma ve değiştirme dahil olmak üzere çok çeşitli işlemler sağlar.
  • Tanılama ayarlarını etkinleştirerek Azure OpenAI kaynağının etkinlik günlüğünün belirli yönlerinin uzun süreli izlenmesine olanak tanıyın.

Parametreler

Yardımcılar API'sinin, Yardımcıların çıkışını özelleştirmenize olanak sağlayan çeşitli parametreler için desteği vardır. parametresi, tool_choice Yardımcısı'nı belirtilen bir aracı kullanmaya zorlamanıza olanak tanır. İş Parçacıklarında assistant özel konuşma geçmişleri oluşturmak için rolüne sahip iletiler de oluşturabilirsiniz. temperature, top_presponse_format yanıtlarını daha fazla ayarlamanıza olanak sağlar. Daha fazla bilgi için başvuru belgelerine bakın.

Bağlam penceresi yönetimi

Yardımcılar, modelin maksimum bağlam uzunluğu içinde kaldığından emin olmak için metni otomatik olarak kesiyor. Çalıştırmanın kullanmak istediğiniz en fazla belirteci ve/veya çalıştırmaya eklemek istediğiniz en fazla son ileti sayısını belirterek bu davranışı özelleştirebilirsiniz.

Maksimum tamamlama ve maksimum istem belirteçleri

Tek bir Çalıştırmada belirteç kullanımını denetlemek için Çalıştır'ı ve max_completion_tokens ne zaman oluşturacağınız ayarlayınmax_prompt_tokens. Bu sınırlar, Çalıştırma yaşam döngüsü boyunca tüm tamamlamalarda kullanılan toplam belirteç sayısı için geçerlidir.

Örneğin, 500 ve max_completion_tokens 1000 olarak ayarlanmış bir Çalıştırma başlatmamax_prompt_tokens, ilk tamamlamanın iş parçacığını 500 belirteç olarak keseceği ve çıkışı 1.000 belirteçte kaplayacak olduğu anlamına gelir. İlk tamamlamada yalnızca 200 istem belirteci ve 300 tamamlama belirteci kullanılırsa, ikinci tamamlamanın kullanılabilir sınırları 300 istem belirteci ve 700 tamamlama belirteci olur.

Tamamlanma sınırına max_completion_tokens ulaşırsa, Çalıştırma tamamlanmamış durumuyla sonlandırılır ve Run nesnesinin incomplete_details alanında ayrıntılar sağlanır.

Dosya Arama aracını kullanırken, öğesini en az 20.000 olarak ayarlamanızı max_prompt_tokens öneririz. Daha uzun konuşmalar veya Dosya Arama ile birden çok etkileşim için bu sınırı 50.000'e çıkarmayı veya ideal olarak en yüksek kaliteli sonuçları elde etmek için sınırları tamamen kaldırmayı max_prompt_tokens göz önünde bulundurun.

Kesme stratejisi

İş parçacığınızın modelin bağlam penceresinde nasıl işleneceğini denetlemek için bir kesme stratejisi de belirtebilirsiniz. Türünde auto bir kesme stratejisi kullanıldığında OpenAI'nin varsayılan kesme stratejisi kullanılır. Türdeki last_messages bir kesme stratejisi kullanmak, bağlam penceresine eklenecek en son iletilerin sayısını belirtmenize olanak sağlar.

Ayrıca bkz.