Kavramlar: Azure Databricks'te üretken yapay zeka

GenAI uygulaması, yeni çıkışlar oluşturmak, karmaşık görevleri otomatikleştirmek veya kullanıcı girişine göre akıllı etkileşimler yapmak için üretken yapay zeka modellerini (büyük dil modelleri, görüntü oluşturma modelleri ve metin okuma modelleri gibi) kullanan bir uygulamadır.

GenAI uygulaması, LLM'lere veya diğer GenAI modellerine yapılan basit çağrılar veya karmaşık yapay zeka aracıları tarafından desteklenebilir. Karmaşıklık düzeyleri hakkında daha fazla bilgi edinin.

GenAI uygulamalarının aracıları, araçları, değerlendirmesi, modelleri ve diğer yönleri özel verilerinizle özelleştirilebilir. Bu veri odaklı özelleştirme, veri zekasına yol açarak, konserve yapay zeka modelleri tarafından sunulan genel zekanın ötesine geçmenizi sağlar.

GenAI uygulamaları

Kullanıcıya yönelik bir GenAI uygulaması aşağıdakiler gibi birçok form alabilir:

GenAI uygulamalarıyla başarılı olmak için genellikle iki beceri kümesi gerekir: uygulama geliştirme ve yapay zeka değerlendirmesi. GenAI uygulama geliştirme, uygulama türüne bağlı yazılım becerileri gerektiren yapay zeka dışı uygulamalar geliştirmeye çok benzer. Ancak, GenAI uygulamaları için değerlendirme, GenAI'den gelen karmaşıklığı ve açık uçlu yanıtları işlemek için özel araçlar ve teknikler gerektirir.

Azure Databricks'te sektöre özgü GenAI uygulamaları oluşturma hakkında bilgi edinmek için bkz:

GenAI değerlendirmesi

GenAI modelleri, aracıları ve uygulamaları genellikle karmaşık, açık uçlu davranışlara sahiptir. Kullanıcıların herhangi bir sorguyu girmesine izin verilebiliyor. Yapay zeka aracısının yürütme sırasında metin, görüntü ve daha fazlasını toplamasına izin verilebiliyor. Çıkış rastgele metin, resim veya başka bir medya olabilir ve birçok "iyi" yanıt olabilir.

Bu komplikasyonlar GenAI'nin değerlendirilmesini zorlaştırıyor. Uygun değerlendirme şunları gerektirir:

  • AI kullanarak yapay zekayı değerlendirme otomasyonu
  • Uzmanlar ve kullanıcılardan, temel gerçeği toplamak ve otomatik değerlendirmeyi ayarlamak için insan geri bildirimi
  • Davranışı anlamak ve hatalarını ayıklamak için karmaşık aracılara derinlemesine bakış

Azure Databricks tarafından yönetilen MLflow ve ilgili araçlar, GenAI değerlendirmesi için temelleri sağlar:

Ajanslar

Aracı veya aracı sistemi, hedeflere ulaşmak için bir ortamda otonom olarak algılayan, karar verebilen ve harekete geçebilen yapay zeka temelli bir sistemdir. Bağımsız bir GenAI modeli yalnızca tetiklendiğinde bir çıktı üretirken, bir aracı sistemi belli bir dereceye kadar otonomiye sahiptir. Modern yapay zeka aracıları, bir sistemin "beyni" olarak bir GenAI modeli kullanır:

  1. Diğer bir aracıdan kullanıcı isteklerini veya iletilerini alır.
  2. Devam etme nedenleri: hangi verilerin getirildiği, hangi mantığın uygulanacağı, hangi araçların çağrılacağı veya kullanıcıdan daha fazla giriş istenip istenmeyeceği.
  3. Bir planı yürütür ve büyük olasılıkla alt aracılara birden çok araç veya temsilci çağırır.
  4. Bir yanıt döndürür veya kullanıcıdan ek açıklama ister.

Aracı sistemleri, genel zeka (GenAI modelinin önceden eğitilmiş özellikleri) ve veri zekası (işletmenize özgü özel bilgi ve API'ler) arasında köprü kurarak, gelişmiş müşteri hizmetleri akışları, veri açısından zengin analiz botları ve karmaşık operasyonel görevler için çok aracılı düzenleme gibi yüksek etkili kurumsal kullanım örneklerini etkinleştirir.

Basit GenAI modellerinden karmaşık ajanlara kadar bir süreklilik vardır. Daha fazla bilgi edinmek için bkz. Ajan sistemi tasarım desenleri.

Azure Databricks, aracı oluşturmak için tam destekliden tamamen özele kadar çeşitli seçenekler sunar:

  • AI Playground , araç çağırma aracılarının prototiplerini oluşturmak için oluşturulan aracı kodunu dışarı aktarabileceğiniz bir kullanıcı arabirimi sağlar.
  • Özel aracılar , özel kod veya üçüncü taraf aracı yazma kitaplıklarını kullanarak aracılar oluşturmanıza ve dağıtmanıza olanak tanır.

Araçları

Yapay zeka aracıları bilgi toplamak veya eylemler gerçekleştirmek için araçları çağırabilir. Araçlar, bir LLM'nin iyi tanımlanmış bir görevi gerçekleştirmek için çağırabileceği tek etkileşimli işlevlerdir. Yapay zeka modeli genellikle her araç çağrısı için parametreler oluşturur ve araç basit bir giriş-çıkış etkileşimi sağlar.

Yaygın araç kategorileri şunlardır:

  • verileri alan veya analiz eden araçlar
    • Anlamsal alma: İlgili metni veya yapılandırılmamış diğer verileri bulmak için vektör dizinini sorgular.
    • Yapılandırılmış bilgi alımı: Yapılandırılmış bilgileri almak için SQL sorgularını yürütün veya API'leri kullanın.
    • Web arama aracı: İnternet'de veya bir iç web kuruluşunda arama.
    • Klasik ML modelleri: Sınıflandırma, regresyon veya diğer tahminleri gerçekleştirmek için makine öğrenmesi modellerini çağırabilirsiniz.
    • GenAI modelleri: Kod veya görüntüler gibi özel çıkışlar oluşturun.
  • Dış sistemin durumunu değiştiren araçlar
    • API çağrısı: CRM uç noktalarını, iç hizmetleri veya diğer üçüncü taraf tümleştirmelerini çağır.
    • E-posta veya mesajlaşma uygulaması tümleştirmesi: İleti gönderin veya bildirim gönderin.
  • Mantık çalıştıran veya belirli bir görevi gerçekleştiren araçlar
    • Kod yürütme: Korumalı alanda kullanıcı tarafından sağlanan veya LLM tarafından oluşturulan kodu çalıştırın.

Araçlar aracı mantıkta yerleşik olarak bulunabilir veya MCP gibi standartlaştırılmış arabirimler kullanılarak erişilebilir.

Araçlar ve etmenler:

  • Araçlar, iyi tanımlanmış tek bir işlem gerçekleştirir. Aracılar daha fazla açık uçlu görev gerçekleştirebilir.
  • Araçlar genellikle durum bilgisizdir ve her çağrının ötesinde sürekli bağlamı korumaz. Ajanlar görevleri yineleyerek çözdükçe durumu korurlar.

Hata işleme ve araç güvenliği:

Her araç çağrısı API çağrısı gibi bir dış işlem olduğundan sistem hataları düzgün bir şekilde işlemelidir. Zaman aşımları, hatalı biçimlendirilmiş yanıtlar veya geçersiz girişler, aracının kendisinin tamamen başarısız olmasına neden olmamalıdır. Üretimde izin verilen araç çağrılarının sayısını sınırlayın, araç çağrıları başarısız olursa geri dönüş yanıtı alın ve aracı sisteminin aynı başarısız eylemi tekrar tekrar denemediğinden emin olmak için korumalar uygulayın.

Databricks'teki yapay zeka araçları hakkında daha fazla bilgi edinin:

GenAI modelleri ve LLM'leri

Büyük Dil Modelleri (LLM'ler), insan dilini anlayabilen, oluşturabilen ve mantık edinebilen büyük metin veri kümeleri üzerinde eğitilen yapay zeka modelleridir. LLM'ler sohbet botları, kod yardımcıları ve içerik oluşturma araçları gibi uygulamaları giriş istemlerine göre bağlamsal olarak ilgili metinler tahmin ederek ve üreterek güçlendiriyor.

Daha genel olarak, GenAI modelleri veya temel modelleri, metnin ötesindeki modlar hakkında bilgi edinmek için çok büyük metinler, görüntü, video, ses veya diğer veriler üzerinde eğitilir. Çok modalı modeller, görüntüler, ses ve diğer medyalarla insan dilini bağlamayı öğrenir. LLM'ler bir GenAI veya temel model türüdür, ancak bu terimler genellikle gevşek ve birbirinin yerine kullanılır.

GenAI modelleri, GenAI aracılarının ve uygulamalarının arkasındaki zekayı sağlar. Basit uygulamalar genellikle istem mühendisliğiyle özelleştirilmiş tek bir model kullanılarak oluşturulur.

Azure Databricks'te GenAI modellerini kullanma hakkında bilgi edinin:

Komut mühendisliği

GenAI modelleri genellikle modele kullanıcı girişinin nasıl işleneceğini anlatan istemler veya yönergeler alır. İstemler ayrıntılı adımlar, uzman bilgisi, veriler ve diğer bilgilerle yoğun bir şekilde özelleştirilebilir.

Azure Databricks, istem mühendisliği yapmak için esnek yollar sağlar. Örneğin:

  • Bilgi Yardımcısı verilerinize ve geri bildirimlerinize göre talep mühendisliğini otomatikleştirir.

Modellerde ince ayar

GenAI modelleri, özel verilerinizi kullanarak belirli bir etki alanı veya uygulama için modeli özelleştiren ince ayarlamalar aracılığıyla da özelleştirilebilir.

Azure Databricks, modellerde ince ayar yapmak için esnek yollar sağlar. Örneğin:

  • Bilgi Yardımcısı , veri odaklı özelleştirmeyi otomatikleştirerek arka planda ince ayar yapma potansiyeli sunar.
  • AI Runtime , tamamen özelleştirilebilir ince ayarlamalar için işlem altyapısı sağlar. Örneklere bakın.

GenAI platformu nedir?

GenAI, birleştirilmiş bir veri + yapay zeka platformu gerektirir. Hem geliştiriciler hem de yöneticiler için, GenAI'nin temel bileşenleri basit, birleşik bir platformda bağlanıp yönetilmelidir.

Önemli bileşenler şunlardır:

  • Modeller, aracılar ve uygulamalar gibi yapay zeka varlıkları
  • Dosyalar, tablolar, işlem hatları, vektör dizinleri ve özellik depoları gibi veri varlıkları
  • Modeller ve aracılar için uç noktalar gibi yapay zeka dağıtımları
  • Yapay zeka ve veri varlıkları oluşturma ve dağıtma araçları

Temel idare özellikleri şunlardır:

Ayrıca bkz. Azure Databricks üretken yapay zeka özellikleri ve Databricks mimarisi.

Genel zeka ve veri zekası karşılaştırması

Genel zeka ile veri zekasını karşılaştıran diyagram.

  • Genel zeka , LLM'nin çeşitli metinler üzerinde kapsamlı bir ön eğitimden doğası gereği ne bildiğini ifade eder. Bu, dil akıcılığı ve genel mantık için kullanışlıdır.
  • Veri zekası , kuruluşunuzun etki alanına özgü verileri ve API'lerini ifade eder. Bu, benzersiz iş ortamınızı yansıtan müşteri kayıtlarını, ürün bilgilerini, bilgi bankalarını veya belgeleri içerebilir.

Aracı sistemleri bu iki bilgi kaynağını harmanlar: LlM'nin geniş, genel bilgileriyle başlar ve ayrıntılı soruları yanıtlamak veya özel eylemler gerçekleştirmek için gerçek zamanlı veya etki alanına özgü veriler getirir. Azure Databricks ile GenAI uygulamalarınıza her düzeyde veri zekası ekleyebilirsiniz:

GenAI ve ML ile derin öğrenme karşılaştırması

Üretken yapay zeka (GenAI), makine öğrenmesi (ML) ve derin öğrenme (DL) arasındaki sınırlar belirsiz olabilir. Bu kılavuz GenAI'ye odaklanır, ancak aşağıdaki Databricks platformu özellikleri ML, derin öğrenme ve GenAI'yi destekler:

  • MLflow denemesi izleme , hem klasik ML hem de GenAI denemelerini ve çalıştırmalarını izlemek için kullanılabilir.
  • Databricks Özellik Deposu , hem klasik ML hem de GenAI için yapılandırılmış verileri yönetmek ve sunmak için kullanılabilir.

Daha fazla bilgi edinin

  • Last updated on