Kavramlar: Azure Databricks üzerinde yapay zeka

Yapay zeka uygulaması, yeni çıkışlar oluşturmak, karmaşık görevleri otomatikleştirmek veya kullanıcı girişine göre akıllı etkileşimler yapmak için yapay zeka modellerini (büyük dil modelleri, görüntü oluşturma modelleri ve metin okuma modelleri gibi) kullanan bir uygulamadır.

Yapay zeka uygulaması, LLM'lere veya diğer yapay zeka modellerine yapılan basit çağrılar veya karmaşık aracılar tarafından desteklenebilir. Karmaşıklık düzeyleri hakkında daha fazla bilgi edinin.

Aracılar, araçlar, değerlendirme, modeller ve yapay zeka uygulamalarının diğer yönleri özel verilerinizle özelleştirilebilir. Bu veri odaklı özelleştirme, veri zekasına yol açarak, konserve yapay zeka modelleri tarafından sunulan genel zekanın ötesine geçmenizi sağlar.

Yapay zeka uygulamaları

Kullanıcıya yönelik bir yapay zeka uygulaması aşağıdakiler gibi birçok form alabilir:

• Databricks Uygulamaları kullanılarak dağıtılan sohbet uygulaması gibi bir sohbet uygulaması
• Model Sunma'ya dağıtılan aracı gibi bir API uç noktası
• AI İşlevi gibi analistler için sql işlevi

Yapay zeka uygulamalarıyla başarılı olmak için genellikle iki beceri kümesi gerekir: uygulama geliştirme ve yapay zeka değerlendirmesi. Yapay zeka uygulaması geliştirme, yapay zeka dışı uygulamalar geliştirmeye ve uygulama türüne bağlı yazılım becerileri gerektirmeye çok benzer. Ancak yapay zeka uygulamaları için değerlendirme, yapay zekanın karmaşıklığını ve açık uçlu yanıtlarını işlemek için özel araçlar ve teknikler gerektirir.

Azure Databricks'da sektöre özgü yapay zeka uygulamaları oluşturma hakkında bilgi edinmek için bkz:

• Sektör için Databricks Çözümleri kullanım örnekleri, müşteriler ve diğer kaynaklar için
• Databricks Çözüm Hızlandırıcıları örneğin çalıştırabileceğiniz ve değiştirebileceğiniz kullanım örneği uygulamaları

Yapay zeka değerlendirmesi

Yapay zeka modelleri, aracıları ve uygulamaları genellikle karmaşık, açık uçlu davranışlara sahiptir. Kullanıcıların herhangi bir sorguyu girmesine izin verilebiliyor. Bir ajanın çalışma sırasında metin, görüntü ve daha fazlasını toplamasına izin verilebilir. Çıkış rastgele metin, resim veya başka bir medya olabilir ve birçok "iyi" yanıt olabilir.

Bu komplikasyonlar yapay zekanın değerlendirilmesini zorlaştırıyor. Uygun değerlendirme şunları gerektirir:

• AI kullanarak yapay zekayı değerlendirme otomasyonu
• Uzmanlar ve kullanıcılardan, temel gerçeği toplamak ve otomatik değerlendirmeyi ayarlamak için insan geri bildirimi
• Davranışı anlamak ve hatalarını ayıklamak için karmaşık aracılara derinlemesine bakış

Azure Databricks yönetilen MLflow ve ilgili araçlar yapay zeka değerlendirmesinin temellerini sağlar:

• Aracıları değerlendirme ve izleme - Değerlendirme, üretim izleme ve insan geri bildirimi hakkında bilgi edinin.
• Başlarken: GenAI için MLflow 3 - İzlemeyi, değerlendirmeyi ve insan geri bildirimi toplamayı deneyin.
• MLflow İzleme - GenAI gözlemlenebilirliği - Aracı davranışını kaydetmek ve analiz etmek için MLflow İzleme hakkında bilgi edinin.

Ajanslar

Aracı veya aracı sistemi, hedeflere ulaşmak için bir ortamda otonom olarak algılayan, karar verebilen ve harekete geçebilen yapay zeka temelli bir sistemdir. Yalnızca bir istem verildiğinde çıktı üreten bağımsız bir yapay zekâ modelinin aksine, bir ajan sistem bir ölçüde eyleyiciliğe sahiptir. Modern ajanlar, bir sistemin "beyni" olarak bir yapay zekâ modeli kullanır:

1. Diğer bir aracıdan kullanıcı isteklerini veya iletilerini alır.
2. Devam etme nedenleri: hangi verilerin getirildiği, hangi mantığın uygulanacağı, hangi araçların çağrılacağı veya kullanıcıdan daha fazla giriş istenip istenmeyeceği.
3. Bir planı yürütür ve büyük olasılıkla alt aracılara birden çok araç veya temsilci çağırır.
4. Bir yanıt döndürür veya kullanıcıdan ek açıklama ister.

Aracı sistemleri, genel zeka (yapay zeka modelinin önceden eğitilmiş özellikleri) ve veri zekası (işletmenize özgü özel bilgi ve API'ler) arasında köprü kurarak gelişmiş müşteri hizmetleri akışları, veri açısından zengin analiz botları ve karmaşık operasyonel görevler için çok aracılı düzenleme gibi yüksek etkili kurumsal kullanım örneklerini etkinleştirir.

Basit yapay zeka modellerinden karmaşık aracılara uzanan bir yelpaze vardır. Daha fazla bilgi edinmek için bkz. Ajan sistemi tasarım desenleri.

Azure Databricks, aracı oluşturmak için tam destekliden tamamen özele kadar çeşitli seçenekler sunar:

• Bilgi Yardımcısı ve Yapay Zeka İşlevleri, yönlendirilmiş acente oluşturucuları sağlar.

• AI Playground , araç çağırma aracılarının prototiplerini oluşturmak için oluşturulan aracı kodunu dışarı aktarabileceğiniz bir kullanıcı arabirimi sağlar.
• Özel aracılar , özel kod veya üçüncü taraf aracı yazma kitaplıklarını kullanarak aracılar oluşturmanıza ve dağıtmanıza olanak tanır.

Araçları

Aracılar bilgi toplamak veya eylemler gerçekleştirmek için araçları çağırabilir. Araçlar, bir LLM'nin iyi tanımlanmış bir görevi gerçekleştirmek için çağırabileceği tek etkileşimli işlevlerdir. Yapay zeka modeli genellikle her araç çağrısı için parametreler oluşturur ve araç basit bir giriş-çıkış etkileşimi sağlar.

Yaygın araç kategorileri şunlardır:

• verileri alan veya analiz eden araçlar
  • Anlamsal alma: İlgili metni veya yapılandırılmamış diğer verileri bulmak için vektör dizinini sorgular.
  • Yapılandırılmış bilgi alımı: Yapılandırılmış bilgileri almak için SQL sorgularını yürütün veya API'leri kullanın.
  • Web arama aracı: İnternet'de veya bir iç web kuruluşunda arama.
  • Klasik ML modelleri: Sınıflandırma, regresyon veya diğer tahminleri gerçekleştirmek için makine öğrenmesi modellerini çağırabilirsiniz.
  • Yapay zeka modelleri: Kod veya görüntü gibi özel çıkışlar oluşturun.
• Dış sistemin durumunu değiştiren araçlar
  • API çağrısı: CRM uç noktalarını, iç hizmetleri veya diğer üçüncü taraf tümleştirmelerini çağır.
  • E-posta veya mesajlaşma uygulaması tümleştirmesi: İleti gönderin veya bildirim gönderin.
• Mantık çalıştıran veya belirli bir görevi gerçekleştiren araçlar
  • Kod yürütme: Korumalı alanda kullanıcı tarafından sağlanan veya LLM tarafından oluşturulan kodu çalıştırın.

Araçlar aracı mantıkta yerleşik olarak bulunabilir veya MCP gibi standartlaştırılmış arabirimler kullanılarak erişilebilir.

Araçlar ve etmenler:

• Araçlar, iyi tanımlanmış tek bir işlem gerçekleştirir. Aracılar daha fazla açık uçlu görev gerçekleştirebilir.
• Araçlar genellikle durum bilgisizdir ve her çağrının ötesinde sürekli bağlamı korumaz. Ajanlar görevleri yineleyerek çözdükçe durumu korurlar.

Hata işleme ve araç güvenliği:

Her araç çağrısı API çağrısı gibi bir dış işlem olduğundan sistem hataları düzgün bir şekilde işlemelidir. Zaman aşımları, hatalı biçimlendirilmiş yanıtlar veya geçersiz girişler, aracının kendisinin tamamen başarısız olmasına neden olmamalıdır. Üretimde izin verilen araç çağrılarının sayısını sınırlayın, araç çağrıları başarısız olursa geri dönüş yanıtı alın ve aracı sisteminin aynı başarısız eylemi tekrar tekrar denemediğinden emin olmak için korumalar uygulayın.

Databricks'teki yapay zeka araçları hakkında daha fazla bilgi edinin:

• MCP'ler ve ajan araçları - Araç yaklaşımları rehberi
• MCP'ler ve ajan araçları - Yönetilen, özel ve harici MCP sunucuları

Yapay zeka modelleri ve LLM'ler

Büyük Dil Modelleri (LLM'ler), insan dilini anlayabilen, oluşturabilen ve mantık edinebilen büyük metin veri kümeleri üzerinde eğitilen yapay zeka modelleridir. LLM'ler sohbet botları, kod yardımcıları ve içerik oluşturma araçları gibi uygulamaları giriş istemlerine göre bağlamsal olarak ilgili metinler tahmin ederek ve üreterek güçlendiriyor.

Daha genel olarak yapay zeka modelleri veya temel modeller, metnin ötesindeki modlar hakkında bilgi edinmek için çok büyük metinler, görüntü, video, ses veya diğer veriler üzerinde eğitilir. Çok modalı modeller, görüntüler, ses ve diğer medyalarla insan dilini bağlamayı öğrenir. LLM'ler bir yapay zeka veya temel model türüdür, ancak bu terimler genellikle gevşek ve birbirinin yerine kullanılır.

Yapay zeka modelleri, aracıların ve uygulamaların arkasındaki zekayı sağlar. Basit uygulamalar genellikle istem mühendisliğiyle özelleştirilmiş tek bir model kullanılarak oluşturulur.

Azure Databricks yapay zeka modellerini kullanma hakkında bilgi edinin:

• Başlayın: Kod kullanmadan LLM'leri sorgulayın ve prototip ajanlar oluşturun
• Databricks tarafından barındırılan temel modeller, Temel Model API'lerinde kullanılabilir
• Yapay zeka modellerini idare eden AI Gateway hakkında bilgi edinin

Komut mühendisliği

Yapay zeka modelleri genellikle modele kullanıcı girişinin nasıl işleneceğini söyleyen istemler veya yönergeler alır. İstemler ayrıntılı adımlar, uzman bilgisi, veriler ve diğer bilgilerle yoğun bir şekilde özelleştirilebilir.

Azure Databricks, istem mühendisliği yapmak için esnek yollar sağlar. Örneğin:

• Bilgi Yardımcısı verilerinize ve geri bildirimlerinize göre talep mühendisliğini otomatikleştirir.

• AI Playground , el ile, etkileşimli istem mühendisliği için bir kullanıcı arabirimi sağlar.
• MLflow İstemi İyileştirme ve DSPy , veri temelli istem iyileştirme yordamları sağlar.

Modellerde ince ayar

Yapay zeka modelleri, özel verilerinizi kullanarak belirli bir etki alanı veya uygulama için modeli özelleştiren ince ayarlamalar aracılığıyla da özelleştirilebilir.

Azure Databricks, modellerde ince ayar yapmak için esnek yollar sağlar. Örneğin:

• Bilgi Yardımcısı , veri odaklı özelleştirmeyi otomatikleştirerek arka planda ince ayar yapma potansiyeli sunar.
• AI Runtime , tamamen özelleştirilebilir ince ayarlamalar için işlem altyapısı sağlar. Örneklere bakın.

Yapay zeka platformu nedir?

Yapay zeka için birleştirilmiş veri + yapay zeka platformu gerekir. Hem geliştiriciler hem de yöneticiler için, yapay zekanın temel bileşenleri basit, birleşik bir platformda bağlanıp yönetilmelidir.

Önemli bileşenler şunlardır:

• Modeller, aracılar ve uygulamalar gibi yapay zeka varlıkları
• Dosyalar, tablolar, işlem hatları, vektör dizinleri ve özellik depoları gibi veri varlıkları
• Modeller ve aracılar için uç noktalar gibi yapay zeka dağıtımları
• Yapay zeka ve veri varlıkları oluşturma ve dağıtma araçları

Temel idare özellikleri şunlardır:

• Yapay zeka ve veri varlıklarının birleşik idaresi. Unity Kataloğu nedir? sayfasında daha fazla bilgi edinin.
• Yapay zeka modeli uç noktalarının birleşik idaresi. Unity AI Gateway ile yapay zeka idaresi hakkında daha fazla bilgi edinin.
• Birleşik güvenlik yaklaşımı. Daha fazla bilgi için bkz. Databricks AI Security.
• Yapay zeka ve veri araçlarının birleşik yönetimi. Yönetim'de daha fazla bilgi edinin.

Ayrıca bkz. Azure Databricks yapay zeka özellikleri ve Databricks mimarisi.

Genel zeka ve veri zekası karşılaştırması

• Genel zeka , LLM'nin çeşitli metinler üzerinde kapsamlı bir ön eğitimden doğası gereği ne bildiğini ifade eder. Bu, dil akıcılığı ve genel mantık için kullanışlıdır.
• Veri zekası , kuruluşunuzun etki alanına özgü verileri ve API'lerini ifade eder. Bu, benzersiz iş ortamınızı yansıtan müşteri kayıtlarını, ürün bilgilerini, bilgi bankalarını veya belgeleri içerebilir.

Aracı sistemleri bu iki bilgi kaynağını harmanlar: LlM'nin geniş, genel bilgileriyle başlar ve ayrıntılı soruları yanıtlamak veya özel eylemler gerçekleştirmek için gerçek zamanlı veya etki alanına özgü veriler getirir. Azure Databricks ile yapay zeka uygulamalarınıza her düzeyde veri zekası ekleyebilirsiniz:

• Vektör dizinleri ve Genie Aracıları gibi veri kaynakları

• Hem özel ajan tasarımları hem de Bilgi Yardımcısı ve Yapay Zeka işlevleri tarafından oluşturulan otomatik tasarımlar dahil olmak üzere ajanlar.

• Değerlendirme verileri ve ölçümleri
• Değerlendirme verilerine göre istem iyileştirmesi

• Model ince ayarı, hem özel ince ayarlama hem de Bilgi Asistanı ve Yapay Zeka işlevleri tarafından yapılan otomatik ayarlamayı içerir.

Yapay zeka ve ML ile derin öğrenme karşılaştırması

Yapay zeka, makine öğrenmesi (ML) ve derin öğrenme (DL) arasındaki sınırlar belirsiz olabilir. Bu kılavuz yapay zekaya odaklanır, ancak aşağıdaki Databricks platformu özellikleri ML, derin öğrenme ve yapay zekayı destekler:

• Model Sunma ML, derin öğrenme ve yapay zeka modellerini destekler. Bunu yapay zeka toplu çıkarımı ve özel model sunma kullanarak aracıları veya hassas ayarlanmış modelleri dağıtmak için kullanabilirsiniz.

• Machine Learning için AI Runtime ve GPU özellikli Databricks Runtime, ML, derin öğrenme ve yapay zeka modellerini eğitmek ve ince ayar yapmak için kullanılabilir.

• MLflow denemesi izleme , hem klasik ML hem de yapay zeka denemelerini ve çalıştırmalarını izlemek için kullanılabilir.
• Databricks Özellik Deposu , hem klasik ML hem de yapay zeka için yapılandırılmış verileri yönetmek ve sunmak için kullanılabilir.

Ek kaynaklar

• Yapay zeka uygulamaları oluşturmanın başlıca zorlukları - Yapay zekadaki önemli zorluklar ve Databricks kullanarak bunlara yönelik çözümler
• Aracı sistemi tasarım desenleri - Basit ve karmaşık aracılara ek olarak pratik öneriler
• Databricks'te Yapay Zeka - Databricks'te yapay zeka için kullanım örnekleri, müşteri referansları ve diğer kaynaklar