Megosztás a következőn keresztül:


A ai_generate_text függvény

A következőkre vonatkozik:jelölje be az igennel jelölt jelölőnégyzetet Databricks SQL

Fontos

Ez a funkció a nyilvános előzetes verzióban érhető el.

Figyelmeztetés

Az AI-függvény ai_generate_text() elavult. A Databricks a ai_query használatát javasolja külső modellekkel.

Egy kijelölt nagy nyelvi modell (LLM) által létrehozott szöveget ad vissza a parancssorban.

Követelmények

  • Ez a függvény csak a Databricks SQL Pro és a Kiszolgáló nélküli verzióban érhető el.
  • Ez a függvény elavult, használata nem javasolt. A Databricks ai_query külső modellek használatát javasolja.

Szintaxis

ai_generate_text(prompt, modelName[, param1, value1] [...])

Argumentumok

  • prompt: Sztringkifejezés, a kijelölt LLM-nek átadott szöveges üzenet.
  • modelName: Csak sztring literálok támogatottak, mint például a 'openai/gpt-3.5-turbo' és 'azure_openai/gpt-35-turbo'.
  • paramN és valueN: kulcs-érték párok a kijelölt LLM hitelesítéséhez és konfigurálásához. A kulcsoknak karaktersorozatoknak kell lenniük, és különbséget tesznek a kis- és nagybetűk között. Az értékek típusai a következő kulcsoktól függenek:
    • A modell 'openai/gpt-3.5-turbo' az Open AI-ből származó csevegés-befejezési API-t használja. A következő paramétereket támogatja:
      • 'apiKey':Szükséges. Az OpenAI API-kulcs a modellvégpont eléréséhez. A megadott érték nem lehet explicit állandó sztring. Az ajánlott érték magában foglalja a secret(scope, key) függvényt és SELECT ... a skaláris részqueryt.
      • 'temperature': A használandó mintavételi hőmérséklet. Értéke egy számérték a 0 és 2 között. Az alapértelmezett érték 1.0.
      • stop: Karakterláncok leállítása. Értéke egy STRING literál vagy legfeljebb 4 karakterlánc literálból álló ARRAY<STRING>. Az alapértelmezett érték null.
    • A modell 'azure_openai/gpt-35-turbo' az Azure OpenAI szolgáltatásból származó csevegés-befejezési API-t használja. Elfogadja a fenti 'openai/gpt-3.5-turbo' modell összes paraméterét, valamint minden további paramétert a végpont URL-címének létrehozásához. A Databricks csak az API-kulcsok hitelesítését támogatja.
      • 'resourceName':Szükséges. Értéke egy karakterlánc állandó, amely megadja az erőforrás nevét.
      • 'deploymentName':Szükséges. Értéke egy karakterlánc, amely a telepítés nevét adja meg.
      • 'apiVersion':Szükséges. Értéke egy sztringkonstans, amely megadja a használni kívánt API-verziót.

Visszaküldések

A kijelölt LLM-ből újragenerált szöveget jelképező sztringkifejezés.

Példák

A ai_generate_text() függvény használati esetét lásd: .


> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
    'apiKey', secret('ml', 'key'),
    'temperature', 0.1);

  Hello! How can I assist you today?

> SELECT ai_generate_text('Hello',
    'azure_openai/gpt-35-turbo',
    'apiKey', secret('ml', 'key'),
    'resouceName', 'resource',
    'deploymentName', 'deploy',
    'apiVersion', '2023-03-15-preview',
    'temperature', 0.1);

  Hello! How can I assist you today?

> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
    'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
    'temperature', 0.1);

  Hello! How can I assist you today?

> CREATE FUNCTION summarize(text STRING)
  RETURNS STRING
  RETURN AI_GENERATE_TEXT(
    CONCAT('Summarize the following text: ',
      text),
    'openai/gpt-3.5-turbo',
    'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
    'temperature', 0.1
  );

  SELECT summarize('This is the text to be summarized.')

  This is the summarization.

> SELECT ai_generate_text('Hello',
    'openai/gpt-3.5-turbo',
    'apiKey', 'sg-xxxxxxxxxxxxxxxxxxxxxx',
    'temperature', 0.1);

 Error: DATATYPE_MISMATCH.INVALID_SECRET
 The parameter value of the "apiKey" argument to the ai_generate_text function can not be a constant 'sg-xxxxxxxxxxxxxxxxxxxxxx'. Recommended usages include `secret(scope, key)` function or a `SELECT ...` subquery.