BastionGPT (anteprima)

BastionGPT è un assistente di intelligenza artificiale conforme a HIPAA creato per il settore sanitario da Bastion Intelligence. Generare testo con completamenti di chat di intelligenza artificiale, porre domande sui documenti caricati e trascrivere registrazioni audio con separazione voce. Il contenuto dei clienti non viene mai usato per eseguire il training dei modelli di intelligenza artificiale. È necessaria una chiave di sottoscrizione dell'API BastionGPT.

Questo connettore è disponibile nei prodotti e nelle aree seguenti:

Service Class Regioni
Copilot Studio Di alta qualità Tutte le aree di Power Automate , ad eccezione delle seguenti:
     - Governo degli Stati Uniti (GCC)
     - Us Government (GCC High)
     - China Cloud gestito da 21Vianet
     - Dipartimento della Difesa degli Stati Uniti (DoD)
App per la logica Standard Tutte le aree di App per la logica , ad eccezione delle seguenti:
     - Aree di Azure per enti pubblici
     - Aree di Azure Cina
     - Dipartimento della Difesa degli Stati Uniti (DoD)
Power Apps Di alta qualità Tutte le aree di Power Apps , ad eccezione dei seguenti:
     - Governo degli Stati Uniti (GCC)
     - Us Government (GCC High)
     - China Cloud gestito da 21Vianet
     - Dipartimento della Difesa degli Stati Uniti (DoD)
Power Automate Di alta qualità Tutte le aree di Power Automate , ad eccezione delle seguenti:
     - Governo degli Stati Uniti (GCC)
     - Us Government (GCC High)
     - China Cloud gestito da 21Vianet
     - Dipartimento della Difesa degli Stati Uniti (DoD)
Contatto
Nome Supporto di Bastion Intelligence
URL https://support.bastiongpt.com
Email support@bastiongpt.com
Metadati del connettore
Server di pubblicazione Bastion Intelligence
Sito web https://bastiongpt.com
Informativa sulla privacy https://bastionintelligence.com/privacy
Categorie IA; Produttività

BastionGPT

Publisher: Bastion Intelligence

BastionGPT è un assistente di intelligenza artificiale conforme a HIPAA creato per il settore sanitario da Bastion Intelligence (FortaTech Security, LLC). Questo connettore consente di generare testo con completamenti di chat di intelligenza artificiale, porre domande sui documenti caricati e trascrivere registrazioni audio con separazione voce, tutte dalle automazione e dagli agenti. Il contenuto dei clienti non viene mai usato per eseguire il training dei modelli di intelligenza artificiale.

Prerequisiti

  • Sottoscrizione dell'API BastionGPT. Richiederne uno all'indirizzo https://bastiongpt.com/api-signup. Le chiavi vengono in genere rilasciate lo stesso giorno lavorativo.
  • Chiave di sottoscrizione dell'API BastionGPT. Mantenerlo riservato e ruotarlo se si sospetta che sia stato esposto.

Recupero delle credenziali

Quando si crea una connessione, incollare la chiave di sottoscrizione dell'API BastionGPT nel campo Chiave API . Il connettore invia la chiave nell'intestazione della key richiesta a ogni chiamata. Non è necessaria alcuna configurazione aggiuntiva.

Operazioni supportate

Fai una domanda

Il modo più semplice per usare BastionGPT. Invia una singola domanda e restituisce la risposta come testo normale.

  • Domanda (obbligatorio): cosa si vuole porre o generare.
  • Istruzioni (facoltative): indicazioni che modellano la risposta, ad esempio il ruolo da adottare, il gruppo di destinatari o il formato di output. Se omesso, viene usato l'assistente sanitario BastionGPT predefinito.
  • ID documento (facoltativo): ID restituito da Carica un documento per chiedere informazioni su tale documento.
  • Max Tokens (required, default 1000) e Temperature (advanced, default 0).

La risposta è flat: risposta, motivo di fine, ID risposta e token di richiesta/completamento/totale. Trascinare Answer direttamente nel passaggio successivo.

Creare un completamento della chat

Invia una conversazione a più turni a BastionGPT e restituisce una risposta di testo generata dall'intelligenza artificiale. Usare questa opzione quando è necessario inviare turni precedenti o il controllo completo sulla matrice di messaggi; per una singola domanda, porre una domanda è più semplice.

  • Messaggi (obbligatorio): la conversazione, prima meno recente. Ogni messaggio ha un ruolo (system, usero assistant) e contenuto. Includere utenti e assistenti precedenti per mantenere il contesto. Un messaggio facoltativo system come primo elemento sostituisce l'assistente sanitario BastionGPT predefinito.
  • Numero massimo di token (obbligatorio, valore predefinito 1000): numero massimo di token da generare.
  • Temperatura (impostazione predefinita avanzata 0): da 0,0 a 1,0. I valori inferiori offrono un output più coerente.
  • ID documento (facoltativo): ID restituito da Carica un documento per porre domande su tale documento.

La risposta contiene Scelte (una matrice con un elemento il cui contenuto del messaggio contiene il testo generato), un ID risposta, un timestamp creato e conteggi dei token di utilizzo . Per leggere il testo generato in un'espressione, usare:

first(outputs('Create_a_chat_completion')?['body/choices'])?['message']?['content']

Caricare un documento

Carica un singolo documento (PDF, testo normale, HTML, CSV, Markdown, PNG o JPEG; massimo 10 MB) e restituisce un ID documento. Specificare il contenuto del file , ad esempio l'output del contenuto del file di un SharePoint o OneDrive l'azione Recupera contenuto file, e il nome file (ad esempio Nome file con estensione). I documenti vengono conservati per 30 giorni dopo il caricamento e possono essere referenziati da un numero qualsiasi di richieste di completamento della chat durante tale periodo. Un ID documento è di proprietà della chiave di sottoscrizione API che l'ha caricata.

Inviare audio per la trascrizione

Carica una registrazione audio (WAV, MP3, M4A, OGG, WEBM e altri formati comuni) per la trascrizione asincrona con la separazione degli altoparlanti. Specificare il contenuto del file e il nome file. Restituisce immediatamente un ID di trascrizione , oltre alla durata del file audio in secondi.

Ottenere una trascrizione

Recupera una trascrizione in base all'ID trascrizione. L'operazione ha sempre esito positivo con un campo Stato :

  • processing: la trascrizione non è ancora pronta. I segmenti sono vuoti e Text è vuoto. Attendere da 10 a 20 secondi e chiamare di nuovo l'operazione. Un modello tipico è un ciclo Do until che si ripete fino a quando Lo stato non completedè uguale a , con un ritardo di 15 secondi all'interno del ciclo.
  • completed: i segmenti contiene la trascrizione separata dall'altoparlante (ogni con timestamp in HH:MM:SS, Speaker e Text) e Text contiene la trascrizione completa con una riga per segmento, pronta per l'inserimento in un messaggio di posta elettronica, un documento o un record.

Se la trascrizione non è riuscita o l'ID di trascrizione non è presente, l'operazione restituisce un errore con il messaggio del servizio.

Getting Started

  1. Richiedere una sottoscrizione API all'indirizzo https://bastiongpt.com/api-signup e ricevere la chiave.
  2. Aggiungere un'azione BastionGPT all'automazione o all'agente e creare una connessione con la chiave API.
  3. Per un primo test, usare Porre una domanda con la domanda Summarize the purpose of a SOAP note in two sentences. e il numero massimo di 200token , quindi usare Answer in un passaggio seguente.
  4. Per lavorare con un file, usare Prima di tutto Carica un documento , quindi passare l'ID documento restituito per porre una domanda o Creare un completamento della chat.
  5. Per trascrivere audio, usare Invia audio per la trascrizione, quindi eseguire il polling Ottenere una trascrizione fino a quando lo stato non è completed.

Problemi noti e limitazioni

  • È necessario il numero massimo di token. Le richieste senza vengono rifiutate dal servizio.
  • Un documento per ogni richiesta di completamento della chat. I documenti scadono 30 giorni dopo il caricamento; caricare di nuovo per ottenere un nuovo ID.
  • Limiti delle dimensioni di completamento della chat. Corpo della richiesta 10 MB; circa 1,6 milioni di caratteri per messaggio e circa 2,5 milioni di caratteri del contenuto totale dei messaggi. Le richieste molto grandi vengono gestite automaticamente da un modello di contesto di grandi dimensioni.
  • Ottenere report processing di trascrizione per ID trascrizioni sconosciuti , nonché per le trascrizioni in corso. Se lo stato rimane processing ben oltre la durata dell'audio, verificare l'ID di trascrizione. Assegna a Do fino a quando non viene eseguito un limite ragionevole.
  • Le risposte di streaming non vengono esposte da questo connettore. Usare l'operazione di completamento della chat non in streaming.
  • I limiti di frequenza dipendono dal livello di sottoscrizione. Nel codice di stato 429 attendere e riprovare con backoff esponenziale.
  • Gli input di file richiedono un tipo di contenuto. Il contenuto dei file da SharePoint, OneDrive, allegati Outlook o moduli porta automaticamente il tipo di contenuto. Se si compila il contenuto del file da base64, usare dataUriToBinary(concat('data:<content type>;base64,', <base64>)) in modo che il servizio possa riconoscere il tipo di file.
  • Informazioni sull'integrità protette. BastionGPT è progettato per elaborare PHI in base a un contratto di business associate con Bastion Intelligence. Esaminare i criteri dell'organizzazione prima di inviare PHI tramite automazione e valutare la possibilità di abilitare input e output sicuri sulle azioni in modo che PHI non venga scritto nella cronologia di esecuzione.

Domande frequenti

Quale modello di intelligenza artificiale risponde alla richiesta?

BastionGPT seleziona automaticamente un modello di intelligenza artificiale di livello aziendale appropriato per ogni richiesta. Il formato della risposta è lo stesso indipendentemente dal modello usato.

I miei dati sono usati per addestrare i modelli di intelligenza artificiale?

No. Il contenuto dei clienti non viene mai usato per eseguire il training dei modelli di intelligenza artificiale.

Dove posso ottenere assistenza?

Visitare https://support.bastiongpt.com o contattare support@bastiongpt.com.

Creazione di una connessione

Il connettore supporta i tipi di autenticazione seguenti:

Predefinita Parametri per la creazione della connessione. Tutte le aree geografiche Non condivisibile

Predefinito

Applicabile: tutte le aree

Parametri per la creazione della connessione.

Questa non è una connessione condivisibile. Se l'app power viene condivisa con un altro utente, verrà richiesto a un altro utente di creare una nuova connessione in modo esplicito.

Nome TIPO Descrizione Required
Chiave API securestring La chiave di sottoscrizione API. Richiederne uno al bastiongpt.com/api-signup True

Azioni

Caricare un documento

Carica un singolo documento e restituisce un ID documento che può essere fornito all'operazione di completamento della chat. I documenti vengono conservati per 30 giorni dopo il caricamento e possono essere referenziati da un numero qualsiasi di richieste di completamento della chat durante tale periodo. I tipi supportati sono PDF, testo normale, HTML, CSV, Markdown, PNG e JPEG, fino a 10 MB.

Creare un completamento della chat

Invia una conversazione a più turni a BastionGPT e restituisce una risposta di testo generata dall'intelligenza artificiale. Includi utente e assistente precedenti attiva i messaggi per mantenere il contesto, aggiungere un messaggio di sistema come primo elemento per impostare le istruzioni o fornire un ID documento per porre domande su un documento caricato in precedenza. Per una singola domanda, l'operazione porre una domanda è più semplice.

Fai una domanda

Invia una singola domanda a BastionGPT e restituisce la risposta generata dall'intelligenza artificiale come testo normale. Facoltativamente, aggiungere istruzioni che modellano la risposta o specificare un ID documento per chiedere informazioni su un documento caricato in precedenza. Usare questa operazione per la maggior parte degli scenari; usare l'operazione di completamento della chat quando è necessario inviare una conversazione a più turni.

Inviare audio per la trascrizione

Carica una registrazione audio per la trascrizione asincrona con separazione voce e restituisce immediatamente un ID di trascrizione. Usare l'ID trascrizione con l'operazione di trascrizione get per recuperare la trascrizione completata. Vengono accettati formati audio comuni, ad esempio WAV, MP3, M4A, OGG e WEBM.

Ottenere una trascrizione

Recupera una trascrizione in base al relativo ID di trascrizione. Mentre la trascrizione è ancora in corso, lo stato è l'elaborazione e i segmenti sono vuoti; attendere da 10 a 20 secondi e chiamare di nuovo l'operazione. Al termine dello stato, i segmenti contengono la trascrizione separata dall'altoparlante e il testo contiene la trascrizione completa.

Caricare un documento

Carica un singolo documento e restituisce un ID documento che può essere fornito all'operazione di completamento della chat. I documenti vengono conservati per 30 giorni dopo il caricamento e possono essere referenziati da un numero qualsiasi di richieste di completamento della chat durante tale periodo. I tipi supportati sono PDF, testo normale, HTML, CSV, Markdown, PNG e JPEG, fino a 10 MB.

Parametri

Nome Chiave Necessario Tipo Descrizione
File
file True file

Documento da caricare. I tipi supportati sono PDF, testo normale, HTML, CSV, Markdown, PNG e JPEG, fino a 10 MB.

Valori restituiti

Creare un completamento della chat

Invia una conversazione a più turni a BastionGPT e restituisce una risposta di testo generata dall'intelligenza artificiale. Includi utente e assistente precedenti attiva i messaggi per mantenere il contesto, aggiungere un messaggio di sistema come primo elemento per impostare le istruzioni o fornire un ID documento per porre domande su un documento caricato in precedenza. Per una singola domanda, l'operazione porre una domanda è più semplice.

Parametri

Nome Chiave Necessario Tipo Descrizione
Ruolo
role True string

Autore del messaggio. Usare il sistema per istruzioni, utente per l'input della persona e assistente per le risposte di intelligenza artificiale precedenti.

Contenuto
content True string

Contenuto di testo del messaggio.

Numero massimo di token
max_tokens True integer

Numero massimo di token da generare nella risposta. Deve essere maggiore o uguale a 1.

Temperatura
temperature float

Temperatura di campionamento da 0,0 a 1,0. I valori inferiori producono un output più coerente e valori più elevati producono un output più vario.

ID documento
document_id string

ID facoltativo di un documento caricato in precedenza con l'operazione di caricamento di un documento. Il documento viene allegato alla richiesta in modo che la risposta possa usare il relativo contenuto. Un documento per richiesta.

Valori restituiti

Fai una domanda

Invia una singola domanda a BastionGPT e restituisce la risposta generata dall'intelligenza artificiale come testo normale. Facoltativamente, aggiungere istruzioni che modellano la risposta o specificare un ID documento per chiedere informazioni su un documento caricato in precedenza. Usare questa operazione per la maggior parte degli scenari; usare l'operazione di completamento della chat quando è necessario inviare una conversazione a più turni.

Parametri

Nome Chiave Necessario Tipo Descrizione
Domanda
question True string

Domanda o richiesta da inviare a BastionGPT.

Istruzioni
instructions string

Istruzioni facoltative che modellano la risposta, ad esempio il ruolo da adottare, il gruppo di destinatari o il formato di output. Se omesso, viene usato l'assistente sanitario BastionGPT predefinito.

ID documento
document_id string

ID facoltativo di un documento caricato in precedenza con l'operazione di caricamento di un documento. Il documento è allegato alla richiesta in modo che la risposta possa usare il relativo contenuto.

Numero massimo di token
max_tokens True integer

Numero massimo di token da generare nella risposta. Deve essere maggiore o uguale a 1.

Temperatura
temperature float

Temperatura di campionamento da 0,0 a 1,0. I valori inferiori producono un output più coerente e valori più elevati producono un output più vario.

Valori restituiti

Inviare audio per la trascrizione

Carica una registrazione audio per la trascrizione asincrona con separazione voce e restituisce immediatamente un ID di trascrizione. Usare l'ID trascrizione con l'operazione di trascrizione get per recuperare la trascrizione completata. Vengono accettati formati audio comuni, ad esempio WAV, MP3, M4A, OGG e WEBM.

Parametri

Nome Chiave Necessario Tipo Descrizione
File audio
file True file

Registrazione audio da trascrivere. Sono accettati formati comuni, ad esempio WAV, MP3, M4A, OGG e WEBM.

Valori restituiti

Ottenere una trascrizione

Recupera una trascrizione in base al relativo ID di trascrizione. Mentre la trascrizione è ancora in corso, lo stato è l'elaborazione e i segmenti sono vuoti; attendere da 10 a 20 secondi e chiamare di nuovo l'operazione. Al termine dello stato, i segmenti contengono la trascrizione separata dall'altoparlante e il testo contiene la trascrizione completa.

Parametri

Nome Chiave Necessario Tipo Descrizione
ID trascrizione
transcriptId True string

ID di trascrizione restituito dall'audio di invio per l'operazione di trascrizione.

Valori restituiti

Definizioni

AskQuestionResponse

Nome Percorso Tipo Descrizione
Answer
answer string

Testo della risposta generato dall'intelligenza artificiale.

Fine motivo
finish_reason string

Il motivo per cui la generazione è stata arrestata. Il valore stop indica una fine naturale, max_tokens indica che è stato raggiunto il limite di token e che la risposta può essere troncata e content_filter significa che il contenuto è stato mantenuto dal filtro di sicurezza.

ID risposta
response_id string

Identificatore univoco di questa risposta.

Token di richiesta
prompt_tokens integer

Numero di token nell'input, incluse le istruzioni.

Token di completamento
completion_tokens integer

Numero di token generati nella risposta.

Totale token
total_tokens integer

Somma dei token di richiesta e dei token di completamento.

TrascrizioneResponse

Nome Percorso Tipo Descrizione
Condizione
status string

Stato della trascrizione. L'elaborazione del valore indica che la trascrizione non è ancora pronta e completata indica che i segmenti e il testo sono disponibili.

Segmenti
segments array of TranscriptSegment

Segmenti di trascrizione separati dall'altoparlante in ordine. Vuoto durante l'elaborazione dello stato.

Testo
text string

Trascrizione completa come testo, una riga per segmento con il timestamp e l'altoparlante. Vuoto durante l'elaborazione dello stato.

TrascrizioneSegment

Nome Percorso Tipo Descrizione
Marca temporale:
timestamp string

Ora di inizio del segmento in formato HH:MM:SS.

Altoparlante
speaker string

Etichetta dell'altoparlante assegnata dalla separazione del parlante.

Testo
text string

Testo trascritto per questo segmento.

ChatCompletionResponse

Nome Percorso Tipo Descrizione
Scelte
choices array of Choice

Risposte generate. Questa matrice contiene un elemento.

ID risposta
id string

Identificatore univoco di questa risposta.

Creato
created integer

Timestamp Unix in secondi durante la creazione della risposta.

Utilizzo
usage Usage

Token che rappresenta la richiesta.

Scelta

Nome Percorso Tipo Descrizione
Fine motivo
finishReason string

Il motivo per cui la generazione è stata arrestata. Il valore stop indica una fine naturale, max_tokens significa che è stato raggiunto il limite di token e che la risposta può essere troncata e content_filter significa che il contenuto è stato mantenuto dal filtro di sicurezza.

Contenuto
message.content string

Testo generato.

Utilizzo

Token che rappresenta la richiesta.

Nome Percorso Tipo Descrizione
Token di richiesta
promptTokens integer

Numero di token nell'input, incluso il messaggio di sistema.

Token di completamento
completionTokens integer

Numero di token generati nella risposta.

Totale token
totalTokens integer

Somma dei token di richiesta e dei token di completamento.

DocumentUploadResponse

Nome Percorso Tipo Descrizione
ID documento
document_id string

Identificatore del documento caricato, valido per 30 giorni dopo il caricamento. Specificarlo all'operazione di completamento della chat.

TranscribeResponse

Nome Percorso Tipo Descrizione
ID trascrizione
transcriptId string

Identificatore utilizzato per recuperare la trascrizione completata.

Durata file
fileDuration string

Durata dell'audio inviato in secondi, come stringa decimale.