Chat con modelli di AI

La scheda Chat consente di testare la chat con un modello di generazione di testo scaricato nella Admin Console.

Importante  Occorre prima di tutto abilitare il server modello affinché la scheda Chat sia disponibile. È necessario scaricare un modello di generazione di testo prima che la funzione di chat sia utilizzabile. È necessario abilitare e configurare RAG per utilizzare la funzione RAG avanzata in una sessione di chat. Alcuni modelli richiedono l'inserimento di un token Hugging Face nella scheda Server modello per scaricare il modello. Vedere Avvio, arresto e aggiornamento del server modello AI.

Per la chat:

  1. Fare clic sulla scheda Servizi di AI > Chat.

  2. Inserire il testo nella casella del messaggio.

    Nota  È possibile allegare o rilasciare immagini nei messaggi della chat per i modelli multimodali supportati.

  3. Premere Invio o Ritorno, o fare clic su ➤.

Per usare RAG per una sessione di chat:

  1. Fare clic sulla scheda Servizi di AI > Chat.

  2. Fare clic su Impostazioni avanzate .

  3. Selezionare Abilita RAG per abilitare l'impostazione.

  4. Inserire la Chiave API RAG.

  5. Inserire l' ID spazio RAG.

  6. Inserire un Modello prompt RAG descrittivo.

    Nota  Il Modello prompt RAG è il testo segnaposto nella casella di testo. Se le macro "{question}" e "{context}" non sono specificate nel modello, viene utilizzato il modello predefinito.

  7. (Opzionale) Fare clic su Impostazioni avanzate per nascondere le impostazioni.

Per gestire la cronologia delle chat:

  1. Fare clic sulla scheda Servizi di AI > Chat.

  2. Fare clic su icona cronologia chat.

  3. Per avviare una nuova chat, fare clic su + Nuova chat.

  4. Per tornare a una sessione di chat precedente fare clic sulla chat in Cronologia chat.