Chatten mit KI-Modellen

Über das Register „Chat“ können Sie in Admin Console das Chatten mit einem heruntergeladenen Textgenerierungsmodell testen.

Wichtig  Sie müssen zuerst den Modellserver aktivieren, bevor das Register „Chat“ verfügbar ist. Sie müssen ein Textgenerierungsmodell herunterladen, bevor die Chat-Funktion genutzt werden kann. Sie müssen RAG aktivieren und konfigurieren, um die erweiterte RAG-Funktion in einer Chat-Sitzung nutzen zu können. Bei einigen Modellen müssen Sie ein Hugging Face-Token im Register „Modellserver“ einfügen, um das Modell herunterladen zu können. Siehe Starten, Stoppen und Aktualisieren des KI-Modellservers.

So chatten Sie:

  1. Klicken Sie auf das Register KI-Dienste > Chat.

  2. Geben Sie Text in das Nachrichtenfeld ein.

    Hinweis  Bei unterstützten multimodalen Modellen können Sie Bilder an Chat-Mitteilungen anhängen oder in diese einfügen.

  3. Drücken Sie die Eingabe- oder Return-Taste oder klicken Sie auf ➤.

So verwenden Sie RAG für eine Chat-Sitzung:

  1. Klicken Sie auf das Register KI-Dienste > Chat.

  2. Klicken Sie auf Erweiterte Einstellungen.

  3. Wählen Sie RAG aktivieren, um die Einstellung zu aktivieren.

  4. Geben Sie den RAG-API-Schlüssel ein.

  5. Geben Sie die RAG Space ID ein.

  6. Geben Sie eine beschreibende RAG-Prompt-Vorlage ein.

    Hinweis  Die RAG-Prompt-Vorlage ist der Platzhaltertext im Textfeld. Wenn die Makros „{question}“ und „{context}“ in der Vorlage nicht angegeben sind, wird die Standardvorlage verwendet.

  7. (Optional) Klicken Sie auf Erweiterte Einstellungen, um die Einstellungen auszublenden.

So verwalten Sie den Chat-Verlauf:

  1. Klicken Sie auf das Register KI-Dienste > Chat.

  2. Klicken Sie auf Chat-Verlauf-Symbol.

  3. Um einen neuen Chat zu starten, klicken Sie auf + Neuer Chat.

  4. Um zu einer früheren Chat-Sitzung zurückzukehren, klicken Sie auf den Chat im Chat-Verlauf.