Configuration des paramètres d'IA

Les paramètres vous permettent de contrôler les composants du serveur de modèle d'IA activés, où les modèles seront téléchargés, quels modèles sont préchargés et divers paramètres de peaufinage et RAG du modèle qui améliorent la communication du modèle d'IA.

Pour modifier les paramètres :

  1. Cliquez sur l'onglet Services d'IA > Paramètres.

  2. Apportez des modifications à l'une des options suivantes :

    • Services : contrôlez les services fournis par le serveur de modèle.

      • Intégration

      • Génération : pour la génération de texte

      • RAG

      • Peaufinage

        Remarque  Cette option n'est disponible que pour les systèmes dotés de matériel prenant en charge les modèles de peaufinage.

      • Génération de légende d'image

    • Configuration du serveur : configurez le fonctionnement du serveur de modèle.

      • Exiger une clé API pour l'accès

      • Précharger les modèles : chargez les modèles spécifiés dans la section Modèles préchargés.

      • Charger des modèles précédents : chargez les modèles précédemment chargés avant l'arrêt du serveur de modèle d'IA.

      • Consigner l'utilisation des jetons

      • Consigner les prompts et réponses du modèle

    • Modèles préchargés : contrôlez les modèles à charger lorsque le serveur de modèle démarre.

      • Modèle d'intégration préchargé

      • Modèle de génération de texte préchargé

    • Paramètres RAG : options de contrôle pour la génération augmentée par récupération (RAG) sur le serveur de modèle.

      • Utiliser le seuil de similarité cosinus pour les résultats RAG

      • Seuil de similarité cosinus pour les résultats RAG

        Remarque  Cette option ne s'affiche pas tant que vous n'avez pas activé Utiliser le seuil de similarité cosinus pour les résultats RAG.

      • Nombre de résultats de haut rang pour la synthèse RAG

      • Chemin de cache RAG

      • Utiliser des intégrations OpenAI

      • Clé API OpenAI pour RAG : saisissez une clé API OpenAI pour accéder à une ressource RAG OpenAI.

        Remarque  Cette option ne s'affiche pas tant que vous n'avez pas activé Modèle d'intégration OpenAI pour RAG.

      • Modèle d'intégration OpenAI pour RAG

      • Taille du lot pour la création d'intégrations RAG

      • Nombre de jetons par morceau de texte : taille par défaut de nouveaux morceaux de texte lors de l'ajout de texte ou de fichiers à un espace RAG. Pour redimensionner les morceaux existants, vous devez supprimer et recréer l'espace RAG, puis ajouter à nouveau des données.

      • Effectuer la synchronisation RAG : donne accès aux paramètres de synchronisation RAG ; consultez la section Effectuer la synchronisation RAG.

      Remarque  Vous devez cliquer sur Afficher les paramètres avancés pour voir cette section.

    • Paramètres de peaufinage : options de contrôle pour les modèles de peaufinage.

      • Prompt système pour le peaufinage

      Remarque  Cette section n'est disponible que pour les systèmes avec du matériel prenant en charge les modèles de peaufinage. Vous devez activer l'option Peaufinage et cliquer sur Afficher les paramètres avancés pour voir cette section.