Création de modèles peaufinés d'IA

L'onglet Modèles peaufinés permet de créer des modèles réglés avec précision à partir de modèles téléchargés qui peuvent ensuite être chargés et utilisés pour la génération de texte. Plusieurs modèles peaufinés peuvent être créés, mais un seul modèle de génération de texte peut être chargée en mémoire.

Important  Vous devez d'abord activer le serveur de modèles et l'option de peaufinage avant que l'onglet Modèles peaufinés ne soit disponible. Certains modèles exigent que vous incluiez un jeton Hugging Face dans l'onglet Serveur de modèle pour télécharger le modèle. Consultez les sections Démarrage, arrêt et mise à jour du serveur de modèle d'IA et Configuration des paramètres d'IA.

Pour créer un modèle peaufiné :

  1. Cliquez sur l'onglet Services d'IA > Modèles peaufinés.

  2. Cliquez sur Créer un modèle peaufiné.

  3. Dans la boîte de dialogue Créer un modèle peaufiné, cliquez sur Parcourir, puis recherchez le fichier JSONL contenant les données d'entraînement.

    Chaque ligne du fichier JSONL de données d'entraînement doit contenir un exemple d'entrée utilisateur et la réponse valide à cette entrée. Par exemple :

    Copier 
    {"messages":[{"content":"System prompt","role":"system"},{"content":"Example user data","role":"user"},{"content":"Example system output after processing user data"}]}
    {"messages":[{"content":"sys.123","role":"system"},{"content":"usr.234","role":"user"},{"content":"ast.345","role":"assistant"}]}
    {"messages":[{"content":"sys.456","role":"system"},{"content":"usr.567","role":"user"},{"content":"ast.678","role":"assistant"}]}

  4. Dans la boîte de dialogue Créer un modèle peaufiné, saisissez les informations suivantes :

    • Nom du modèle peaufiné : le nom du modèle que vous souhaitez utiliser pour les connexions client. Le modèle de serveur d'IA ajoutera le préfixe « fm-mlx- » au nom spécifié de sorte que le nom réel du modèle peaufiné sera « fm-mlx-<nom_spécifié> ».

    • Modèle de base : permet de sélectionner le modèle que vous souhaitez peaufiner.

      Remarque  Il doit s'agir d'un modèle de génération de texte déjà téléchargé et accepté.

    • Nombre d'itérations : le nombre d'itérations d'entraînement. Un nombre plus élevé d'itérations prend plus de mémoire et induit un traitement plus long.

    • Couches LoRA : le nombre de couches d'adaptation de bas rang (LoRA). Plus ce nombre est élevé, plus vous avez besoin de mémoire et de temps.

    • Taille du lot : le nombre d'exemples d'entraînement avec lesquels il est possible d'entraîner le modèle de façon simultanée. Plus cette taille est importante, plus vous avez besoin de mémoire, l'entraînement peut toutefois se terminer plus rapidement.

  5. Cliquez sur Créer le modèle.