Téléchargement de modèles d'IA

L'onglet Modèles vous permet de télécharger et de charger des modèles d'IA pour l'intégration de texte, l'intégration d'images, la génération des légendes d'image et la génération de texte. Plusieurs modèles de chaque type peuvent être téléchargés, mais un seul de chaque type peut être chargé en mémoire.

Important  Vous devez d'abord activer le serveur de modèles avant que l'onglet Modèles ne soit disponible. Certains modèles exigent que vous incluiez un jeton Hugging Face dans l'onglet Serveur de modèle pour télécharger le modèle. Consultez la section Démarrage, arrêt et mise à jour du serveur de modèle d'IA.

Pour ajouter un modèle :

  1. Cliquez sur l'onglet Services d'IA > Modèles.

  2. Cliquez sur Ajouter un modèle.

  3. Dans la boîte de dialogue Ajouter un modèle, saisissez les informations suivantes :

    • Nom du modèle : nom exact du modèle tel qu'il apparaît sur le site Web Hugging Face.

    • Type de modèle : sélectionnez Intégration, Légende d'image ou Génération de texte.

    • Sélectionnez Oui si vous souhaitez autoriser le téléchargement du modèle à partir de Hugging Face.

  4. Cliquez sur Ajouter un modèle.

Pour télécharger un modèle :

  1. Cliquez sur l'onglet Services d'IA > Modèles.

  2. Cliquez sur Télécharger en regard du modèle que vous souhaitez télécharger.

  3. Si le téléchargement du modèle n'a pas été confirmé, sélectionnez Oui dans la boîte de dialogue Ajouter un modèle, puis cliquez sur le bouton Ajouter un modèle.

Remarque  Les téléchargements de modèles échoueront s'ils nécessitent un jeton Hugging Face et que vous n'en avez pas encore ajouté un dans l'onglet Serveur de modèle.

Pour annuler le téléchargement d'un modèle :

  1. Cliquez sur l'onglet Services d'IA > Modèles.

  2. Cliquez sur Annuler en regard du modèle où le téléchargement est en cours.

Pour charger un modèle en mémoire :

  1. Cliquez sur l'onglet Services d'IA > Modèles.

  2. Cliquez sur Charger en regard du modèle que vous souhaitez télécharger.

Remarque  Les modèles ne peuvent pas être chargés tant qu'ils n'ont pas été téléchargés.

Pour gérer les paramètres du modèle :

  1. Cliquez sur l'onglet Services d'IA > Modèles.

  2. Cliquez sur Gérer en haut à droite de la fenêtre.

  3. Modifiez l'un des paramètres suivants :

    • Chemin du cache du modèle local

    • Utiliser le moteur d'inférence vLLM

    • Chargement des modèles à la demande

    • Nombre maximal de modèles d'intégration chargés

    • Nombre maximal de modèles de légende d'image chargés

    • Nombre maximal de modèles de génération de texte chargés

    • Jetons de réponse maximum : nombre maximum de jetons dans les réponses de génération de texte. Lorsqu'il est réglé sur -1, chaque modèle génère des jetons de sortie jusqu'à sa propre limite. Limiter la réponse vous permet d'optimiser sa latence et ses performances.

Pour supprimer un modèle :

  1. Cliquez sur l'onglet Services d'IA > Modèles.

  2. Cliquez sur la case située en regard du ou des modèles que vous souhaitez supprimer.

  3. Cliquez sur Supprimer en haut de la fenêtre.

  4. (Facultatif) Sélectionnez Oui dans la boîte de dialogue Supprimer des modèles pour supprimer également les fichiers de modèle correspondants du disque.