Prima di installare il Server modello AI

  • Verificare che la macchina soddisfi i requisiti di sistema riportati nelle Specifiche tecniche di FileMaker. Dovrebbe essere una macchina dedicata riservata all'uso come Server modello AI. Non utilizzare un server di posta elettronica, di stampa o di file di rete.

  • Per evitare problemi di prestazioni, i servizi di AI dovrebbero essere eseguiti su un server separato, non sul FileMaker Server principale.

  • Disattivare le modalità sleep e ibernazione, la sospensione dell'hard disc e gli screen saver.

  • Il Server modello AI richiede un server Web in tutte le distribuzioni. Il server Web ospita l'applicazione Admin Console basata sul Web e gestisce alcune attività di trasferimento dati. Il Server modello AI richiede che la porta 80 sia disponibile per le connessioni Web e che la porta 443 sia disponibile per le connessioni Web sicure. Se il programma di installazione rileva che siti Web esistenti utilizzano queste porte, è necessario disattivare questi siti Web e rendere disponibili le porte.

    • Windows: il programma di installazione di FileMaker Server attiva il server Web IIS, nel caso in cui non sia già attivato, quindi esegue il programma di installazione di Microsoft Application Request Routing (ARR), crea il proprio sito Web in IIS e configura il sito Web in modo che utilizzi le porte specificate per le connessioni Web.

    • macOS e Linux: non è necessario attivare il server Web. Se è attivato, assicurarsi che nessun sito Web esistente utilizzi la porta 80 o 443. Il programma di installazione crea un'istanza di server Web separata e consente all'host di utilizzare queste porte.

      Vedere Impostazione del server Web.

  • Nel firewall del computer server, aprire le porte 80 e 443 in modo che il Server modello AI possa comunicare con amministratori e client.

  • Individuare il certificato di licenza. Vedere Informazioni sul certificato di licenza.

  • Per motivi di sicurezza, utilizzare un certificato SSL personalizzato. Importare il proprio certificato SSL acquistato da un'Autorità di Certificazione attendibile.

  • Se sulla macchina è installato un software antivirus, potrebbe essere necessario disattivarlo o disinstallarlo prima di eseguire il programma di installazione di FileMaker Server. Non riattivare il software antivirus prima che il programma di installazione abbia terminato.

    Non consentire al software antivirus di eseguire la scansione delle cartelle che contengono database ospitati o delle cartelle che contengono file per i campi Contenitore che memorizzano dati esternamente.

  • Non è possibile eseguire contemporaneamente due diverse versioni di Claris AI Model Server sulla stessa macchina.

  • Poiché alcuni server DHCP cambiano ciclicamente gli indirizzi IP, utilizzare un indirizzo IP statico.

  • Le operazioni di embedding di testo sono generalmente meno intensive di altre operazioni di inferenza o di affinamento; adattare i requisiti del proprio server di conseguenza.

  • AI Model Server richiede una macchina dotata di GPU:

    • I modelli GGUF basati solo su CPU non sono supportati.

    • Su Windows e Ubuntu: utilizzare le GPU NVIDIA e abilitare CUDA.

    • Per macOS, utilizzare un computer Mac con Apple Silicon (chip della serie M) e scegliere un modello MLX o convertire un modello in MLX.

  • Quando si scelgono le risorse hardware, l'obiettivo primario è di avere memoria sufficiente:

    • Su hardware Apple: 32 GB di RAM consentono di partire con i modelli più piccoli. 64-96 GB o più consentono di accedere a modelli più grandi e risorse più precise.

    • Su Windows e Ubuntu: prestare attenzione alla quantità di VRAM sull'hardware NVIDIA; meglio se più elevata, un minimo di 24 GB funziona per modelli di piccole e medie dimensioni.