Bevor Sie den KI-Modellserver installieren

  • Prüfen Sie, ob Ihr Rechner die unter FileMaker – Technische Daten dokumentierten Systemanforderungen erfüllt. Es sollte sich um einen dedizierten Computer handeln, der ausschließlich als KI-Modellserver genutzt wird. Verwenden Sie keinen E-Mail-, Druck- oder Netzwerk-Dateiserver.

  • Um Leistungsprobleme zu vermeiden, sollten KI-Dienste auf einem separaten Server ausgeführt werden, nicht auf Ihrem primären FileMaker Server.

  • Deaktivieren Sie den Energiesparmodus oder Ruhezustand, den Festplatten-Ruhezustand und den Bildschirmschoner.

  • Der KI-Modellserver benötigt in allen Bereitstellungen einen Web-Server. Der Web-Server stellt die webbasierte Admin Console bereit und übernimmt bestimmte Aufgaben im Zusammenhang mit der Datenübertragung. Der KI-Modellserver benötigt Port 80 für Webverbindungen und Port 443 für sichere Webverbindungen. Wenn das Installationsprogramm feststellt, dass diese Ports bereits von anderen Websites genutzt werden, müssen Sie diese Websites deaktivieren und die Ports freigeben.

    • Windows: Das FileMaker Server-Installationsprogramm aktiviert den IIS Web-Server, falls noch nicht geschehen, und führt dann das Installationsprogramm für Microsoft Application Request Routing (ARR) aus, erstellt seine eigene Website in IIS und konfiguriert die Website so, dass die für Web-Verbindungen angegebenen Ports verwendet werden.

    • macOS und Linux: Der Web-Server muss nicht aktiviert werden. Wenn er aktiviert ist, stellen Sie sicher, dass keine bestehenden Websites Port 80 oder 443 verwenden. Das Installationsprogramm erstellt eine separate Web-Server-Instanz und aktiviert sie für den Host zur Verwendung auf diesen Ports.

      Siehe Einrichten des Web-Servers.

  • Öffnen Sie in der Firewall des Servercomputers die Ports 80 und 443, damit der KI-Modellserver mit Administratoren und Clients kommunizieren kann.

  • Halten Sie Ihr Lizenzzertifikat bereit. Siehe Über das Lizenzzertifikat.

  • Verwenden Sie aus Sicherheitsgründen ein eigenes SSL-Zertifikat. Importieren Sie Ihr eigenes SSL-Zertifikat, das Sie bei einer vertrauenswürdigen Zertifizierungsstelle erworben haben.

  • Wenn auf dem Rechner eine Antivirus-Software installiert ist, müssen Sie diese unter Umständen deaktivieren oder neu installieren, bevor Sie das FileMaker Server-Installationsprogramm ausführen. Aktivieren Sie die Antivirus-Software erst wieder, nachdem das Installationsprogramm beendet wurde.

    Konfigurieren Sie die Antivirus-Software so, dass die Ordner, die bereitgestellte Datenbanken enthalten, bzw. Ordner, die Dateien für Containerfelder, die Daten extern speichern, enthalten, nicht gescannt werden.

  • Es ist nicht möglich, zwei verschiedene Versionen von Claris AI Model Server gleichzeitig auf demselben Computer auszuführen.

  • Da einige DHCP-Server IP-Adressen wechseln, sollten Sie eine statische IP-Adresse verwenden.

  • Vorgänge der Texteinbettung sind in der Regel weniger ressourcenintensiv als andere Inferenz- oder Feinabstimmungsvorgänge; passen Sie Ihre Serveranforderungen entsprechend an.

  • Der KI-Modellserver benötigt einen Computer mit GPUs:

    • Modelle der GGUF-Serie, die ausschließlich über eine CPU verfügen, werden nicht unterstützt.

    • Unter Windows und Ubuntu: Verwenden Sie NVIDIA-GPUs und aktivieren Sie CUDA.

    • Verwenden Sie für macOS einen Mac mit Apple Chip (Chips der M-Serie) und wählen Sie ein MLX-Modell aus oder konvertieren Sie ein Modell in MLX.

  • Achten Sie bei der Auswahl der Hardware-Ressourcen vor allem auf eine ausreichende Speicherausstattung:

    • Auf Apple-Hardware: Mit 32 GB RAM kommen Sie bei den kleineren Modellen gut zurecht. Mit 64–96 GB oder mehr erhalten Sie Zugriff auf umfangreichere Modelle und präzisere Ressourcen.

    • Unter Windows und Ubuntu: Achten Sie auf die Größe des VRAMs der NVIDIA-Hardware – je mehr, desto besser; für kleine bis mittelgroße Modelle reichen mindestens 24 GB aus.