AI ファインチューニング済みモデルの作成

[ファインチューニング済みモデル] タブではダウンロードしたモデルからファインチューニング済みモデルを作成し、ロードしてテキスト生成に使用できます。複数のファインチューニング済みモデルを作成できますが、一度にメモリにロードして使用できるテキスト生成モデルは 1 つだけです。

重要 [ファインチューニング済みモデル] タブを使用するには、まずモデルサーバーおよびファインチューニングオプションを有効にする必要があります。一部のモデルをダウンロードするには [モデルサーバー] タブで Hugging Face トークンを含める必要があります。AI モデルサーバーの起動、停止、および更新および AI 設定の構成を参照してください。

ファインチューニング済みモデルを作成するには:

[AI サービス] > [ファインチューニング済みモデル] タブをクリックします。
[ファインチューニング済みモデルを作成] をクリックします。

[ファインチューニング済みモデルを作成] ダイアログボックスで [参照...] をクリックして、トレーニングデータを含む JSONL ファイルを参照します。

トレーニングデータの JSONL ファイルの各行にはユーザ入力の例と入力に対する正しい応答を含める必要があります。例:

コピー

{"messages":[{"content":"システムプロンプト","role":"system"},{"content":"ユーザデータの例","role":"user"},{"content":"ユーザデータ処理後のシステム出力の例"}]}
{"messages":[{"content":"sys.123","role":"system"},{"content":"usr.234","role":"user"},{"content":"ast.345","role":"assistant"}]}
{"messages":[{"content":"sys.456","role":"system"},{"content":"usr.567","role":"user"},{"content":"ast.678","role":"assistant"}]}

[ファインチューニング済みモデルを作成] ダイアログボックスで、次の情報を入力します:
- ファインチューニング済みモデル名: クライアント接続に使用するモデルの名前。AI モデルサーバーにより指定した名前に接頭語「fm-mlx-」が付けられるため、ファインチューニング済みモデルの実際の名前は「fm-mlx-<指定した名前>」となります。
- ベースモデル: ファインチューニングするモデルを選択します。
  
  メモベースモデルはすでにダウンロードおよび承認されたテキスト生成モデルである必要があります。
- 繰り返す回数: トレーニングを繰り返す回数。繰り返す回数が増えるほど処理により多くのメモリと時間が必要になります。
- LoRA レイヤー: 低ランク適応レイヤー (LoRA) の数。レイヤーが増えるほどより多くのメモリと時間がかかります。
- バッチサイズ: モデルのトレーニングで一度に使用されるトレーニング例の数。バッチサイズが大きくなるほどより多くのメモリが必要になりますが、より速く完了する可能性が高くなります。
[モデルを作成] をクリックします。