AI Interaction System
LLM AIとアバターを通して会話できるシステムです。
LLM for Unityを使用してローカル環境でLLMサーバーを構築しています。
※CPUとGPU共にベンチマークソフト程度の負荷がかかります。
LLM言語モデル(.gguf)が必要です。Hugging Faceなどから取得できます。
※Llama-3-ELYZA-JP-8B-q4_k_m.gguf(約5GByte)辺りの使用を想定しています。

// 最低限の設定など
Windows10以降
展開して作成されたフォルダ(AIIS)を適当な場所に保存、\AIIS\AIIS_Data\StreamingAssets\LLMModels内にggufファイルを格納してください。
自動的にアタッチされます。
AIIS.exeを実行後、StartボタンでLLMサーバーが起動します。初回生成時は数分程度かかると思います。

// その他機能
LLM管理、プロンプトの保存と管理、アバター呼び出しなど。

Download Link

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です