記事ゲーム開発でローカルLLMを使う方法まとめ
ゲーム開発でローカルLLMを使う方法を３つまとめました。Unity, Unreal Engine, Godotなどのほとんどのゲームエンジンで利用できる方法であり、実際にGodotで実装した例を上げながら解説しました。
llamafile
記事
記事llamafile(llama.cpp)で返答をjsonフォーマットに固定する
llamafileを使ったローカルLLMで、返答をjsonのフォーマットに固定する方法を記事にしました。この方法はllama.cppにも同様に使えるため、llama.cppから派生したフレームワークでは一般的に使えると思います。
記事phi-3-mediumをllamafileで動かしてみた
microsoftが発表したローカルLLM、phi-3-mediumをllamafileで簡単に実行できるか試してみました。guffとllamafileをダウンロードするだけでchatGPT超えのLLMを環境構築すら不要で使えました。
記事環境構築すら不要なllamafileでローカルLLM(phi-3)
爆速でローカルLLMを利用できるllamafileを試しました。ダウンロードするだけでローカルLLMが利用できるのは最高のメリット。ローカルLLMにはphi-3を使ってみました。