LLM

記事

Claude ArtifactsをローカルLLMやGeminiでも使いたい

Claude Artifactsをなんとかして無料でたくさん使いたいと思いました。そこで、ローカルLLMやGeminiでも動作するArtifactsライクなWeb UIを使ってみました。
記事

ゲーム開発でローカルLLMを使う方法まとめ

ゲーム開発でローカルLLMを使う方法を3つまとめました。Unity, Unreal Engine, Godotなどのほとんどのゲームエンジンで利用できる方法であり、実際にGodotで実装した例を上げながら解説しました。
記事

学習しないで物体検出するLLM [Florence 2]

学習しないで物体検出やOCRができるモデルFlorence 2 を試してみました。追加学習せずに様々な物体検出タスクをこなせる小さなモデルです。また、Dockerを使って環境構築し、誰もで再現可能にしました。Yoloの代替になるかも。
記事

GodotでもLLMを使いたい(C#とONNX編)

GodotでLLMを使う話。C#とONNX Runtimeを使って簡単にGodotでもLLMが実行できました。また、GDScriptからも呼び出せるし、GPUを利用しているので高速に出力できました。
記事

GodotでもLLMを使いたい(C#とLLamaSharp編)

GodotでC#を使いLLMを動かした話。GDScriptと併用できるように実装し、LLMの実行部分だけをC#で書くことでGodotでのゲーム開発が楽になりました。今回はLLamaSharpを使ったのでllama.cppの機能をほとんど使うことができます。
記事

llama-cpp-agentでローカルLLM+RAGを試す

llama.cppを使ったフレームワークであるllama-cpp-agentを使って、RAGをpythonで試してみました。RAGを実行する手順をわかりやすくできるため、拡張性にも優れていると思います