記事CPUのみのローカルLLMサーバー構築(llama.cpp) CPUのみを使ったローカルLLMサーバーをDockerで構築しました。phi-2とtinyllamaを使ってみて、どちらが良いかを検証しました。 2024.05.23記事