記事CPUのみのローカルLLMサーバー構築(llama.cpp) CPUのみを使ったローカルLLMサーバーをDockerで構築しました。phi-2とtinyllamaを使ってみて、どちらが良いかを検証しました。 2024.05.23記事
記事機械翻訳APIコンテナの実装(fast api) DeepL、Google Translate、Argos Translateをapiとして呼び出して、テキストを翻訳してくれる機械翻訳サーバを構築する話 2024.05.22記事
記事
