ローカルLLM関連のメモ

ローカルLLM関連ソフトウェアをメモしておきます。

• AnythingLLM
• GPT4ALL
• Jan
• Lemonade Server
• LiteLLM
• llama-cpp-python
• llama.cpp
• LM Studio
• LocalAI
• OpenWebUI
• vLLM