該如何使用 LiteLLM 串接需要 API Key 身分驗證的 Ollama LLM API？

針對 Ollama 缺乏原生身分驗證，本文教學如何簡單用 Nginx 加上 API Key 驗證設定來提升安全性。

最近比較熱門的開源 LLM，「Meta 的 Llama 3.2」和「阿里巴巴 的 Qwen 2.5」都有小參數量的版本，今天來使用 Ollama 跑在只有 CPU 的 Windows 電腦上，比較看看生成速度與內容效果如何。