vLLM

透過 vLLM 也能在自己的家用電腦上部署本地 LLM，這裡收錄可直接複製貼上的一鍵啟動範本，以及為什麼選 vLLM 作為自建首選、硬體規格建議、Gemma / Qwen / Mistral 等主流模型的部署實作，徹底擺脫 OpenAI、Gemini、Claude 的 API 成本。