使用 Ollama 在 CPU 上跑 Llama 3.2 與 Qwen 2.5 大型語言模型📅 2024年09月29日最近比較熱門的開源 LLM,「Meta 的 Llama 3.2」和「阿里巴巴 的 Qwen 2.5」都有小參數量的版本,今天來使用 Ollama 跑在只有 CPU 的 Windows 電腦上,比較看看生成速度與內容效果如何。
Query Transformations 技巧幫助 RAG 優化問題,提升檢索效果📅 2024年09月22日問題太爛、太模糊,導致 RAG 找不到相關文件?介紹幾種「查詢轉換 (Query Transformations)」方法,將問題做個「升級」,提升後續的檢索效果,讓 AI 看懂我們的 "言外之意"。
使用 RAG 打造個人知識庫,LlamaIndex 搭配 Gemini 模型📅 2024年04月13日使用 Python 的 LlamaIndex 套件,搭配免費的 Gemini 模型 API,來打造屬於你自己的 RAG (Retrieval Augmented Generation) 個人知識庫。
如何使用 Google 的 Gemini 模型 API?(基礎教學,附上 Python 範例程式)📅 2023年12月17日Google DeepMind 開發的 Gemini (雙子星) 原生多模態大型語言模型,是第一個在 MMLU 方面超越人類專家的模型,文內帶你一步步使用 Pytohn 來串接 Gemini Pro API。
OpenAI ChatGPT API 如何使用?(附上 Python 範例程式)📅 2023年03月18日超高人氣的 ChatGPT 公開了其 gpt-3.5-turbo 模型,本篇文章將要來了解 ChatGPT API,並實際給出 Python 範例程式碼,帶著大家一起快速上手。