<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:sy="http://purl.org/rss/1.0/modules/syndication/" xmlns:media="http://search.yahoo.com/mrss/"><channel><title>GitHub on IT 空間</title><link>https://blog.jiatool.com/tags/GitHub/</link><description>Recent content in GitHub on IT 空間</description><generator>Hugo -- gohugo.io</generator><language>zh</language><managingEditor>jia@jiatool.com (Jia)</managingEditor><webMaster>jia@jiatool.com (Jia)</webMaster><copyright>&amp;copy;{year}, Jia All Rights Reserved</copyright><lastBuildDate>Sat, 16 May 2026 13:30:00 +0800</lastBuildDate><atom:link href="https://blog.jiatool.com/tags/GitHub/index.xml" rel="self" type="application/rss+xml"/><item><title>「Packer for GitHub」隨選打包下載瀏覽器擴充功能(Extension)</title><link>https://blog.jiatool.com/posts/packer-for-github/</link><pubDate>Sat, 16 May 2026 13:30:00 +0800</pubDate><author>jia@jiatool.com (Jia)</author><atom:modified>Sat, 16 May 2026 13:30:00 +0800</atom:modified><guid>https://blog.jiatool.com/posts/packer-for-github/</guid><description>前言 因為有時候從 GitHub 下載檔案或資料夾時，並不想整包專案 (Repo 儲存庫) 下載，可能是其他檔案太多、太大，只想下載其中幾項就好。所以之前有安裝 GitZip for github 瀏覽</description><content:encoded>&lt;h2 id="前言">前言&lt;/h2>
&lt;p>因為有時候從 GitHub 下載檔案或資料夾時，並不想整包專案 (Repo 儲存庫) 下載，可能是其他檔案太多、太大，只想下載其中幾項就好。所以之前有安裝 GitZip for github 瀏覽器擴充功能來用。&lt;/p>
&lt;p>不過後來在公司，不知道是不是因為同個 IP 人數太多，會被限制，需要登入 GitHub 連結 token 才能使用。&lt;br />
最近一氣之下(是在氣什麼?) 乾脆自己來寫一個，上禮拜六日透過 Vibe Coding 方式完成了這款「Packer for GitHub」瀏覽器擴充功能，最主要的功能就是可直接 checkbox 勾選檔案和資料夾，一鍵打包成 ZIP 下載。&lt;/p>
&lt;p>順手花了一點時間，將其上架到 Chrome 應用程式商店，分享給大家~&lt;/p>
&lt;br/>
&lt;div class="notices info" data-title="連結">
Chrome 線上應用程式商店：&lt;br />
&lt;a href="https://chromewebstore.google.com/detail/nhlchekbehflbffdjgmgohifmdkcgonh">「Packer for GitHub」擴充功能&lt;/a>
&lt;/div>
&lt;br/>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/packer_for_github/marquee.jpg" alt="「Packer for GitHub - GitHub 隨選打包下載工具」" data-caption="「Packer for GitHub - GitHub 隨選打包下載工具」" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='700px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:700px;height:;"/>
&lt;figcaption style="text-align: center;">
「Packer for GitHub - GitHub 隨選打包下載工具」
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;h2 id="介紹">介紹&lt;/h2>
&lt;p>前往 Chrome 線上應用程式商店 找到「&lt;a href="https://chromewebstore.google.com/detail/nhlchekbehflbffdjgmgohifmdkcgonh" target="_blank" rel="noopener">
Packer for GitHub - GitHub 隨選打包下載工具
&lt;/a>」擴充功能 (Edge 應該也可以安裝使用) 安裝。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/packer_for_github/chrome_webstore.jpg" alt="「Packer for GitHub」瀏覽器擴充功能" data-caption="「Packer for GitHub」瀏覽器擴充功能" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='700px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:700px;height:;"/>
&lt;figcaption style="text-align: center;">
「Packer for GitHub」瀏覽器擴充功能
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;p>前往 GitHub 內任一個公開或私有儲存庫頁面，滑鼠移到檔案清單 (側邊欄 file tree 也支援) 會出現 checkbox，就可以勾選需要的檔案和資料夾。&lt;/p>
&lt;p>右下角出現懸浮視窗，點擊「打包下載」即可。&lt;/p>
&lt;p>如此簡單。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/packer_for_github/screenshot1.jpg" alt="勾選檔案和資料夾 &amp;gt; 打包下載" data-caption="勾選檔案和資料夾 &amp;gt; 打包下載" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='700px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:700px;height:;"/>
&lt;figcaption style="text-align: center;">
勾選檔案和資料夾 &amp;gt; 打包下載
&lt;/figcaption>
&lt;/figure>
&lt;h3 id="-核心功能">🌟 核心功能&lt;/h3>
&lt;p>不想為了幾個檔案，而 Clone 下載整個 Repo (儲存庫)？&lt;/p>
&lt;p>在 GitHub 原生的介面上，為每個檔案與資料夾加上了直觀的勾選框。讓你直接在網頁上選擇需要的檔案和資料夾，一鍵打包成 ZIP 下載！&lt;/p>
&lt;ol>
&lt;li>精準挑選，一鍵打包：直接在 GitHub 檔案清單中勾選你需要的項目，包含檔案與資料夾。側邊欄 file tree 也支援選取。&lt;/li>
&lt;li>支援公開&amp;amp;私有儲存庫：公開儲存庫可直接使用。如果要下載私有儲存庫。只需要設定 GitHub Personal Access Token 即可。&lt;/li>
&lt;li>瀏覽器端壓縮：所有的打包壓縮作業（ZIP）都在你的瀏覽器本地完成。不需要伺服器中轉，速度快且保護隱私。&lt;/li>
&lt;li>簡單使用：勾選 &amp;gt; 下載，沒有複雜的步驟或設定。&lt;/li>
&lt;/ol>
&lt;br>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/packer_for_github/screenshot2.jpg" alt="支援「淺色」與「深色」GitHub 主題" data-caption="支援「淺色」與「深色」GitHub 主題" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='600px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:600px;height:;"/>
&lt;figcaption style="text-align: center;">
支援「淺色」與「深色」GitHub 主題
&lt;/figcaption>
&lt;/figure>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/packer_for_github/screenshot3.jpg" alt="如果要下載私有儲存庫，需要設定 GitHub 的 Personal Access Token" data-caption="如果要下載私有儲存庫，需要設定 GitHub 的 Personal Access Token" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='700px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:700px;height:;"/>
&lt;figcaption style="text-align: center;">
如果要下載私有儲存庫，需要設定 GitHub 的 Personal Access Token
&lt;/figcaption>
&lt;/figure>
&lt;br>
&lt;h3 id="-隱私與資安">🔒 隱私與資安&lt;/h3>
&lt;ul>
&lt;li>本地儲存：你的 GitHub Token 僅會儲存在瀏覽器受保護的 chrome.storage 中。甚至沒用到私有儲存庫的話，連 GitHub Token 也不需要。&lt;/li>
&lt;li>無伺服器：不會收集、儲存或傳送任何你的紀錄、程式碼。&lt;/li>
&lt;/ul>
&lt;br>
&lt;!--adsense-->
&lt;br/>
&lt;h2 id="結語">結語&lt;/h2>
&lt;p>有需要的話就來安裝使用吧，歡迎給五星好評及留言支持。&lt;/p>
&lt;p>如果有任何問題或建議，都可以留言或發 Email 反饋給我~&lt;/p>
&lt;br/>
&lt;p>對生成式 AI 感興趣的讀者，記得追蹤 FB 粉專『&lt;a href="https://www.facebook.com/jiatool" target="_blank" rel="noopener">
IT空間
&lt;/a>』，以免錯過最新的發文通知呦~🔔&lt;/p>
&lt;br/>
&lt;br/>
&lt;hr />
&lt;br/>
&lt;blockquote>
&lt;p>預測未來最好的方法，就是創造未來。&lt;br />
The best way to predict the future is to invent it.&lt;/p>
&lt;p align="right">—— Alan Kay 艾倫·凱 (電腦科學家)&lt;/p>
&lt;/blockquote></content:encoded><dc:creator>Jia</dc:creator><media:content url="https://blog.jiatool.comimages/cover/packer_for_github.jpg" medium="image"><media:title type="html">featured image</media:title></media:content><media:content url="https://blog.jiatool.comimages/posts/packer_for_github_meta.jpg" medium="image"><media:title type="html">meta image</media:title></media:content><category>網頁</category><category>GitHub</category><category>瀏覽器</category><category>自製小工具</category></item><item><title>GitHub Models 讓你免費玩 GPT、Llama、Phi，還提供 API 串接</title><link>https://blog.jiatool.com/posts/github_models/</link><pubDate>Sat, 11 Jan 2025 21:15:00 +0800</pubDate><author>jia@jiatool.com (Jia)</author><atom:modified>Sat, 12 Apr 2025 14:00:00 +0800</atom:modified><guid>https://blog.jiatool.com/posts/github_models/</guid><description>2025-04-12 更新 GitHub Token 權限設定 前言 我前陣子才發現，原來 GitHub 上面也有可以免費使用的 LLM，像是 GPT-4o、Llama-3.3、Phi-3.5&amp;hellip</description><content:encoded>&lt;div class="alert alert-info" role="alert" data-dir="ltr">2025-04-12 更新 GitHub Token 權限設定&lt;/div>
&lt;h2 id="前言">前言&lt;/h2>
&lt;p>我前陣子才發現，原來 GitHub 上面也有可以免費使用的 LLM，像是 GPT-4o、Llama-3.3、Phi-3.5&amp;hellip;等等，甚至還提供 API 可串接程式！&lt;/p>
&lt;p>雖然 GitHub Models 主要是讓我們在開發生成式 AI 應用程式測試用，算是試用性質，所以有 速率 &amp;amp; Token 數量限制，但我覺得用作個人專案還蠻不錯的，每日請求上限也不算太少 (50~150 次，依模型而定)，有需求的網友可以試試~&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/github_models.jpg" alt="GitHub Models" data-caption="GitHub Models" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='650px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:650px;height:;"/>
&lt;figcaption style="text-align: center;">
GitHub Models
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;p>如果你發現還不能使用，可加入候補名單：&lt;a href="https://github.com/marketplace/models/waitlist">https://github.com/marketplace/models/waitlist&lt;/a>&lt;/p>
&lt;br/>
&lt;!--adsense-->
&lt;br/>
&lt;h2 id="速率限制">速率限制&lt;/h2>
&lt;p>在開始使用之前，首先來看看它速率限制到底是多少。&lt;/p>
&lt;ul>
&lt;li>&lt;a href="https://docs.github.com/en/github-models/prototyping-with-ai-models#rate-limits" target="_blank" rel="noopener">
Rate limits | GitHub Docs
&lt;/a>&lt;/li>
&lt;/ul>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/rate_limits.jpg" alt="GitHub Models 使用速率限制" data-caption="GitHub Models 使用速率限制" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='700px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:700px;height:;"/>
&lt;figcaption style="text-align: center;">
GitHub Models 使用速率限制
&lt;/figcaption>
&lt;/figure>
&lt;p>GitHub Models 是依照模型分成 Low、High、Embedding 等級去做限制，&lt;br />
在 模型介紹 和 Playground 頁面都有寫此模型是採用哪個限制等級 (&amp;quot;Rate limit tier&amp;quot;)。&lt;/p>
&lt;p>* 表格底下雖然還有 Azure OpenAI o1-preview 和 Azure OpenAI o1-mini，但我好像沒辦法使用。&lt;/p>
&lt;br/>
&lt;p>例如 GPT-4o 是 &amp;quot;High&amp;quot;，那它的限制就是：&lt;/p>
&lt;ul>
&lt;li>每分鐘請求數：10 次&lt;/li>
&lt;li>每天的請求數：50 次&lt;/li>
&lt;li>每個請求的 Tokens：輸入 8000, 輸出 4000&lt;/li>
&lt;li>並發請求：2 個&lt;/li>
&lt;/ul>
&lt;p>* 當然假如你是 Copilot Business 或 Copilot Enterprise，那可使用次數就會更多。&lt;/p>
&lt;br/>
&lt;h2 id="模型清單">模型清單&lt;/h2>
&lt;p>GitHub Models 有提供哪些模型讓我們試用呢？&lt;/p>
&lt;p>這邊有完整支援的模型清單：&lt;a href="https://github.com/marketplace?type=models">https://github.com/marketplace?type=models&lt;/a>&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/models_list.jpg" alt="GitHub Models 支援模型清單" data-caption="GitHub Models 支援模型清單" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='900px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:900px;height:;"/>
&lt;figcaption style="text-align: center;">
GitHub Models 支援模型清單
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;p>例如聊天的模型有：&lt;/p>
&lt;ul>
&lt;li>OpenAI GPT-4o&lt;/li>
&lt;li>OpenAI GPT-4o mini&lt;/li>
&lt;li>DeepSeek-V3-0324&lt;/li>
&lt;li>DeepSeek-R1&lt;/li>
&lt;li>Llama 4 Maverick 17B 128E Instruct FP8&lt;/li>
&lt;li>Llama-3.3-70B-Instruct&lt;/li>
&lt;li>Llama-3.2-90B-Vision-Instruct&lt;/li>
&lt;li>Phi-4&lt;/li>
&lt;li>Phi-3.5-MoE instruct&lt;/li>
&lt;li>Phi-3.5-vision instruct&lt;/li>
&lt;li>Mistral Large&lt;/li>
&lt;li>Mistral Small 3.1&lt;/li>
&lt;li>Codestral 25.01&lt;/li>
&lt;li>Cohere Command R+&lt;/li>
&lt;li>AI21 Jamba 1.5&lt;/li>
&lt;li>JAIS 30b Chat&lt;/li>
&lt;li>&amp;hellip;(更多)&lt;/li>
&lt;/ul>
&lt;p>還有 Embedding 嵌入模型：&lt;/p>
&lt;ul>
&lt;li>OpenAI Text Embedding 3&lt;/li>
&lt;li>Cohere Embed v3 Multilingual&lt;/li>
&lt;li>&amp;hellip;(更多)&lt;/li>
&lt;/ul>
&lt;br/>
&lt;p>點選任一個模型後，會進入模型介紹頁面。&lt;/p>
&lt;p>會有模型的相關說明介紹、測試評估分數、License 等等，右邊區塊還有像是 簡介、Context (模型&amp;quot;本身&amp;quot; 輸入、輸出 tokens 限制)、訓練資料日期、速率限制等級 (Rate limit tier)、提供者、支援語言 等等資訊。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/model_readme.jpg" alt="模型介紹頁面" data-caption="模型介紹頁面" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='1000px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:1000px;height:;"/>
&lt;figcaption style="text-align: center;">
模型介紹頁面
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;h2 id="playground">Playground&lt;/h2>
&lt;p>從剛剛 &amp;quot;模型介紹頁面&amp;quot; 點擊右上角「Playground」，或在 &lt;a href="https://github.com/marketplace/models" target="_blank" rel="noopener">
GitHub Marketplace
&lt;/a> 左上角選擇一個模型。&lt;br />
即可進入 Playground 頁面跟它聊天。&lt;/p>
&lt;p>* 例如 &lt;a href="https://github.com/marketplace/models/azure-openai/gpt-4o/playground" target="_blank" rel="noopener">
GPT-4o 的 Playground
&lt;/a>&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/model_playground.jpg" alt="模型 Playground 頁面" data-caption="模型 Playground 頁面" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='900px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:900px;height:;"/>
&lt;figcaption style="text-align: center;">
模型 Playground 頁面
&lt;/figcaption>
&lt;/figure>
&lt;p>先看右側區塊可以切換 &amp;quot;Parameters&amp;quot; 和 &amp;quot;Details&amp;quot;：&lt;/p>
&lt;ul>
&lt;li>Parameters：設定、調整模型參數 (System prompt、Response format、Max Tokens、Temperature&amp;hellip;&amp;hellip;)。&lt;/li>
&lt;li>Details：模型的相關說明 (就跟剛剛的模型介紹頁面差不多)。&lt;/li>
&lt;/ul>
&lt;br/>
&lt;p>再來看左側區塊分為 &amp;quot;Chat&amp;quot;、&amp;quot;Code&amp;quot;、&amp;quot;Raw&amp;quot;：&lt;/p>
&lt;ul>
&lt;li>Chat：如同使用 ChatGPT、Gemini 一樣，可以與模型做多輪的聊天。&lt;/li>
&lt;li>Code：展示 API 如何使用，有不同程式語言的範例，下一節 &lt;a href="#api" target="_blank" rel="noopener">
API
&lt;/a> 還會介紹。&lt;/li>
&lt;li>Raw：你與模型對話紀錄的原始資料。&lt;/li>
&lt;/ul>
&lt;br/>
&lt;p>另外，&lt;br />
在頁面左上方還可以看到「Compare」按鈕，用於比較兩種不同模型的回答，在你輸入問題(prompt)後，它會同時送給兩個模型，讓你方便比較兩種模型哪個回覆比較好。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/compare_model.jpg" alt="比較兩種不同模型的回答" data-caption="比較兩種不同模型的回答" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='900px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:900px;height:;"/>
&lt;figcaption style="text-align: center;">
比較兩種不同模型的回答
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;p>如果你想將目前調整好的參數、聊天記錄儲存起來 (甚至分享)，可以使用右上角的「Preset」功能。&lt;/p>
&lt;br/>
&lt;h2 id="api">API&lt;/h2>
&lt;p>如同文章標題提到的，除了在網頁使用 Playground 介面，GitHub Models 還提供 API 供我們串接自己的程式做測試。&lt;/p>
&lt;br/>
&lt;h3 id="創建-github-token">創建 GitHub Token&lt;/h3>
&lt;p>在開始使用 API 之前，我們要先去 GitHub 建立 Token，用作身份驗證。&lt;/p>
&lt;p>* 關於 GitHub 的 Token 介紹，可以參考這篇官方文件：&lt;a href="https://docs.github.com/en/authentication/keeping-your-account-and-data-secure/managing-your-personal-access-tokens" target="_blank" rel="noopener">
Managing your personal access tokens
&lt;/a>&lt;/p>
&lt;br/>
&lt;p>Settings &amp;gt; 左側最下方 Developer settings &amp;gt; Personal access tokens &amp;gt; &lt;a href="https://github.com/settings/personal-access-tokens" target="_blank" rel="noopener">
Fine-grained tokens
&lt;/a>&lt;/p>
&lt;p>點選 Generate new token。&lt;/p>
&lt;br/>
&lt;p>Expiration 過期時間可以改成 &amp;quot;No expiration&amp;quot; (無期限)。&lt;/p>
&lt;p>Repository access 欄位維持 &amp;quot;Public Repositories&amp;quot; 即可。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/expiration_repository.jpg" alt="Expiration、Repository access 欄位設定" data-caption="Expiration、Repository access 欄位設定" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='750px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:750px;height:;"/>
&lt;figcaption style="text-align: center;">
Expiration、Repository access 欄位設定
&lt;/figcaption>
&lt;/figure>
&lt;p>&lt;strong>重點&lt;/strong>：&lt;br />
Permissions &amp;gt; Account permissions &amp;gt; Models 要改為 &amp;quot;Read-only&amp;quot;，這樣才有 GitHub Models 的權限。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/models_readonly.jpg" alt="Permissions &amp;gt; Account permissions &amp;gt; Models 權限" data-caption="Permissions &amp;gt; Account permissions &amp;gt; Models 權限" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='800px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:800px;height:;"/>
&lt;figcaption style="text-align: center;">
Permissions &amp;gt; Account permissions &amp;gt; Models 權限
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;p>填寫完欄位後，最下方點擊 Generate token 按鈕。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/generate_token_0.jpg" alt="創建新的 Token" data-caption="創建新的 Token" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='750px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:750px;height:;"/>
&lt;figcaption style="text-align: center;">
創建新的 Token
&lt;/figcaption>
&lt;/figure>
&lt;p>將 token 複製並保存好，之後忘記就只能再重新產生了。&lt;/p>
&lt;p>Fine-grained personal access token 會長的類似這樣：&lt;code>github_pat_11AHxxxxxxxxxxxxxxxxxxxxxxxxxCp7pLSr3a&lt;/code>&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/generate_token_2.jpg" alt="將 Token 複製存起來，之後就沒辦法再看到了" data-caption="將 Token 複製存起來，之後就沒辦法再看到了" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='800px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:800px;height:;"/>
&lt;figcaption style="text-align: center;">
將 Token 複製存起來，之後就沒辦法再看到了
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;h3 id="使用範例">使用範例&lt;/h3>
&lt;p>回到剛剛 Playground 頁面的 &amp;quot;Code&amp;quot; 分頁 (像是 &lt;a href="https://github.com/marketplace/models/azure-openai/gpt-4o/playground/code" target="_blank" rel="noopener">
GPT-4o 的 Playground
&lt;/a>)。&lt;/p>
&lt;p>右上角可以下拉清單選擇不同的程式語言、SDK (OpenAI SDK 或 Azure AI Inference SDK)。&lt;/p>
&lt;br/>
&lt;p>切到 REST 語言，可以看到實際發送請求的 URL、Headers、Body 等等，API 格式是跟 OpenAI API 一樣的，所以如果你使用的套件、框架、軟體有支援 OpenAI API 格式，那就可以直接切換來用，或者以後 GitHub Models 測試完要換到穩定的付費 Azure OpenAI、OpenAI 也很簡單。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/example_code.jpg" alt="官方範例程式碼" data-caption="官方範例程式碼" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='900px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:900px;height:;"/>
&lt;figcaption style="text-align: center;">
官方範例程式碼
&lt;/figcaption>
&lt;/figure>
&lt;br/>
&lt;br/>
&lt;p>這邊我使用 Postman 來示範如何發送請求。&lt;/p>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/postman_1.jpg" alt="API URL、Headers 的設定" data-caption="API URL、Headers 的設定" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='900px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:900px;height:;"/>
&lt;figcaption style="text-align: center;">
API URL、Headers 的設定
&lt;/figcaption>
&lt;/figure>
&lt;p>Request URL: &lt;code>https://models.inference.ai.azure.com/chat/completions&lt;/code>&lt;br />
Request Method: &lt;code>POST&lt;/code>&lt;br />
Request Headers:&lt;/p>
&lt;pre>&lt;code>Content-Type: application/json
Authorization: Bearer github_pat_11AHxxxxxxxxxxxxxxxxxxxxxxxxxCp7pLSr3a
&lt;/code>&lt;/pre>&lt;p>* Authorization 內 Bearer 後面那串就是剛剛創建的 personal access token。&lt;/p>
&lt;br/>
&lt;figure >
&lt;img data-src="https://res.cloudinary.com/jiablog/github_models/postman_2.jpg" alt="API Body 的設定" data-caption="API Body 的設定" src="data:image/svg+xml,%0A%3Csvg xmlns='http://www.w3.org/2000/svg' width='900px' height='' viewBox='0 0 24 24'%3E%3Cpath fill='none' d='M0 0h24v24H0V0z'/%3E%3Cpath fill='%23aaa' d='M19 3H5c-1.1 0-2 .9-2 2v14c0 1.1.9 2 2 2h14c1.1 0 2-.9 2-2V5c0-1.1-.9-2-2-2zm-1 16H6c-.55 0-1-.45-1-1V6c0-.55.45-1 1-1h12c.55 0 1 .45 1 1v12c0 .55-.45 1-1 1zm-4.44-6.19l-2.35 3.02-1.56-1.88c-.2-.25-.58-.24-.78.01l-1.74 2.23c-.26.33-.02.81.39.81h8.98c.41 0 .65-.47.4-.8l-2.55-3.39c-.19-.26-.59-.26-.79 0z'/%3E%3C/svg%3E" class="lazyload" style="width:900px;height:;"/>
&lt;figcaption style="text-align: center;">
API Body 的設定
&lt;/figcaption>
&lt;/figure>
&lt;p>Body (JSON 格式)：&lt;/p>
&lt;div class="highlight">&lt;div class="chroma">
&lt;table class="lntable">&lt;tr>&lt;td class="lntd">
&lt;pre class="chroma">&lt;code>&lt;span class="lnt"> 1
&lt;/span>&lt;span class="lnt"> 2
&lt;/span>&lt;span class="lnt"> 3
&lt;/span>&lt;span class="lnt"> 4
&lt;/span>&lt;span class="lnt"> 5
&lt;/span>&lt;span class="lnt"> 6
&lt;/span>&lt;span class="lnt"> 7
&lt;/span>&lt;span class="lnt"> 8
&lt;/span>&lt;span class="lnt"> 9
&lt;/span>&lt;span class="lnt">10
&lt;/span>&lt;span class="lnt">11
&lt;/span>&lt;span class="lnt">12
&lt;/span>&lt;span class="lnt">13
&lt;/span>&lt;span class="lnt">14
&lt;/span>&lt;span class="lnt">15
&lt;/span>&lt;span class="lnt">16
&lt;/span>&lt;/code>&lt;/pre>&lt;/td>
&lt;td class="lntd">
&lt;pre class="chroma">&lt;code class="language-json" data-lang="json">&lt;span class="p">{&lt;/span>
&lt;span class="nt">&amp;#34;messages&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="p">[&lt;/span>
&lt;span class="p">{&lt;/span>
&lt;span class="nt">&amp;#34;role&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;system&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;content&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;&amp;#34;&lt;/span>
&lt;span class="p">},&lt;/span>
&lt;span class="p">{&lt;/span>
&lt;span class="nt">&amp;#34;role&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;user&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;content&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;你是誰？&amp;#34;&lt;/span>
&lt;span class="p">}&lt;/span>
&lt;span class="p">],&lt;/span>
&lt;span class="nt">&amp;#34;model&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;Llama-3.3-70B-Instruct&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;temperature&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mf">0.8&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;max_tokens&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mi">2048&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;top_p&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mf">0.1&lt;/span>
&lt;span class="p">}&lt;/span>
&lt;/code>&lt;/pre>&lt;/td>&lt;/tr>&lt;/table>
&lt;/div>
&lt;/div>&lt;p>* 只有 messages 和 model 欄位是必要的&lt;/p>
&lt;br/>
&lt;p>回傳資料範例：&lt;/p>
&lt;div class="highlight">&lt;div class="chroma">
&lt;table class="lntable">&lt;tr>&lt;td class="lntd">
&lt;pre class="chroma">&lt;code>&lt;span class="lnt"> 1
&lt;/span>&lt;span class="lnt"> 2
&lt;/span>&lt;span class="lnt"> 3
&lt;/span>&lt;span class="lnt"> 4
&lt;/span>&lt;span class="lnt"> 5
&lt;/span>&lt;span class="lnt"> 6
&lt;/span>&lt;span class="lnt"> 7
&lt;/span>&lt;span class="lnt"> 8
&lt;/span>&lt;span class="lnt"> 9
&lt;/span>&lt;span class="lnt">10
&lt;/span>&lt;span class="lnt">11
&lt;/span>&lt;span class="lnt">12
&lt;/span>&lt;span class="lnt">13
&lt;/span>&lt;span class="lnt">14
&lt;/span>&lt;span class="lnt">15
&lt;/span>&lt;span class="lnt">16
&lt;/span>&lt;span class="lnt">17
&lt;/span>&lt;span class="lnt">18
&lt;/span>&lt;span class="lnt">19
&lt;/span>&lt;span class="lnt">20
&lt;/span>&lt;span class="lnt">21
&lt;/span>&lt;span class="lnt">22
&lt;/span>&lt;/code>&lt;/pre>&lt;/td>
&lt;td class="lntd">
&lt;pre class="chroma">&lt;code class="language-json" data-lang="json">&lt;span class="p">{&lt;/span>
&lt;span class="nt">&amp;#34;choices&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="p">[&lt;/span>
&lt;span class="p">{&lt;/span>
&lt;span class="nt">&amp;#34;finish_reason&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;stop&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;index&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mi">0&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;message&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="p">{&lt;/span>
&lt;span class="nt">&amp;#34;content&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;我是一個人工智慧語言模型，稱為LLaMA。LLaMA是Meta開發的一種人工智慧模型，旨在處理和生成類似人類的語言。&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;role&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;assistant&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;tool_calls&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="kc">null&lt;/span>
&lt;span class="p">}&lt;/span>
&lt;span class="p">}&lt;/span>
&lt;span class="p">],&lt;/span>
&lt;span class="nt">&amp;#34;created&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mi">1734225172&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;id&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;cmpl-6c7bdcda-1211-4f5a-b9fc-2f2526465445&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;model&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;Llama-3.3-70B-Instruct&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;object&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="s2">&amp;#34;chat.completion&amp;#34;&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;usage&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="p">{&lt;/span>
&lt;span class="nt">&amp;#34;completion_tokens&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mi">47&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;prompt_tokens&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mi">39&lt;/span>&lt;span class="p">,&lt;/span>
&lt;span class="nt">&amp;#34;total_tokens&amp;#34;&lt;/span>&lt;span class="p">:&lt;/span> &lt;span class="mi">86&lt;/span>
&lt;span class="p">}&lt;/span>
&lt;span class="p">}&lt;/span>
&lt;/code>&lt;/pre>&lt;/td>&lt;/tr>&lt;/table>
&lt;/div>
&lt;/div>&lt;p>* 不過我在猜它是不是還會塞入其他 prompt，因為 usage &amp;gt; prompt_tokens 看起來明顯大於我下的 prompt token 數量。知道的網友可以留言幫我解惑~🙏&lt;/p>
&lt;br/>
&lt;!--adsense-->
&lt;br/>
&lt;h2 id="結語">結語&lt;/h2>
&lt;p>如果你剛好在開發 LLM 應用專案，或使用量不多，推薦可以嘗試 GitHub Models。&lt;/p>
&lt;br/>
&lt;p>如果對於 生成式 AI 有興趣的讀者，記得追蹤『&lt;a href="https://www.facebook.com/jiatool" target="_blank" rel="noopener">
IT空間
&lt;/a>』FB 粉專，才不會錯過最新的發文通知呦~🔔&lt;/p>
&lt;br/>
&lt;br/>
&lt;hr />
&lt;p>參考：&lt;br />
&lt;a href="https://github.com/marketplace/models" target="_blank" rel="noopener">
GitHub Marketplace Models
&lt;/a>&lt;br />
&lt;a href="https://docs.github.com/en/github-models/prototyping-with-ai-models" target="_blank" rel="noopener">
GitHub Models 說明文件
&lt;/a>&lt;/p>
&lt;br/>
&lt;blockquote>
&lt;p>我不是最好的那個，但我想成為最努力的那個。&lt;/p>
&lt;p align="right">—— 李洋 (台灣羽球國手)&lt;/p>
&lt;/blockquote></content:encoded><dc:creator>Jia</dc:creator><media:content url="https://blog.jiatool.comimages/cover/github_models.jpg" medium="image"><media:title type="html">featured image</media:title></media:content><media:content url="https://blog.jiatool.comimages/posts/github_models_meta.jpg" medium="image"><media:title type="html">meta image</media:title></media:content><category>GitHub</category><category>API</category><category>LLM</category><category>生成式AI</category><category>AI</category><category>人工智慧</category><category>分享</category></item></channel></rss>