Hermes agent 工業風慢慢學， 先靠 docker 上手

單純的 LLM 就像是裝在瓶子裡、 只能與外界對話的大腦； 如果讓 LLM 連上鍵盤滑鼠、 讓它可以操作電腦， 那就變成了現在流行的 AI agent。 零基礎的讀者可以讀 Frank Chiu 的 Hermes Agent 概念簡介文， 建立基本觀念。 想動手玩的讀者， 資訊密度超高的 PAPAYA 電腦教室的保姆級教學影片 很值得研究。 也推薦直接搜尋 「Hermes Agent」。

* * * * *

年初就想玩 AI agent； 最近終於開始有點上手。 我學 AI agent 沒有工作需求與時間的壓力； 我又偏好 "工業風"： 透過命令列觀察各種 "管線" 運作原理、 設定較省資源的輕巧工作與備份環境， 所以進度很慢， 連通訊軟體都還沒接 😅 ； 但也因此在很多地方磨出一些更深入的心得。 本文以及接下來的一系列 Hermes agent 文章就是這樣的調性； 跟主流的文章不太一樣。

OpenRouter： LLM 的自助餐美食街

自助餐的好處是有很多中低價位的菜色可以挑， 而且每一種菜的份量你可以自己決定。 Inference provider 類型的 NeoCloud 提供了很多開放權重的 LLM 模型， 就像自助餐店一樣。 比自助餐點更棒的是： 你在這裡也可以點牛排或松露， 呃， 我是說前沿模型。 他們通常會跟 Anthropic、 OpenAI、 Google 等等大廠合作， 所以他們的客戶也可以 (不需要固定訂閱! 而是) 按用量計價地使用最先進、 最昂貴的模型。

OpenRouter 就像是佈滿自助餐店的美食街或夜市， 而且你指定每一樣菜的時候， 它還會自動幫你挑最便宜或最好吃的那一攤， 直接送到你面前。 也就是說你點的雞腿可能來自 A 攤， 蒸蛋卻是來自 B 攤， 外加 1/3 片王品菲力牛排。 當然， OpenRouter 本身也會抽取手續費， 目前是 5.5%。

為什麼我採用 NeoCloud 玩 AI/agent?

NeoCloud 是新型態的雲端服務廠商， 主打提供 AI/LLM/GPU 算力， 按用量計費。 通常會部署許多開放權重模型， 像是 Google 的 gemma、 OpenAI 的 gpt-oss、 nVidia 的 nemotron、 deepseek 等等。 用戶可以小額付費取得 API key， 例如每次加值 10 或 20 美元， 就可以享用許多種不同的模型； 用完再買額度。 很多 NeoCloud 廠商也會跟 Anthropic、 OpenAI、 Google、 xAI、 Mistral 等等大型 AI 公司 (稱之為前沿模型大廠好了) 合作， 於是用戶也可以透過 NeoCloud 廠商使用專屬的前沿模型。 搜尋 "neocloud providers" 會找到 Top GPU providers 之類的清單， 搜尋 "ai inference providers" 會找到 Inference Providers for Consumer AI Apps 之類的清單。 常聽到的有 Together AI、 Baseten、 OpenRouter、 Deepinfra 等等。 也請見 技嘉解說文。

理性/務實/科學： 理解京華城案/練習 NotebookLM

上一篇我們用 MarkDownload 批次下載京華城言詞辯論數十萬字的逐字稿， 目的很簡單： 懶得自己讀， 讓 AI 幫讀。 其實溫朗東也已經一併叫 AI 為每一場辯論做了通盤分析； 但是你不一定認同他的立場 (所下的提示詞)， 所以就拿 NotebookLM 自己來下吧!

MarkDownload： 批次下載網頁， 以 markdown 格式存檔

有些網站採用 JavaScript 前端渲染其文字內容 (client-side rendering)， 無法直接用 curl/wget/lynx 等等命令直接下載。 例如 溫朗東所製作 的 京華城案 15 場逐字稿 就是。 [順便抱怨一下： 像這種希望大家廣傳的資訊， 真的拜託用純文字就好， 對於視障者♿、 搜尋引擎還有文字瀏覽器使用者都比較友善。] 這種情況， 手動滑鼠剪貼有點囉嗦； 寫程式下載又有點費工； 那就用 firefox 的擴充套件 MarkDownload 吧! 你還是需要手動打開每個頁面 (所以不適合處理上百頁的情況)； 但至少不需要剪貼很多次。

csv 轉檔萬用瑞士刀 miller

跟 AI 對話時學到 miller/mlr 這個工具： 用 apt show miller 查看它的簡介： 「這是專用於處理 csv 之類的檔案、 具有 sed, awk, cut, join, sort, ... 多種功能的工具。」 這超帥! 跟 json 轉檔萬用瑞士刀 jq 有點類似， 又有點互補。 好可惜網路上的教學文很少。

FinMind： 從命令列下載台股財報

以前我都從某些網站下載台股財報。 我也很有禮貌地避免短時間內大量下載。 但是網站的防護越來越嚴， 最近終於再也無法下載。 其實我很願意付費取得資料， 無奈先前一直找不到願意提供這種服務的網站。 直到最近問了 AI， 才得知 FinMind 金融 X 大數據 這個超棒的網站， 專門就是為買賣股票的程式設計師而生的服務!

jq 練習： geojson (或一般的 json) 轉 csv

手上有 json 檔想轉成 csv 嗎? 讓我用一個 (幾乎是) geojson 格式的檔案 stops-151.geojson 來作示範。 這是一個 "已拆掉最外層" 的 geojson 檔， 只剩 Feature 陣列， 每個圖徵是一個 Point， 代表台中市 (舊的) 151 號公車路線上的一個站牌。 對啦， 像這種很明確的小事， 現在都交給 AI 就好了。 人類只需要知道有 json 轉檔萬用瑞士刀 jq 這樣的工具， 跟 AI 的對話效率就已經可以很高。 但是我還是喜歡用部落格留下記錄， 將來用搜尋取回參考， 會比再問一次 AI 節省能源， 而且可以順便做做頭腦體操。

你的 Android 手機已被 google 暗中安裝了 SafetyCore 嗎?

被噗友提醒， 搜尋一下， 才得知去年三月時的舊聞： Google 偷偷安裝 "SafetyCore" 這個系統 app， 號稱是要辨識 android 手機上通訊軟體經手的裸露、暴力等等 「不當圖片」、 加以阻絕。 但 google 並未明確告知用戶， 且 SafetyCore 無法直接從手機介面移除。

已有 研究 找出修改圖片的方法， 讓 SafetyCore 誤攔無辜圖片或放行色色圖片。 另一方面， 這個 app 未來會不會在某次的升級當中， 加入言論管制或侵犯用戶隱私與權益的其他功能呢? 畢竟這次 google 躡手躡腳偷裝 SafetyCore， 且不讓用戶輕易刪除， 顯然已經 不再堅持 Don’t be evil。 就跟過去 蘋果企圖檢查用戶手機上的相片 一樣， 這類科技總是會被夠積極的手機持有者破解， 卻又會剝奪大多數用戶的手機自主權、 引發用戶的厭惡。 這也很像 「安全開機」， 假安全之名， 行限制用戶自由之實， 所以需要偷偷做。

LLM API 練習： 台幣三元能做多少事? 幫四千多則噗浪貼文下標籤

最近幾個月藉一個專案來學習呼叫 LLM API： 把過去幾年我寫的或者轉發的每一則噗浪貼文下一些標籤。 成果展示： 所有標籤列表 以及 一個查詢範例。 網址當中的 T=認知戰*矛盾+政治*矛盾 表示查詢 「同時標示 "認知戰" 及 "矛盾" 或同時標示 "政治" 及 "矛盾" 的所有貼文」， 也就是可以接受 "sum of products" 的邏輯查詢式。 也許不是很精確 -- 尤其因為我要求 LLM 下標籤時要 「寧濫勿缺」 (下詳) -- 不過總比幾千則完全沒有整理的噗文要好。 程式碼與範例資料檔放在 github/tagging-plurk； 這篇筆記一下一路的學習心得。

用 whisper asr 幫影片產生字幕 (語音辨識/聽寫)

對，已經有很多語音辨識的產品了； 但我偏好自由軟體解決方案， 例如以 OpenAI 的 whisper 聽寫模型為引擎的各種解決方案。 如果你的電腦夠好， 也許可以用 Buzz， 它支援三大桌面系統、 有圖形介面、 可以完全在本機執行。 我則是搜尋到美女的影片就被說服選用 Whisper ASR webservice 了：

創建一部 aws 短命 ec2 主機， 省錢玩 AI

AWS 的 ec2 服務， 如果要玩 AI， 就需要選比較強的虛擬主機， 尤其因為有 GPU， 當然也就比較貴 💸。 大部分時候， 直接拿別人包好的 docker 來玩比較方便， 而且還要設定讓 docker 支援 GPU。 但我只是久久才偶爾開來玩一次， 要怎樣才能省錢?