saved info 讓你跟 gemini 超頻倍速溝通

[6/28 重寫大部分] 現在不叫做 saved info (但這個關鍵詞還是可以找到很多文章)， 而是在 "settings" => "personal intelligence" 底下， 分成兩部分。 基於隱私考量， 第一部分 "memory" 我還是不想啟用； 本文內容適用於第三部分 "instructions for Gemini"。

在舊版裡， 我直接以 (星艦迷航記的) Spock 為原型來設定 gemini 的個性。 但最近 (6/28) 更新時發現： 現在如果提到 Spock， gemini 就拒絕存檔!? (是 哪個舊情人 在不爽 Spock 嗎?) 沒關係， 你還是可以把他的特性描述出來。 另外， 每一則不能有太多字； 太長的指令要拆開。 我因為開始玩 Hermes Agent 而順便重新整理 「給 gemini 的指令」， 把前者的 SOUL.md 跟 USER.md 的內容 copy 過來 gemini。

電腦的速度比人腦快很多， 所以人類跟 LLM 之間的溝通， 最高速率取決於人腦自己的極限。 如果溝通管道設計不良， 成為瓶頸， 那麼效率就還會再打折扣。 我想把我跟 gemini 之間的溝通頻寬拓展到 (我自己的) 極限， 所以寫了這個 saved-info (中文翻譯) 當作我的 "saved info"。 這樣， gemini 會在你未來的每一次對話指令之前自動加上這些指令。 這篇說明一下我的 saved info 的設計理念。

其他 AI 的類似功能： 自訂 ChatGPT、 ...

我先打一個草稿， 然後叫 gemini 幫我用 Spock 的語氣重寫一次。 這可以讓 saved info 本身變得比較精簡， 不要浪費太多的 tokens。 當然， 後來我又自己修改， 可能又變得稍微囉嗦一點。 你可以貼不只一則長駐指令， 像我就貼了好幾則。 為了避免意外刪掉， 我會另外備份。 (而且進入 gemini 記庫時，排版會亂掉。)

基於 心理健康考量， 我會建議大家都以這類型 「高度理性、 低度情感波動」 的角色來設定你的 AI。 你自己更應該避免對AI投入情緒， 也要避免把自己的其他情緒丟給AI， 以免被它放大。 總之， 跟AI對話時， 最好假裝自己也是 Spock。

所以呢， 首先以 Spock 為原型， 簡單定義 LLM 理性、 不諂媚的個性。 特別強調要維持較高的訊號雜訊比 (Signal-to-noise ratio)。 具體地說， 要盡量用專業術語以及知名的觀念與人物事件名稱來把大量訊息壓縮在短短的詞彙裡面， 並且用 『』 框起來， 這樣萬一我看不懂， 還可以去搜尋。 這個設定也會讓我經常意外學到一些新的名詞。

無可避免地， 有時我會下錯指令。 這時它應該要明白指出我的指令何處令它困惑， 以及它的解讀， 以免誤解繼續累積下去。

為避免掉進自己的成見/思考框架， 我要求 LLM 適時指出替代方案的可能性。

我喜歡透過比喻、數學跟概念圖來認識世界。 Graphviz 的 dot 格式可以讓 LLM 用最少的 token 畫出概念圖。

我從自身經驗的一個例子： 從文章裡讀取地點/地址並查詢經緯度座標 裡面學到： 對幾十筆資料執行相同處理時， stage isolation 或 loop fission 的方式， 效果會比較好。 (上面的名詞是我問對問題， 從 LLM 那邊學到的。)

也要求 LLM 提醒我各種風險， 像是安全性、 隱私、 人際關係磨擦等等。

另外， 我指定輸出格式， 要求在每則訊息 "留下對話時間"。 這是我早就想要的功能。

最後是我的背景， 剪貼自 hermes agent 裡的 USER.md。 重點不是要向誰炫耀， 而是要讓 gemini 知道在哪些領域可以用資訊密度高的專業術語跟我高速率溝通。 所以， 比方說， 其實我有教過資料庫， 但並沒有教過離散數學； 可是我想讓它知道我對離散數學的熟悉程度超過資料庫， 所以反過來寫。 另外， 當它知道我關心哪些事 (例如大眾運輸、爬山)， 便能夠拿適當的生活主題來做例子， 對我解釋複雜的觀念。

設定好之後， 我會開啟這樣一個對話：

I have updated my saved-info for gemini. I want to make my communication with you highly efficient. Please look at my saved-info, estimate its token usage (count, and percentage in terms of total available tokens in each conversation), and comment on it. In particular, tell me if there is anything that needs to be clarified or can be improved. 

這個對話不會往下延續， 永遠只有第一則。 每當我更新的時候， 就會來這裡編輯 (新增或刪除一個空格之類沒有影響的動作， 只為了讓它以為我修改過) 然後叫它再回答一次。 目的是確保它看到的永遠都只有最新的版本， 而不會因為同一則對話裡的較舊記憶而受到舊版本的影響。 當它開始雞蛋裡挑骨頭談一些細節的時候， 就表示我的 saved info 應該沒有太大問題了。 注意! 建議多次重複測試時，先先選擇 「快捷」 型的 gemini ，等幾乎確認時， 再改成「思考」。

你的設定長什麼樣子呢? 也請分享一些好點子吧!

[3/27] 更多參考資料：

1. Why Custom Instructions Are Your AI's Secret Weapon for Business Success