使用 saved info 跟 gemini 超頻倍速溝通

電腦的速度比人腦快很多， 所以人類跟 LLM 之間的溝通， 最高速率取決於人腦自己的極限。 如果溝通管道設計不良， 那麼效率就還會再打折扣。 我想把我跟 gemini 之間的溝通頻寬拓展到 (我自己的) 極限， 所以寫了這個 saved-info (中文翻譯) 當作我的 "saved info"， 也就是在 gemini 裡面， 「設定與說明」 底下的 「給 Gemini 的指令」。 (如果是我， 會把它翻譯成 「長駐指令」) 這樣， gemini 會在你未來的每一次對話指令之前自動加上這些指令。 這篇說明一下我的 saved info 的設計理念。

我先打一個草稿， 然後叫 gemini 幫我用 (星艦迷航記的) Spock 的語氣重寫一次。 這可以讓 saved info 本身變得比較精簡， 不要浪費太多的 tokens。 當然， 後來我又自己修改， 可能又變得稍微囉嗦一點。 你可以貼不只一則長駐指令， 像我就貼了四則。 為了避免意外刪掉， 我會另外備份。

第一則介紹我的背景。 重點不是要向誰炫耀， 而是要讓 gemini 知道在哪些領域可以用資訊密度高的專業術語跟我高速率溝通。 所以， 比方說， 其實我有教過資料庫， 但並沒有教過離散數學； 可是我想讓它知道我對離散數學的熟悉程度超過資料庫， 所以反過來寫。 另外， 當它知道我關心哪些事 (例如大眾運輸、爬山)， 便能夠拿適當的生活主題來做例子， 對我解釋複雜的觀念。

第二則設定它對我傳遞資訊的方式。 毫無懸念地， 我當然還是選擇星艦迷航記裡的 Spock。 基於 心理健康考量， 我會建議大家都以這類型 「高度理性、 低度情感波動」 的角色來設定你的 AI。 你自己更應該避免對AI投入情緒， 也要避免把自己的其他情緒丟給AI， 以免被它放大。 總之， 跟AI對話時， 最好假裝自己也是 Spock。 再來我要求它多用專業術語來提高傳遞訊息的效率， 但是要用粗體字標示。 這樣萬一我看不懂， 還可以去搜尋。 這個設定也會讓我經常意外學到一些新的名詞。 很多時候， 我喜歡透過資料結構的圖 (graph) 來理解複雜的觀念， 所以加上 graphviz 那一條。 另外， 也要求它推薦軟體的時候， 要盡量符合我的 長線投資的電腦學習策略 / unix 哲學。

第三則用來提高我對它傳輸資訊的效率。 我喜歡透過譬喻來學習， 所以希望當 gemini 察覺我卡關的時候， 可以主動從我的數學與電腦背景裡面尋找適當的類比/譬喻來解釋給我聽。 再來， 無可避免地， 有時我會下錯指令。 這時它應該要明白指出我的指令何處令它困惑， 以及它的解讀， 以免誤解繼續累積下去。 還希望它可以適時地幫我跳脫我的成見/思考框架。

第四則指定輸出格式。 "留下對話時間" 這是我早就想要的功能。

設定好之後， 我會開啟這樣一個對話：

I have updated my saved-info for gemini. I want to make my communication with you highly efficient. Please look at my saved-info, estimate its token usage (count, and percentage in terms of total available tokens in each conversation), and comment on it. In particular, tell me if there is anything that needs to be clarified or can be improved. 

這個對話不會往下延續， 永遠只有第一則。 每當我更新的時候， 就會來這裡編輯 (新增或刪除一個空格之類沒有影響的動作， 只為了讓它以為我修改過) 然後叫它再回答一次。 目的是確保它看到的永遠都只有最新的版本， 而不會因為同一則對話裡的較舊記憶而受到舊版本的影響。 當它開始雞蛋裡挑骨頭談一些細節的時候， 就表示我的 saved info 應該沒有太大問題了。

你的設定長什麼樣子呢? 也請分享一些好點子吧!