把買 GPU 的錢省下來租雲端服務： 建立 aws bedrock 模型與價格清單

想玩龍蝦 🦞、 不想買 GPU => 租雲端的 LLM 來用。 因為我有 AWS 的點數， 那就拿 AWS BedRock來用吧!

[7/8] 補充說明： 但 aws 其實比較貴。 如果你不像我有點數， 建議問一下 AI： 「有哪些可替代 AWS Bedrock 和 OpenRouter、可租用開放權重模型的平台？ 請比較 AWS Bedrock、OpenRouter 以及你推薦的其他方案的價格(以整體概況為主)。 另外，也請比較它們所提供的模型種類 (多樣性)，以及其他你認為重要的面向。」 Gemini 跟 ChatGPT 都推薦 DeepInfra。 另外還有 Together AI、 Groq、 Novita AI 等等。

回到 AWS BedRock。 請參考： 給小白的 bedrock 簡介、 bedrock 網頁介面試用心得。 不過， 我喜歡下指令， 所以是在 debian 上面安裝 awscli 套件來測試。 假設你已經 用 aws configure 命令設定好 access key， 也略微熟悉 jq。 我們的目的只是要跟 OpenClaw 接軌， 所以只關心有哪些模型可選擇、 如何下簡單的呼叫指令， 以及價格。

用亞馬遜的 ec2 雲端主機自架 stable diffusion

在 Amazon 的 AWS 上面重新安裝一次 (其實是好幾次) stable diffusion。 這次用比較簡單的做法。 反正 SD 自己會建立所需要的 python 環境， 所以其實不需要用 CloudFormation， 也不需要特別找 "deep learning" 類型的 AMI (Amazon Machine Image)。 直接從比較簡單的 建立一個 ec2 instance 開始。 建立過程當中， 我做以下的選擇與設定：

自架 aws 雲端主機上的 stable diffusion

[2023/12/30] 改推另一篇： 用亞馬遜的 ec2 雲端主機自架 stable diffusion

終於架好自己的 stable diffusion！ 簡單筆記一下參考的連結。 因為我有 aws 的優惠， 所以基本上就照著這篇做： 用 AWS CloudFormation 架設 AUTOMATIC1111 版的 SD。 我這篇的篇名應該加上 「補遺」 才對， 因為重點根本都在 koding work 的文章裡面， 請大家自己去讀 :-)

aws ec2 損毀救援記

我有租一部 aws 的 ec2 虛擬主機。 如果不小心下錯指令把少數幾個重要檔案搞爛掉了， 以致無法登入甚或是無法開機， 該怎麼辦？ 比方說前幾天我就發生了一個悲劇... 我的伺服器當然有照著 密不透水的 ssh 這篇做， 在 /etc/ssh/sshd_config 裡面設定 PasswordAuthentication no， 並且搭配 ~/.ssh/authorized_keys 指定允許登入的 ssh 公鑰。 那天我手殘不小心把這個檔案刪掉了， 馬上掉入恐慌， 就像幾個月前某天出門後才發現忘記帶鑰匙一樣！ 比忘記帶鑰匙更慘的是， 這次沒辦法找老婆幫忙～ 更糟糕的是： 伺服器上面還有老婆要用的檔案... 我雙重死定了～