開發者或內容創作者經常希望擁有專屬 AI 助手，能記住過往對話脈絡，提供個人化回應，但市面工具往往部署複雜或需依賴雲端服務，導致隱私疑慮同成本上升。a16z-infra 的 companion-app 正解決呢個痛點，提供一個輕量開源堆疊，讓你快速自建同託管具記憶功能的 AI 伴侶。無論係用嚟腦storm 點子、日常記錄定係團隊協作，呢個 GitHub repo 都畀你從零開始建好一個本地運行嘅聊天介面，唔使額外付費訂閱大型 LLM 平台。
Fork repo 同 Clone 後只需安裝 dependencies 即可啟動
呢個工具嘅上手門檻極低，首先喺 GitHub 上 fork a16z-infra/companion-app repo，再 clone 到本地環境。打開終端機，運行 npm install 或 yarn install 安裝 dependencies，幾分鐘內就準備就緒。呢個輕量設計有意避開繁瑣依賴，避免像傳統 AI 框架咁要花幾個鐘頭配置環境。開發者喺本地就能即時測試，確保一切順暢運作。
填寫 secrets 同生成 embeddings 實現 AI 記憶功能
裝好 dependencies 後，下一步係填寫 .env 檔案入面嘅 secrets，例如 API key 同模型設定。呢個步驟確保你連接自己選擇嘅 LLM provider，如 OpenAI 或本地模型。生成 embeddings 係 companion-app 獨有亮點，透過嵌入向量儲存對話歷史，讓 AI 伴侶記住用戶偏好同過往互動。比起無狀態聊天 bot，呢種記憶機制令回應更連貫，例如你之前提過嘅專案細節，AI 會自動引用，省卻重複解釋嘅麻煩。整個過程喺本地完成，數據唔使上傳雲端。
生成 embeddings 後，AI 就能基於向量資料庫快速檢索相關記憶，提升互動效率。呢個設計特別適合需要長期追蹤嘅應用，如個人日誌或知識庫管理。
本地運行 app 後支援文字訊息即時互動伴侶
一切設定妥當，運行 npm run dev 就喺 localhost 啟動 web app。介面簡潔，聊天視窗即開即用，你可以自訂多個 AI 伴侶，每個有獨立記憶空間。呢個工具仲支援額外功能：透過 Twilio 或類似服務，讓你用 SMS 文字訊息同伴侶溝通，唔使打開電腦或 app。想像一下，出門在外發條訊息，AI 就根據記憶回覆最新進度，極大提升便利性。
相比其他 AI 框架，companion-app 強調輕量同自託管，repo 內文件清晰，連新手開發者都易上手。最新 commit 顯示團隊持續優化，確保相容最新 LLM 模型。
開源 repo 方便自訂擴展 AI 伴侶應用
作為 a16z infra 團隊出品，呢個 repo 唔止係 starter kit，仲鼓勵用戶 fork 後修改代碼。例如整合自家資料庫，或加入語音輸入，都只需少量調整。歷史 commit 記錄顯示，專案從基本聊天進化到具備完整記憶系統，證明其穩定性。對於獨立開發者或小團隊，呢係建構個人化 AI 嘅理想起點，避開商業平台嘅鎖定效應。
總括嚇，companion-app 將 AI 伴侶從概念變成現實，讓用戶喺幾小時內擁有具記憶嘅聊天夥伴，適用於生產力提升同創意激發。
產品名稱：companion-app / AI companions with memory
官方網站：https://github.com/a16z-infra/companion-app
