Letta是一個開源框架，專注于構(gòu)建具有高級推理能力和透明長期記憶的有狀態(tài)大型語言模型（LLM）應(yīng)用。它由加州大學(xué)伯克利分校的Sky Computing Lab孵化，由博士生Sarah Wooders和Charles Packer創(chuàng)立。Letta的前身是MemGPT，該項目在發(fā)布前便因熱度而被廣泛關(guān)注。Letta旨在解決大語言模型（LLM）在多輪對話和文檔分析中的上下文窗口限制問題，通過虛擬上下文管理，使模型能夠記住并學(xué)習(xí)，即使在上下文窗口填滿后也不遺忘。
Letta開源項目官網(wǎng)入口網(wǎng)址：https://github.com/letta-ai/letta
核心亮點：
- 狀態(tài)化記憶：支持分層記憶塊，Agent 可以修改、刪除、檢索自己的記憶
- 多 Agent 協(xié)作：不同 Agent 能共享記憶塊，形成復(fù)雜的協(xié)作網(wǎng)絡(luò)
- 背景代理：提供 sleep-time agent，在后臺自動維護和更新記憶
- 文件系統(tǒng)接入：可直接訪問外部文件夾，處理 PDF、TXT、JSON 等資料
- 模型兼容性強：支持 OpenAI、Anthropic、Ollama 以及本地模型，隨時切換
- ?部署靈活：既有 Cloud 服務(wù)，也能本地自托管，還提供桌面版 UI
Letta是一個開源框架，支持多種部署環(huán)境，包括Docker和pip安裝，推薦使用Docker進行生產(chǎn)環(huán)境部署。它提供CLI工具、API服務(wù)器、ADE（代理開發(fā)環(huán)境）等，支持用戶創(chuàng)建、部署和管理代理。Letta支持多種模型提供商，如OpenAI、Anthropic等，并且支持多種數(shù)據(jù)庫后端，如PostgreSQL。
Letta強調(diào)開源和透明性，鼓勵社區(qū)參與和貢獻(xiàn)，提供多種貢獻(xiàn)途徑，包括提問、報告問題、探索路線圖及參加社區(qū)活動。Letta還獲得了1000萬美元的種子投資，估值達(dá)7000萬美元，投資方包括Felicis、Jeff Dean、Hugging Face等知名投資人。
Letta的愿景是推動AI記憶管理的發(fā)展，使代理記憶和推理透明化，構(gòu)建開放平臺，使開發(fā)者能夠透明、可控地開發(fā)狀態(tài)化AI應(yīng)用。
相關(guān)導(dǎo)航
