據(jù) Arxiv 頁面顯示,大模型聊天工具的輸入和輸出限制一直影響著他們的能力發(fā)揮,為了解決這個問題,加州大學伯克利分校的研究者們推出了一款名為MemGPT 的大語言模型系統(tǒng)。
研究團隊通過借鑒傳統(tǒng)操作系統(tǒng)中的層次內(nèi)存系統(tǒng),提出虛擬上下文管理技術(shù),通過在快速和慢速內(nèi)存之間移動數(shù)據(jù),提供大內(nèi)存資源的外觀。
MemGPT 系統(tǒng)智能地管理不同的內(nèi)存層次,以在 LLM 的有限上下文窗口內(nèi)有效提供擴展上下文,并利用中斷來管理自身與用戶之間的控制流。
實驗顯示,MemGPT 在多會話聊天和文檔分析實驗中表現(xiàn)出良好的性能,有效克服了現(xiàn)有方法在有限上下文中性能的限制。
榜單收錄、高管收錄、融資收錄、活動收錄可發(fā)送郵件至news#citmt.cn(把#換成@)。
海報生成中...