文章提供了快速搭建個(gè)人AI知識(shí)庫(kù)的方案,通過(guò)結(jié)合 AnythingLLM 和 DeepSeek V3,用戶可以高效地管理自己的知識(shí)庫(kù),通過(guò)AI進(jìn)行智能檢索和問(wèn)答。文章詳細(xì)介紹了安裝、配置、上傳文檔和知識(shí)檢索的具體步驟,適合新手快速上手。
站長(zhǎng)推薦:DeepSeek服務(wù)器繁忙怎么解決?16個(gè)免費(fèi)R1滿血版平替
傳統(tǒng)的大型語(yǔ)言模型(LLM)在回答問(wèn)題時(shí)可能會(huì)出現(xiàn)答非所問(wèn)、套話連篇等問(wèn)題,導(dǎo)致信息檢索效率低下。私有知識(shí)庫(kù)在AI時(shí)代,私有知識(shí)庫(kù)結(jié)合優(yōu)秀的LLM,可以顯著提升知識(shí)檢索和歸納的效率??梢杂糜谄髽I(yè)內(nèi)部知識(shí)管理,適用于個(gè)人知識(shí)庫(kù)的搭建。
使用 AnythingLLM + DeepSeekV3 是簡(jiǎn)單且知識(shí)檢索效果不錯(cuò)的方案
- AnythingLLM:開(kāi)源免費(fèi)的知識(shí)庫(kù)管理前端工具,支持上傳知識(shí)、向量化數(shù)據(jù)、檢索增強(qiáng)(RAG)等服務(wù)。
- DeepSeekV3:(簡(jiǎn)稱DS)幻方量化推出的大模型,性能與Claude 3.5相當(dāng),Token價(jià)格較低,本次方案使用DS作為推理模型。
- 下載與安裝:
- 下載地址:訪問(wèn)AnythingLLM的,支持Windows、macOS和Linux系統(tǒng)。
- 打開(kāi)軟件后,需要先設(shè)置LLM(語(yǔ)言模型)。
- 設(shè)置LLM:
- 選擇 DeepSeek 作為L(zhǎng)LM提供商。
- 模型選擇 chat(即DeepSeek V3模型)。
- 獲取API Key:需要在DeepSeek官網(wǎng)注冊(cè)賬號(hào)并充值少量費(fèi)用。
- 基礎(chǔ)配置:
- 在左下角的設(shè)置按鈕中可以進(jìn)行基礎(chǔ)配置,如LLM、嵌入模型、向量數(shù)據(jù)庫(kù)等。
- 新手建議保持默認(rèn)設(shè)置。
- 嵌入模型(Embedding):建議使用 bge-m3,它對(duì)多語(yǔ)言和長(zhǎng)文本支持較好,但需要本地運(yùn)行Ollama加載。新手可以跳過(guò)這一步。
- 上傳方式:
- 點(diǎn)擊工作空間的上傳按鈕,支持上傳PDF、CSV、音頻文件,或者抓取網(wǎng)頁(yè)內(nèi)容。
- 上傳后,右鍵點(diǎn)擊文件并選擇“加入工作空間”即可。
- 擴(kuò)展功能:
- 在 DataConnector 中,可以獲取YouTube視頻(需要有字幕)、Confluence文檔庫(kù)等平臺(tái)的數(shù)據(jù)。
- 開(kāi)啟對(duì)話:
- 在工作區(qū)點(diǎn)擊 New Thread 開(kāi)啟新的對(duì)話。
- 提問(wèn)后,AI會(huì)根據(jù)知識(shí)庫(kù)中的內(nèi)容進(jìn)行回答。
- 查看引用來(lái)源:
- 如果想確認(rèn)AI回答的知識(shí)來(lái)源,可以在回答底部點(diǎn)擊 Show Citations 查看引用的知識(shí)。
- 實(shí)時(shí)搜索功能:
- AnythingLLM的新版本支持Agent模式,可以接入Google、Bing等搜索引擎,實(shí)現(xiàn)實(shí)時(shí)搜索,增加知識(shí)檢索的時(shí)效性。
還沒(méi)有評(píng)論,來(lái)說(shuō)兩句吧...