為什么需要私人AI知識庫為什么需要私人AI知識庫

是不是厭倦了LLM⼀本正經(jīng)的答⾮所問(wèn)、套話(huà)...等低效的信息檢索。

私有知識庫在前AI時(shí)代就有⾮常多使⽤場(chǎng)景 ，尤其是企業(yè)內部知識、個(gè)人知識庫等。結合⼀個(gè)優(yōu)秀的 LLM之后 ，能夠讓知識檢索和歸納上升⼀個(gè)臺階。

⼩⽩快速搭建個(gè)人AI知識庫

個(gè)人AI知識庫的⽅案有很多種 ，今天介紹⼀種難度很低且知識檢索效果不錯的⽅案：

AnythingLLM+DeepSeekV3。

• AnythingLLM 是⼀個(gè)知識庫管理前端⼯具 ，⽀持上傳知識、 向量化數據、 RAG（檢索增強） ⼀條 龍服務(wù) ，⽽且是開(kāi)源免費的。

• DeepSeekV3（簡(jiǎn)稱(chēng)DS）是幻⽅量化的⼤模型 ，總體評分和Clad ue3.5不相上下 ，⽽且Token⾮常 便宜 ，本次⽅案使⽤DS作為推理模型。

（AnythingLLM還⽀持其他推理模型 ，如GPT、Claude或者ollama運⾏本地開(kāi)源模型等）

⼀ 、安裝AnythingLLM

1.下載地址：https://anythingllm.com/ ，⽀持windows、 mac、 Linux系統。

2.打開(kāi)軟件 ，先設置LLM ，這⾥選DeepSeek ，模型選擇chat（也就是新的V3模型） 。API Key可以 去它們官⽹注冊下 ，充值⼏塊錢(qián)就夠⽤了。

3.進(jìn)⼊⼯作區 ，可以在左下角設置按鈕中進(jìn)⾏基礎配置 ，如： LLM、嵌⼊模型、 向量數據庫選擇等 ，新 ⼿可以先保持默認設置。 （這⾥單d提下Embedding模型 ，Embedding是將⾼緯度數據嵌⼊低緯度空間⽅便存儲 ，模型性能影 響對后續知識檢索有挺⼤影響 ，建議可以換成bge-m3 ，這個(gè)模型對多語(yǔ)⾔和⻓⽂本都⽀持的不錯 ，需

要本地運⾏Ollama加載這個(gè)模 ， 由于需要安裝Ollama ，新⼿可以跳過(guò)這⼀步）。

⼆ 、上傳⽂檔

1.上點(diǎn)擊⼯作空間的上傳按鈕 ，打開(kāi)上傳

2.⽀持上傳pdf、csv、⾳頻或者抓取⽹頁(yè)內容等等。上傳后右鍵加⼊⼯作空間就ok了。

附件：DeepSeek V3搭建個(gè)人知識庫教程,AnythingLLM+DeepSeekV3