創(chuàng )澤機器人 |
CHUANGZE ROBOT |
為什么需要私人AI知識庫為什么需要私人AI知識庫
是不是厭倦了LLM⼀本正經(jīng)的答⾮所問(wèn)、套話(huà)...等低效的信息檢索。
私有知識庫在前AI時(shí)代就有⾮常多使⽤場(chǎng)景 ,尤其是企業(yè)內部知識、個(gè)人知識庫等。結合⼀個(gè)優(yōu)秀的 LLM之后 ,能夠讓知識檢索和歸納上升⼀個(gè)臺階。
⼩⽩快速搭建個(gè)人AI知識庫
個(gè)人AI知識庫的⽅案有很多種 ,今天介紹⼀種難度很低且知識檢索效果不錯的⽅案:
AnythingLLM+DeepSeekV3。
• AnythingLLM 是⼀個(gè)知識庫管理前端⼯具 ,⽀持上傳知識、 向量化數據、 RAG(檢索增強) ⼀條 龍服務(wù) ,⽽且是開(kāi)源免費的。
• DeepSeekV3(簡(jiǎn)稱(chēng)DS)是幻⽅量化的⼤模型 ,總體評分和Clad ue3.5不相上下 ,⽽且Token⾮常 便宜 ,本次⽅案使⽤DS作為推理模型。
(AnythingLLM還⽀持其他推理模型 ,如GPT、Claude或者ollama運⾏本地開(kāi)源模型等)
⼀ 、安裝AnythingLLM
1.下載地址:https://anythingllm.com/ ,⽀持windows、 mac、 Linux系統。
2.打開(kāi)軟件 ,先設置LLM ,這⾥選DeepSeek ,模型選擇chat(也就是最新的V3模型) 。API Key可以 去它們官⽹注冊下 ,充值⼏塊錢(qián)就夠⽤了。
3.進(jìn)⼊⼯作區 ,可以在左下角設置按鈕中進(jìn)⾏基礎配置 ,如: LLM、嵌⼊模型、 向量數據庫選擇等 ,新 ⼿可以先保持默認設置。 (這⾥單獨提下Embedding模型 ,Embedding是將⾼緯度數據嵌⼊低緯度空間⽅便存儲 ,模型性能影 響對后續知識檢索有挺⼤影響 ,建議可以換成bge-m3 ,這個(gè)模型對多語(yǔ)⾔和⻓⽂本都⽀持的不錯 ,需
要本地運⾏Ollama加載這個(gè)模 , 由于需要安裝Ollama ,新⼿可以跳過(guò)這⼀步)。
⼆ 、上傳⽂檔
1.上點(diǎn)擊⼯作空間的上傳按鈕 ,打開(kāi)上傳
2.⽀持上傳pdf、csv、⾳頻或者抓取⽹頁(yè)內容等等。上傳后右鍵加⼊⼯作空間就ok了。
![]() |
機器人底盤(pán) Disinfection Robot 消毒機器人 講解機器人 迎賓機器人 移動(dòng)機器人底盤(pán) 商用機器人 智能垃圾站 智能服務(wù)機器人 大屏機器人 霧化消毒機器人 紫外線(xiàn)消毒機器人 消毒機器人價(jià)格 展廳機器人 服務(wù)機器人底盤(pán) 核酸采樣機器人 智能配送機器人 導覽機器人 |