這個(gè)項(xiàng)目剛剛發(fā)布便登上 GitHub 熱榜首位，短短一周便收獲了驚人的 2K star，背后的團(tuán)隊(duì)更是備受熱議，今天的開源項(xiàng)目就是 AI 搜索引擎：lepton search
Lepton Search 的一些背景
Lepton Search 是有 LeptonAI 推出的 ai 增強(qiáng)對話式搜索引擎，可以說從發(fā)布出來的那一天，就備受關(guān)注和爭議。
首先要說不是產(chǎn)品，而是 LeptonAI 的 CEO 賈揚(yáng)清。如果是關(guān)注 AI 圈子的人，一定對這個(gè)名字不陌生了，先是賈揚(yáng)清發(fā)表的朋友圈，怒噴了一把國內(nèi)某些大廠的大模型抄襲，當(dāng)時(shí)一度爆火。
再說回產(chǎn)品，在 1 月 25 日 Lepton AI 發(fā)布了一個(gè)小 demo，當(dāng)時(shí) Lepton Search 還沒有正式開源。在發(fā)布之后，號稱要干掉谷歌搜索的 Perplexity 創(chuàng)始人聲稱 LeptonAI 在“借鑒”、“致敬”他們的產(chǎn)品。作為 LeptonAI 的創(chuàng)始人，賈揚(yáng)清在 Twitter 上進(jìn)行了公開回?fù)簦⑶颐鞔_說，要開源 Lepton Search。
現(xiàn)在 Lepton Search 正式開源后，關(guān)注度更是持續(xù)升溫。
Lepton Search 是什么
賈揚(yáng)清在自己的團(tuán)隊(duì)記錄里提到，這只是一個(gè) demo，僅用了一個(gè)周末的時(shí)間來演示 AI 應(yīng)用容易實(shí)現(xiàn)。以下它目前的能力：
- 對 LLM 的內(nèi)置支持
- 內(nèi)置搜索引擎支持
- 可定制漂亮的 UI 界面
- 可共享的緩存搜索結(jié)果
Lepton Search 之所以 500 行代碼就能實(shí)現(xiàn)，依賴的是它背后已經(jīng)模塊化的 AI 能力，這里 Lepton Search 之所以核心使用到的能力有 3 塊：
- 大模型，調(diào)用了在 LeptonAI 自家云上部署的開源 Mixtral-8x7b 模型。
- 搜索引擎，目前用了必應(yīng)搜索的 API。
- 數(shù)據(jù)存儲(chǔ)，用自家 Lepton KV 作為無服務(wù)器存儲(chǔ)。
所以 Lepton Search 是一個(gè)前端 UI 加接口調(diào)度的組合。但是這也給所有開發(fā)者一個(gè)借鑒，未來的 AI 應(yīng)用開發(fā)將愈來愈模塊化。
使用 Lepton Search
項(xiàng)目提供了在線試用：
https://search.lepton.run/
當(dāng)然也可以自己來編譯部署，以下幾步：
首先需要獲取 bing 的 key，設(shè)置為變量
export BING_SEARCH_V7_SUBSCRIPTION_KEY=YOUR_BING_SUBSCRIPTION_KEY編譯 web
cd web && npm install && npm run build啟動(dòng)服務(wù)
BACKEND=BING python search_with_lepton.pyAI 增強(qiáng)搜索引擎
目前，大語言模型（LLM）主要面臨兩大挑戰(zhàn)：數(shù)據(jù)陳舊、偶發(fā)幻覺。由于基礎(chǔ)模型所使用的預(yù)訓(xùn)練數(shù)據(jù)集具有明確的截止日期，因此無法根據(jù)最新數(shù)據(jù)做出響應(yīng)。即使是當(dāng)前最強(qiáng)大的模型，也往往會(huì)因數(shù)據(jù)過時(shí)而編造答案，也就是人們常說的“幻覺”問題。
對于無法訪問最新數(shù)據(jù)，可以有兩種方法，第一種是通過搜索引擎，通過執(zhí)行網(wǎng)絡(luò)搜索并向大模型提交輸來改善決策質(zhì)量。
第二種方法是，通過所謂檢索增強(qiáng)生成（RAG），這項(xiàng)成熟技術(shù)可以解決一定程度的“幻覺”問題。與前面提到的動(dòng)態(tài)調(diào)用搜索 API 方法不同，RAG 強(qiáng)調(diào)從公開數(shù)據(jù)存儲(chǔ)中檢索數(shù)據(jù)，例如向量數(shù)據(jù)庫或者由外部維護(hù)的全文搜索索引等。
項(xiàng)目信息
- 項(xiàng)目名稱：Lepton Search
- GitHub 鏈接：https://github.com/leptonai/search_with_lepton
- Star 數(shù)：2K+
