Firecrawl 於 8 月 20 日推出專為編碼 AI 打造的檢索基礎建設「Developer Index」。它把 README、Issue、拉取請求與外部文件等超過 7,000 萬件產出統一建立索引,針對自然語言提問回傳附命中段落的結果。同時,該公司也公開了衡量開發者檢索品質的開放基準「DevDex」。
代理要找的並不是網頁
編碼 AI 的工具呼叫有相當大一部分耗在找資料上。最典型的有三類:實作某個構想的程式碼儲存庫、能解答疑問的文件頁面,以及討論並修好某個問題的 Issue 或拉取請求。
麻煩之處在於,這三類內容分散在 GitHub、文件網站與各式討論串之中。現有檢索多半仰賴字面比對,難免有所遺漏。Firecrawl 指出,若要把一份 README 連同相關 Issue 與近期拉取請求一併取回,往往得呼叫 50 次以上的介面。
該公司列出的使用者輪廓也相當具體:代替終端使用者排查後端問題的代理型產品、想把內部與外部儲存庫整合成單一檢索層的團隊,以及需要公開開發文件、程式碼、Issue 與拉取請求作為訓練與評測資料的前沿研究機構。它們卡在同一個缺口上。
索引的是產出,而非程式碼
Developer Index 收錄超過 7,000 萬件產出,包含 README、拉取請求、Issue、OpenAPI 規格、技能檔案以及外部技術文件。更新持續進行,多數來源每天重新整理。
主要儲存庫的 Issue 與拉取請求會連同關聯產出一併收錄。README 涵蓋範圍廣泛的公開儲存庫,外部文件則收錄類似 Stripe 那種結構完整的資料。每件產出還帶有星數、授權條款、類型等中繼資料。
這套索引不會保存程式碼,也不是通用的網頁檢索端點。Firecrawl 把界線畫得很清楚:這是圍繞編碼代理所產生與使用的產出而建構的檢索層。
兩種呼叫方式,不需 API 金鑰就能試
用法相當直接。送出自然語言提問,就會取得排序後的開發者結果與命中的段落。段落以 Markdown 形式回傳,表格與程式碼區塊的結構不會被破壞,代理不必再抓一次就能直接判斷。
入口有兩個:只回傳開發者來源的專用端點,以及在一般檢索中指定開發者類別。回傳結果帶有穩定的 ID,看前綴就能分辨是文件、Issue、拉取請求還是 README。
透過 API 可依類型、儲存庫、來源、語言、主題、授權條款與最低星數等條件篩選,另外也有只檢索技能檔案的設定。不過這些篩選條件僅限 API。在 CLI 與 MCP 上,代理不加篩選時表現反而更好,因此 Firecrawl 刻意沒有開放。
試用不需 API 金鑰,登錄金鑰後速率上限會放寬。計費為每 10 筆結果 2 點額度,不足部分無條件進位。
npx -y firecrawl-cli@latest setup developer-index
提供形式涵蓋 API、CLI、MCP 與各類 SDK,可直接接進既有的框架,包括 Codex、Claude Code 與 Grok Build。
連衡量精度的尺也一起端出來
更耐人尋味的是,Firecrawl 同時公開了評測基準「DevDex」。出發點在於:既有的檢索基準並未反映代理在寫程式時真正會查的內容。
內容為 1,179 筆開發者檢索查詢,分成儲存庫探索、文件查詢、Issue 與拉取請求除錯三條賽道。評分採用檢視正確產出是否出現在前 10 筆中的 Recall@10,以及納入名次的 MRR@10。判定依固定答案機械執行,並設有排除機制,把光靠預訓練知識就能回答的題目剔除。各家在一致條件下執行,驅動模型為 Claude Opus 4.8,每次執行只啟用一項檢索工具。
結果如下:Developer Index 綜合分數為 0.63。未指定類別的 Firecrawl 檢索為 0.58,Parallel 為 0.57,Mintlify 與 Exa 為 0.54,模型內建的網頁檢索為 0.45,Context7 則是 0.17。
依賽道拆開來看,長處與短處便顯現出來。Developer Index 在 Issue 與拉取請求賽道以 0.66 居首,文件查詢為 0.47,與 Context7 幾乎打平。至於儲存庫探索只有 0.76,不及 Parallel 的 0.82 與 Firecrawl 檢索的 0.78。主攻文件的 Context7 在儲存庫探索僅 0.01,Issue 相關為 0.03,守備範圍之窄直接反映在數字上。
Firecrawl 已將一半資料集與評測執行環境開源,讓其他團隊能在同一基準上衡量自家系統。
總結
Developer Index 的思路,是把編碼 AI 需要的素材以「產出」而非「網頁」的形式交到手上。逾 7,000 萬件的索引每天更新,並附上命中段落回傳,目標直指減少代理的來回次數。它在綜合分數上拿下首位,卻在儲存庫探索讓位給同業,實際用途仍得看情況取捨。加上主動公開基準這一點,這次發表顯示開發者檢索終於進入可以彼此比較的階段。
