本地 27B 模型:壓縮 MCP 工具列表後完成函式調查
分析目標: 自建 C token 檢查程式;Qwen3.8-27B、llama.cpp、OpenCode 與 REA MCP
作者 / 歸屬: CassieFox23
核對日期:
收錄狀態: 已閱讀公開原文,未獨立復跑作者測試。
想解決什麼問題
本地模型只有 32K 上下文時,怎樣讓 REA 的工具描述與實際調查一起裝得下?
REA 具體做了什麼
作者使用 PR #3026 的 d993ffeb1 版本和 Ghidra 12.1.4,透過工具族與 OpenCode 客戶端 allowlist 僅暴露 10 個 REA 工具;模型開啟目標、查詢函式、反編譯並關閉會話。
原作者報告的成果
作者報告完整 206 工具提示超出上下文;62 工具配置在讀提示後遭遇 GPU reset;10 工具配置提示為 4,407 tokens,三次均找到目標字串並解釋檢查邏輯,每次約 80 秒。
侷限與未驗證項
三次使用同一個極小程式與提示,不是三個獨立任務;未比較其他模型或客戶端。實驗執行在當時的 PR 提交,不能把歷史工具數量、開關或時間當成當前發行版保證。
可以借鑑什麼
先測工具 schema 的上下文佔用,再做最小工具集合實驗;同一任務重複成功不能代表普遍能力。
原文中的 REA 使用證據
With the full tool list, nothing fits.短摘錄簡化了排版,完整上下文以原文為準。
原始來源
本頁為獨立整理,成果歸原作者。目標軟體、安裝包和完整反編譯輸出不在此分發。