rea-lab:測量 REA 對 Windows 逆向任務的實際幫助
分析目標: Windows 小型挑戰、更大含誘餌二進位制及真實開源程式
作者 / 歸屬: pablodiazjorge
核對日期:
收錄狀態: 已閱讀公開原文,未獨立復跑作者測試。
想解決什麼問題
加上 REA 後,代理解決任務的成功率、耗時和成本怎樣變化?
REA 具體做了什麼
搭建 Windows + Ghidra 環境,做預註冊對照研究,核驗引用 Evidence,公開 writeups、環境與上游修復。
原作者報告的成果
作者現已公開五項預註冊研究:Study 1 為兩組均解出 28/30;Study 2 為無 REA 11/24、用 REA 4/24;Study 3 為 71/72 與 68/72。新增 Study 4 用 DeepSeek 模型為 20/20 與 19/20,未檢測到顯著差異;Study 5 的改進 skill 相對官方版本成本增加 14%(p=0.012),準確率未顯著改變。 2026-10-21 補充 Evidence 留存觀察:作者明確總計 482 次研究執行中,336 次呼叫 REA,加上 3 次因重啟中斷後重跑,合計 339 次呼叫執行均未主動保留 Evidence,評分器從客戶端記錄重建。
侷限與未驗證項
所有研究固定 REA 6.4.0、Claude Code 2.1.296 與各自模型、任務及許可權配置,不能外推當前版本或所有逆向工作。Study 2、3 的成功率差異未達原作者統計檢驗的顯著水平。Study 3 的 Evidence 認證由初報 142/144 更正為 grader 修正後的 144/144,解題數字未改;Study 4 樣本僅 20 對。Study 5 比較的是注入提示中的 skill 內容,並非客戶端自動載入效果。本倉庫僅複核報告,沒有復跑。 339 次是呼叫過 REA 的執行口徑,不是五項研究的總樣本量;該觀察不等於 Evidence 內容缺失或認證失敗。
可以借鑑什麼
評估工具時同時看對照組、任務分佈、成本與證據質量。
原文中的 REA 使用證據
Study 1, preregistered: on ten small Windows crackmes, rea did not change how many Claude Code solved短摘錄簡化了排版,完整上下文以原文為準。
原始來源
本頁為獨立整理,成果歸原作者。目標軟體、安裝包和完整反編譯輸出不在此分發。