偵測器有多準確?
我們公開偵測器的評估方式以及它會出錯的地方。依賴結果之前,請先閱讀本頁。
模型
我們在自己的伺服器上執行開源的 desklib AI 文字偵測器(DeBERTa-v3-large,MIT 授權)。文字會切分成多個視窗;文件分數為依 token 加權的平均值,句子分數則來自重疊的視窗。
以真實學術寫作校準
門檻是依據 583 篇人類撰寫的學術文字設定(arXiv 摘要、非母語作者的 PubMed Central 論文以及學生報告)。「很可能是 AI」的門檻讓這些人類文字中約 1% 會超過;「不確定」涵蓋 1% 到 5% 之間的區間。
保留測試集人類文字的誤判
在二折切分中,保留測試集的人類學術文字被標為「很可能是 AI」的比例分別為 1% 和 0.7%。
依文字類別的結果
| 類別 | 文字數 | 標為「很可能是 AI」 | 標為「很可能是 AI」或「不確定」 |
|---|---|---|---|
| 人類:arXiv 摘要 | 200 | 0.5% | 3.5% |
| 人類:PubMed Central,非母語作者 | 183 | 1.1% | 6% |
| 人類:學生報告 | 200 | 1% | 5.5% |
| 人類:維基百科(2022 年以前) | 155 | 2.6% | 8.4% |
| 人類:一般網頁文字 | 150 | 32.7% | 36.7% |
| AI:2026 年模型,未經編輯 | 195 | 96.9% | 99% |
| AI:RAID 基準,未經編輯 | 200 | 96.5% | 99% |
| AI:RAID 基準,經改寫 | 200 | 84% | 92% |
| AI:經「人性化」工具改寫 | 200 | 59.5% | 74.5% |
acad583-2026-10-22
已知限制
- 最新模型產生的文字,尤其是被要求模仿人類寫作時,常常偵測不到。
- 改寫和「人性化」工具會大幅降低分數。
- 短文字不可靠;少於 50 字時我們不提供結果。
- 大幅編輯過、制式化或翻譯而來的人類寫作可能被標示。
- 門檻是以學術寫作校準的。在一般網頁文字上,有 32.7% 的人類樣本被標為「很可能是 AI」。
結果只是估計,不是不當行為的證據。切勿把它當作指控的唯一依據。