AI 偵測器的原理是什麼?一次看懂 AI 檢測怎麼運作
簡短回答
AI 偵測器是用大量人類與 AI 寫作的範例訓練出來的分類器。它學習兩者在統計上的差異,主要是措辭的可預測程度,以視窗和句子為單位為文字評分,再套用門檻給出標籤。由於它估計的是模式,而不是查驗作者身分,輸出永遠是機率,而不是證據。
重點
- 偵測器是訓練過的分類器:它看過大量人類與 AI 的文字,並學會區分兩者的統計特徵。
- 主要訊號是可預測性。語言模型會選擇可能性高的字詞,因此產生的文字往往比多數人類寫作更流暢、更均勻。
- 文字是以視窗和句子為單位評分的,所以偵測器能標示出個別段落。
- 門檻把分數轉成標籤,而校準讓門檻設定在誤判維持稀少的位置。
- 因為它看的是模式,而不是誰寫的,偵測器在兩個方向上都可能出錯。
基本概念:從範例中學習
沒有人會寫下一份「AI 文字長什麼樣子」的規則清單。相反地,開發者收集一大批確定是人寫的文字,以及另一批確定是 AI 模型寫的文字。然後訓練一個機器學習模型,也就是分類器,讓它找出區分這兩批文字的任何模式。
訓練完成後,把一篇新文字交給分類器,它會回傳一個數字:這篇文字與 AI 範例相比、與人類範例相比,分別有多相似。我們的偵測器是自行架設的開源模型,且只支援英文。
為什麼可預測性是核心線索
語言模型寫作的方式,是根據前面的內容,反覆選擇最可能的下一個字。人類的選擇則比較難預測。我們會在句子中途改變主意、使用不尋常的字、岔開話題,或為了強調而打破節奏。
結果是,機器文字在詞彙和句子長度上往往更流暢、更均勻,內容也更籠統。偵測器會抓住這一點。這也是為什麼非常謹慎、制式的人類寫作會與機器寫作相似。
視窗、句子與分數
長文不是一次整體評分的。偵測器會看視窗,也就是一段段文字,以及個別句子,然後合併結果。這讓逐句標示成為可能,顯示文字中哪些部分帶動了整體結果。
標示對修改很有幫助,因為高分通常來自少數泛泛的段落,而不是整篇文章。但它們仍然只是估計。被標示的句子,只是在統計上看起來像 AI 的措辭,並不是被證實為機器寫的句子。
- 少於 50 字時證據太少,所以我們的偵測器不提供結論。
- 較長的文字會得到較穩定的結果,因為有更多可以平均的內容。
- 混合的文字,也就是部分人寫、部分 AI 寫,可能在某些地方出現標示,在其他地方則沒有。
門檻與校準
原始分數必須變成標籤,這就是門檻的工作。低門檻會標記更多文字,抓到更多 AI,但也會抓到更多人類寫作。高門檻標記較少,對誠實的寫作者較友善,但會漏掉更多 AI 文字。
校準是根據測量結果選擇門檻的工作。我們用 583 篇人類學術文字來設定門檻,讓誤判維持稀少:在兩組保留測試集上,人類學術文字被標為「很可能是 AI 寫的」的比例分別為 1% 與 0.7%。在「很可能是人寫的」和「很可能是 AI 寫的」之間,有一個「不確定」區間,用來容納處於邊界的結果。
為什麼答案永遠是機率性的
偵測器看不到寫作過程,只看得到完成的文字,而人類與機器的文字有重疊。有些人的寫作很像機器,有些 AI 文字經過編輯後看起來非常像人。任何建立在重疊模式上的東西,都只能給出可能性。
這就是為什麼結果絕不應單獨用來指控某人。它只是其中一個訊號,應該與草稿、版本紀錄、寫作者的其他作品,以及一場真正的對談一起判讀。
偵測器看得見什麼,看不見什麼
偵測器擅長發現它所訓練過的那類模型所產生的未經編輯的輸出。在我們的測試中,未經編輯的 2026 年 AI 文字有 96.9% 被標為「很可能是 AI 寫的」。當文字被改寫後,偵測能力就較弱:由另一個 AI 模型改寫後仍有 50.5% 被標記,經「人性化」工具處理後為 59.5%;在非常短的文字,以及訓練範圍之外的文體上更弱,例如廣告文案,其中人類撰寫的網頁文字有 32.7% 被標為「很可能是 AI 寫的」。
你可以親自體驗這一切。AITurnitin 不需註冊帳號即可免費檢查最多 1,000 字,顯示逐句標示,並在 24 小時內刪除你的文字,也不會用於訓練。
常見問題
AI 偵測器怎麼知道文字是不是 AI 寫的?
它並不知道。它估計的是措辭與它所訓練過的 AI 文字模式有多相似,主要是用字的可預測程度,然後回傳一個機率。
AI 偵測中的困惑度(perplexity)是什麼?
它衡量一段文字對語言模型來說有多出人意料。困惑度越低,措辭越可預測,這是偵測器使用的訊號之一。現代的偵測器會把它與其他學習到的特徵結合使用。
為什麼偵測器能標示個別句子?
因為文字是以視窗和句子為單位評分的。每個部分都有自己的估計,再合併成整體結果。逐句標示顯示這種模式最強的地方。
AI 偵測器會儲存我的文字,或從中學習嗎?
這取決於工具。我們的工具會在 24 小時內刪除文字,也從不用於訓練。在貼上論文或個人陳述之前,請先查看任何工具的隱私權政策。
AI 偵測器可以被騙過嗎?
對改寫過的文字,偵測會變弱,但不會消失:在我們的測試中,仍有很大比例的改寫與人性化處理過的文字被標為「很可能是 AI 寫的」。這些工具還可能破壞原意與引用,用它們來掩飾使用 AI 也可能違反校方的誠信規定。