ตัวตรวจจับแม่นยำแค่ไหน
เราเปิดเผยวิธีวัดผลของตัวตรวจจับและจุดที่มันพลาด โปรดอ่านก่อนพึ่งพาผลลัพธ์
โมเดล
เราใช้ตัวตรวจจับข้อความ AI แบบโอเพนซอร์ส desklib (DeBERTa-v3-large, สัญญาอนุญาต MIT) บนเซิร์ฟเวอร์ของเราเอง ข้อความจะถูกแบ่งเป็นหน้าต่าง คะแนนของเอกสารคือค่าเฉลี่ยถ่วงน้ำหนักตามโทเคน และคะแนนรายประโยคมาจากหน้าต่างที่ซ้อนทับกัน
การปรับเทียบด้วยงานเขียนวิชาการจริง
เกณฑ์ถูกกำหนดจากข้อความวิชาการที่มนุษย์เขียน 583 ข้อความ (บทคัดย่อ arXiv บทความ PubMed Central โดยผู้เขียนที่ไม่ใช่เจ้าของภาษา และเรียงความของนักศึกษา) "น่าจะเป็น AI" ถูกตั้งไว้ให้ข้อความมนุษย์เหล่านั้นราว 1% เกินเกณฑ์นี้ ส่วน "ไม่แน่ใจ" ครอบคลุมช่วงระหว่าง 1% ถึง 5%
ผลแจ้งเตือนผิดพลาดกับข้อความมนุษย์ที่กันไว้ทดสอบ
จากการแบ่งข้อมูลแบบสองส่วน สัดส่วนของข้อความวิชาการที่มนุษย์เขียนซึ่งกันไว้ทดสอบและถูกระบุว่า "น่าจะเป็น AI" คือ 1% และ 0.7%
ผลลัพธ์ตามกลุ่มข้อความ
| กลุ่ม | จำนวนข้อความ | ถูกระบุว่า "น่าจะเป็น AI" | ถูกระบุว่า "น่าจะเป็น AI" หรือ "ไม่แน่ใจ" |
|---|---|---|---|
| มนุษย์: บทคัดย่อ arXiv | 200 | 0.5% | 3.5% |
| มนุษย์: PubMed Central ผู้เขียนที่ไม่ใช่เจ้าของภาษา | 183 | 1.1% | 6% |
| มนุษย์: เรียงความของนักศึกษา | 200 | 1% | 5.5% |
| มนุษย์: วิกิพีเดีย (ก่อนปี 2022) | 155 | 2.6% | 8.4% |
| มนุษย์: ข้อความทั่วไปบนเว็บ | 150 | 32.7% | 36.7% |
| AI: โมเดลปี 2026 ไม่ผ่านการแก้ไข | 195 | 96.9% | 99% |
| AI: เบนช์มาร์ก RAID ไม่ผ่านการแก้ไข | 200 | 96.5% | 99% |
| AI: เบนช์มาร์ก RAID ผ่านการเรียบเรียงใหม่ | 200 | 84% | 92% |
| AI: เขียนใหม่ด้วยเครื่องมือ "ทำให้เหมือนมนุษย์" | 200 | 59.5% | 74.5% |
acad583-2026-10-22
ข้อจำกัดที่ทราบ
- ข้อความจากโมเดลรุ่นใหม่ล่าสุด โดยเฉพาะเมื่อสั่งให้เขียนให้เหมือนมนุษย์ มักตรวจไม่พบ
- การเรียบเรียงใหม่และเครื่องมือ "ทำให้เหมือนมนุษย์" ลดคะแนนลงอย่างมาก
- ข้อความสั้นไม่น่าเชื่อถือ หากต่ำกว่า 50 คำเราจะไม่ให้ผลลัพธ์
- งานเขียนของมนุษย์ที่ผ่านการแก้ไขมาก เป็นสูตรตายตัว หรือแปลมา อาจถูกทำเครื่องหมายได้
- เกณฑ์ถูกปรับเทียบกับงานเขียนเชิงวิชาการ สำหรับข้อความทั่วไปบนเว็บ ตัวอย่างที่มนุษย์เขียน 32.7% ถูกระบุว่า "น่าจะเป็น AI"
ผลลัพธ์เป็นเพียงค่าประมาณ ไม่ใช่หลักฐานการประพฤติมิชอบ ห้ามใช้เป็นเหตุผลเดียวในการกล่าวหา