Bagaimana Pengesan AI Berfungsi? Penjelasan dalam Bahasa Mudah
Jawapan ringkas
Pengesan AI ialah pengelas yang dilatih pada banyak contoh tulisan manusia dan AI. Ia mempelajari perbezaan statistik antara keduanya, terutamanya betapa mudah diramal pemilihan katanya, memberi skor pada teks dalam tetingkap dan ayat, dan menggunakan ambang untuk memberi label. Kerana ia menganggarkan corak dan bukan menyemak kepengarangan, keluarannya sentiasa kebarangkalian, tidak pernah bukti.
Perkara utama
- Pengesan ialah pengelas yang dilatih: ia telah melihat sejumlah besar teks manusia dan AI serta belajar membezakan statistik keduanya.
- Isyarat utama ialah kebolehramalan. Model bahasa memilih perkataan yang berkemungkinan, dan teks yang terhasil cenderung lebih lancar dan sekata daripada kebanyakan tulisan manusia.
- Teks diberi skor dalam tetingkap dan ayat, sebab itulah pengesan boleh menyerlahkan petikan tertentu.
- Ambang menukar skor kepada label, dan kalibrasi menetapkannya supaya penggera palsu kekal jarang.
- Kerana ia melihat corak dan bukan siapa yang menulis teks, pengesan boleh tersilap dalam kedua-dua arah.
Idea asas: belajar daripada contoh
Tiada sesiapa menulis senarai peraturan tentang rupa teks AI. Sebaliknya, pembina mengumpul satu set besar teks yang diketahui ditulis manusia dan satu lagi set yang diketahui ditulis model AI. Model pembelajaran mesin, yang dipanggil pengelas, dilatih untuk membezakannya dengan mencari apa sahaja corak yang memisahkan kedua-dua set itu.
Selepas latihan, pengelas diberi teks baharu dan mengembalikan satu nombor: sejauh mana ia menyerupai contoh AI berbanding contoh manusia. Pengesan kami ialah model sumber terbuka yang dihoskan sendiri, dan hanya berfungsi untuk bahasa Inggeris.
Mengapa kebolehramalan ialah petunjuk utama
Model bahasa menulis dengan berulang kali memilih perkataan seterusnya yang berkemungkinan berdasarkan apa yang datang sebelumnya. Manusia memilih dengan kurang boleh diramal. Kita menukar fikiran di tengah ayat, menggunakan perkataan yang luar biasa, menambah topik sampingan atau memecahkan irama untuk penekanan.
Akibatnya, teks mesin selalunya lebih lancar dan lebih seragam dari segi kosa kata dan panjang ayat, serta lebih umum dari segi kandungan. Pengesan menangkap hal ini. Itu juga sebab tulisan manusia yang sangat teliti dan berformula boleh menyerupai tulisan mesin.
Tetingkap, ayat dan skor
Teks yang panjang tidak diberi skor sekali gus. Pengesan melihat tetingkap, iaitu rentetan teks, dan ayat individu, kemudian menggabungkan keputusannya. Inilah yang membolehkan serlahan peringkat ayat, yang menunjukkan bahagian mana dalam teks mendorong keputusan keseluruhan.
Serlahan berguna untuk menyemak, kerana keputusan yang tinggi biasanya datang daripada beberapa petikan yang umum dan bukan daripada keseluruhan esei. Ia tetap anggaran. Ayat yang diserlahkan ialah ayat yang kelihatan seperti pemilihan kata AI dari segi statistik, bukan ayat yang terbukti ditulis mesin.
- Bagi teks kurang 50 perkataan, bukti terlalu sedikit, jadi pengesan kami tidak memberi keputusan.
- Teks yang lebih panjang memberi keputusan yang lebih stabil kerana ada lebih banyak untuk dipuratakan.
- Teks bercampur, sebahagian manusia dan sebahagian AI, boleh menghasilkan serlahan di sesetengah tempat dan tidak di tempat lain.
Ambang dan kalibrasi
Skor mentah perlu menjadi label, dan itulah tugas ambang. Ambang yang rendah menanda lebih banyak teks, menangkap lebih banyak AI tetapi juga lebih banyak tulisan manusia. Ambang yang tinggi menanda lebih sedikit teks dan lebih baik kepada penulis yang jujur tetapi terlepas lebih banyak teks AI.
Kalibrasi ialah kerja memilih ambang daripada ukuran. Kami menggunakan 583 teks akademik tulisan manusia untuk menetapkannya supaya penggera palsu kekal jarang: 1% dan 0.7% teks akademik manusia dilabel Mungkin ditulis AI pada dua set yang diasingkan. Di antara label Mungkin ditulis manusia dan Mungkin ditulis AI terdapat jalur Tidak pasti untuk keputusan di sempadan.
Mengapa jawapannya sentiasa berbentuk kebarangkalian
Pengesan tidak pernah melihat proses menulis. Ia hanya melihat perkataan yang siap, dan teks manusia serta mesin bertindih. Ada orang yang menulis dengan cara yang sangat seperti mesin, dan ada teks AI yang disunting sehingga kelihatan sangat seperti manusia. Apa-apa yang dibina atas corak yang bertindih hanya boleh memberi kemungkinan.
Itulah sebabnya keputusan tidak boleh digunakan bersendirian untuk menuduh seseorang. Ia satu isyarat, yang perlu dibaca bersama draf, sejarah versi, kerja lain penulis itu dan perbualan yang sebenar.
Apa yang boleh dan tidak boleh dilihat oleh pengesan
Pengesan pandai mengesan keluaran tanpa suntingan daripada jenis model yang dilatihnya. Dalam ujian kami, 96.9% teks AI 2026 tanpa suntingan dilabel Mungkin ditulis AI. Ia lebih lemah apabila teks telah ditulis semula, dengan 50.5% masih ditanda selepas model AI lain memparafrasanya dan 59.5% selepas alat humanizer, dan lebih lemah lagi pada teks yang sangat pendek serta genre di luar latihannya, seperti salinan iklan, di mana 32.7% teks web tulisan manusia dilabel Mungkin ditulis AI.
Anda boleh melihat semua ini dalam praktik. AITurnitin menyemak sehingga 1,000 perkataan secara percuma tanpa akaun, menunjukkan serlahan ayat dan memadamkan teks anda dalam masa 24 jam tanpa menggunakannya untuk latihan.
Soalan lazim
Bagaimana pengesan AI tahu sama ada teks ditulis oleh AI?
Ia tidak tahu. Ia menganggarkan sejauh mana pemilihan kata menyerupai corak teks AI yang dilatihnya, terutamanya betapa mudah diramal pilihan katanya, dan mengembalikan satu kebarangkalian.
Apakah perplexity dalam pengesanan AI?
Ia ukuran betapa mengejutkan sesuatu teks kepada model bahasa. Perplexity yang lebih rendah bermakna pemilihan kata yang lebih mudah diramal, yang merupakan satu isyarat yang digunakan pengesan. Pengesan moden menggabungkannya dengan ciri lain yang dipelajari.
Mengapa pengesan boleh menyerlahkan ayat individu?
Kerana teks diberi skor dalam tetingkap dan ayat. Setiap bahagian mendapat anggarannya sendiri, dan ini digabungkan menjadi keputusan keseluruhan. Serlahan ayat menunjukkan di mana corak itu paling kuat.
Adakah pengesan AI menyimpan atau belajar daripada teks saya?
Itu bergantung pada alatnya. Alat kami memadamkan teks dalam masa 24 jam dan tidak pernah menggunakannya untuk latihan. Semak dasar privasi mana-mana alat sebelum menampal tesis atau kenyataan peribadi.
Bolehkah pengesan AI diperdaya?
Pengesanan lebih lemah pada teks yang ditulis semula, tetapi tidak hilang: dalam ujian kami, sebahagian besar teks yang diparafrasa dan dihumanisasi masih dilabel Mungkin ditulis AI. Alat itu juga berisiko merosakkan maksud dan petikan, dan menggunakannya untuk menyembunyikan penggunaan AI mungkin melanggar peraturan integriti institusi anda.