AI 탐지기는 어떻게 작동할까? 쉽게 풀어 쓴 원리 설명

기본 개념: 예시로 배운다

AI 글이 어떻게 생겼는지에 대한 규칙 목록을 적어 두는 사람은 없습니다. 대신 개발자는 사람이 썼다고 알려진 글 묶음과 AI 모델이 썼다고 알려진 글 묶음을 대량으로 모읍니다. 분류 모델이라고 부르는 머신러닝 모델은 두 묶음을 가르는 패턴을 찾아내며 둘을 구별하도록 학습됩니다.

학습이 끝난 분류 모델에 새 글을 주면 숫자 하나를 돌려줍니다. AI 예시와 얼마나 비슷한지, 사람 예시와 얼마나 비슷한지를 나타내는 값입니다. 저희 탐지기는 자체 서버에서 실행되는 오픈소스 모델이며 영어에만 작동합니다.

예측 가능성이 핵심 단서인 이유

언어 모델은 앞에 나온 내용을 바탕으로 가능성 높은 다음 단어를 계속 골라 가며 글을 씁니다. 사람은 덜 예측 가능하게 고릅니다. 문장 중간에 마음을 바꾸고, 특이한 단어를 쓰고, 곁가지를 덧붙이고, 강조하려고 리듬을 깨기도 합니다.

그 결과 기계의 글은 어휘와 문장 길이가 더 매끄럽고 균일하며 내용이 더 일반적인 경우가 많습니다. 탐지기는 이를 포착합니다. 아주 꼼꼼하고 정형화된 사람의 글이 기계의 글과 닮을 수 있는 이유이기도 합니다.

윈도우, 문장, 점수

긴 글은 통째로 점수를 매기지 않습니다. 탐지기는 글의 구간인 윈도우와 개별 문장을 살펴본 다음 결과를 합칩니다. 덕분에 문장 단위 강조 표시가 가능하고, 글의 어느 부분이 전체 결과를 좌우하는지 볼 수 있습니다.

강조 표시는 고쳐 쓸 때 유용합니다. 높은 결과는 대개 에세이 전체가 아니라 평범한 몇 대목에서 나오기 때문입니다. 그래도 추정치입니다. 강조된 문장은 통계적으로 AI의 표현처럼 보이는 문장이지, 기계가 썼다고 입증된 문장이 아닙니다.

• 50단어 미만은 증거가 너무 적어서 저희 탐지기가 판정을 내지 않습니다.
• 긴 글은 평균을 낼 것이 더 많아서 결과가 더 안정적입니다.
• 일부는 사람이, 일부는 AI가 쓴 혼합 글은 어떤 곳에서는 강조가 나오고 다른 곳에서는 나오지 않을 수 있습니다.

임계값과 보정

원점수는 판정으로 바뀌어야 하며, 그 일을 하는 것이 임계값입니다. 임계값이 낮으면 더 많은 글을 표시해 AI 글을 더 많이 잡지만 사람 글도 더 많이 잡습니다. 임계값이 높으면 표시가 줄어 정직한 작성자에게는 너그럽지만 AI 글을 더 많이 놓칩니다.

보정은 측정값을 바탕으로 임계값을 고르는 작업입니다. 저희는 사람이 쓴 학술 텍스트 583건으로 오탐이 드물도록 임계값을 정했습니다. 별도로 보관한 두 집합에서 사람이 쓴 학술 글의 "AI 가능성 높음" 판정은 1%와 0.7%였습니다. "사람 작성 가능성 높음"과 "AI 가능성 높음" 사이에는 경계에 있는 결과를 위한 "불확실" 구간이 있습니다.

결과가 항상 확률인 이유

탐지기는 글을 쓰는 과정을 보지 못합니다. 완성된 단어만 보는데, 사람의 글과 기계의 글은 겹칩니다. 아주 기계적으로 쓰는 사람도 있고, 매우 사람답게 보일 때까지 편집한 AI 글도 있습니다. 겹치는 패턴 위에 세운 것은 가능성만 알려 줄 수 있습니다.

그래서 결과 하나만으로 누군가를 의심해서는 안 됩니다. 결과는 하나의 신호이며, 초안, 버전 기록, 작성자의 다른 글, 실제 대화와 함께 읽어야 합니다.

탐지기가 볼 수 있는 것과 볼 수 없는 것

탐지기는 학습한 종류의 모델이 만든 편집 없는 출력을 잘 알아봅니다. 저희 테스트에서 편집 없는 2026년 AI 텍스트의 96.9%가 "AI 가능성 높음"으로 판정되었습니다. 글을 다시 쓰면 약해집니다. 다른 AI 모델이 패러프레이징한 뒤에도 50.5%, 휴머나이저 도구를 거친 뒤에도 59.5%가 여전히 표시되었습니다. 아주 짧은 글이나 광고 문구처럼 학습 범위 밖의 장르에서는 더 약한데, 사람이 쓴 웹 텍스트의 32.7%가 "AI 가능성 높음"으로 판정되었습니다.

이 모든 것을 직접 확인해 볼 수 있습니다. AITurnitin은 계정 없이 1,000단어까지 무료로 검사하고, 문장 강조 표시를 보여 주며, 텍스트를 24시간 이내에 삭제하고 학습에 사용하지 않습니다.

자주 묻는 질문