Ce înseamnă Detector de text AI
Un detector de text AI analizează un text și dă un scor sau o probabilitate că acesta a fost generat de un model precum ChatGPT, Claude sau Gemini. Astfel de instrumente sunt folosite de profesori, edituri și angajatori.
Problema lor principală este fiabilitatea. Detectoarele greșesc în ambele sensuri: semnalează texte scrise de oameni drept „AI” (fals pozitiv) și ratează texte generate și apoi ușor modificate (fals negativ).
Cum funcționează
Majoritatea detectoarelor caută tipare statistice. Textele generate tind să aibă perplexitate mică (cuvintele sunt foarte previzibile) și variație mică a lungimii și structurii frazelor. Alte detectoare sunt ele însele modele antrenate pe exemple de texte umane și generate.
Aceste semnale sunt slabe: un om care scrie simplu și corect, de exemplu un vorbitor nativ al altei limbi sau un elev care urmează un șablon, poate părea „previzibil”. Un studiu publicat în 2023 a arătat că detectoarele populare marcau des drept AI eseuri scrise de vorbitori non-nativi de engleză. Chiar OpenAI și-a retras propriul clasificator de text în iulie 2023, din cauza preciziei scăzute.
Pe înțelesul tuturor
Este ca un poligraf: măsoară semnale care uneori însoțesc minciuna, dar nu minciuna însăși. Un rezultat „suspect” e un motiv de discuție, nu o dovadă.
Exemplu
O profesoară de liceu din Brașov primește un eseu marcat de un detector ca „90% AI”. În loc să dea nota 1, discută cu elevul despre subiect, îi cere ciornele și istoricul documentului. Elevul explică argumentele cu ușurință, iar eseul se dovedește scris de el.
De reținut
- Niciun detector de text AI nu este suficient de sigur pentru a fi singura dovadă.
- Textele scurte, traduse sau editate sunt cel mai greu de evaluat.
- Watermark-urile puse de generator sunt o abordare mai promițătoare, dar și ele au limite.
Nu confunda
- Detector AI vs. detector de plagiat: detectorul de plagiat caută texte copiate din surse existente; un text generat de AI este de obicei nou, deci nu apare ca plagiat.
Termeni înrudiți
- Watermark pentru conținut AI: Un semn vizibil sau ascuns adăugat în textele, imaginile, sunetele sau video-urile generate de AI, ca să poată fi recunoscute ulterior.
- LLM (model lingvistic mare): Model AI antrenat pe cantități uriașe de text, care înțelege și generează limbaj; stă în spatele ChatGPT, Claude sau Gemini.
- AI în educație: Folosirea AI de către elevi, studenți și profesori pentru învățare personalizată, explicații, exerciții și pregătirea lecțiilor.
- Dezinformare generată cu AI: Informații false create sau răspândite cu ajutorul AI: articole, imagini, voci și video-uri false, produse rapid și în volum mare.
- Clasificare: Sarcina de machine learning în care modelul pune fiecare exemplu într-o categorie dintr-o listă fixă, de exemplu „spam” sau „nu e spam”.