Ce înseamnă Supraveghere cu AI
Supravegherea cu AI înseamnă folosirea algoritmilor pentru a analiza automat imagini de la camere, înregistrări audio, date de localizare sau activitate online, cu scopul de a identifica, urmări sau evalua oameni.
Înainte, supravegherea era limitată de numărul de oameni care se uitau la monitoare. AI elimină această limită: un sistem poate analiza simultan mii de camere, recunoaște fețe și numere de înmatriculare și semnala comportamente considerate „suspecte”. De aici apar întrebări serioase despre viața privată, libertatea de exprimare și erori care afectează oameni nevinovați.
Cum funcționează
Tehnologiile folosite sunt recunoașterea facială, recunoașterea numerelor de înmatriculare, analiza comportamentului (mers, aglomerare, obiecte abandonate), identificarea după voce și corelarea datelor din mai multe surse.
AI Act interzice în UE, printre altele, scoringul social, crearea de baze de date faciale prin colectare nețintită de imagini de pe internet sau din camere, recunoașterea emoțiilor la locul de muncă și în școli și identificarea biometrică la distanță, în timp real, în spații publice, de către poliție, cu excepții strict definite (de exemplu căutarea unei victime a unei răpiri), care au nevoie de autorizare prealabilă.
Pe înțelesul tuturor
Diferența dintre o cameră obișnuită și una cu AI este ca diferența dintre un jurnal pe care nu-l citește nimeni și un detectiv care citește toate jurnalele orașului, non-stop, și ține minte fiecare față.
Exemplu
Firma americană Clearview AI a construit o bază de date cu miliarde de fotografii faciale colectate de pe internet. Autorități de protecție a datelor din mai multe țări europene (Italia, Franța, Grecia, Țările de Jos) au amendat-o și i-au cerut să șteargă datele cetățenilor lor, pentru încălcarea GDPR.
De reținut
- AI face supravegherea mult mai ieftină și mai extinsă.
- În UE, unele forme de supraveghere biometrică sunt interzise de AI Act și limitate de GDPR.
- Erorile de recunoaștere pot afecta direct oameni nevinovați.
Nu confunda
- Supraveghere cu AI vs. supraveghere umană (human oversight): a doua înseamnă ca oamenii să controleze sistemul AI, sens aproape opus.
Termeni înrudiți
- Recunoaștere facială: Tehnologie care identifică sau confirmă identitatea unei persoane comparând trăsăturile feței cu imagini cunoscute.
- AI Act (Regulamentul UE privind AI): Legea europeană care reglementează sistemele AI după nivelul de risc: unele practici sunt interzise, altele au obligații stricte.
- GDPR și AI: Cum se aplică regulile europene de protecție a datelor personale la antrenarea și folosirea sistemelor de inteligență artificială.
- Confidențialitatea datelor în AI: Protejarea informațiilor personale și confidențiale care ajung în sistemele AI, la antrenare sau atunci când le folosim.
- Computer vision (vedere artificială): Ramura AI care învață calculatoarele să „vadă”: să recunoască obiecte, fețe, text și mișcare în imagini și video.