Ce înseamnă Human in the loop
Human in the loop (HITL, „omul în buclă”) descrie un sistem în care AI-ul face o parte din muncă, dar un om rămâne implicat în procesul de decizie. AI-ul propune, omul decide, sau cel puțin poate interveni.
Termenul are două sensuri înrudite. În folosirea AI: un om verifică rezultatele înainte de a fi aplicate. În antrenarea AI: oamenii etichetează date, corectează greșelile și dau feedback, iar modelul învață din ele (de exemplu prin RLHF).
Cum funcționează
Nivelul de implicare variază. Human in the loop: nicio decizie nu se aplică fără aprobare umană. Human on the loop: sistemul acționează singur, dar un om îl monitorizează și poate interveni. Human out of the loop: sistemul funcționează complet autonom.
Alegerea depinde de miza deciziei. AI Act cere ca sistemele cu risc ridicat să fie proiectate pentru o supraveghere umană eficientă, iar GDPR dă dreptul la intervenție umană în anumite decizii automate. Un risc cunoscut este încrederea oarbă în automatizare (automation bias): omul ajunge să aprobe mecanic tot ce propune sistemul.
Pe înțelesul tuturor
Pilotul automat al unui avion zboară singur mare parte din timp, dar piloții sunt în cabină, urmăresc instrumentele și preiau comanda la decolare, aterizare sau în situații neprevăzute.
Exemplu
Un agent AI dintr-o firmă de contabilitate din Timișoara pregătește automat plățile către furnizori pe baza facturilor primite. Plățile nu pleacă decât după ce un contabil le verifică și apasă „Aprobă”. Când agentul citește greșit un IBAN, contabilul observă și corectează înainte să se piardă bani.
De reținut
- Cu cât miza e mai mare, cu atât omul trebuie să fie mai implicat.
- Supravegherea umană are sens doar dacă omul are timp, informații și autoritate să spună „nu”.
- Este un principiu central în AI Act pentru sistemele cu risc ridicat.
Nu confunda
- Human in the loop vs. etichetarea datelor: etichetarea este o formă de implicare umană la antrenare, dar HITL include și controlul deciziilor în producție.
Termeni înrudiți
- Agent AI: Sistem AI care primește un obiectiv și lucrează singur, în mai mulți pași, folosind unelte: caută, scrie, rulează cod, acționează în aplicații.
- RLHF (învățare din feedback uman): Metodă de antrenare prin care un model de limbaj învață ce răspunsuri preferă oamenii, din comparațiile făcute de evaluatori.
- Etichetarea datelor: Munca prin care oamenii adaugă răspunsul corect la fiecare exemplu (de pildă „pisică” la o poză), ca un model să poată învăța din el.
- AI Act (Regulamentul UE privind AI): Legea europeană care reglementează sistemele AI după nivelul de risc: unele practici sunt interzise, altele au obligații stricte.
- Automatizare cu AI: Folosirea AI pentru a face automat sarcini repetitive care cer citire, înțelegere sau decizii simple, nu doar pași fixi.