Ce înseamnă Random forest
Un random forest (în română „pădure aleatoare”) este o colecție de arbori de decizie. Fiecare arbore greșește în felul lui, dar când sute de arbori votează împreună, greșelile individuale tind să se anuleze, iar rezultatul este mult mai stabil și mai precis decât al unui singur arbore.
Metoda a fost formalizată de statisticianul Leo Breiman în 2001 și rămâne una dintre cele mai folosite pentru date sub formă de tabel (clienți, tranzacții, senzori), unde dă adesea rezultate foarte bune fără multe reglaje.
Cum funcționează
Două surse de „întâmplare” fac arborii diferiți între ei. Prima: fiecare arbore este antrenat pe o selecție aleatorie din date, cu repetiție (tehnica se numește bootstrap sau bagging). A doua: la fiecare ramificare, arborele poate alege doar dintr-o submulțime aleatorie de caracteristici.
La clasificare, răspunsul final este votul majoritar al arborilor; la regresie, media valorilor prezise. Procentul de voturi poate fi folosit ca măsură a încrederii.
Pe înțelesul tuturor
Este „înțelepciunea mulțimii”: dacă ceri unei singure persoane să ghicească numărul de bomboane dintr-un borcan, poate greși mult. Dacă întrebi 500 de oameni care au văzut borcanul din unghiuri diferite și faci media, rezultatul este de obicei surprinzător de aproape de adevăr.
Exemplu
O bancă folosește un random forest cu 500 de arbori pentru a evalua tranzacțiile cu cardul. Pentru o plată de la 3 noaptea, dintr-o țară în care clientul n-a fost niciodată, 410 arbori votează „suspect” și 90 „normal”. Cu 82% din voturi pentru „suspect”, tranzacția este blocată temporar, iar clientul primește un SMS de confirmare.
De reținut
- Random forest combină mulți arbori de decizie antrenați pe variante diferite ale datelor.
- Este mai precis și mai puțin predispus la overfitting decât un singur arbore.
- Funcționează foarte bine pe date tabelare, dar este mai greu de explicat decât un singur arbore.
Nu confunda
- Random forest vs. gradient boosting: ambele folosesc mulți arbori, dar la random forest arborii sunt independenți și votează; la gradient boosting (de exemplu XGBoost), fiecare arbore nou corectează greșelile celor dinainte.
Termeni înrudiți
- Arbore de decizie: Model care ia decizii printr-o succesiune de întrebări simple de tip da/nu, organizate ca ramurile unui copac.
- Clasificare: Sarcina de machine learning în care modelul pune fiecare exemplu într-o categorie dintr-o listă fixă, de exemplu „spam” sau „nu e spam”.
- Overfitting (supraînvățare): Situația în care un model memorează datele de antrenare, cu tot cu zgomot, și apoi greșește pe date noi.
- Detectarea fraudelor cu AI: Sisteme AI care analizează tranzacții și comportamente în timp real pentru a observa plăți, conturi sau cereri suspecte.
- Regresie: Sarcina de machine learning în care modelul prezice un număr, de exemplu un preț, o temperatură sau o durată.