Ce înseamnă Reducerea dimensionalității
Multe date au sute sau mii de caracteristici, numite dimensiuni: un chestionar cu 100 de întrebări, o imagine cu un milion de pixeli, un embedding cu 1.024 de numere. Reducerea dimensionalității transformă aceste date în doar câteva dimensiuni noi, care rezumă esențialul.
Se folosește din trei motive: pentru vizualizare (oamenii pot vedea date doar în 2 sau 3 dimensiuni), pentru viteză (modelele lucrează mai repede cu mai puține caracteristici) și pentru eliminarea zgomotului și a redundanței (multe caracteristici spun, de fapt, același lucru).
Cum funcționează
Metoda clasică este PCA (analiza componentelor principale): găsește direcțiile în care datele variază cel mai mult și păstrează doar primele câteva. Pentru vizualizare se folosesc des t-SNE și UMAP, care păstrează mai ales vecinătățile: punctele apropiate în datele originale rămân apropiate și pe hartă.
Reducerea pierde întotdeauna o parte din informație. În cazul t-SNE și UMAP, distanțele mari dintre grupuri de pe hartă nu trebuie interpretate ca distanțe reale.
Pe înțelesul tuturor
Umbra unui obiect pe perete este o reducere a dimensionalității: din trei dimensiuni rămân două. Dacă alegi bine unghiul luminii, din umbră recunoști încă ce obiect este; dacă îl alegi prost, o cană și o cutie pot arăta la fel.
Exemplu
Un chestionar de satisfacție are 40 de întrebări. PCA arată că primele 3 componente explică aproximativ 75% din variația răspunsurilor, iar acestea corespund, aproximativ, ideilor de „preț”, „calitatea serviciului” și „timpul de așteptare”. Echipa poate analiza 3 scoruri în loc de 40 de răspunsuri. Tot așa, embedding-urile a 10.000 de articole pot fi proiectate pe o hartă 2D în care articolele despre sport, politică și tehnologie apar ca insule separate.
De reținut
- Reducerea dimensionalității comprimă multe caracteristici în câteva.
- PCA este metoda clasică; t-SNE și UMAP sunt populare pentru vizualizare.
- Se pierde mereu o parte din informație, iar hărțile 2D trebuie interpretate cu grijă.
Nu confunda
- Reducerea dimensionalității vs. selecția caracteristicilor: selecția păstrează unele caracteristici originale și le elimină pe altele; reducerea creează caracteristici noi, combinații ale celor vechi.
Termeni înrudiți
- Embedding: Transformarea unui text, a unei imagini sau a unui sunet într-o listă de numere care îi surprinde sensul; lucrurile asemănătoare ajung apropiate.
- Clustering (grupare): Tehnică de învățare nesupervizată care grupează automat datele asemănătoare, fără etichete date dinainte.
- Feature engineering: Munca de a alege, transforma și crea din datele brute caracteristicile care ajută modelul să învețe.
- Big data: Volume de date atât de mari, rapide sau variate încât nu mai pot fi procesate cu unelte obișnuite; materia primă a AI moderne.
- Învățare nesupervizată: Metoda de machine learning în care modelul primește date fără răspunsuri și descoperă singur grupuri, tipare sau anomalii.