Generarea ID-urilor Unice cu F.monotonically_increasing_id în Apache Spark & PySpark

functions Apache Spark 3.5 / PySpark Q&A / Distribuie cod

Crearea de identificatori numerici unici la nivel de cluster pe 64 de biți fără sincronizare centralizată.

Sintaxă
F.monotonically_increasing_id()

Funcția F.monotonically_increasing_id() generează numere întregi pe 64 de biți (Long) garantat unice și crescătoare pentru fiecare rând din DataFrame. Cheia este calculată folosind ID-ul partiției în primii 31 de biți și numărul rândului din partiție în restul de 33 de biți.

Deoarece nu necesită un nod central de sincronizare, este cea mai rapidă metodă de a atașa o cheie primară surogat unui set masiv de date.

Exemplu: Atașarea unei chei unice surogat la datele ingerate
from pyspark.sql import functions as F

df_cu_id = df_brut.withColumn("id_unic", F.monotonically_increasing_id())

df_cu_id.select("id_unic", "nume", "email").show(5)

Comunitate & Schimb de cunoștințe

Întrebări & Exemple de Cod: Generarea ID-urilor Unice cu F.monotonically_increasing_id

Ai o nelămurire despre utilizarea comenzii Generarea ID-urilor Unice cu F.monotonically_increasing_id sau ai descoperit un truc / fragment de cod util? Distribuie-l cu ceilalți programatori!

💬

Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!

Nu au fost adăugate încă întrebări sau exemple de cod pentru această pagină. Dacă ai întâlnit o problemă sau ai un snippet util, adaugă-l mai jos pentru a-i ajuta pe ceilalți.

Comunitate Adaugă o întrebare sau distribuie un cod

Moderare & Siguranță:

Pentru a menține calitatea și securitatea informațiilor, fiecare întrebare sau fragment de cod/prompt este analizat (manual sau prin moderare asistată de AI) înainte de publicare.