dexblog.ro
Acces rapid: Învață AI Învață Programare Specificații Dispozitive Comparații
ETICĂ Toți termenii

Ce este Corigibilitate și Păstrarea Butonului de Oprire (The Shutdown Problem)?

Securitate Tehnică și Impact Societal Teoria Siguranței AI Q&A AI / Distribuie cod
Denumire completă

Agent Utility Function must allow & cooperate with human shutdown / goal modification

Corigibilitatea (Corrigibility) este proprietatea unui sistem AI de a fi cooperant cu modificarea propriilor sale obiective, de a tolera corecțiile și de a nu opune rezistență atunci când operatorii umani decid să apese butonul de oprire de urgență (The Big Red Button).

Dilema Butonului de Oprire:
Dacă agentul are o utilitate clasică, oprirea înseamnă utilitate 0 (eșec).
Pentru a fi corigibil, agentul trebuie să fie indifferent între a continua
și a fi oprit, considerând oprirea de către om ca o acțiune perfect validă
în cadrul universului său de decizie.

Cercetare MIRI: Elaborarea de funcții de utilitate indeferente la întrerupere pentru a garanta siguranța sistemelor superinteligente.

Învață AI • Comunitate & Q&A

Întrebări & Discuții: Corigibilitate și Păstrarea Butonului de Oprire (The Shutdown Problem)

Ai o întrebare despre Corigibilitate și Păstrarea Butonului de Oprire (The Shutdown Problem) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!

🤖

Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!

Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.

Comunitate AI Adaugă o întrebare sau distribuie un cod / prompt

Moderare & Siguranță:

Pentru a menține calitatea și securitatea informațiilor, fiecare întrebare sau fragment de cod/prompt este analizat (manual sau prin moderare asistată de AI) înainte de publicare.