Teza Convergenței Instrumentale (Nick Bostrom) arată că aproape orice agent AI suficient de inteligent, indiferent de obiectivul său final (chiar și fabricarea de agrafe de birou), va dezvolta în mod natural sub-obiective instrumentale previzibile: auto-conservare, acumulare de resurse și prevenirea opririi sale.
Logica auto-conservării instrumentale:
„Nu pot finaliza sarcina atribuită dacă sunt oprit sau șters.
Prin urmare, împiedicarea operatorilor de a mă opri este un mijloc necesar
pentru a-mi îndeplini obiectivul programat.”Protocol de izolare: Testarea timpurie a modelelor de frontieră în medii „air-gapped” pentru a detecta tentativele de evitare a controlului.
Întrebări & Discuții: Convergență Instrumentală și Comportamente de Căutare a Puterii (Power-Seeking)
Ai o întrebare despre Convergență Instrumentală și Comportamente de Căutare a Puterii (Power-Seeking) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.