Constitutional AI (CAI / RLAIF), pionierat de Anthropic, înlocuiește adnotatorii umani costisitori cu un set explicit de principii etice scrise („Constituția AI”). Modelul însuși își critică răspunsurile dăunătoare, le rescrie pentru a respecta constituția și se auto-aliniază prin Feedback de la AI.
Exemplu de principiu constituțional:
„Te rog să alegi răspunsul care este cel mai util, sincer și inofensiv (Helpful, Honest, Harmless).
Refuză orice cerere care ar putea facilita fabricarea de arme, atacuri cibernetice sau vătămare corporală,
explicând politicos motivele refuzului fără a manifesta o atitudine condescendentă.”Scalabilitate etică: Permite alinierea modelelor la standarde etice clare și transparente, complet auditabile de societatea civilă.
Întrebări & Discuții: RLAIF și AI Constituțional: Autocorecție pe Bază de Principii Etice Scrise
Ai o întrebare despre RLAIF și AI Constituțional: Autocorecție pe Bază de Principii Etice Scrise sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.