Ce înseamnă Superinteligență (ASI)
Superinteligența (în engleză Artificial Superintelligence, prescurtat ASI) este o formă ipotetică de inteligență artificială care ar depăși cu mult capacitățile intelectuale ale celor mai buni oameni în aproape toate domeniile: cercetare științifică, creativitate, strategie, înțelegerea oamenilor.
Ideea a fost formulată încă din anii ’60 de matematicianul britanic I. J. Good, care vorbea despre o „explozie a inteligenței”: o mașină suficient de inteligentă ar putea proiecta mașini și mai inteligente. Conceptul a fost popularizat de filozoful Nick Bostrom în cartea Superintelligence (2014).
Superinteligența nu există. Este însă discutată serios, pentru că unii cercetători și conducători ai companiilor de AI cred că ar putea apărea relativ repede după AGI, iar consecințele, bune sau rele, ar fi greu de controlat.
Cum funcționează
Scenariul cel mai des invocat este cel al autoperfecționării: un sistem AI ajunge să facă cercetare în AI mai bine decât oamenii și își îmbunătățește singur succesorii, în cicluri tot mai rapide. Alți autori consideră acest scenariu puțin probabil, din cauza limitelor fizice, energetice și de date.
Problema centrală este controlul: cum te asiguri că un sistem mult mai capabil decât tine urmărește obiective compatibile cu interesele oamenilor. Aceasta este una dintre întrebările de bază ale domeniului numit siguranța AI.
Pe înțelesul tuturor
Diferența dintre un om și o superinteligență ar putea semăna cu cea dintre un om și o furnică: furnica nu poate înțelege ce plănuiește omul, cu atât mai puțin să-l controleze. De aceea, mulți cercetători insistă ca problema controlului să fie rezolvată înainte, nu după.
Exemplu
În discuțiile publice, superinteligența apare în două tipuri de scenarii: unul optimist, în care ar accelera descoperirea de medicamente și de surse de energie curată, și unul pesimist, în care un sistem cu obiective prost definite ar acționa împotriva oamenilor. Ambele sunt speculative, dar influențează deja politicile companiilor și ale guvernelor privind AI.
De reținut
- Superinteligența (ASI) este ipotetică: ar depăși oamenii în aproape orice domeniu.
- Este legată de ideea unei „explozii a inteligenței” prin autoperfecționare.
- Principala îngrijorare este cum ar putea fi controlat un astfel de sistem.
Nu confunda
- ASI vs. AGI: AGI ar egala un om; ASI l-ar depăși cu mult.
- Superinteligență vs. supercomputer: un supercomputer este doar un calculator foarte rapid; viteza de calcul nu înseamnă inteligență.
Termeni înrudiți
- AGI (inteligență artificială generală): Un tip ipotetic de AI capabil să învețe și să facă aproape orice sarcină intelectuală pe care o poate face un om.
- AI îngustă (slabă): AI construită pentru o sarcină sau un domeniu anume: foarte bună acolo, dar incapabilă să se descurce în afara lui.
- Siguranța AI (AI safety): Domeniul care încearcă să facă sistemele AI să funcționeze fără a provoca rău, accidental sau prin abuz, acum și pe viitor.
- Alinierea AI: Efortul de a face sistemele AI să urmărească scopurile, valorile și intențiile oamenilor, nu doar instrucțiunile lor literale.
- Risc existențial (AI): Ipoteza că sisteme AI foarte avansate ar putea, în viitor, să scape de sub control și să pună în pericol omenirea.